Yapay zeka bazen yoldan çıkartabiliyor! Size taş yedirtebiliyor, yemeğinizin üzerine yapıştırıcı döktürüyor

Google, Chrome, Firefox ve Google uygulama tarayıcısındaki en yeni deneysel arama özelliğini yüz milyonlarca kullanıcıya sundu. Bu özellik, ChatGPT’yi destekleyen üretken yapay zeka teknolojisini kullanarak arama sonuçlarının özetlerini sağlıyor. Kullanıcıları bağlantılara tıklamaktan kurtaran bu uygulama, bazı cevaplarıyla insan hayatını tehlikeye atabiliyor.

Google’ın “AI Overviews” adı verilen uygulaması, arama sonuçlarını özetlemek için üretken yapay zeka teknolojisini kullanıyor. Örneğin, “Muzları nasıl daha uzun süre taze tutabilirim?” sorusuna, “Serin, karanlık bir yerde ve elma gibi diğer meyvelerden uzakta saklayın” gibi faydalı ipuçları sunuyor. Ancak, bazı sorulara verdiği cevaplar ciddi tehlikeler oluşturabiliyor.

AI Overviews, bazen tehlikeli ve yanıltıcı bilgiler verebiliyor. Örneğin, uygulama “astronotların Ay’da kedilerle tanıştığını ve onlarla oynadığını” iddia eden bir cevap üretiyor. Daha da tehlikelisi, “kayaların hayati bir mineral ve vitamin kaynağı olduğundan günde en az bir küçük taş yenilmesi gerektiğini” ve “pizzanın üstüne yapıştırıcı konulmasını” öneriyor. Ayrıca, “depresif hisseden” bir kullanıcıya Golden Gate Köprüsü’nden atlamayı öneren bir cevap verdiği de kaydedildi.

Uzmanlar, bu yeni özelliğin önyargıları ve yanlış bilgileri sürdürebileceği ve acil durumda yardım arayan insanları tehlikeye atabileceği konusunda uyarıyor. Temel sorun, üretken yapay zeka araçlarının doğru olanı bilmemesi, sadece popüler olanı bilmesidir. İnternette taş yemekle ilgili çok fazla makale bulunmaması nedeniyle, yapay zeka, popüler bir hiciv makalesine dayalı yanlış bilgi özetleri oluşturabiliyor.

Google, bu sorunları çözmek için çalışıyor ancak bu durum, şirket için büyük bir tanıtım felaketine dönüşebilir. OpenAI ve Microsoft gibi rakipleriyle rekabet etmek için teknolojiyi hızla kullanıcılara sunma çabası, daha az ihtiyatlı davranılmasına neden oluyor.

Eğer bu gerçekten aramanın geleceğiyse, inişli çıkışlı bir yolculuk bizi bekliyor.

Kaynak: HABER MERKEZİ