Yapay zeka ile dezenformasyon nasıl yönetildi! OpenAI’dan çarpıcı rapor

OpenAI, araştırmacılarının son üç ayda devlet ve özel sektörden aktörler tarafından yürütülen beş gizli etki operasyonuyla ilişkili hesapları tespit ederek yasakladığını belirtti.

Rapora göre, İsrailli bir firma ABD’li öğrencilerin protestolarını hedef aldı. Rusya’dan yürütülen iki operasyon ise ABD, Ukrayna ve birçok Baltık ülkesini eleştiren içerikler oluşturup yaydı. Bu operasyonlardan birinde, OpenAI modeli koddaki hataları ayıklamak ve Telegram’da yayınlanacak bir bot oluşturmak için kullanıldı.

Çin’in nüfuz operasyonu ise İngilizce, Çince, Japonca ve Korece metinler oluşturarak, bu metinleri X ve Medium gibi sosyal medya platformlarında yayınladı. İranlı aktörler ise ABD ve İsrail’i hedef alan tam makaleler hazırlayıp, bu makaleleri İngilizce ve Fransızcaya çevirdiler.

Raporda, İsrailli Stoic adlı bir siyasi firmanın, ABD’li öğrencilerin İsrail’in Gazze’deki savaşına karşı protestolarını antisemitik olarak suçlayan içerikler oluşturan sahte sosyal medya hesaplarından oluşan bir ağ işlettiği belirtildi. OpenAI’ın yasakladığı dezenformasyon yayıcıların birçoğunun, araştırmacılar ve yetkililer tarafından zaten bilindiği de vurgulandı.

ABD, Mart ayında OpenAI’nin tespit ettiği kampanyalardan birinin arkasında olduğu iddia edilen iki Rusya vatandaşına yaptırım uygularken, Meta da bu yıl Stoic’i politikalarını ihlal ettiği için platformundan yasakladı.

Raporda, üretken yapay zekanın dezenformasyon kampanyalarına nasıl dahil edildiği de ele alındı. Yabancı dilde daha ikna edici gönderiler oluşturmak gibi içerik üretiminin belirli yönlerini iyileştirmek için yapay zekanın kullanıldığı, ancak bunun propaganda için tek araç olmadığı belirtildi. Yapay zeka tarafından oluşturulan materyallerin, elle yazılan metinler veya internet üzerinden kopyalanan karikatürler gibi geleneksel formatların yanı sıra, yayınlanan içerik türlerinden sadece biri olduğu ifade edildi.

Bu kampanyaların hiçbirinin dikkate değer bir etki yaratmadığı, ancak teknolojinin kötü niyetli aktörlerin propaganda üretimini artırmalarına olanak tanıdığı belirtildi. Yapay zeka araçları, içerik yazma, tercüme etme ve yayınlama süreçlerini daha verimli hale getirerek dezenformasyon kampanyalarının oluşturulmasını kolaylaştırıyor.

OpenAI, benzer raporları periyodik olarak yayınlamayı ve politikalarını ihlal eden hesapları kaldırmayı planladığını da belirtti.

Kaynak: HABER MERKEZİ