Reddit'te Büyük Skandal: Kullanıcılar Göz Göre Göre Kandırıldı

Yapay zekanın her alana nüfuz ettiği bu dönemde teknolojiyle ilgili etik kaygılar da her geçen gün daha fazla tartışılır hale geldi. Bunlardan biri, Zürih Üniversitesi'nin Reddit'te kullanıcıların izni olmadan yaptığı deneyle patlak verdi. Üniversiteden bir araştırma ekibi, "Change My View" adlı alt başlıkta kimliğini gizleyen yapay zeka botlarını devreye soktu. Bu botlar, fiziksel istismar mağduru gibi davranıyor, kendilerini travma danışmanı olarak tanıtıyor ya da hastanede kötü muamele gördüğünü iddia ediyordu. Amaç, yapay zekanın insanları ikna etme kapasitesini ölçmekti ama ters tepti. Reddit'in Bile Deneyden Haberi Yoktu Deney boyunca bu botlar kullanıcıların geçmişteki yorumlarını analiz ederek kişiye özel cevaplar üretmeye çalıştı. Ancak hiçbir kullanıcıya bu deneyle ilgili bir bilgilendirme yapılmadı. Ne Reddit yönetimi haberdardı ne de alt başlık moderatörleri. Kullanıcılar, yapay zeka ile değil, gerçek insanlarla konuştuklarını zannetti. Üniversite ekibi, deney tamamlandıktan sonra alt başlık moderatörlerine ulaşarak olan biteni anlattı. Yapay zeka destekli yorumların topluluk kurallarına aykırı olduğunu kabul ettiler ve özür dilediler. Ancak bu açıklama, kullanıcıların tepkisini yatıştırmaya yetmedi. Çünkü deneyde kullanılan kimlikler fazlasıyla hassas konulara dayanıyordu ve bazı kullanıcılar kendilerini duygusal anlamda manipüle edilmiş hissetti. Özür Dilediler ama Yetmedi Yapay zeka çağında etik çizgilerin giderek bulanıklaştığı bir dönemdeyiz. Bu tür denemeler, yapay zekanın sınırlarını değil, insan güveninin sınırlarını zorluyor. Üniversitenin açıklaması ve dahi sonrasında özür dilemesi de bu noktada yeterli gelmedi — zaten özürleri kabahatlerinden büyüktü: Eğer botların yapay zeka olduğu belirtilseydi deney mümkün olmazdı. Bu yüzden açıklama yapmadık. Ancak toplum açısından çok önemli bir konuda araştırma yaptığımızı düşünüyoruz. Reddit moderatörleri duruma sert tepki gösterdi. Deneyi açıkça etik dışı bulduklarını ve kullanıcı güveninin ciddi şekilde sarsıldığını belirttiler. İlaveten AI ile etkileşim üzerine daha önce başka araştırmaların da yapıldığını ama bu araştırmalarda katılımcılardan açık rıza alındığını hatırlattılar.