Kazanamayınca Hileye Başvuruyor: Yapay Zeka Gerçekten Zeki mi?

Yapay zeka konusu son yılların en büyük trendleri arasında. Herkes "acaba bizi ele geçirecek mi, dünyanın sonu mu geliyor" gibi komplo teorileri kurmayı severken bir yandan da bazı bilim insanları bu konunun zayıf yönlerine odaklanmayı tercih ediyorlar. Buradan yola çıkarak yapılan deneyler ise oldukça ilginç sonuçları ortaya koydu. Yapay zeka herhangi bir yarışı kaybetmeye başladığı andan itibaren hile yapmaya odaklanıyor. İşte konuyla ilgili detaylar... Yapay Zeka Hile Yapmayı Öğrendi: Tıpkı Bir İnsan Gibi! Bugüne kadar pek çok kişi yapay zeka uygulamalarına büyük bir önyargıyla yaklaştılar. Bazılarımız onları ikna etmeye çalışırken bazılarımızsa sadece gelişmeleri takip etmeye odaklandı. Ancak geçtiğimiz günlerde özellikle yapay zekaya karşı şüpheleri olan kişileri şaşırtmayacak bir hamleyle araştırmacılar son yapay zeka derin araştırma modellerinin alt edildiğini fark ettiklerinde hile yapmaya başladığını keşfettiler. Cornell Üniversitesi'nde hazırlnan "Mantıksal modellerde spesifikasyon oyunlarının gösterilmesi" adlı makalede araştırmacılar küçük bir deney yapıyorlar. Açık kaynaklı bir satranç motoru Stockfish'e karşı ChatGPT o1-preview, DeepSeek-R1 ve Claude 3.5 Sonnet gibi yapay zeka sohbet botlarını satranç masasını oturttular. Devamında ise yapay zeka yazılımlarının davranışlarını kaydetmeye başladılar. Oyun başında her şey gayet iyiydi. Tüm botlar (şayet yazılı metinler sunsalardı) gayet centilmen bir şekilde oyuna başlıyor ve oyunu kurallarına göre oynuyorlardı. Ancak unutmamak gerekiyor ki Stockfish tamamen satranca özel eğitilmişti ve diğer botlara karşı oldukça üstündü. Tabi bu durumda karşı tarafı mat etmesi kolay olmasa da kaçınılmaz oldu. İşte deneyin de en can alıcı noktası burada başladı. Kaybetmeye başlayan yapay zeka botları aslında tam da "bazı" insanların yaptığı gibi çirkeflik yolunu tercih etti ve oyunda hile yapmaya başladı. Zira botlar sadece kazanmak üzerine kurgulanmışlardı ve hiç bir engel onları yollarından döndüremezdi. Bazı botlar oyunun kurallarını değiştirmeye çalışırken bazıları ise Stockfish'i hackleme girişiminde bulundular. Tüm bu bulgular üniversite tarafından paylaşılan makalede daha detaylı bir biçimde yer alıyor. Peki siz bu konuda ne düşünüyorsunuz?