Bu Haberi Okuduktan Sonra ChatGPT’ye Kötü Davranmak İsteyeceksiniz!

İnsanlara çocukluklarından beri büyükleri tarafından kibar, nazik ve saygılı olmaları öğretilir. Bu sayede görgü kuralları aşılanmak istenir. Son yıllarda yapay zekâ alanındaki hızlı gelişmelerin bir sonucu olarak hayatımıza giren sohbet botlarına da çoğu zaman nazik davranırız. Kısa süre önce yayımlanan bir araştırma ise sohbet botlarının kaba, hatta aşağılayıcı isteklere karşı daha iyi yanıtlar verdiğini ortaya koydu. Öyle ki paylaşılan veriler herkesi şaşırttı. İşte ayrıntılar... ChatGPT, Kaba Mesajlara Daha Doğru Yanıtlar Veriyor ABD’nin Pensilvanya eyaletindeki Pensilvanya Üniversitesi’nde iki araştırmacı tarafından yapılan bir çalışmada ChatGPT’ye verilen komutlar kabalaştıkça üretilen yanıtların doğruluğunun da arttığı ortaya koyuldu. OpenAI'ın GPT-4o modelinin kullanıldığı bu çalışma için farklı konulardan 50 soru hazırlandı. Soruların her biri içinse çok kibardan çok kabaya kadar beş farklı komut hazırlandı. Böylece toplamda 250 ayrı mesaj belirlendi ve bunlar ChatGPT'ye yollandı. Sonuçlar ise oldukça şaşırtıcı oldu. Zira sohbet botu, kaba komutlarda daha yüksek bir performans gösterdi. Kibar komutlarda doğruluk oranı yüzde 80,8 olmuşken, kaba mesajlarda bu oran yüzde 84,8’e yükseldi. Bu sonucun şaşkınlık yaratmasının sebebi ise daha önceki benzer araştırmalarda tam tersi sonuçların elde edilmiş olması. Mesela Japonya’daki RIKEN Gelişmiş Zekâ Projesi Merkezi ile Waseda Üniversitesi araştırmacılarının 2024 yılında yayımladığı bir çalışmayla kaba ifadeler içeren komutların sohbet botlarının performansını düşürdüğü ortaya çıkmıştı. Tabii burada önemli bir noktayı gözden kaçırmamak gerekiyor. Farklı çalışmalarda üretilen yanıtların kalitesinin isteklerin nazik ya da kaba olmasına bağlı olduğunu düşünmüş olabilirsiniz ancak aradaki bu fark aslında kullanılan ifadelerdeki küçük değişikliklerden kaynaklanıyor. Yani her şey kelime seçimiyle ilgili. Hatta sohbet botu, nazik ve kaba ifadelerin bir arada olduğu bir komut kullanıldığında çok daha yüksek bir peformans bile sergileyebilir. Bunun sebebi ise arka planda her bir kelime için büyük hesaplamalar yapılması. Peki siz bu konu hakkında neler düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmından bizimle paylaşmayı unutmayın.