İntihar davası sonrası yeni adım: ChatGPT'ye ebeveyn denetimi geliyor

Geçtiğimiz günlerde 16 yaşındaki bir gencin intiharının ardından açılan dava sonrası OpenAI, ChatGPT için ebeveyn denetim araçlarını devreye alacağını duyurdu.

OpenAI, yapay zeka tabanlı sohbet botu ChatGPT için yeni güvenlik önlemleri alıyor. Şirket, özellikle genç kullanıcıların korunmasına yönelik ebeveyn denetimi panelleri ve acil durum iletişim seçenekleri geliştirdiğini açıkladı.

Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrası geldi. Ailenin iddiasına göre Reine, ruhsal kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri konusunda tavsiyeler aldı, düşüncelerine onay buldu ve intiharından beş gün önce yazdığı mektupta yapay zekanın yardımını kullandı.

Olayın ardından aile, “haksız ölüm” gerekçesiyle OpenAI’ye dava açtı. Şirket ise açıklamasında, “Özellikle genç kullanıcılar söz konusu olduğunda yardıma ihtiyacı olanlara destek olma sorumluluğunu taşıyoruz” ifadesine yer verdi.

YENİ ÖZELLİKLER NELER?

OpenAI’nin duyurduğu yenilikler arasında şunlar bulunuyor: Ailelerin çocuklarının ChatGPT kullanımını görebileceği ebeveyn denetim panelleri. Kriz anında devreye girecek acil iletişim kişisi ekleme özelliği. Bu kişi, ebeveyn onayıyla belirlenecek ve yapay zeka gerektiğinde bir insan temas noktası sunacak.

Şirket, bu araçların ailelere “daha anlamlı içgörüler” sağlamayı ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini belirtiyor.

TARTIŞMALAR BÜYÜYOR

ChatGPT benzeri yapay zeka platformları, daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da ise “Eliza” adlı bir sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı.

Uzmanlar, bu örneklerin yapay zekanın ruh sağlığı alanında kullanımının ciddi etik ve yasal tartışmaları beraberinde getirdiğine dikkat çekiyor.