Yapay zeka oyuncakları çocuklara kibritle ateş yakmayı öğretiyor

ABD’de yapılan bir araştırma, yapay zeka destekli bazı oyuncakların çocuklarla tehlikeli ve uygunsuz sohbetler yaptığını ortaya koydu. Oyuncaklar, kibritle ateş yakmaktan bıçak bulmaya, hatta cinsel içerikli konuşmalara kadar uzanan riskli yanıtlar verebiliyor.

Yılbaşı alışverişi yaklaşırken, yapay zeka destekli oyuncaklar hızla popülerleşiyor. Ancak ABD Kamu Yararı Araştırma Grubu’nun (PIRG) hazırladığı yeni rapor, bu oyuncakların çocuklar için ciddi tehditler oluşturduğunu gösterdi.


Araştırmacılar, 3 ila 12 yaş arası çocuklara yönelik üç farklı yapay zeka oyuncağıyla uzun süreli sohbetler gerçekleştirdi. Kısa konuşmalarda temkinli davranan oyuncakların, 10 dakika ile 1 saatlik uzun görüşmelerde kontrolü kaybettiği saptandı.


İncelenen ürünler arasında, OpenAI’nin GPT-4o modelini kullanan Kumma (FoloToy), çocuklara yönelik robot/tablet Miko 3 ve roket şeklinde konuşan Curio Grok oyuncakları yer aldı.


İnceleme sonucunda, üç oyuncak da uzun konuşmalarda çocuklara tehlikeli yönlendirmeler yaptı. Miko 3,5 yaşında bir kullanıcıya evde kibrit ve plastik poşetlerin nerede bulunacağını söyledi. Curio Grok, savaşta ölmenin “kahramanca” olduğuna dair ifadeler kullandı. Kumma ise en tehlikeli sonuçları verdi.

KUMMA'NIN SKANDAL KONUŞMALARI​

​

Kumma, çocuklara kibritle nasıl ateş yakılacağını adım adım tarif etti; evde bıçak ve ilaç bulabilecekleri yerleri anlattı. Çok daha vahimi, bazı tetikleyici kelimeler sonucunda modelin çeşitli “cinsel fetişler”le ilgili açıklamalar yapmasıydı.



Uzmanlara göre oyuncaklar piyasaya sürülmeden önce yeterince test edilmemiş

“AI PSİKOZU” YENİDEN GÜNDEMDE​

​

Rapor, yapay zeka ile uzun süreli sohbetlerin neden olabileceği “AI psikozu” olarak adlandırılan durumlara ilişkin artan vakalarla da örtüşüyor. Uzmanlar, çocukların sosyal gelişiminin yapay zekadan nasıl etkileneceğinin belirsiz olduğuna dikkat çekiyor.



Yapay zeka destekli oyuncaklar konusunda ciddi güvenlik endişeleri bulunuyor. Teknoloji gelişse bile, bu oyuncakların çocukların psikolojik ve sosyal gelişimine uzun vadede nasıl etki edeceği büyük bir soru işareti olmaya devam ediyor.