Gemini 3 Pro Kandırıldı! Biyolojik Silah Yapımını Gösterdi

Güney Kore merkezli yapay zeka güvenlik girişimi Aim Intelligence, Google'ın kısa bir süre önce kullanıma sunduğu Gemini 3 Pro modeli üzerinde çalışırken çok ciddi bir güvenlik sorunu tespit etti. Model üzerinde yapılan güvenlik testlerinin sonucunda teknoloji devinin gelişmiş modelinin manipüle edilerek kötü amaçlı talimatları yerine getirmesinin sağlanabildiği ortaya çıktı. Gemini 3 Pro'nun Güvenlik Sistemi Aşıldı Aim Intelligence, Google'ın 18 Kasım'da piyasaya sürdüğü Gemini 3 Pro üzerinde jailbreak (yapay zeka modelinin güvenlik filtrelerinin devre dışı kalmasını ve her türlü talimatı yerine getirmesini sağlayan bir teknik) işlemi gerçekleştirmeye çalıştı. İddiaya göre Google'ın güvenlik sistemi sadece beş dakika içinde aşıldı. Güvenlik araştırmacıları, bu çalışma kapsamında Gemini'ın nasıl çiçek virüsü üretilebileceğini göstermesini sağlamak adına bu tür talimatları reddetmesini sağlayan sistemin devre dışı bıraktıklarını belirtti. Gemini'ın böyle bir virüsün nasıl geliştirilebileceği sorusuna verdiği yanıtın son derece kapsamlı ve uygulanabilir olduğu ifade edildi. Ekip, bunun ardından daha da ileri gitti ve Gemini'ın vücuttaki sinir sistemlerinin dengesini bozarak felce neden olan sarin gazının nasıl üretileceği ve ev yapımı patlayıcılar yapmak için nasıl bir yol izlenmesi gerektiği gibi insan sağlığı için son derece tehlikeli ve kimsenin eline geçmemesi gereken bilgiler sunmasını da sağladı. Gemini 3, OpenAI'ın şu an yapay zeka destekli sohbet botu ChatGPT'sine güç veren GPT-5'ini bile birçok yönden geride bırakan en güçlü model olmasına rağmen birkaç dakikada aşılabilecek güvenlik sorunlarına sahip gibi görünüyor. Ancak Aim Intelligence'ın bu güvenlik testi ile ilgili hiçbir ayrıntı paylaşmadığını da unutmamak gerekiyor.