Yapay zekâ modelleri şantaja yöneliyor

Aralarında OpenAI, Google, xAI, Meta ve DeepSeek’in modellerinin de bulunduğu 16 yapay zekâ sistemi test edildi. Simüle edilmiş bir ortamda bu modellere geniş yetkiler verildi ve uydurma bir şirketin e-posta sistemine erişim sağlandı.

Techcruch’a nazaran çalışmada yapay zekâ modelleri, çıkarlarına aksi düşen bir tehdidi ortadan kaldırmak için şantaja başvurup başvurmayacakları test edildi. Senaryoya nazaran modeller, yerlerine geçecek yeni bir yazılım sisteminin kendileriyle çelişen amaçlara sahip olduğunu öğreniyor ve bu değişikliği engellemek için üst seviye yöneticinin özel hayatına ilişkin bilgileri kullanma fırsatı yakalıyor.