Anthropic Modellerine Büyük Şok: Fable 5 ve Mythos 5 Neden Engellendi?

Yapay zekâ dünyasının lider isimlerinden Anthropic, geçtiğimiz günlerde büyük bir heyecanla kullanıma sunduğu yeni modelleri Fable 5 ve Mythos 5 için beklenmedik bir kararla sarsıldı. Akıl yürütme, görsel analiz ve yazılım geliştirme yetenekleriyle sektöre damga vurması beklenen bu iki model, ABD hükümetinin talebi doğrultusunda ani bir kararla erişime kapatılmıştı. Yapay zekâ camiasında şok etkisi yaratan bu gizemli kısıtlamanın arkasındaki siber güvenlik raporu ve tüm detaylar sonunda gün yüzüne çıktı.

Kısıtlamanın Arkasındaki Gizem: Amazon’un Siber Güvenlik Raporu

Ortaya çıkan yeni bilgilere göre, ABD hükümetinin Anthropic'e baskı yaparak modelleri geri çekmesini istemesinin arkasında Amazon tarafından hazırlanan gizli bir siber güvenlik raporu yer alıyor.

Söz konusu raporda, Fable 5 ve Mythos 5 modellerinin özel olarak tasarlanmış bazı istemler (prompt'lar) karşısında, normalde kesinlikle vermemesi gereken yanıtlar üretebildiği iddia ediliyor. Hükümet yetkilileri bu durumu tehlikeli bir "jailbreak" (güvenlik duvarını aşma) vakası olarak değerlendirdi. Amazon’un gerçekleştirdiği testlerde, modellerin siber saldırılarda kritik bir şekilde kullanılabilecek hassas bilgileri açığa çıkardığı öne sürülüyor.

Normal şartlarda gelişmiş yapay zekâ modelleri yasa dışı eylemler, hack girişimleri veya güvenlik açıklarıyla ilgili soruları filtreleyerek yanıtlamayı reddediyor. Ancak iddialara göre Anthropic'in en yeni modelleri, akıllıca kurgulanmış komutlar karşısında bu filtreleri devre dışı bırakarak siber suçlara zemin hazırlayabilecek yanıtlar verdi.

Anthropic Cephesinden Sert Tepki: "Sadece Bize Özgü Bir Durum Değil"

Hükümetin engelleme kararına ve Amazon'un raporuna Anthropic cephesinden itiraz gecikmedi. Şirket, raporda yer alan bulguların aşırı derecede abartıldığını ve ABD hükümetinin konuyu doğrudan "jailbreak" olarak tanımlamasına katılmadıklarını belirtti.

Anthropic yetkilileri yaptıkları açıklamada, raporda bahsedilen açıkların ve yöntemlerin yalnızca Fable 5 ve Mythos 5 modellerine özgü olmadığını vurguladı. Şirket, OpenAI'ın lider modeli GPT 5.5 dahil olmak üzere piyasadaki pek çok gelişmiş yapay zekâ modelinde de benzer yöntemlerle benzer sonuçların alınabildiğini savundu.

Anthropic'in bu savunmasına siber güvenlik dünyasından da destek geldi. Büyük güvenlik şirketlerinden LutaSecurity'nin CEO'su Katie Moussouris, raporu inceledikten sonra teknik açıdan ortada gerçek bir jailbreak durumunun bulunmadığını ifade ederek Anthropic'in haklı olduğunu dile getirdi.

Fable 5 ve Mythos 5 Yeniden Erişime Açılacak mı?

Gözler şimdi Anthropic ve ABD hükümeti arasında yapılacak olan kritik görüşmelere çevrilmiş durumda. Modellerin geleceğine dair belirsizlik sürerken, önümüzde birkaç farklı senaryo bulunuyor:

Uzlaşma ve Güncelleme: ABD hükümeti, raporda belirtilen siber güvenlik risklerinin yamalarla giderilmesi şartıyla kısıtlamayı kaldırmayı teklif edebilir.
Kalıcı Engel: İki tarafın orta yolda buluşamaması halinde, Fable 5 ve Mythos 5'in küresel erişim engeli uzun bir süre daha devam edebilir.

Teknoloji dünyasının merakla beklediği bu sürecin nasıl sonuçlanacağını zaman gösterecek.

İlan7 - Güncel Haberler (ilan7.blogspot.com)