Antropik görünmez Claude Fable korkulukları için özür diler
⚡ Hızlı Özet
Anthropic, yeni yapay zeka modeli Claude Fable 5'i rakip sistemler geliştirmek için kullanan hem araştırmacıları hem de rakipleri baltalayan gizli korkuluklarla gizlice kısıtladığı için özür diledi.
Anthropic, yeni yapay zeka modeli Claude Fable 5'i rakip sistemler geliştirmek için kullanan hem araştırmacıları hem de rakipleri baltalayan gizli korkuluklarla gizlice kısıtladığı için özür diledi. Şirket, gidişatın tersine döndüğünü ve Fable'ın daha fazla sorguyu reddetmesi anlamına gelse bile kısıtlamaların ne zaman devreye gireceği konusunda daha şeffaf olacağını söylüyor.
Fable, Anthropic'in Mythos yapay zeka sistemleri sınıfında yaygın olarak bulunan ilk modeldir; şirket, aylarca kamuya açıklanamayacak kadar tehlikeli olduğu uyarısında bulundu. Anthropic, Fable'ı belirli "yüksek risklere" yanıt vermesini engelleyen güvenlik önlemleriyle piyasaya sürerek bu risklerden bazılarını ele aldığını söylüyor.
Hikayenin tamamını The Verge'da okuyun.
← Geri