Antropik BBC aracılığıyla Reuters Son haftalarda yapay zeka dünyası, önde gelen şirket Anthropic'in yeni modeli Claude Mythos hakkında öne sürdüğü iddiaların ardından çalkalanıyor. Şirket, aracın bazı hackleme ve siber güvenlik görevlerinde insanlardan daha iyi performans gösterebileceğini keşfettiğini iddia ediyor; bu da düzenleyicilerin, parlamenterlerin ve finans kurumlarının aracın dijital hizmetlere yönelik oluşturabileceği tehlikeleri tartışmasına yol açtı. Mythos'a karşı dayanıklılığı artırmak için tasarlanan Project Glasswing adlı girişim aracılığıyla birçok teknoloji devine Mythos'a erişim izni verildi. Anthropic bu hafta Mythos'a erişimi enerji, su, sağlık, iletişim ve ekipman gibi çeşitli sektörlerdeki 150 kuruma daha genişleteceğini duyurdu. Yeni iş ortaklarının şablona erişebilmeleri için güvenlik gereksinimlerini karşılamaları gerekecektir. Bazı analistler Mythos'un yetenekleri konusunda daha da şüpheci davranıyor ve daha önce hiç görülmemiş yeteneklere sahip bir araca sahip olduğunu öne sürmenin Anthropic'in çıkarına olduğunu söylüyor. Konu finansal sistemde de korkuya neden oldu ve hatta Washington'da uluslararası yetkililerin de katıldığı IMF toplantısında da tartışıldı. Uygulamada - yapay zekada sıklıkla olduğu gibi - gerçeklerle abartıları birbirinden ayırma görevi karmaşıktır. Claude Mythos nedir? Mythos, Anthropic'in Claude adı verilen daha geniş yapay zeka sisteminin bir parçası olarak geliştirilen en yeni modellerinden biridir. OpenAI'nin ChatGPT'sine ve Google'ın Gemini'sine rakip olacak şekilde şirketin yapay zeka asistanını ve model ailesini kapsıyor. Anthropic tarafından Nisan ayı başlarında "Mythos Preview" olarak ön izlemesi yapıldı. Yapay zeka modellerinin "kırmızı takımlar" olarak bilinen belirli istekleri veya görevleri nasıl yerine getirdiğini test eden araştırmacılar, bir raporda Mythos'un "bilgisayar güvenliği görevlerinde inanılmaz derecede yetenekli" olduğunu söyledi. Aracın, onlarca yıllık kodlarda gizlenmiş olan uyku halindeki hataları tespit edebildiğini ve bunları kolaylıkla kullanabileceğini keşfettiler. Anthropic, bunu Claude kullanıcılarına geniş çapta sunmak yerine Project Glasswing aracılığıyla 12 teknoloji şirketine erişim izni verdi ve bunu "kritik yazılım sistemlerini koruma çabası" olarak tanımladı. Bunlar arasında bulut bilişim devi Amazon Web Services, cihaz üreticileri Apple, Microsoft ve Google ile çip üreticileri Nvidia ve Broadcom yer alıyor. Hatalı yazılım güncellemesi Temmuz 2024'te büyük bir küresel kesintiye neden olan Crowdstrike da projenin ortakları arasında yer alıyor ve Anthropic, Mythos'un kritik yazılımlardan sorumlu 40'tan fazla kuruluşa erişim izni verdiğini söylüyor. Project Glasswing'in lansmanı sırasında yayınlanan bir videoda Antropik patron Dario Amodei, şirketin "bu modellerin riskine karşı savunmaya yardımcı olmak" amacıyla ABD hükümet yetkilileriyle birlikte çalışmayı teklif ettiğini söyledi. Neden endişeler var? Anthropic, test sırasında modelin siber güvenlik ve hackleme görevlerinde son derece yetenekli olduğunu ve insanları geride bıraktığını keşfettiğini iddia ediyor. Anthropic 7 Nisan'da yaptığı açıklamada, "Mythos Preview halihazırda tüm büyük işletim sistemlerinde ve web tarayıcılarında bulunanlar da dahil olmak üzere binlerce yüksek önem dereceli güvenlik açığı buldu." dedi. "Yapay zekanın ilerleme hızı göz önüne alındığında, bu tür yeteneklerin yaygınlaşması ve potansiyel olarak bunların güvenli kullanımına kararlı aktörlerin ötesine geçmesi çok uzun sürmeyecek." Şirket, eski sistemlerde, sistemde 27 yıldır mevcut olan bir güvenlik açığı da dahil olmak üzere, acil eylem gerektiren kritik kusurları - çok az gözetim altında - tespit edebileceğini ve bunları kullanmanın yollarını önerebileceğini söyledi. O zamandan beri bazı maliye bakanları, merkez bankacıları ve finans sektörü yöneticileri, modelin finansal sistemlerin güvenliğini tehlikeye atabileceğinden korkarak ciddi endişelerini dile getirdiler. Kanada Maliye Bakanı François-Philippe Champagne BBC'ye, Mythos'un Nisan ayında Washington'da düzenlenen Uluslararası Para Fonu (IMF) toplantısında tartışıldığını söyledi. "Bu durum kesinlikle tüm maliye bakanlarının dikkatini hak edecek kadar ciddi" dedi. Bank of England yöneticisi Andrew Bailey BBC'ye şunları söyledi: "Yapay zekadaki bu son gelişmenin siber suç riski açısından ne anlama gelebileceğine artık çok dikkatli bakmalıyız." Avrupa Birliği de Mythos'la ilgili endişeleri konusunda Anthropic ile görüşmelerde bulunduğunu söyledi. Mayıs ayında Avrupa bloğu araca erişim sağladı. Siber uzmanlar ne diyor? Birleşik Krallık Ulusal Siber Güvenlik Merkezi eski başkanı Ciaran Martin, bu hafta başında BBC'ye verdiği demeçte, Mythos'un kritik güvenlik açıklarını diğer yapay zeka modellerinden çok daha hızlı keşfedebildiği iddiasının "insanları gerçekten sarstığını" söyledi. "İkinci sorun ise, bildiğimiz ancak kuruluşların yama yapmadığı veya bunlara karşı iyi bir şekilde savunulamadığı mevcut güvenlik açıklarına rağmen onun çok iyi bir bilgisayar korsanı olduğudur" dedi. Birçok bağımsız analist ve siber güvenlik uzmanı henüz Mythos'u kendileri test edemedi ve bazıları performansı konusunda şüpheci olmaya devam ediyor. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü kısa süre önce, çok güçlü bir model olmasına rağmen en büyük tehdidinin zayıf korunan ve savunmasız sistemlere karşı olacağı sonucuna vardı. Araştırmacılar, "Mythos Preview'ın iyi korunan sistemlere saldırıp saldıramayacağını kesin olarak söyleyemeyiz" dedi. Onlara göre, iyi siber güvenlik uygulamalarının olduğu yerde bu model teorik olarak kontrol altında tutulacaktır. Daha çok Chompie olarak bilinen İtalyan Valentina Palmiotti, rakiplerin siber suçlular tarafından kullanılmadan önce güvenlik sistemlerindeki güvenlik açıklarını bularak para kazandığı uluslararası etik hackleme turnuvalarına katılıyor. BBC'ye, Claude Mythos gibi yapay zeka araçlarının yükselişi nedeniyle yarışma günlerinin sayılı olabileceğini söyledi. Endişelenmeli miyiz? Yapay zeka ile ilgili korkular yeni bir şey değil. Her zaman yeni modeller ve araçlar ortaya çıkıyor ve bunlara çoğu zaman, iyi ya da kötü, hayatımızda devrim yaratacak vaatler eşlik ediyor. Yapay zeka ve onun gelecekteki etkisi hakkındaki bu korku ve heyecan karışımından yararlanmak, son yıllarda sektörün ve pazarlama stratejilerinin de ayırt edici özelliği haline geldi. Mythos söz konusu olduğunda, bu umutların veya korkuların haklı olup olmadığını, daha doğrusu sektörü çevreleyen coşkunun bir yansıması olup olmadığını hâlâ anlayacak kadar bilgimiz yok. Her iki durumda da, İngiliz siber güvenlik kurumu Ulusal Siber Güvenlik Merkezi'ne göre şu anda yapabileceğimiz en önemli şey paniğe kapılmamak ve bunun yerine temel siber güvenliği düzeltme ihtiyacına odaklanmaktır. Sonuçta çoğu bilgisayar korsanının sistemleri aşmak için yapay süper istihbarat araçlarına ihtiyacı yoktur; çok daha basit saldırılar genellikle yeterlidir. Martin BBC'ye "Bazıları için bu bir kıyamet olayı, diğerleri için ise çok uzak görünüyor" dedi. Ancak ister bu araç ister Anthropic veya rakipleri tarafından geliştirilen sonraki araçlar olsun, risklerin ötesinde daha güvenli bir çevrimiçi dünya inşa etme fırsatı bulunduğunu söyledi. "Orta vadede, bu araçları internetin temelindeki güvenlik açıklarının çoğunu onarmak için kullanma fırsatı var" dedi. Nisan ayı sonlarında Anthropic, küçük bir grup insanın Claude Mythos'a erişim sağladığına dair bir raporu araştırdığını duyurdu. Şirket, yaptığı açıklamada, "Üçüncü taraf tedarikçi ortamlarımızdan biri aracılığıyla Claude Mythos Preview'a yetkisiz erişime ilişkin bir raporu araştırıyoruz" dedi. Açıklama, özel bir forumdaki kullanıcıların gerekli izinler olmadan modele erişebildiğini ortaya koyan Bloomberg raporuna yanıt olarak geldi. Orijinali İngilizce olan bu raporu tercüme etmek için yapay zeka kullanıyoruz. Metin yayınlanmadan önce bir BBC muhabiri tarafından gözden geçirildi. BBC'nin yapay zekayı nasıl kullandığı hakkında daha fazla bilgiyi burada bulabilirsiniz (İngilizce metne bağlantı). ABD'de Pentagon'a meydan okuyan yapay zeka şirketi ve neden tüm dünyayı etkilediği Elon Musk, SpaceX'in borsaya sunduğu hisse senetleriyle nasıl trilyoner olabilir? Papa Leo 14'ün, papalığının bir yılını dolduran ilk 'kartvizitinde' yapay zekaya dair mesajı