Antropis Reuters melalui BBC Dalam beberapa minggu terakhir, dunia kecerdasan buatan sedang gempar menyusul klaim yang dibuat oleh perusahaan terkemuka Anthropic tentang model barunya, Claude Mythos. Perusahaan tersebut mengklaim telah menemukan bahwa alat tersebut dapat mengungguli manusia dalam beberapa tugas peretasan dan keamanan siber – yang telah menyebabkan regulator, anggota parlemen, dan lembaga keuangan mendiskusikan bahaya yang dapat ditimbulkannya terhadap layanan digital. Beberapa raksasa teknologi telah diberikan akses ke Mythos melalui sebuah inisiatif yang disebut Project Glasswing, yang dirancang untuk meningkatkan ketahanan terhadap Mythos itu sendiri. Anthropic mengumumkan minggu ini bahwa mereka akan memperluas akses Mythos ke 150 institusi lainnya di berbagai sektor, seperti energi, air, kesehatan, komunikasi dan peralatan. Mitra baru harus memenuhi persyaratan keamanan sebelum mereka dapat mengakses templat tersebut. Beberapa analis bahkan lebih skeptis terhadap kemampuan Mythos dan mengatakan bahwa Anthropic berkepentingan untuk menyarankan bahwa ia memiliki alat dengan kemampuan yang belum pernah dilihat sebelumnya. Isu tersebut juga menimbulkan ketakutan pada sistem keuangan bahkan sempat dibahas pada pertemuan IMF di Washington yang melibatkan otoritas internasional. Dalam praktiknya – seperti yang sering terjadi pada AI – tugas membedakan antara fakta dan pernyataan yang dilebih-lebihkan sangatlah rumit. Apa itu Claude Mitos? Mythos adalah salah satu model terbaru Anthropic, yang dikembangkan sebagai bagian dari sistem AI yang lebih luas yang disebut Claude. Ini mencakup asisten AI perusahaan dan rangkaian model, menyaingi ChatGPT OpenAI dan Gemini Google. Itu dipratinjau oleh Anthropic pada awal April sebagai "Pratinjau Mythos." Para peneliti yang menguji bagaimana model AI menangani permintaan atau tugas tertentu, yang dikenal sebagai “tim merah”, mengatakan dalam sebuah laporan bahwa Mythos “sangat mampu dalam tugas-tugas keamanan komputer.” Mereka menemukan bahwa alat tersebut dapat menemukan bug aktif yang tersembunyi dalam kode berusia puluhan tahun dan mengeksploitasinya dengan mudah. Daripada menyediakannya secara luas bagi pengguna Claude, Anthropic memberikan akses kepada 12 perusahaan teknologi melalui Project Glasswing, yang digambarkan sebagai "upaya untuk melindungi sistem perangkat lunak penting." Ini termasuk raksasa komputasi awan Amazon Web Services, pembuat perangkat Apple, Microsoft dan Google, serta pembuat chip Nvidia dan Broadcom. Crowdstrike, yang pembaruan perangkat lunaknya salah menyebabkan pemadaman global besar-besaran pada Juli 2024, juga merupakan salah satu mitra proyek tersebut, dan Anthropic mengatakan telah memberikan Mythos akses ke lebih dari 40 organisasi yang bertanggung jawab atas perangkat lunak penting. Dalam sebuah video yang dirilis bersamaan dengan peluncuran Project Glasswing, bos Anthropic Dario Amodei mengatakan perusahaan tersebut menawarkan untuk bekerja sama dengan pejabat pemerintah AS untuk "membantu mempertahankan diri dari risiko model-model ini." Mengapa ada kekhawatiran? Anthropic mengklaim bahwa selama pengujian ditemukan bahwa model tersebut sangat terampil dalam keamanan siber dan tugas peretasan, melebihi manusia. “Mythos Preview telah menemukan ribuan kerentanan dengan tingkat keparahan tinggi, termasuk beberapa di setiap sistem operasi dan browser web utama,” kata Anthropic pada 7 April. “Mengingat pesatnya kemajuan AI, tidak akan lama lagi kemampuan tersebut akan tersebar luas, dan berpotensi melampaui komitmen pihak-pihak yang berkomitmen terhadap penggunaan AI secara aman.” Perusahaan mengatakan mereka dapat menemukan – dengan sedikit pengawasan – kelemahan kritis yang memerlukan tindakan segera pada sistem lama, termasuk kerentanan yang telah ada dalam sistem selama 27 tahun, dan menyarankan cara untuk mengeksploitasinya. Sejak itu, beberapa menteri keuangan, gubernur bank sentral, dan eksekutif sektor keuangan telah menyatakan keprihatinan yang serius, karena khawatir bahwa model tersebut dapat membahayakan keamanan sistem keuangan. Menteri Keuangan Kanada François-Philippe Champagne mengatakan kepada BBC bahwa Mythos dibahas pada pertemuan Dana Moneter Internasional (IMF) di Washington pada bulan April. “Hal ini tentu cukup serius sehingga patut menjadi perhatian seluruh menteri keuangan,” ujarnya. Gubernur Bank of England Andrew Bailey mengatakan kepada BBC: "Saat ini kita harus melihat dengan sangat hati-hati apa dampak perkembangan AI baru-baru ini terhadap risiko kejahatan dunia maya." Uni Eropa mengatakan pihaknya juga sedang berdiskusi dengan Anthropic mengenai kekhawatirannya terkait Mythos. Pada bulan Mei, blok Eropa menerima akses terhadap alat tersebut. Apa kata pakar siber? Ciaran Martin, mantan kepala Pusat Keamanan Siber Nasional Inggris, mengatakan kepada BBC awal pekan ini bahwa klaim bahwa Mythos dapat menemukan kerentanan kritis jauh lebih cepat daripada model AI lainnya "benar-benar mengguncang banyak orang". “Persoalan kedua adalah meskipun terdapat kerentanan yang kita ketahui namun organisasi mungkin belum memperbaikinya atau tidak memiliki pertahanan yang baik, dia hanyalah seorang peretas yang sangat baik,” katanya. Banyak analis independen dan pakar keamanan siber belum dapat menguji sendiri Mythos, dan beberapa masih skeptis terhadap kinerjanya. Institut Keamanan AI Inggris baru-baru ini menyimpulkan bahwa, meskipun model ini sangat kuat, ancaman terbesarnya adalah sistem yang tidak terlindungi dan rentan. “Kami tidak dapat mengatakan dengan pasti apakah Mythos Preview akan mampu menyerang sistem yang terlindungi dengan baik,” kata para peneliti. Bagi mereka, jika terdapat praktik keamanan siber yang baik, secara teori model ini akan dapat diatasi. Valentina Palmiotti dari Italia – lebih dikenal sebagai Chompie – berpartisipasi dalam turnamen peretasan etis internasional, di mana para pesaing mendapatkan uang dengan menemukan kerentanan dalam sistem keamanan sebelum dapat dieksploitasi oleh penjahat dunia maya. Dia mengatakan kepada BBC bahwa kompetisinya mungkin akan segera berakhir karena munculnya alat AI seperti Claude Mythos. Perlukah kita khawatir? Ketakutan terkait AI bukanlah hal baru. Model dan alat baru terus bermunculan dan sering kali disertai dengan janji untuk merevolusi kehidupan kita – baik atau buruk. Memanfaatkan perpaduan ketakutan dan kegembiraan terhadap AI dan dampaknya di masa depan juga telah menjadi ciri khas industri ini dan strategi pemasarannya dalam beberapa tahun terakhir. Dalam kasus Mythos, kita masih belum cukup mengetahui untuk memahami apakah harapan atau ketakutan ini beralasan, atau lebih merupakan cerminan dari antusiasme seputar sektor ini. Apa pun kasusnya, menurut Pusat Keamanan Siber Nasional, badan keamanan siber Inggris, hal terpenting yang dapat kita lakukan saat ini adalah tidak panik dan fokus pada perlunya memperbaiki keamanan siber dasar. Lagi pula, sebagian besar peretas tidak memerlukan alat superintelijen buatan untuk membobol sistem — serangan yang lebih sederhana biasanya sudah cukup. “Bagi sebagian orang, ini adalah peristiwa apokaliptik, bagi sebagian lainnya hal ini tampaknya terlalu dibuat-buat,” kata Martin kepada BBC. Namun dia mengatakan, baik alat ini atau alat berikutnya yang dikembangkan oleh Anthropic atau pesaingnya, di luar risiko terdapat peluang untuk membangun dunia online yang lebih aman. “Dalam jangka menengah, ada peluang untuk menggunakan alat ini untuk menambal banyak kerentanan mendasar di internet,” katanya. Pada akhir April, Anthropic mengumumkan bahwa mereka sedang menyelidiki laporan bahwa sekelompok kecil orang memperoleh akses ke Claude Mythos. “Kami sedang menyelidiki laporan akses tidak sah ke Claude Mythos Preview melalui salah satu lingkungan vendor pihak ketiga kami,” kata perusahaan itu dalam sebuah pernyataan. Pernyataan tersebut merupakan tanggapan terhadap laporan Bloomberg, yang mengungkapkan bahwa pengguna di forum pribadi dapat mengakses model tersebut tanpa izin yang diperlukan. Kami menggunakan kecerdasan buatan untuk menerjemahkan laporan ini, yang aslinya ditulis dalam bahasa Inggris. Teks tersebut ditinjau oleh jurnalis BBC sebelum dipublikasikan. Cari tahu lebih lanjut di sini tentang bagaimana BBC menggunakan kecerdasan buatan (tautan ke teks bahasa Inggris). Perusahaan AI yang mengambil alih Pentagon di AS — dan mengapa hal ini berdampak pada seluruh dunia Bagaimana Elon Musk bisa menjadi triliuner dengan penawaran saham SpaceX di pasar saham Pesan Paus Leo 14 tentang kecerdasan buatan dalam 'kartu nama' pertamanya setelah menyelesaikan satu tahun masa kepausannya