“Bloomberg” axborot agentligi xabariga ko‘ra, “Anthropic” kompaniyasining Claude Mythos Preview sunʼiy intellekt modeliga ruxsatsiz foydalanuvchilar kichik guruhi, kompaniyaning nazoratli chiqishi haqida e’lon qilgan kuni kirishga muvaffaq bo‘lishdi.
Ushbu hodisa “Anthropic” sunʼiy intellekt modeli xavfsizligini ta’minlay olish imkoniyati borasida savollar keltirib chiqardi. Kompaniya bu modelni ommaga chiqish uchun juda xavfli deb hisoblagan edi.
Discord ijtimoiy tarmog’idagi bir guruh qanday qilib Mythos tizimiga kirgan edi?
Yangi chiqmagan Sunʼiy intellekt modellarini izlashga bag‘ishlangan Discord ijtimoiy tarmog’idagi yopiq guruh a’zolari Mythos’ning internet manzili — URL adresini bashorat qilib topishga urinishdi.
«Anthropic» kompaniyasi Mythos modelini ommaga chiqarish xavfli, deb e’lon qilgan edi. Ammo Discord ijtimoiy tarmog‘idagi to‘rt nafar oddiy foydalanuvchi, birinchi kunidayoq URL manzilini taxmin qilish orqali unga kirib oldi…,” — deb yozgan “X” ijtimoiy tarmog‘i mashhur foydalanuvchisi Josh Kale.
Bloomberg axborot agentligi, voqea tafsilotidan xabardor shaxsga tayanib, yozishicha, ular uch hafta avval Mercor sunʼiy intellekt startapi (kompaniya) ma’lumotlari sirt tashqarisiga chiqqan voqeadan foydalangan va “Anthropic” kompaniyasining xizmat nomlariga oid qoidalarni mavjud ma’lumotlar asosida tiklab chiqqan.
Guruh a’zolaridan biri “Anthropic” kompaniyasi bilan shartnomada ishlovchi tashkilot — hamkor orqali rasmiy baholash huquqiga ega parollarni ham olgan edi. Mazkur parollar va to‘g‘ri topilgan URL manzil ularning Mythos tizimidan uzluksiz foydalana olishiga imkon berdi.
Xabarlarga ko‘ra, ular kirishga muvaffaq bo‘lganidan buyon Mythos modelidan doimiy foydalanib kelmoqda. Lekin ular kiberxavfsizlikga oid so‘rovlarni atayin chetlab o‘tib, oddiy va xavfsiz topshiriqlar, masalan, sodda veb-saytlar yaratish kabi ishlarda undan foydalanganlar.
“Anthropic” kompaniyasi voqeani tekshirishini tasdiqladi, biroq ularning aytishicha, ruxsatsiz kirish holati faqat hamkor tashkilotlar doirasidagina yuz bergan, undan tashqariga chiqmagan.
“Anthropic” kompaniyasi ma’lum qilishicha, Mythos modeli barcha asosiy operatsion tizim va internet ko‘ruvchilarda ilgari topilmagan zaifliklarni aniqlash va ulardan foydalanishi mumkin.
Project Glasswing (Loyihasi) doirasida kompaniya Mythos’ga kirishni taxminan 40 ta tasdiqlangan tashkilotlar bilan cheklab qo‘ydi. Bu ro‘yxatga “Apple” kompaniyasi, “Amazon” kompaniyasi va “Cisco” kompaniyasi singari yirik korxonalar kiradi. Model faqat himoya va xavfsizlik sinovlari uchun foydalaniladi va bu jarayon qat’iy nazorat qilinadi.
Pentagon taqiqloviga qaramay, Oq uy federal agentliklar uchun kirishni kengaytirmoqda
Bu xakerlik holati yuzaga kelgan bir paytda, Oq uy Mythos modeliga federal davlat idoralari uchun kirishni kengaytirishni rejalamoqda. 15-aprel kuni Amerika Prezidenti devoni — Office of Management and Budget (Boshqaruv va byudjet idorasi) idoralarga maxsus xavfsiz ko‘rinishdagi versiya bo‘yicha rejalarini elektron pochta orqali ma’lum qildi.
Bu yondashuv yil boshida Pentagon (“Pentagon” davlat mudofaa idorasi) tomonidan “Anthropic” kompaniyasi “xavfli ta’minot zanjiri” deb belgilangan qarordan butunlay farq qiladi. O‘shanda kompaniya harbiy soha uchun xavfsizlik cheklovlarini olib tashlashdan bosh tortgan edi.
«Hech bir kompaniyaga biz faoliyatimizga qanday qaror qabul qilish mumkinligini belgilashga yo‘l qo‘ymaymiz», — deb yozgan Pentagon so‘zlovchisi Shon Parnell “X” ijtimoiy tarmog‘ida.
Anthropic kompaniyasi sudga murojaat qilganidan so‘ng, federal sudya kengroq miqyosdagi taqiqni vaqtincha to‘xtatib turdi.
“Anthropic” kompaniyasi bosh direktori Dario Amodei va Oq uy vakillari 17-aprel kuni uchrashuv o‘tkazdi. Uchrashuvda ikki tomon ham muloqotni «samarali» deb baholadi.
“Axios” axborot agentligi xabariga ko‘ra, Pentagon qora ro‘yxatiga qaramay, Milliy Xavfsizlik Agentligi (NSA — davlat xavfsizligiga mas’ul idora) Mythos modelidan zaifliklarni aniqlashda foydalanmoqda.
