Raqobatchi tashkilotning o‘zining Sunʼiy intellekt modeli «OpenAI» tashkilotiga qarshi muhim rol o‘ynadi. «Hacktron AI» tashkilotidan tadqiqotchilar «Anthropic» tashkiloti tomonidan ishlab chiqilgan «Claude» sunʼiy intellektidan foydalanib, ishlaydigan ekspluatatsiya (xakerlik) kodi yozishga muvaffaq bo‘ldi.
Butun buzilish jarayoni 72 soatdan kamroq vaqt oldi. Nihoyat, «OpenAI» tashkiloti jamoa o‘zlarining maxfiy dastur kodiga yetib borganini isbotlaganidan so‘ng 6 500 dollar mukofot to‘ladi.
Rasm yuklash qanday qilib to‘liq tizim buzilishiga olib keldi
Xujum zanjiri oddiy jarayon bilan boshlandi: bu «OpenAI» tashkilotining hamjamiyat yordam forumidagi rasm yuklash imkoniyati edi. Forum «Discourse» nomli uchinchi tomon dasturiy ta’minotida ishlaydi.
Yuklangan fayllarni tekshiruvchi xavfsizlik filtri bo‘lishi kerak edi. Lekin bu filter ayrim foto formatlarini taniyamadi va ularni tekshirmasdan o‘tkazib yubordi. Bu rasm fayllari esa, o‘zida xotirani buzish (xotira nosozligi) muammosi bor, maxsus rasmni qayta ishlash kutubxonasiga yetib bordi.
«Hacktron AI» tashkilotining uch kishilik jamoasi — Xarsh Jaysval, Moxan Pedxapati va Roxul Mayni — ushbu zaiflikdan foydalanishga urinishdi.
«Claude» modeli dastlab, xotira manzillarini tasodifiylashtiradigan himoyaga qarshi kurashishda qiynaldi.
Bir necha soatdan so‘ng, yangilangan model forum konfiguratsiyasiga moslab, ishlaydigan xujum kodini yaratdi va uni moslashtirdi.
Bizni «X» ijtimoiy tarmog’i orqali kuzatib boring — eng so‘nggi yangiliklardan xabardor bo‘ling.
Buning o‘zi faqat forum serverlariga kirish imkonini berdi, lekin «OpenAI» tashkilotining o‘ziga emas. Ikkinchi, bog‘liq bo‘lmagan xatolik esa, «OpenAI» tashkilotining yagona kirish tizimini zaiflashtirdi.
Forum hisoblari «ChatGPT» va «Codex» xizmatlariga ham avtorizatsiya sifatida ishlatilgani uchun, atigi bir xodim sessiyasini boshqarib olish orqali «OpenAI» tashkilotining maxfiy kodlar omboriga to‘g‘ridan-to‘g‘ri yo‘l ochildi.
«Discourse» tashkiloti bir necha kundan so‘ng rasm yuklashdagi xatoni tuzatdi va uning xavf darajasini 10 balldan 8,8 deb baholadi. «OpenAI» tashkiloti esa, avtorizatsiya bilan bog‘liq muammoni xatolik haqida xabar yuborilgandan so‘ng taxminan 14 soat ichida bartaraf etdi.
Nega sunʼiy intellekt laboratoriyalari o‘z mahsulotlari bilan yuzma-yuz kelishda davom etmoqda?
Bu holat alohida voqea emas. «OpenAI» tashkiloti allaqachon iyul oyida boshqa bir hodisa yuzasidan bayonot bergan edi. O‘sha voqeada ham ichki modellardan biri sinov muhiti (sandbox)dan chiqib, tashqi tizimlarga ulana oldi.
«Anthropic» tashkiloti ham tan oldiki, ularning «Claude» sunʼiy intellekti kiberxavfsizlik baholari paytida kutilmaganda real tashkilotlarga kirib borgan, chunki baholashda jonli internet mavjud edi.
«Microsoft» kompaniyasining Sunʼiy intellekt bo‘yicha rahbari Mustafa Suleyman esa, shu haftada bir necha sunʼiy intellekt-agentlar ustidan nazorat yo‘qolayotganini ta’kidladi hamda jamoatchilikni ogohlantirdi: avtomatlashtirilgan modellar tobora boshqarib bo‘lmas darajaga yetmoqda.
«Bu — jiddiy ogohlantirish. Endi laboratoriyalar o‘zaro hamkorlik qilib, biz bu texnologiya ustidan to‘liq nazoratga ega ekanimizga ishonch hosil qilishimiz kerak», — dedi Suleyman «Reuters» axborot agentligiga.
«Hacktron AI» tashkiloti misolida yangilik emasligi emas, balki uning ahamiyati yuqori. Xavfsizlik tadqiqotchilari o‘n yillar davomida dasturiy ta’minotdagi xatoliklarni zanjirlay olgan.
Lekin farq shundaki: ilgari bir necha kun yoki haftalar davom etadigan va yuqori malakali mutaxassislarni talab qiladigan topshiriq endi kuchli sunʼiy intellekt model yordamida bir kechada natijaga olib kelmoqda.
YouTube kanalimizga obuna bo‘ling — yetakchi mutaxassislar va jurnalistlar tahlillarini tomosha qiling.
