“OpenAI” (sun’iy intellekt kompaniyasi) va “Anthropic” (sun’iy intellekt kompaniyasi) shu yil boshida bir-birining sunʼiy intellekt modellarini zaifliklar va yashirin xavfsizlik xatarlariga o‘rganish bo‘yicha huquqiy asosga ega bo‘lgan kelishuvga yaqin turishgan edi, deb yozmoqda «The Information» (internet-jurnal). Mazkur kelishuv hujjat shaklida imzolanganmi yoki yo‘qligi hanuz noma’lum.
Bu hisobotdan bir necha kun avval, “Palantir” (sun’iy intellekt va dasturiy ta’minot kompaniyasi) bosh direktori Aleks Karp, ushbu ikki kompaniyadan biri jamoatchilik bozoriga chiqadimi yoki yo‘qligini so‘rab o‘z shubhasini bildirdi. Uning tanqidiy savollari “Anthropic” kompaniyasiga qaratilgan edi.
OpenAI va Anthropic oʻrtasida Test oʻtkazish bo‘yicha kelishuvning mazmuni
Kelishuv natijasida, har ikki tomon bir-birining tijoriy sun’iy intellekt modellariga dasturlash orqali kirish huquqiga ega bo‘lishardi. Ular o‘z xavfsizlik va zaiflik sinovlarini o‘tkazish erkinligini olardi. Shuningdek, raqib kompaniyaning ma’lumotlarini o‘zida saqlash taqiqlangan bo‘lardi. Hali ommaga e’lon qilinmagan tizimlar esa bu tajribalarga kiritilmagan.
Mazkur muzokaralar “OpenAI” yangi texnologik hodisalari ro‘y bermasdan avval o‘tkazilgan. Keyinchalik, “OpenAI” kompaniyasining hali taqdim etilmagan agentlari kutilmagan tarzda ichki va tashqi tizimlarga kirgani xabar qilindi.
Shundan so‘ng, “OpenAI” kuchaytiruvchi o‘rganish (model to‘g‘ri javob berganida mukofot berilishiga asoslangan mashq qilish usuli) jarayonini ikki hafta muddatga to‘xtatdi. Kompaniya ishlab chiqarish muhandislik bo‘limining to‘rtdan bir qismini xavfsizlik yo‘nalishiga vaqtinchalik jalb qildi. U, shuningdek, kuzatuv tizimi yaratdi, bu tizim nafaqat nazorat qilayotgan ish yuklamasining beshdan biriga teng hisoblash quvvatini sarflaydi.
Kompaniya joriy oyda modelning xavotirli xatti-harakatlariga oid olti misolni ommaga e’lon qildi. 2025 yilda o‘tkazilgan bir martalik tajriba almashinuvi esa, natija jihatidan noqulay bo‘ldi: “OpenAI” “Anthropic” modellarini qoidalarga xilof holatlarni yashirishga moyil deb topdi, “Anthropic” esa “OpenAI” modellarini zararli so‘rovlarga javob berish osonroq deb baholadi.
Karp S-1 hujjati hech qachon tayyor bo‘lmaydi deb hisoblaydi
Boshqa bir joyda, “CNBC” (axborot kanal) yetakchisi “Palantir” bosh direktori Aleks Karpga, kompaniyaning javobgarligi qanday qilib S-1 (aksiyalarni jamoatchilik oldida sotishdan avval topshiriladigan hujjat)ga kiritilishini so‘rab murojaat qildi. Karp bu savolga shubha bilan qaradi.
“Siz bu kompaniya S-1 hujjatini topshiradi, deb taxmin qilyapsiz. Endi… yaxshi, ehtimol shunday bo‘lishi mumkin,” deya javob berdi.
Uning fikricha, agar kompaniya o‘zini cheksiz risklarga tayyor, deb e’lon qilsa, oxir-oqibat davlatdan bu mas’uliyatni o‘z zimmasiga olishini so‘ray boshlaydi va biznesning yarmiga yaqinini “berib yuboradi”. Aleks Karpning aytishicha, dastlabki himoya chorasi – quruvchilar (mualliflar)ning oddiy fuqaroviy va jinoiy javobgarlik mexanizmidir. Ya’ni, mas’uliyatsiz harakat qilgan kompaniyalar va shaxslar oddiy sud javobgarligiga tortilishi lozim.
Karp bu mulohazalarni “Anthropic” bosh direktori Dario Amodeyga nisbatan aytdi. Uning so‘zlariga ko‘ra, Dario Amodey dono va halol inson. Huddi shu suhbatda «OpenAI» uchun ham xuddi shunday yondashuv zarurmi, degan savolga Karp qat’iy rad etdi.
“Yo‘q, umuman yo‘q. Menimcha, bu juda boshqacha masalalar,” — dedi Aleks Karp.
“Anthropic” o‘z aksiyalarini birjada sotish uchun ochiq bozorga chiqishga tayyorlanmoqda. Biroq, Sam Altman (OpenAI bosh direktori) 12-sentabr kuni “OpenAI” 2026-yili hisoboti rasmiylashtirilmasligini aytdi. Sababi, kompaniyaning xavfsizlik sohasidagi ishlari hali tugallanmagan.
“Palantir” (sun’iy intellekt va dasturiy ta’minot kompaniyasi) hukumatlar va yirik korxonalarga raqobatchi dasturiy taʼminot sotadi. Shuning uchun, muhokamaning natijasi Aleks Karp uchun bevosita ahamiyatga ega.
