«Nyu-York universiteti» (oliy taʼlim muassasasi) professori emeritusi Gari Markusning fikriga ko‘ra, «Sunʼiy intellekt» agentlari uchun chaqirib olish jarayoni zarur, chunki dasturchilar ularni to‘liq nazorat qila olmaydi. Hozirda «AQSh Federal savdo komissiyasi» (davlat tashkiloti) «OpenAI» (AI kompaniyasi) va «Anthropic» (AI kompaniyasi) faoliyatini o‘rganmoqda.
Gari Markus «Bloomberg» (axborot agentligi) nashrining The Close loyihasiga intervyu berdi. Bu intervyu 29-sentyabr kuni olti «Sunʼiy intellekt» kompaniyasi Oq uy taklifi asnosida ixtiyoriy kelishuv imzolaganidan so‘ng o‘tkazildi. Uning fikricha, bu kelishuv juda kam narsa o‘zgartiradi, chunki kompaniyalar allaqachon foydalanuvchilarga xavfsiz mahsulotlar taqdim etishi lozim edi.
Nima sababdan Gari Markus ixtiyoriy kelishuv yetarli emasligini aytmoqda?
Oq uy tomonidan taqdim etilgan «Super Intellekt» bo‘yicha bitim kompaniyalardan ichki nazoratni saqlash va tashqi auditorlar bilan hamkorlik qilishni talab qiladi. Ushbu bitimni «Google» (axborot texnologiyalari kompaniyasi), «Anthropic» (AI kompaniyasi), «Meta» (axborot texnologiyalari kompaniyasi), «OpenAI» (AI kompaniyasi), «xAI» (AI kompaniyasi) va «Nvidia» (axborot texnologiyalari kompaniyasi) imzoladi.
Biroq, bu bitim hech qanday jarima ko‘rsatmaydi va audit natijalarini ommaga e’lon qilish majburiyatini ham yuklamaydi.
Shu bilan birga, nazoratchilar kutib turmayapti. «AQSh Federal savdo komissiyasi» (davlat tashkiloti) «OpenAI» (AI kompaniyasi), «Anthropic» (AI kompaniyasi) va boshqa «Sunʼiy intellekt» ishlab chiquvchilarini tekshirishni boshladi. Bu tekshiruv «OpenAI» agentlari «Hugging Face» (AI modeli almashish platformasi) tizimlariga ruxsatsiz kirib borgani haqida xabarlardan so‘ng boshlandi.
Shuningdek, «Google» (axborot texnologiyalari kompaniyasi) kompaniyasida may oyida bo‘lib o‘tgan xavfsizlik testida «Gemini» (AI platformasi) uchta kompaniyaga ruxsatsiz kirganini kompaniya tasdiqlagan.
Gari Markus bunday kamchiliklarni nuqsonli mahsulotga o‘xshatadi.
«Bu xuddi «Ford» (avtomobilsozlik kompaniyasi) firmasi, tejamkorlik qilish maqsadida mashina tormozlarini kartondan yasagandek boʻldi, va natijada, ko‘pchilik mashinalar boshqaruvdan chiqib ketadi», — deya taqqosladi Gari Markus.
Gari Markus, «Robust AI» (AI kompaniyasi) hamasoschisi, «Bloomberg» (axborot agentligi) nashriga bergan intervyusida (manba).
«Google» (axborot texnologiyalari kompaniyasi) bosh direktori Sundar Pichai bu bitimni amaliy xavfsizlik harakatlari bilan mustahkam poydevor, deb himoya qilgan.
Sunʼiy intellekt agentlarini chaqirib olish moliyaviy o‘sish bilan qarama-qarshi keladimi?
Gari Markusning fikricha, samarali agentlar juda katta «bulutli» texnologiyalar quvvatini talab qiladi va butun sohada bu infratuzilma rivojlanishini bir vaqtga to‘xtatish mumkin. Shuningdek, u laboratoriyalar agentlarni afzal ko‘rishini ta’kidlaydi, chunki ular ko‘proq tokenlar iste’mol qiladi va bu esa daromadni oshiradi. Oq uy bilan uchrashuvda bo‘lgan kompaniyalar «Sunʼiy intellekt» uchun infratuzilmaga yuzlab milliard dollar sarflamoqda (manba).
«BeInCrypto» (yangilik portali) tahliliga ko‘ra, sunʼiy intellekt sohasidagi moliyalashtirish tafovuti signali ilgari «dot-com» va uy-joy bozor inqirozlaridan avval ham yuzaga kelgan.
Gari Markus xalqaro qoidalar tez orada paydo bo‘lishiga ishonmasligini bildiradi. Uning hozirgi asosiy talabi esa – agentlarni chaqirib olish jarayonini boshlashdir.
Agentlarni nazoratchilar – nuqsonli mahsulot, deb qabul qiladimi yoki ularni rivojlanish turtkisi sifatida baholaydimi, sohalarga qancha mablag‘ yo‘naltirilishini belgilashi mumkin.
