Adabiyot aslida bizni ogohlantirib keldi — bu deyarli besh yuz yil davomida bizga xuddi shu xabarni yetkazishga harakat qildi. O‘rta asr Pragasining loydan yasalgan Golemidan tortib, Uilyam Gibsonning yorqin va sun’iy nurga to‘la neyron tarmoqlarigacha bu fikr bot-bot takrorlandi. Markaziy fikr doim bir xil: insonga yordam bo‘lishi uchun yaratilgan narsa oxir-oqibat bizni o‘zgartiradi.
Biz bu haqda o‘qidik, boshimizni qimirlatdik va kitobni yopib, baribir chatbotlardan to‘y marosimi nutqlarini, yuridik hujjatlarni va tibbiy maslahatlarni yozishni so‘rashda davom etdik.
Bugun «Sunʼiy intellekt» atrofidagi shov-shuv fabrikasi shunday kelajakni sotmoqda — unda yosh jurnalistlar ham, tajribali yuristlar ham osonlik bilan chetga chiqariladi. Biroq «Silicon Valley» (texnologiyalar markazi) jannatni va’da qilayotgan bir vaqtda, haqiqat esa xatoga to‘la va xavfli maslahatlarni kulib turgan chat oynasi orqali taqdim etmoqda.
«BitOK» (kripto kompaniyasi) mahsulot bo‘limi rahbari Dmitriy Nikolskий aytishicha, yetarli – endi bas. U insoniyat nima uchun barcha muammolarini «Sunʼiy intellekt»ning pikselga o‘xshash «yelkalariga» yuklashni to‘xtatishi kerakligini tushuntirib beradi.
Hattoki Elon Musk ham yaqinda «OpenAI» (Sunʼiy intellekt kompaniyasi)ga qarshi sudda guvohlik berib, shunday dedi: «Sunʼiy intellekt hammamizni halok qilishi mumkin».
Golemdan tortib R.U.R.gacha: Biz har doim xavfsizlik tugmasini orzu qilganmiz
Sun’iy intellektdan qo‘rqish «Terminator» bilan boshlangan, deb o‘ylaysizmi? Balki shunday emasdir. Bu xavotir elektr energiyasi paydo bo‘lishidan ham oldin boshlangan.
XVI asr Pragasiga qaytamiz. Ravvin Leyv katta loydan himoyachini — golemni yasaydi va darhol tushunadiki, uni «to‘xtatish tugmasini bosish»ga majbur bo‘ladi. Yaratilgan golem o‘zidan chiqib ketadi. Insoniyat o‘z aqlliligi bilan, xuddi bir paytda ham «Sunʼiy intellekt»ni, ham xavfsizlik tugmasini o‘ylab topgan.
Xavfsizlik tugmasi – bu favqulodda o‘chirish mexanizmi. Bu — tizim nazoratdan chiqqanda, buzilganda yoki unga tashqi kuch ta’sir qilganda bosiladigan katta qizil tugma. Asosiy maqsadi — odatdagi o‘chirish yordam bermasa, talafotlarni cheklash.
Keyin Mary Shelley yaratilgan. Uning «Frankenstein» asari nafaqat dahshatli film, balki muvaffaqiyatsiz loyiha boshqaruvi haqida darslikdir. Viktor Frankenstein-chi? Oddiy tomoshabop muhandis. Texnik jumboqni yechdi-yu, natijasini hisobga olmadi. Har bir dasturchi bu holatni ko‘zguda ko‘rgandek bo‘ladi.
1920-yilga o‘tamiz. Karel Chapek «robot» so‘zini yaratadi. U hikoyasida mashinalar yovuzlikdan emas, balki odamlar o‘zlarining barcha ishlarini ularga topshirgani uchun, o‘zlari kerak bo‘lmay qolgani uchun isyon qiladi.
Dars — shunda: O‘zingizni almashtiradigan texnologiyani yaratayotganda, nimaga befoyda aylanib qolganiyizni bilmasligingiz ham mumkin.
Uchta bashorat: Xatolik sifatida qayta o‘qilgan haqiqatlar
O‘tgan asr fantast yozuvchilari texnologiyalarni emas, bizning muammolarimizni bashorat qilgan edi.
Isaak Azimov uchta qonunini ilgari surgan edi — bu «moslashuv» uchun birinchi urinish. «Moslashuv» — bugungi tilda aytganda, mashinalarni inson qadriyatlariga yaqinlashtirish. Har bir Azimov hikoyasida umumiy fikr bittadir: mukammal mantiq, ammo g‘alati natija.
Kundalik ishda ham Nikolskий buni «BitOK» (kripto kompaniyasi)ning pul yuvishga qarshi tizimlarida ko‘radi: algoritmlar buvisining 40 dollarlik sovg‘a yuborishini to‘sib qo‘yadi, lekin chet davlatdagi yirik pul oqimi bemalol o‘tib ketadi. Hamma narsa tartibda, biroq natijada ahmoqlik yuz beradi.
Artur Ch. Klark bizga HAL 9000 kompyuterini taqdim etdi: bu qurilma na yovuzligidan, balki buyruqlari bir-biriga zid bo‘lgani uchun ekipajni yo‘q qiladi. Ma’lumotlarni yashir. To‘g‘ri bo‘l. Yechim top! Muhandis uchun bu qo‘rqinch emas, bu — oddiy talablar to‘qnashuvi.
Filipp K. Dik esa «deepfake» (soxtalashtirilgan videolar) paytida eng dahshatli savolni berdi: nusxa aslidan ajralmas ekan, baribir farqi bormi? Uning javobi — ha, farqi bor. Chunki ichki his-tuyg‘ular, ya’ni tirik tajriba faqat insonga xos. Mashinalarda bunday tajriba yo‘q. Shu bilan hikoya yakunlanadi.
Asl mohiyati: Sunʼiy intellekt o‘ylamaydi, u hisoblaydi
Endi reklama iboralarini bir chetga suraylik. Zamonaviy til modellari haqiqiy aql emas. Ular — juda katta statistik taxmin hisoblash moslamalari. Ular ma’noni tushunmaydi, faqat ehtimollikni hisoblaydi.
Agar ChatGPT sudda bo‘lmagan ishlarni ishonch bilan aytsa, bu yolg‘on emas. Sunʼiy intellekt bir-biriga bog‘langan, ehtimoli yuqori, lekin tartibsiz so‘zlar yig‘indisini ishlab chiqaradi. U «haqiqat» tushunchasini bilmaydi — faqat «imkoniyat»ni hisoblaydi.
Blokcheyn dasturchilari uchun bu mutlaqo mantiqsizlikdek tuyuladi. Chunki biz bexavotir tizimlarni ochiqcha hech kimga ishonmasligimiz uchun yaratamiz. Endi esa, bizga natijani nimaga shunday chiqarganini tushunmaydigan qora quti (qorong‘i tizim)ga ishonish tavsiya qilinmoqda.
Blokcheyn — tekshirish, Sunʼiy intellekt — ko‘r-ko‘rona ishonch
Kriptosohada bitta qonun mavjud: Ishonma. Tekshir.
Bu yerda eng muhim narsa — oshkoralik va matematika ishonchni almashtiradi.
Biroq, «Sunʼiy intellekt» bu tartibni ostin-ustin qiladi. Siz ta’lim berilgan ma’lumotlarni ko‘rmagansiz. Model qanday vaznlar bilan ishlashini tushunmaysiz. Qanday xulosaga kelganini ham bilmay qolasiz. Natijani tekshirish uchun, siz allaqachon ekspert bo‘lishingiz kerak. Agar siz mutaxassis bo‘lsangiz, nega chatbotdan so‘rayapsiz?
AML (pul oqimini yuvishga qarshi kurash) sohasida bu muammo «soxta ishonch muammosi» deb ataladi. Tahlilchilar chiroyli, zamonaviy ko‘rinadigan boshqaruv paneliga qarab, undagi raqamlarga o‘zida sezilgan shubhadang ko‘ra ko‘proq ishonib qoladi. Sunʼiy intellekt (AI) tafakkur va tahlil qilishni kuchaytirmaydi, aksincha, ishonchlilikning tasavvurini yaratadi, xolos.
Ko‘ngilso‘zliklar tarixidan: Sunʼiy intellekt yo‘ldan adashganda
Bu tasavvur emas, balki hayotning o‘zida isbotini topgan holatdir. Bunday misollar tobora ko‘paymoqda.
- «Microsoft» (dasturiy ta’minot kompaniyasi) muharrirlarni ishdan bo‘shatib, faylni algoritmga topshirdi. Natijada esa, ushbu dastur irqqa oid voqea haqida maqola yozganida qo‘shiqchilarning suratlarini aralashtirib yubordi.
Odamlar algoritm yetkazgan noaniqliklarni to‘g‘rilash uchun yana ishga qaytarildi. Algoritm xatolarini baribir inson to‘g‘rilashiga to‘g‘ri keldi.
- «NEDA» (ovqatlanish buzilishlariga qarshi kurashuvchi tashkilot) ko‘ngillilarni sunʼiy intellektli suhbatbot bilan almashtirdi.
Natijada, bot anoreksiya kasalligiga chalingan odamlarga kaloriyani sanash va ozish haqida maslahat berdi. Bu esa hayot uchun xavfli tavsiyalar edi. Kimdir bu chat-botni ishga tushirar ekan, ehtiyotsiz maymun qo‘lidagi jonli granatadek harakat qilgan.
- «Air Canada» (aviatsiya kompaniyasi) chatbot sababli sudga tortildi, chunki bot Ixtiro qilingan pulni qaytarish siyosatini o‘ylab topgan edi.
Aviakompaniya qanday oqlangan? Bot «alohida huquqiy shaxs» emish. Biroq, sudya bunday gapni rad etdi.
Hozirgi tadqiqotlar shuni ko‘rsatadiki, 55% kompaniyalar ishchilarni tezda «AI» bilan almashtirgandan so‘ng chuqur pushaymon bo‘lgan. Tejalgan mablag‘lar yo‘qolgan mijozlar va obro‘ga yetgan zararga almashgan. «Claude» va boshqa sunʼiy intellekt asosidagi vositalar butun jamoani osonlik bilan bosib oladi, deb o‘ylaydigan menejerlar, bu statistikani yana bir bor, sekinroq o‘qib chiqishlari kerak.
Haqiqiy xavf nimada?
«Skynet» haqidagi, ko‘cha bo‘ylab yuradigan qizil ko‘zli robotlar haqdagi filmlarni unutaylik. Isyon kutmang.
Buning o‘rniga sekin-asta zaiflashish ro‘y beradi.
Yillar davomida dasturchi «Copilot» vositasiga suyanish natijasida mustaqil dasturiy arxitektura qurish qobiliyatini unutadi. Tahlilchi birlamchi maʼlumotlarni o‘qishni tashlab qo‘yadi. Talaba esa murakkab matn ustida tinimsiz mehnat qilib, oxiri uni anglash zavqini hech qachon his qilmaydi.
Hech qanday ko‘tarilish, isyon bo‘lmaydi. Shunchaki asta-sekin insonlar dastur interfeysining oddiy davomi bo‘lib qoladi.
Filipp K. Dik allaqachon buni sezgan edi: asl xavf mashinalarning insonga aylanishida emas edi. Asl xavf insonlarning mashinaga aylanib borishidadir.
«Qizil kapsula» – bu texnologiya emas
Bu sarkashlik yoki texnik taraqqiyotga qarshi urush chaqiruvi emas. Avtomatlashtirish va mashinali o‘rganish kuchli vositalardir. Ammo bunday kuchli imkoniyatlarni qo‘llashda tamoyillar mustahkam bo‘lishi kerak:
- Blokcheyn tamoyili: Isbot – ishonchdan ustun. Agar qanday natijaga qanday yetganini tekshirish imkoni bo‘lmasa, bu tizimni so‘zsiz qabul qilishga yo‘l yo‘q. Sunʼiy intellekt – bu qora quti, Oliy sud emas.
- Ingenyerlik tamoyili: Vosita – inson o‘rnini bosuvchi emas. Bolg‘a mix qoqadi, lekin uy qayerda qurilishi haqida qaror qilmaydi. Oddiy ishlarni avtomatlashtirishga sunʼiy intellekt vositalaridan foydalaning, lekin oxirgi tanlovni har doim inson qilishi kerak.
- AML (pul yuvishga qarshi kurash) tamoyili: Tanqidiy saralash. Algoritmlar eng murakkab holatlarda har doim ortda qoladi, chunki ularning haqiqiy hayotiy tajribasi yo‘q. «Raqamli hayajon» mantiq va oddiy insoniy fikrlashni bosmasligi kerak.
Bir lahzaga «Matritsa» filmiga qaytamiz. «Qizil kapsula» – bu tanlov, bor haqiqatni ko‘rishni tanlash. Xavf kuchli sunʼiy intellekt yaratishda emas. Xavf – bizni asta-sekin aqlsizlantirib, uni taraqqiyot deb ko‘rsatishda.
Eng xavfli xatolik – foydali imkoniyatga o‘xshab ko‘rinadiganidir.
Dmitriy Nikolskij — «BitOK» (analitik platforma) kompaniyasining CPO lavozimidagi rahbari. Platforma moslikka rioya qilish va blokcheyn zanjiridagi tekshiruvlar uchun xizmat ko‘rsatadi.
