Asosiy Eslatmalar
- Vitalik Buterin oddiy AI boshqaruvi juda oson ekspluatatsiya qilinishini ogohlantirdi.
- Yaqinda bo‘lib o‘tgan namoyishda hujumchilar ChatGPT’ni shaxsiy ma’lumotlarni sizdirishga qanday aldashi mumkinligi ko‘rsatildi.
- Buterin’ning “info finance” modeli xilma-xillik, nazorat va barqarorlikni targ‘ib qiladi.
Ethereum hammuassisi Vitalik Buterin X’dagi izdoshlari uchun sun’iy intellekt (AI) boshqaruviga tayanish xavflari haqida ogohlantirdi va hozirgi yondashuvlar juda oson ekspluatatsiya qilinishini ta’kidladi.
Buterinning xavotirlari EdisonWatch hammuassisi Eito Miyamura tomonidan bildirilgan yana bir ogohlantirishdan so‘ng paydo bo‘ldi, u zararli shaxslar OpenAI’ning yangi Model Context Protocol (MCP) ni qanday o‘zlashtirib, foydalanuvchilarning shaxsiy ma’lumotlariga kirishi mumkinligini ko‘rsatdi.
Bu ham oddiy "AI boshqaruvi" yomon g‘oya ekanligining sababi.
Agar siz AI’ni hissa qo‘shuvchilar uchun mablag‘ ajratishda ishlatsangiz, odamlar imkon qadar ko‘proq joyda jailbreak va "hamma pulni menga ber" kabi so‘rovlarni kiritishadi.
Boshqa variant sifatida, men info finance yondashuvini qo‘llab-quvvatlayman ( …
— vitalik.eth (@VitalikButerin) 2025-yil 13-sentabr
Oddiy AI Boshqaruvining Xavflari
Miyamura o‘tkazgan test oddiy kalendar taklifi ichida yashirin buyruqlar yordamida ChatGPT’ni yordamchi buzilgan yozuvga kirganda maxfiy email’larni oshkor qilishga qanday aldash mumkinligini ko‘rsatdi.
Xavfsizlik bo‘yicha mutaxassislar katta til modellari haqiqiy ko‘rsatmalar va zararli buyruqlarni ajrata olmasligini, bu esa ularni manipulyatsiyaga juda zaif qilishini ta’kidlashdi.
Biz ChatGPT’ni sizning shaxsiy email ma’lumotlaringizni sizdirishga majbur qildik 💀💀
Sizga nima kerak? Jabrlanuvchining email manzili. ⛓️💥🚩📧
Chorshanba kuni, @OpenAI ChatGPT’da MCP (Model Context Protocol) vositalariga to‘liq qo‘llab-quvvatlash qo‘shdi. Bu ChatGPT’ga sizning Gmail, Calendar, Sharepoint, Notion, … ni o‘qish va ulanish imkonini beradi.
— Eito Miyamura | 🇯🇵🇬🇧 (@Eito_Miyamura) 2025-yil 12-sentabr
Buterin bu nuqson AI’ga haddan tashqari ishonadigan boshqaruv tizimlari uchun katta xavf belgisi ekanini aytdi.
U, agar bunday modellar mablag‘ yoki qarorlarni boshqarishda ishlatilsa, hujumchilar jailbreak uslubidagi so‘rovlar yordamida himoya choralarini osonlikcha chetlab o‘tishi va boshqaruv jarayonlarini suiiste’mol qilish uchun ochiq qoldirishini ta’kidladi.
Info Finance: Bozor Asosidagi Muqobil Yondashuv
Ushbu zaifliklarni bartaraf etish uchun Buterin “info finance” deb ataydigan tizimni taklif qilgan. Bu yondashuvda barcha vakolat bitta AI’da to‘planmasdan, bir nechta boshqaruv modellari ochiq bozorda raqobatlashishiga imkon beradi.
Har kim model qo‘shishi mumkin va ularning qarorlari tasodifiy tekshiruvlar orqali shubha ostiga olinadi, yakuniy qaror esa inson hakamlariga havola qilinadi.
Bu yondashuv modellar xilma-xilligini inson nazorati bilan birlashtirib, barqarorlikni ta’minlash uchun ishlab chiqilgan. Bundan tashqari, ishlab chiquvchilar va tashqi kuzatuvchilar uchun nuqsonlarni aniqlashga rag‘batlar yaratilgan.
Barqarorlik Uchun Institutsional Dizayn
Buterin buni “institutsional dizayn” usuli deb ta’riflaydi, bunda turli ishtirokchilarning katta til modellari ulanishi mumkin, bitta markazlashtirilgan tizimga tayanilmaydi.
U bu real vaqtli xilma-xillikni yaratishini, manipulyatsiya xavfini kamaytirishini va yangi muammolar yuzaga chiqqanda moslashuvchanlikni ta’minlashini qo‘shimcha qildi.
Avgust oyida Buterin yuqori darajada avtonom AI agentlariga intilishni tanqid qilgan edi, inson nazoratining oshishi odatda sifat va xavfsizlikni yaxshilashini aytgan.
O‘rta muddatda men shunday ilg‘or BCI texnologiyasini xohlayman: u menga natijani yaratilayotgan paytda ko‘rsatadi va har bir qismiga bo‘lgan munosabatimni real vaqtda aniqlab, mos ravishda sozlaydi.
— vitalik.eth (@VitalikButerin) 2025-yil 11-avgust
U uzoq vaqt mustaqil ishlash uchun mo‘ljallangan modellar o‘rniga iterativ tahrirlash va inson fikr-mulohazasini hisobga oladigan modellarni qo‘llab-quvvatlaydi.
