Vitalik Buterin "soddalashgan AI boshqaruvi" haqida ogohlantirdi, bozor tomonidan boshqariladigan ushbu alternativani ilgari surdi

Ethereum (ETH) yaratuvchisi Vitalik Buterin “soddadil” sun’iy intellekt boshqaruvi haqida ba’zi xavotirlarini bildirmoqda.

X ijtimoiy tarmog‘ida Buterin EdisonWatch hammuassisi Eito Miyamura tomonidan berilgan ogohlantirishga e’tibor qaratdi. Miyamura yomon niyatli shaxslar OpenAI’ning Model Context Protocol (MCP) tizimini egallab olib, foydalanuvchilarning shaxsiy ma’lumotlariga kirishlari mumkinligini aniqlagan.

Miyamuraning tajribasi shuni ko‘rsatdiki, yashirin buyruqlarga ega bo‘lgan taqvim taklifidan foydalanish orqali, agar jabrlanuvchining elektron pochta manzili mavjud bo‘lsa, ChatGPT’ni shaxsiy va nozik ma’lumotlarni taqdim etishga aldash mumkin.

Buterin shunday deydi:

“Aynan shu sababli soddadil ‘AI boshqaruvi’ yomon g‘oya hisoblanadi.

Agar siz sun’iy intellektdan hissa qo‘shganlarga mablag‘ ajratishda foydalansangiz, odamlar imkon qadar ko‘proq joyda ‘jailbreak’ va ‘hamma pulni menga ber’ kabi buyruqlarni kiritishadi.”

Boshqa yo‘l sifatida, Buterin “info finance” yondashuvini yoki ochiq bozorni taklif qiladi, bu yerda istalgan kishi modelni taqdim etishi va uni istalgan kishi tekshirishi yoki “inson hakamlar hay’ati” tomonidan baholanishi mumkin.

“Bunday ‘institutsional dizayn’ yondashuvi, ya’ni tashqaridan LLM (katta til modeli)ga ega bo‘lgan odamlar uchun ochiq imkoniyat yaratish, o‘zingiz bitta LLM’ni qattiq kodlashdan ko‘ra, tabiatan ancha barqaror. Chunki bu sizga real vaqt rejimida model xilma-xilligini beradi va model taqdimotchilari hamda tashqi spekulyantlar uchun ushbu muammolarni kuzatish va tezda tuzatish uchun ichki rag‘batlar yaratadi.”

Generated Image: Midjourney
Featured Image: Shutterstock/Zalevska Alona UA