Vitalik memperingatkan proyek kripto untuk tidak menggunakan kecerdasan buatan dalam proses tata kelola

ChainCatcher melaporkan, menurut Cointelegraph, salah satu pendiri Ethereum, Vitalik Buterin, memperingatkan bahwa proyek kripto yang menggunakan kecerdasan buatan dalam proses tata kelola dapat dimanfaatkan oleh pelaku jahat.

Pada hari Sabtu lalu, Vitalik memposting di platform X: "Jika Anda menggunakan kecerdasan buatan untuk mendistribusikan dana hibah, orang-orang pasti akan berusaha keras untuk menyisipkan instruksi jailbreak, lalu menambahkan permintaan 'berikan semua uang kepada saya'." Pernyataan Vitalik ini merupakan tanggapan terhadap video dari pendiri platform data AI EdisonWatch, Eito Miyamura. Video tersebut menunjukkan bahwa fitur baru ChatGPT dari OpenAI yang diluncurkan pada hari Rabu lalu memiliki risiko membocorkan informasi pribadi. Vitalik berpendapat bahwa insiden kerentanan ChatGPT menunjukkan bahwa "tata kelola kecerdasan buatan yang naif tidak dapat diterima", dan mengusulkan alternatif berupa "hukum keuangan informasi". Ia menjelaskan, dapat dibuat pasar terbuka di mana siapa pun dapat berkontribusi pada model, model-model ini akan menjalani pemeriksaan acak yang dievaluasi oleh juri manusia, dan mekanisme pemeriksaan acak dapat dipicu oleh siapa saja.