Vitalik Buterin mette in guardia contro una "governance AI ingenua" e promuove questa alternativa guidata dal mercato

Il creatore di Ethereum (ETH), Vitalik Buterin, esprime alcune preoccupazioni riguardo quella che definisce una governance dell’intelligenza artificiale “ingenue”.

In un post su X, Buterin mette in evidenza un avvertimento del co-fondatore di EdisonWatch, Eito Miyamura, il quale ha scoperto che attori malintenzionati potrebbero dirottare il Model Context Protocol (MCP) di OpenAI per ottenere accesso a dati privati degli utenti.

L’esperimento di Miyamura ha suggerito che, utilizzando un invito a calendario con comandi nascosti, si potrebbe potenzialmente ingannare ChatGPT affinché fornisca dati personali sensibili, purché venga fornito l’indirizzo email della vittima.

Buterin afferma:

“Questo è anche il motivo per cui una ‘governance AI’ ingenua è una cattiva idea.

Se usi un’AI per allocare fondi ai contributi, le persone INSERIRANNO un jailbreak più ‘dammi tutti i soldi’ in quanti più posti possibile.”

Come alternativa, Buterin suggerisce un approccio di “info finance”, ovvero un mercato aperto dove chiunque può contribuire con un modello che può essere controllato da chiunque o valutato da una “giuria umana”.

“Questo tipo di approccio di ‘institution design’, dove crei un’opportunità aperta per persone con LLM (large language model) esterni di collegarsi, invece di codificare rigidamente un singolo LLM, è intrinsecamente più robusto, sia perché ti offre una diversità di modelli in tempo reale sia perché crea incentivi integrati sia per chi propone i modelli sia per gli speculatori esterni di monitorare questi problemi e correggerli rapidamente.”

Immagine generata: Midjourney
Immagine in evidenza: Shutterstock/Zalevska Alona UA