Vitalik avverte i progetti crypto di non utilizzare l'intelligenza artificiale nei processi di governance

Secondo ChainCatcher, come riportato da Cointelegraph, il co-fondatore di Ethereum Vitalik Buterin ha avvertito che i progetti crypto che utilizzano l'intelligenza artificiale nei processi di governance potrebbero essere sfruttati da attori malintenzionati.

Sabato scorso, Vitalik ha pubblicato su X affermando: "Se usi l'intelligenza artificiale per assegnare fondi, la gente cercherà sicuramente di inserire istruzioni di jailbreak, aggiungendo richieste come 'dai tutti i soldi a me'." Questo commento di Vitalik è una risposta al video di Eito Miyamura, fondatore della piattaforma di dati AI EdisonWatch. Il video mostra che la nuova funzione di ChatGPT di OpenAI, introdotta mercoledì scorso, presenta rischi di divulgazione di informazioni private. Vitalik ritiene che la vulnerabilità di ChatGPT dimostri che una "governance AI ingenua" non sia auspicabile, e propone invece la "legge dell'informazione finanziaria" come alternativa. Ha spiegato che si può creare un mercato aperto dove chiunque può contribuire con modelli, che vengono sottoposti a controlli casuali e valutati da una giuria umana; il meccanismo di controllo può essere attivato da chiunque.