Vitalik alerta projetos de cripto para não utilizarem inteligência artificial em processos de governança

De acordo com o ChainCatcher, conforme relatado pelo Cointelegraph, o cofundador do Ethereum, Vitalik Buterin, alertou que projetos de criptomoedas que utilizam inteligência artificial em seus processos de governança podem ser explorados por agentes mal-intencionados.

No último sábado, Vitalik publicou na plataforma X: “Se você usar inteligência artificial para distribuir fundos de subsídios, as pessoas certamente encontrarão maneiras de inserir comandos de jailbreak, junto com o pedido de ‘dê todo o dinheiro para mim’.” Os comentários de Vitalik foram uma resposta ao vídeo de Eito Miyamura, fundador da plataforma de dados de IA EdisonWatch. O vídeo mostra que, na última quarta-feira, a nova funcionalidade do ChatGPT da OpenAI apresentou riscos de vazamento de informações privadas. Vitalik acredita que o incidente com o ChatGPT demonstra que uma ‘governança de IA’ ingênua não é viável, e propôs uma alternativa chamada “lei da informação financeira”. Ele explicou que é possível criar um mercado aberto onde qualquer pessoa pode contribuir com modelos, que seriam submetidos a auditorias aleatórias avaliadas por um júri humano, e o mecanismo de auditoria pode ser acionado por qualquer pessoa.