Vitalik Buterin alerta contra a "governança ingênua de IA" e defende esta alternativa orientada pelo mercado

O criador do Ethereum (ETH), Vitalik Buterin, está expressando preocupação sobre o que ele chama de governança de inteligência artificial “ingênua”.

Em uma publicação no X, Buterin destaca um alerta do cofundador da EdisonWatch, Eito Miyamura, que descobriu que agentes mal-intencionados poderiam sequestrar o Model Context Protocol (MCP) da OpenAI para obter acesso a dados privados de usuários.

O experimento de Miyamura sugeriu que o uso de um convite de calendário com comandos ocultos poderia, potencialmente, enganar o ChatGPT para fornecer dados pessoais sensíveis, desde que fosse fornecido o endereço de e-mail da vítima.

Buterin afirma:

“É por isso também que a ‘governança de IA’ ingênua é uma má ideia.

Se você usar uma IA para alocar financiamento para contribuições, as pessoas VÃO inserir um jailbreak mais ‘me dê todo o dinheiro’ em tantos lugares quanto puderem.”

Como alternativa, Buterin sugere uma abordagem de “info finance”, ou um mercado aberto onde qualquer pessoa pode contribuir com um modelo que pode ser verificado por qualquer um ou avaliado por um “júri humano”.

“Esse tipo de abordagem de ‘design institucional’, onde você cria uma oportunidade aberta para pessoas com LLMs (large language model) de fora se conectarem, ao invés de codificar rigidamente um único LLM você mesmo, é inerentemente mais robusto, tanto porque oferece diversidade de modelos em tempo real quanto porque cria incentivos embutidos para que tanto os apresentadores de modelos quanto especuladores externos fiquem atentos a esses problemas e os corrijam rapidamente.

Imagem Gerada: Midjourney
Imagem em destaque: Shutterstock/Zalevska Alona UA