Vitalik advierte a los proyectos cripto que no utilicen inteligencia artificial en los procesos de gobernanza

ChainCatcher Noticias, según informó Cointelegraph, el cofundador de Ethereum, Vitalik Buterin, advirtió que los proyectos de criptomonedas que utilicen inteligencia artificial en sus procesos de gobernanza podrían ser aprovechados por actores malintencionados.

El pasado sábado, Vitalik publicó en la plataforma X: “Si utilizas inteligencia artificial para asignar fondos de subvenciones, la gente sin duda intentará insertar instrucciones de jailbreak, junto con la petición de ‘dame todo el dinero’”. Estas declaraciones de Vitalik fueron en respuesta a un video de Eito Miyamura, fundador de la plataforma de datos de IA EdisonWatch. El video muestra que la nueva función de ChatGPT de OpenAI, lanzada el pasado miércoles, presenta riesgos de filtración de información privada. Vitalik considera que el incidente de la vulnerabilidad de ChatGPT demuestra que una ‘gobernanza de IA’ ingenua no es viable, y propone como alternativa la “ley de información financiera”. Explica que se puede crear un mercado abierto donde cualquiera pueda contribuir con modelos, los cuales serían sometidos a auditorías aleatorias y evaluados por un jurado humano, y el mecanismo de auditoría podría ser activado por cualquier persona.