Vitalik advierte proyectos criptográficos que no usan IA en los procesos de gobernanza

Según ChainCatcher, el cofundador de Ethereum, Vitalik Buterin, advirtió que los proyectos criptográficos pueden ser explotados por actores maliciosos si usan inteligencia artificial en los procesos de gobernanza. El sábado pasado, Vitalik publicó en la plataforma X: "Si usa la inteligencia artificial para asignar fondos, las personas definitivamente hará todo lo posible para implantar instrucciones de jailbreak y adjuntar el requisito de 'darme todo el dinero'". Los comentarios de Vitalik son una respuesta al video de Eito Miyamura, fundador de la plataforma de datos de IA EdisonWatch. El video muestra que la nueva característica de ChatGPT de Operai el miércoles pasado corría el riesgo de filtrar información privada. Vitalik cree que el incidente de vulnerabilidad de ChatGPT muestra que la gobernanza de inteligencia artificial "ingenua" no es deseable "y propone una alternativa a la" ley de financiamiento de la información ". Explicó que se pueden crear mercados abiertos y modelos que permitan contribuir a cualquiera, que estén sujetos a controles aleatorios, evaluados por jurados humanos, y el mecanismo de verificación aleatorio puede ser activado por cualquier persona.