Vitalik avisa os projetos de criptografia para não usar a IA em processos de governança

Segundo o ChainCatcher, o co-fundador da Ethereum, Vitalik Buterin, alertou que os projetos de criptografia podem ser explorados por atores maliciosos se usarem a inteligência artificial nos processos de governança. No sábado passado, Vitalik postou na plataforma X: "Se você usar a inteligência artificial para alocar financiamento, as pessoas definitivamente farão o possível para implantar instruções de jailbreak e anexar o requisito de 'me dar todo o dinheiro'". As observações de Vitalik são uma resposta ao vídeo de Eito Miyamura, fundador da plataforma de dados da AI Edisonwatch. O vídeo mostra que o novo recurso ChatGPT do OpenAI na última quarta -feira estava em risco de vazar informações privadas. Vitalik acredita que o incidente de vulnerabilidade do chatgpt mostra que "ingênua" governança de inteligência artificial "não é desejável" e propõe uma alternativa à "lei de financiamento de informações". Ele explicou que os mercados abertos podem ser criados e modelos que permitem que qualquer pessoa contribua, que estão sujeitos a verificações aleatórias, avaliadas por júris humanos, e o mecanismo de verificação aleatório pode ser acionado por qualquer pessoa.