Vitalik avisa os projetos de criptografia para não usar a IA em processos de governança

Panews 15 de setembro, o co-fundador da Ethereum, Vitalik Buterin, alertou que os projetos de criptografia podem ser explorados por atores maliciosos se usarem inteligência artificial no processo de governança. No sábado passado, Vitalik postou na plataforma X: "Se você usar inteligência artificial para alocar fundos, as pessoas definitivamente farão o possível para implantar instruções de jailbreak e anexar o requisito de 'me dar todo o dinheiro'". As observações de Vitalik são uma resposta a vídeos de Eito Miyamura, fundador da plataforma de dados da AI Edisonwatch. O vídeo mostra que o novo recurso ChatGPT do OpenAI na última quarta -feira estava em risco de vazar informações privadas. Vitalik acredita que o incidente de vulnerabilidade do chatgpt mostra que "ingênua" governança de inteligência artificial "não é desejável" e propõe uma alternativa à "lei de financiamento de informações". Ele explicou que os mercados abertos podem ser criados e modelos que permitem que qualquer pessoa contribua, que estão sujeitos a verificações aleatórias, avaliadas por júris humanos, e o mecanismo de verificação aleatório pode ser acionado por qualquer pessoa.