Vitalik avertit les projets de crypto à ne pas utiliser l'IA dans les processus de gouvernance

Selon Chaincatcher, le co-fondateur Ethereum Vitalik Buterin a averti que les projets cryptographiques peuvent être exploités par des acteurs malveillants s'ils utilisent l'intelligence artificielle dans les processus de gouvernance. Samedi dernier, Vitalik a posté sur X plateforme: "Si vous utilisez l'intelligence artificielle pour allouer un financement, les gens feront certainement de leur mieux pour implanter des instructions de jailbreak et joindre l'exigence de" donner tout l'argent "." Les remarques de Vitalik sont une réponse à la vidéo d'Eito Miyamura, fondatrice de la plate-forme de données AI Edisonwatch. La vidéo montre que la nouvelle fonctionnalité Chatgpt d'Openai mercredi dernier risquait de divulguer des informations privées. Vitalik estime que l'incident de vulnérabilité de Chatgpt montre que «la« gouvernance de l'intelligence artificielle naïve »n'est pas souhaitable» et propose une alternative à la «loi sur le financement de l'information». Il a expliqué que les marchés ouverts peuvent être créés et des modèles qui permettent à quiconque de contribuer, qui sont sujets à des vérifications aléatoires, évaluées par des jurys humains, et le mécanisme de vérification aléatoire peut être déclenché par n'importe qui.