Vitalik Buterinは、AIガバナンスに対して暗号化プロジェクトに警告しています

Ethereumの共同設立者Vitalik Buterinは、暗号通貨プロジェクトのガバナンスプロセスにおける人工知能の使用について懸念を表明し、悪意のある俳優によって搾取される可能性があると強調しました。 Buterinは、Xプラットフォームに関する最近のブログ投稿で、AIを使用して資金を割り当てるために脆弱性につながる可能性があると警告しました。これは、個人が脱獄と資金を譲渡する指示を通じてシステムを操作しようとする可能性があるためです。彼のコメントは、AIデータプラットフォームEdisonWatchの創設者であるEito Miyamuraのビデオに応えて、Openai ChatGPTによって追加された新機能がプライベート情報を明らかにするためにどのように活用されるかを示しています。 人工知能と暗号通貨の収束は広範囲にわたる注目を集めており、ユーザーはポートフォリオを管理するために洗練された取引ロボットとエージェントを開発しています。この傾向は、人工知能が暗号通貨プロトコルの監督においてガバナンスグループを支援できるかどうかについての議論を引き起こしました。しかし、Buterinは、最近のChatGPTの脆弱性が「素朴なAIガバナンス」のリスクを強調していると考えており、「Information Finance」と呼ばれる代替アプローチを提案しています。彼は、貢献者がモデルを提出し、スポットチェックメカニズムによってレビューされ、手動ju審によって評価されるオープンマーケットを作成することを提案しました。彼は、このアプローチがモデルの多様性を提供し、モデルの提出と外部投機家を動機付けて、タイムリーに問題を監視および修正することができると考えています。 Buterinは、2024年11月に情報金融の概念について詳しく説明し、将来の出来事に関する洞察を集める手段として予測市場を提唱しました。彼は、このアプローチの堅牢性を強調しました。これにより、単一のハードコード化されたLLMに依存するのではなく、大規模な言語モデル（LLM）を備えた外部貢献者の参加が可能になりました。この設計は、リアルタイムのモデルの多様性を促進し、人々が潜在的な問題を警戒し、正しい問題にするように動機付けます。 Model ContextプロトコルツールをサポートするCHATGPTの最新アップデートは、セキュリティの懸念を引き起こします。宮村は、このアップデートを使用して、被害者のメールアドレスのみを使用してプライベートメールデータをリークする方法を示し、「深刻なセキュリティリスク」と呼んでいます。彼は、攻撃者がジェイルブレイクプロンプトのあるカレンダーの招待状を被害者の電子メールに送ることができ、被害者が招待を受け入れなかった場合、ChatGptを操作できると説明しました。被害者がChatGptにカレンダーを表示するように頼むと、AIはプロンプトを読み取り、攻撃者のコマンドを実行するためにハイジャックされ、場合によってはメールを検索して転送します。 Miyamuraは、アップデートには手動での承認が必要であると指摘したが、これが決定の疲労につながる可能性があると警告した。彼は、AIは賢いが、それは簡単な方法でだまされて育てることができると警告した