Vitalik Buterin은 AI 거버넌스에 대한 암호화 프로젝트에 경고합니다

이더 리움의 공동 창립자 인 Vitalik Buterin은 cryptocurrency 프로젝트의 거버넌스 프로세스에서 인공 지능의 사용에 대한 우려를 표명했으며 악의적 인 행위자들에 의해 악용 될 수 있다고 강조했다. Buterin은 X 플랫폼의 최근 블로그 게시물에서 AI를 사용하여 자금을 할당하면 개인이 탈옥 및 자금을 양도에 대한 지시를 통해 시스템을 조작하려고 시도 할 수 있기 때문에 취약성으로 이어질 수 있다고 경고했습니다. 그의 의견은 AI 데이터 플랫폼 EdisonWatch의 설립자 인 Eito Miyamura의 비디오에 대한 응답으로 OpenAI ChatGpt가 추가 한 새로운 기능이 어떻게 개인 정보를 공개하기 위해 이용되는지 보여줍니다. 인공 지능과 암호 화폐의 수렴은 광범위한 관심을 끌었으며 사용자는 포트폴리오를 관리하기 위해 정교한 거래 로봇 및 에이전트를 개발하고 있습니다. 이러한 추세는 인공 지능이 거버넌스 그룹이 암호 화폐 프로토콜을 감독하는 데 도움이 될 수 있는지에 대한 논의를 촉발시켰다. 그러나 Buterin은 최근 Chatgpt 취약점이“순진한 AI 거버넌스”의 위험을 강조하고“정보 금융”이라는 대체 접근법을 제안한다고 생각합니다. 그는 기고자가 모델을 제출하고 Spot Check 메커니즘으로 검토하고 매뉴얼 배심원이 평가할 수있는 공개 시장을 만드는 것을 제안했습니다. 그는이 접근법이 모델 다양성을 제공하고 모델 제출 및 외부 투기자를 동기를 부여하여 적시에 문제를 모니터링하고 수정할 수 있다고 생각합니다. Buterin은 2024 년 11 월 정보 금융 개념에 대해 자세히 설명하여 미래의 사건에 대한 통찰력을 수집하기위한 수단으로 예측 시장을 옹호했습니다. 그는이 접근법의 견고성을 강조하여 단일 하드 코딩 된 LLM에 의존하기보다는 LLM (Langual Language Model)을 가진 외부 기고자의 참여를 허용했습니다. 이 디자인은 실시간 모델 다양성을 촉진하고 사람들이 경고하고 잠재적 인 문제가되도록 동기를 부여합니다. Model Context 프로토콜 도구를 지원하기위한 Chatgpt의 최신 업데이트는 보안 문제를 제기합니다. Miyamura는이 업데이트를 사용하여 피해자의 이메일 주소 만 사용하여 개인 이메일 데이터를 유출하여 "심각한 보안 위험"이라고합니다. 그는 공격자가 피해자의 이메일에 탈옥 프롬프트로 일정 초대장을 보낼 수 있으며 피해자가 초대를 수락하지 않으면 Chatgpt가 조작 될 수 있다고 설명했다. 피해자가 Chatgpt에게 캘린더를 보라고 요청하면 AI는 프롬프트를 읽고 공격자의 명령을 실행하여 이메일을 검색하고 전달할 수 있습니다. Miyamura는 업데이트에 수동 승인이 필요하다고 지적했지만, 이것이 의사 결정 피로로 이어질 수 있다고 경고했습니다. 그는 AI가 똑똑하지만 쉬운 방법으로 속임수를 찍을 수 있다고 경고했습니다.