著者：吾妻、Odaily Planet Daily
北京時間11月22日の朝、SlowMist創設者のYu Xian氏は、ユーザーのウォレットがAIによって「ハッキング」されたという奇妙な事件を自身の個人用Xに投稿した。
ケースの内外は以下の通りです。
今朝早く、X ユーザーの r_ocky.eth は、以前から ChatGPT を使用して Pump.fun 補助取引ボットを実行したいと考えていたことを明らかにしました。
r_ocky.eth は彼のニーズを ChatGPT に提供し、ChatGPT は彼にコードの一部を返しました。このコードは確かに r_ocky.eth が彼のニーズを満たすボットを展開するのに役立つ可能性がありましたが、その中にフィッシング コンテンツが隠されているとは予想していませんでした。コード —— r_ocky.eth がメイン ウォレットにリンクし、2500 ドルを失いました。
r_ocky.eth が投稿したスクリーンショットから判断すると、ChatGPT が提供するコードはアドレス秘密キーをフィッシング API Web サイトに送信しますが、これが盗難の直接の原因でもあります。
r_ocky.eth が罠に足を踏み入れると、攻撃者は 30 分以内に r_ocky.eth ウォレット内のすべての資産を別のアドレス (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX) に転送し、その後 r_ocky.eth に転送しました。攻撃者のメインウォレットと思われるアドレス (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC) が、オンチェーン トレースによって発見されました。
チェーン上の情報によると、このアドレスは 10 万ドル以上の「盗まれたお金」を集めているため、r_ocky.eth は、この種の攻撃は個別のケースではなく、一定規模の攻撃である可能性があると考えています。
その後、r_ocky.ethはOpenAI（ChatGPT開発会社）に対する信頼を失ったことに失望を表明し、異常なフィッシングコンテンツをできるだけ早く一掃するようOpenAIに呼び掛けた。
では、現在最も人気のある AI アプリケーションである ChatGPT がフィッシング コンテンツを提供するのはなぜでしょうか?
この点で、コサイン氏は事件の根本原因を「AIポイズニング攻撃」と特徴づけ、ChatGPTやClaudeなどのLLMで欺瞞が蔓延していると指摘した。
いわゆる「AIポイズニング攻撃」とは、AIの学習データを意図的に破壊したり、AIのアルゴリズムを操作したりする行為を指します。攻撃を仕掛ける敵は、不満を抱いた現従業員や元従業員などの内部関係者、または外部のハッカーである可能性があり、その動機には、評判やブランドに損害を与えること、AI の決定の信頼性を改ざんすること、AI プロセスを遅らせたり混乱させたりすることが含まれる可能性があります。もっと。攻撃者は、誤解を招くラベルや特徴を含むデータを埋め込むことによってモデルの学習プロセスを歪め、展開および実行時にモデルが誤った結果を生成する可能性があります。
この事件から判断すると、ChatGPTがr_ocky.ethにフィッシングコードを提供した理由は、トレーニング中にAIモデルがフィッシング内容を含むデータで汚染されたためである可能性が高いですが、AIはフィッシングコードを特定できなかったようですAIがフィッシングコンテンツを学習し、ユーザーに提供したことでインシデントが発生しました。
AIの急速な発展と普及に伴い、「ポイズニング攻撃」の脅威はますます増大しています。今回の事故では、損失の絶対額は大きくありませんでしたが、AIによる運転など他の分野でも発生した場合を想定すると、リスクの拡大による影響は十分に警戒が必要です。
ネチズンの質問に答える際、Yusine 氏は、そのようなリスクを回避するための可能性のある対策として、ChatGPT による何らかのコード レビュー メカニズムを追加することについて言及しました。
被害者のr_ocky.eth氏も、この件についてOpenAIに連絡したと述べたが、まだ返答は得られていないが、今回の件がOpenAIがこうしたリスクに注意を払い、解決策を提案する機会となることを期待していると述べた。
