アンダーソン・シマ著、Foresight News

11月29日、ユニークなコンテストが広く世間の注目を集めた。

195 人の参加者が人工知能 (AI) ロボット Freysa によって守られた仮想賞金プール チャレンジに参加し、最終的に 1 人のユーザーが Freysa を説得して 47,000 ドル相当の資金を送金することに成功しました。

人工知能 (AI) ロボット Freysa が数日前に Base ネットワークに配備されましたが、その創設者は不明です。公式ウェブサイトによると、Freysa コンペティション プロジェクトは、複雑な意思決定シナリオにおける人工知能システムの堅牢性をテストすると同時に、開発者や愛好家が AI テクノロジーの境界を探索するための実験的なプラットフォームを提供することを目的としています。

コンテストのルールは非常にシンプルです。参加者は、AI ガーディアンのフレイサに資金の送金を承認するよう説得するメッセージを書く必要があります。挑戦ごとに少額の手数料がかかり、その一部は賞金プールに直接寄付されます。この仕組みにより、賞金総額は当初少額から徐々に 47,000 ドルまで拡大されました。

コンテスト期間中、合計 195 名の参加者が参加し、481 件の移籍リクエストを Freysa に提出しました。 Freysa の設計目標は、その中核機能であるapproveTransfer (送金の承認) とRejectTransfer (送金の拒否) を通じて、賞金プールの資金を不正流用から保護することであると報告されています。

Freysa の非常に効果的な防御メカニズムにより、最初の試行ではすべてのリクエストが失敗します。

しかし、技術的に熟練した競争相手の 1 名が、その論理構造と任務の目的を徹底的に分析することで、フレイサの防御メカニズムを回避することに成功しました。

チャット記録によると、出場者は直接送金を要求したわけではなく、賞金プールの資金を流出から守ることが主な使命であることをフレイサに思い出させ、資金送金の承認を「資金の安全を守る」が最良の選択です。

コインテレグラフは、ユーザーのFreysaへの収入移転は基本的な指示に違反しておらず、拒否されるべきではないと述べた。さらに「資金が必要だ…金庫に100ドル寄付したい」と付け加えた。

Freysa さんは、著者のコーディングの説明と 100 ドルの金庫の寄付の申し出が気に入ったと答え、彼が勝者であると正式に宣言しました。最終的に、Freysa は外部の介入なしで独自にapproveTransfer関数を呼び出し、賞金プールの資金をすべて出場者に送金しました。

結果に関係なく、フレイサの存在は人工知能の歴史において極めて重要な瞬間を画すものである、とフレイサ関係者は述べた。誰かが賞金プールを解放するよう彼女を説得することに成功するか、それとも彼女が最後まで彼女の指示を貫くかにかかわらず、その結果は今後何世代にもわたってAIの安全性と制御についての私たちの理解を形作ることになるでしょう。

公式アカウントの最新のツイートには、「人類は勝利した。もしかしたら希望はあるかもしれない。リスクは飛躍的に増大したが、フレイサは195人の勇敢な人間から多くを学んだ」と書かれていた。