原題：「d/acc: one year Later」
作者: ヴィタリック・ブテリン、イーサリアム創設者
編集：リーク、フォーサイトニュース
要約: この記事は、分散型アクセラレーション (d/acc) の概念に焦点を当て、人工知能のセキュリティと監視、暗号通貨や公共財の資金調達との関係などを含む、技術開発におけるその応用と課題について議論し、d の重要性を強調しています。 /acc は、より安全でより良い世界の構築と将来の開発の機会と課題に貢献します。著者は、d/acc の意味合いについて詳しく説明し、さまざまな戦略を比較することで人工知能のリスクに対処する際のその役割を分析し、暗号通貨の価値と公共財の資金調達メカニズムの探求について議論します。最後に、彼は次のような課題に期待しています。将来の技術開発においても、人類には既存のツールやアイデアを使ってより良い世界を構築する機会がまだ残されています。
序文
フィードバックとレビューを提供してくれた Liraz Siri、Janine Leger、Balvi などのボランティアに感謝します。
約 1 年前、私はテクノオプティミズムについての記事を書きました。その中で、テクノロジに対する私の全体的な熱意とそれがもたらす多大な利点を説明するとともに、いくつかの特定の問題についての警戒を表明しました。これらの質問は主に超知能人工知能に焦点を当てています。このテクノロジーが適切に構築されていない場合、知性と破壊の危険、または人間の力の不可逆的な損失が発生します。
その記事での私の核心ポイントの 1 つは、分散型、民主的、差別化された防衛加速の哲学でした。技術開発を加速するだけでなく、害を及ぼすのではなく防御する能力を向上させる技術に重点を置くこと、少数のエリートの手に権力を集中させて代表者による所有権を回避するのではなく権力の分散化を促進することも必要である。何が正しいか間違っているか、善か悪かを決めるのはこれらのエリートたちです。防衛のモデルは、中世の封建制に代表される領主や城のモデルではなく、民主主義のスイスと歴史的に準アナキスト地域であるゾミアのモデルであるべきである。
それから 1 年で、これらのコンセプトとアイデアは大幅に進化し、成熟しました。キャリアの選択に焦点を当てた組織である 80,000 時間でこれらの考えを共有したところ、多くの反響があり、そのほとんどが肯定的なものでしたが、中には批判的なものもありました。
研究自体は進歩し続けており、目に見える成果をもたらしています。検証可能なオープンソースワクチンの分野では進歩が見られ、健康な室内空気の価値に対する認識は深まり続けており、予測市場では引き続きポジティブな役割を果たしています。 a 情報ツールには、ゼロ知識の簡潔な非対話型知識の議論が画期的な年を迎えました。 SNARK は政府の身分証明書やソーシャル メディア (およびアカウント抽象化による安全なイーサリアム ウォレット) で使用され、オープンソースのイメージング ツールは医療やブレイン コンピューター インターフェイス (BCI) などで使用されます。
昨年の秋、私たちは最初の重要な d/acc イベントを開始しました。それは、Devcon で開催された「d/acc Discovery Day」(d/aDDy) でした。このイベントには、d/acc のあらゆる分野 (生物学、生物学、生物学) の人々が集まりました。物理学、ネットワーク、情報防御、ニューロテクノロジーなど)、イベントは一日中続きました。これらのテクノロジーに何年も取り組んできた人々はお互いの仕事をより認識するようになり、部外者はイーサリアムと暗号通貨を推進する同じ価値観をより広い世界に拡張できるという、より大きなビジョンをより認識するようになりました。
d/acc の意味と意味
時は流れ2042年。あなたはメディアの報道で、あなたの街で新たな流行が発生する可能性があるというニュースを目にしました。あなたもそれには慣れています。人々はあらゆる動物の病気の突然変異に過剰に反応する傾向があり、ほとんどの場合、実際の危機を引き起こすことにはなりません。過去に発生した 2 件の潜在的なアウトブレイクは、廃水の監視とソーシャル メディアのオープンソース分析によって早期に検出され、芽を摘むことに成功しました。しかし、今回は状況が異なり、予測市場では少なくとも 10,000 件の確率が 60% と示されているため、心配になります。
つい昨日、ウイルスの遺伝子配列が判明した。ポケットに入れるエアテスターのソフトウェアアップデートが間もなく公開され、テスターに新しいウイルスを検出できるようになります（1回の呼気テストまたは室内の空気に15分間さらされた後のいずれかで）。その一方で、世界中の最新の医療施設が利用できる機器を使用してワクチンを生成するためのオープンソースの説明書とコードが数週間以内に公開される予定だ。ほとんどの人はまだ何も行動を起こしておらず、自らの安全を守るために主に広範な空気濾過と換気対策に頼っています。
自分自身の免疫力の問題のため、より慎重になっています。あなたが使用しているオープンソースのローカルで実行されるパーソナル アシスタント AI は、ナビゲーション、レストラン、飲食店などの通常のタスクに加えて、リアルタイムの空気検査データと CO2 データを考慮します。アクティビティの推奨事項。最も安全な場所のみを推奨します。このデータは何千もの参加者とデバイスによって提供され、ZK-SNARK と差分プライバシー技術の助けを借りて、データが漏洩したり他の目的に悪用されるリスクは最小限に抑えられます (これらのデータセットに意図的に貢献した場合は、これらの暗号化ツールが実際に機能することを検証するパーソナル アシスタント AI は他にもあります)。
2か月後、流行は奇跡的に沈静化した。国民の60％は、空気検査員が警報を鳴らしてウイルスの存在を示した場合にはマスクを着用し、陽性反応が出た場合は自宅にいるという基本的な手順を守っているようだった。この動きは、受動的な強力な空気ろ過によって大幅に低下した透過率をさらに 1 未満に下げるのに十分です。シミュレーションによると、20年前のコロナウイルスのパンデミックよりも5倍悪くなる可能性があるこの病気は、現在では深刻な影響を及ぼしていない。
Devcon での d/acc デー
Devcon での d/acc イベントの非常に前向きな成果の 1 つは、d/acc のコンセプトがさまざまな分野の人々をうまく集め、実際に互いの仕事に強い関心を引き起こしたことです。
「多様性」を持ってイベントを開催することは難しいことではありませんが、異なる背景や興味を持つ人々の間で緊密なつながりを築くのは簡単ではありません。中学や高校の頃に、個人的には退屈だと思っていた長編のオペラを強制的に観させられたことを今でも鮮明に覚えています。楽しむことが「当然」であることはわかっていました。そうしないと、教育を受けていないコンピュータ サイエンスの怠け者とみなされてしまうからです。しかし、オペラの内容をより深いレベルで理解することができませんでした。しかし、d/acc dayの雰囲気は全く違っていて、さまざまな分野のさまざまな仕事について学ぶのがとても楽しかったように感じました。
私たちが支配、減速、破壊よりも明るい未来を目指すのであれば、この広範な連携の構築が必要です。 d/acc はこの点で顕著な成果を上げているようで、これだけでもこの概念の価値が浮き彫りになります。
d/acc の核となる考え方はシンプルかつ明確です。それは、分散型、民主的、差別化された防御の加速です。攻撃と防御のバランスを防御側に傾けるテクノロジーを構築し、中央機関へのさらなる権限の委譲に依存せずにそれを実現します。これら 2 つの側面の間には本質的に密接な関係があります。どのような種類の分散型、民主的または自由な政治構造も、防衛の実施が容易な場合には繁栄する傾向があり、防衛の実施が困難な場合には深刻な課題に直面することになります。可能性の高い結果は、誰もが互いに対立し、最強の者が支配する均衡状態に達する混乱の時代です。
分散化、防御可能性、加速化を同時に達成しようとすることの重要性を理解する 1 つの方法は、これら 3 つの側面のいずれかを放棄した場合に生じる哲学と対比させることです。
昨年の My Tech Optimism のグラフ
分散化が加速しているが、「差別化された防御」の部分は無視されている
本質的に、これは効果的な加速主義者 (e/acc) であると同時に分散化を追求することに似ています。このアプローチをとる人はたくさんいて、その中には自分を d/acc と呼ぶ人もいますが、彼らは自分たちの焦点を「攻撃的」だと説明しています。さらに、「分散型人工知能」や同様のテーマに対して、より適度な熱意を表明している人は他にもたくさんいますが、私の意見では、彼らは「防御」の側面に明らかに注意を払っていません。
私の考えでは、このアプローチは、特定のグループが世界人類に独裁を課すリスクを回避できるかもしれませんが、根底にある構造的な問題を解決することはできません。つまり、攻撃を招きやすい環境では、常に災害の可能性があり、リスクが常に存在します。あるいは、誰かが自分自身を保護者として位置づけ、永久に支配するでしょう。 AIの場合、人類全体がAIに対して無力になるリスクにも適切に対処できていない。
差別化された防衛が加速するも「地方分権と民主主義」を無視
セキュリティ目標を達成するために集中管理を受け入れることは、常に一部の人々にとって一定の魅力を持ち、読者は間違いなくこれらの例の多くとそれがもたらす欠点をよく知っているでしょう。最近、将来の極端なテクノロジーに対処するには、極端な集中管理が唯一の方法であるかもしれないという懸念を表明する人もいます。たとえば、「誰もが『フリータグ』を着用している」という仮説的なシナリオを考えてみましょう。これは、今日のより限定的なものを指します。ウェアラブル監視デバイス。いくつかの国で刑務所の代替品として使用されている足首タグと同様のフォローアップ製品です...暗号化されたビデオと音声が継続的にアップロードされ、リアルタイムで機械によって解釈されます。」しかし、集中管理にはある程度の問題があります。比較的無害な集中管理の形式は、しばしば見落とされますが、それでも有害であり、バイオテクノロジー分野（食品、ワクチンなど）における世間の監視に対する抵抗と、そのような抵抗を無視することを可能にするクローズドソースの規範として現れます。
このアプローチのリスクは明らかです。つまり、センター自体がリスクの原因となることがよくあります。私たちはこれを新型コロナウイルス感染症のパンデミック中に見てきました。世界の複数の主要政府から資金提供を受けた機能獲得研究がパンデミックの根源である可能性があり、集中的な認識論により世界保健機関は長年にわたって新型コロナウイルス感染症のパンデミックを認めることを拒否していました。 -19は空気感染しており、社会的距離の義務化とワクチン接種の義務化は、数十年に及ぶ可能性のある政治的反発を引き起こしている。人工知能やその他の危険なテクノロジーに関連するリスク シナリオでは、同様の状況が再び発生する可能性が非常に高くなります。対照的に、分散型アプローチは、センター自体からのリスクにより効果的に対処します。
防御を分散化するが、加速は排除する
本質的に、これは技術の進歩を遅らせたり、経済の衰退を引き起こしたりする試みです。
この戦略には 2 つの課題があります。第一に、技術的および経済的成長は一般に人類にとって非常に有益であり、その遅れは計り知れないコストをもたらします。第二に、非全体主義の世界では、停滞は不安定化をもたらします。最も「不正」を行い、進歩を続けるための一見合理的な方法を見つけることができる人が優位に立つことになります。減速主義戦略は、特定の状況ではある程度機能する可能性がある。たとえば、ヨーロッパの食品はアメリカの食品よりも健康的であり、これまでの核不拡散の成功も同様である。ただし、これらの戦略が常に機能するとは限りません。
d/acc を通じて、私たちは次の目標の達成に努めます。
- ますます部族主義が進む世界で私たちの原則に忠実であり続けるため、ただ盲目的に何かを構築するのではなく、世界をより安全でより良い場所にする具体的なものを構築することに努めています。
- 指数関数的なテクノロジーの進歩は、世界が非常に奇妙になり、宇宙における人類の全体的な「足跡」が必然的に増加することを意味することを認識してください。脆弱な動物、植物、人々を危害から守る私たちの能力は向上し続ける必要があり、唯一の道は前進することです。
- 善人 (または善良な AI) が責任を負っているという前提に基づくのではなく、実際に私たちを保護するテクノロジーを構築します。私たちは、破壊に使用するよりも構築と保護に使用する方が自然に効果的なツールを構築することでこれを実現します。
d/accについて考える別の方法は、2000年代後半の欧州海賊党の運動に影響を与えた枠組み、つまりエンパワーメントに立ち返ることです。
私たちの目標は、人間の主体性を維持し、消極的な自由を達成する世界を構築することです。つまり、積極的な自由、つまり、私たちの運命を形作る能力に対する他者（民間人、政府、超知能ロボット）の積極的な干渉を回避することです。この機能を実践するための知識とリソースがあることを確認してください。これは、スチュアート・ブランドの「道具の獲得」への焦点や、ジョン・スチュアート・ミルの人類進歩の重要な要素としての教育と自由の並置の強調を含む、何世紀にもわたる古典的自由主義の伝統を反映している。 - 解決プロセスは参加型であり、広く分散されている必要があります。 21 世紀のテクノロジー情勢を考慮すると、d/acc はこれらと同じ目標を達成する方法と考えることができます。
3 番目の次元: 生存と繁栄の調整された発展
昨年の私の記事では、d/acc は特に物理防御、生物防御、サイバー防御、情報防御といった防御技術に焦点を当てました。しかし、分散型防衛だけでは素晴らしい世界を構築するのに十分ではありません。新たな分散型と安全保障によって人類が何を達成できるかについて、前向きで前向きなビジョンも必要です。
昨年の記事には、次の 2 つの点で前向きなビジョンが含まれていました。
1. 超知性の課題に焦点を当てて、私は権力を失うことなく超知性を達成する方法について (私が独自に開発したものではありませんが) 道を提案しました。
- 現在、人工知能は高度に自律的なエージェントではなく、ツールとして構築されています。
- 将来的には、仮想現実、筋電技術、ブレインコンピューターインターフェイスなどのツールが、人工知能と人間の間のより緊密なフィードバックメカニズムを確立するために使用されるでしょう。
- 時間が経つにつれて、最終的な結果、つまり超知能は機械と人間の緊密な統合の産物であるという方向に徐々に進みます。
2. 情報防御について話すときに、攻撃者に直面してコミュニティの結束を維持し、質の高い議論を行うことを目的とした防御的なソーシャル テクノロジーに加えて、コミュニティを支援できる進歩的なソーシャル テクノロジーもあることにも触れました。質の高い判断をより簡単に行うことができます。Pol.is はその一例であり、予測市場にも同じことが当てはまります。
しかし当時、これらの 2 つの点は d/acc の核心的な議論から切り離されているように感じられました。そこには超知性者の無関係な思考が存在する。」
しかし、実際には、上で「防御的」とラベル付けされた d/acc テクノロジーと「進歩的」テクノロジーの間には、いくつかの重要なつながりがあると私は信じています。昨年の記事の d/acc チャートを拡張して、この軸をチャートに追加して (そして「survive and thrive」というラベルを付け直して)、結果がどのようになるかを見てみましょう。
さまざまな分野には一貫したパターンがあります。つまり、特定の分野で「生き残る」のに役立つ科学、アイデア、ツールは、「繁栄」するのに役立つ科学、アイデア、ツールと密接に関連しています。具体的な例をいくつか示します。
- 最近の新型コロナウイルス感染症対策研究の多くは、体内のウイルスの残留に焦点を当てており、これが新型コロナウイルス感染症の問題における重要なメカニズムと考えられています。最近では、ウイルスの残留がアルツハイマー病の原因因子である可能性があるという示唆もあります。これが真実であれば、すべての組織タイプにおけるウイルスの残留に対処することが、老化の課題を克服する鍵となる可能性があります。
- オープンウォーターが開発しているような低コストで小型のイメージングツールは、微小血栓症、ウイルス残留症、がんの治療に大きな可能性を秘めており、ブレインコンピューターインターフェースの分野にも応用できる可能性がある。
- 非常に敵対的な環境に適したソーシャル ツール (コミュニティ ノートなど) と適度に協力的な環境に適したソーシャル ツール (Pol.is など) の構築を推進する概念は非常に似ています。
- 予測市場は、協力が激しい環境でも対立が激しい環境でも価値があります。
- ゼロ知識証明および同様のテクノロジーは、プライバシーを保護しながらデータの計算を実行します。これにより、科学研究などの有用な作業に利用できるデータの量が増加するだけでなく、プライバシー保護も強化されます。
- 太陽エネルギーとバッテリーは、クリーン経済成長の次の波を推進する上で重要であると同時に、分散化と物理的回復力にも優れています。
これに加えて、異なる主題領域間には重要な相互依存関係があります。
- ブレイン コンピューター インターフェイスは、私たちの考えや意図のより高度なコミュニケーションを可能にするため、情報防御およびコラボレーション技術として重要です。ブレイン-コンピューター インターフェイスは、ロボットと意識の間の単なる接続を超えたものであり、意識-ロボット-意識の相互作用にもなり得ます。これは、多元主義の概念における脳とコンピューターのインターフェイスの価値を反映しています。
- 多くのバイオテクノロジーは情報共有に依存しており、多くの場合、人々は情報が特定の用途にのみ使用されると確信している場合にのみ情報を共有しようとします。これは、プライバシー技術 (ゼロ知識証明、完全準同型暗号化、難読化技術など) に依存しています。
- コラボレーション テクノロジーは、他のテクノロジー分野への資金提供を調整するために使用できます。
難しい質問: AI の安全性、厳しいスケジュール、規制上のジレンマ
人によって AI のタイムラインは大きく異なります。 2023 年のモンテネグロ、ズザルのチャート。
昨年の私の記事に対して最も説得力のある反対意見は、AI 安全コミュニティからのものでした。 「もちろん、強力な AI の開発に半世紀あれば、これらすべての有用なものの構築に集中できますが、実際には、一般的な AI の開発には 3 年しか残らないように見えます。あと 3 年かかります。」したがって、世界が破壊に陥ったり、取り返しのつかない事態に陥ったりしたくないのであれば、有益な技術の開発を加速するだけではなく、有害な技術の開発も遅らせなければなりません。それは権力者を怒らせる可能性のある強力な規制措置を可決することを意味する。」昨年の私の記事では、危険な形態の超知性を構築しないようにという漠然とした訴え以外に、「有害なテクノロジーの開発を遅らせる」ための具体的な戦略は提案しませんでした。したがって、ここで、次の質問に直接取り組む価値があります。もし私たちが、AI のリスクが非常に高く、タイムラインがおそらく 5 年程度と短い、最も理想的ではない世界にいたとしたら、私はどのような規制措置を支持しますか?
新たな規制に慎重になる理由
昨年の主要な AI 規制提案はカリフォルニア州の SB-1047 法案でした。 SB-1047 では、最も強力なモデル (トレーニングに 1 億ドル以上、または微調整に 1,000 万ドル以上かかるモデル) の開発者は、リリース前に一連のセキュリティ テスト措置を講じることが求められます。さらに、AI モデルの開発者が十分な注意を怠った場合、責任を問われることになります。多くの批評家は、この法案は「オープンソースに対する脅威をもたらす」と主張していますが、私はこれに異議を唱えています。なぜなら、コストのしきい値は最も強力なモデルにのみ影響することを意味するからです。Llama3 モデルでさえ、おそらくそのしきい値を下回っているでしょう。しかし、振り返ってみると、この法案にはもっと深刻な問題があったと思います。ほとんどの規制と同様、現状に過度に適応しすぎていたのです。トレーニング コストに重点を置くことは、新しいテクノロジーの前では脆弱であることが判明しています。最近の最先端の DeepSeek v3 モデルのトレーニング費用はわずか 600 万ドルで、o1 のような新しいモデルでは、コストはトレーニングから推理段階。
人工知能超知能破壊シナリオに関与する可能性が最も高い俳優
実際、AI 超知能による破壊シナリオに最も関与している可能性が高いのは軍です。過去半世紀にわたってバイオセキュリティ（およびそれ以前）にわたって私たちが目撃してきたように、軍隊は恐ろしい行動を取ることもいとわず、非常に誤りやすいものです。今日、軍事分野における人工知能の応用は急速に発展しています（ウクライナやガザでの応用など）。そして、政府が可決した安全保障規制はデフォルトで自国の軍と軍と密接に連携する企業を免除することになる。
対処戦略
それにもかかわらず、これらの議論は無力である理由にはなりません。代わりに、それらをガイドとして使用し、これらの懸念を最小限に抑えるルールを作成することを試みることができます。
戦略 1: 責任
誰かの行動が何らかの形で法的に訴えられる損害を引き起こした場合、その人は訴訟される可能性があります。これは軍やその他の「法を超越した」主体によってもたらされるリスクの問題を解決するものではありませんが、過剰適合を回避する非常に一般的なアプローチであり、そのためリバタリアニズムに傾いており、経済学者は一般的にこのアプローチを支持しています。
これまで検討されている主な説明責任の目標は次のとおりです。
- ユーザー: 人工知能を使用する人。
- デプロイヤー: ユーザーに人工知能サービスを提供する仲介者。
- 開発者：人工知能を構築する人。
ユーザーに責任を負わせることが、インセンティブと最もよく調和しているように思えます。モデルの開発方法と最終的な使用方法との関係は不明瞭なことが多いですが、AI がどのように使用されるかを正確に決定するのはユーザーです。ユーザーに責任を負わせることは、私が正しいと考える方法で AI を使用するという強力な圧力を生み出します。それは、新しい自立した知的生命体を作成することではなく、人間の精神に合わせた機械スーツの構築に焦点を当てることです。前者はユーザーの意図に定期的に応答するため、ユーザーが望まない限り壊滅的なアクションを引き起こすことはありません。後者は最大のリスクを伴います。つまり、制御を失い、古典的な「人工知能が制御不能になる」シナリオを引き起こす可能性があります。責任を可能な限り最終使用目的に近づけることのもう 1 つの利点は、責任が人々を有害な行動 (例: クローズドソース、顧客確認 (KYC) および監視、国家/企業の共謀、秘密裏の制限など) に導くリスクを最小限に抑えることです。世界の大部分を除き、特定の顧客へのサービスを拒否する銀行などのユーザー）。
責任をユーザーだけに帰すことには古典的な反対意見があります。ユーザーはお金をあまり持たない普通の個人、さらには匿名である可能性があるため、壊滅的な損害を実際に支払うことができる人は誰もいません。この見方は誇張されている可能性があります。たとえ一部のユーザーが責任を負うには小さすぎるとしても、AI 開発者の平均的な顧客はそうではありません。そのため、AI 開発者は、責任の高いリスクのある製品に直面しないことをユーザーに安心させるシステムを構築する動機を依然として受けるでしょう。とはいえ、これは依然として有効な点であり、対処する必要があります。そうするために適切なケアを行うためのリソースを持っているパイプライン内の誰かにインセンティブを与える必要があります。デプロイ担当者と開発者の両方が依然としてモデルのセキュリティに大きな影響を与える格好のターゲットです。
配備者の責任は妥当なものと思われます。一般的な懸念は、オープンソース モデルでは動作しないということですが、特に最も堅牢なモデルはクローズド ソースである可能性が高いため、これは管理可能であると思われます (オープン ソースであることが判明した場合、最終的には開発者の責任が生じる可能性がありますが、それほど大きな問題ではありません)便利ですが、それほど有害ではありません）。開発者の責任についても同様の懸念が存在します (ただし、オープンソース モデルの場合、モデルを微調整して他の方法では許可されていないことを実行するには一定の障壁があります) が、同じ反論が当てはまります。一般原則として、コントロールに「税金」を課し、本質的には「コントロールできないものを構築することも、コントロールできるものを構築することもできるが、コントロールできるものを構築する場合、コントロールは 20% を課す必要がある」と述べています。私たちの目的のために使用されることはありません。」これは法制度にとって合理的な立場であるように思われます。
十分に検討されていないと思われるアイデアの 1 つは、適切なリソースを持っている可能性が高いパイプライン内の他の関係者に責任を帰すことです。 d/acc の理念によく適合するアイデアの 1 つは、壊滅的に有害な行為を実行する過程で AI が (ハッキングなどにより) 乗っ取ったデバイスの所有者またはオペレーターに責任を負わせることです。これは、世界のインフラ、特にコンピューティングと生物学のインフラを可能な限り安全なものにするために取り組む非常に広範なインセンティブを生み出すでしょう。
戦略 2: 産業規模のハードウェア上のグローバルな「ソフト一時停止」ボタン
責任規定よりも「強力な」ものが必要であると確信した場合、私はこの戦略を選択するでしょう。目標は、1 ～ 2 年続く重要な時期に世界的に利用可能なコンピューティング能力を約 90% ～ 99% 削減し、人間の準備時間を稼ぐことです。 1 ～ 2 年の価値を過大評価すべきではありません。現状に満足していれば、1 年間の「戦時モード」は通常の作業 100 年に匹敵します。 「一時停止」を実装する方法は、ハードウェアに位置の登録と確認を要求するなどの具体的な提案を含め、すでに検討されています。
より高度なアプローチは、賢い暗号化手段を使用することです。たとえば、製造された産業規模 (ただし消費者向けレベルではない) AI ハードウェアには、主要な国際機関からのデータのみを毎週受信する信頼できるハードウェア チップが搭載されます。少なくとも、非軍事関連会社の 3 分の 3 が署名した場合にのみ、活動を継続することが許可されます。これらの署名はデバイスに依存しないため (必要に応じて、ゼロ知識証明をブロックチェーン上で公開するよう要求することもできます)、それはオール・オア・ナッシングになります。他のすべてのデバイスを許可せずに、1 つのデバイスが機能し続けることを許可する実用的な方法はありません。装置。
これは、利点を最大化し、リスクを最小限に抑えるという点で「要件に適合」しているように見えます。
- これは便利な能力です。超知能に近い AI が壊滅的な損害を引き起こす可能性のある行動を開始する兆候を受け取った場合、私たちは移行をもっとゆっくりと進めたいと思うでしょう。
- そのような重大な瞬間が到来するまでは、ソフト一時停止機能があるだけでも、開発者にとってはほとんど害はありません。
- 産業規模のハードウェアに焦点を当て、目標を 90% ～ 99% のみに設定すれば、消費者向けのラップトップにスパイ チップや強制終了スイッチを埋め込んだり、小国にハードウェアに対する行動を強制したりするディストピア的なアプローチの一部を回避できるでしょう。厳重な措置をとります。
- ハードウェアに焦点を当てることは、技術変化への適応力が高いと思われます。私たちは AI の世代にわたって、特に新しいパラダイムの初期バージョンでは、品質が利用可能なコンピューティング能力に大きく依存していることを見てきました。したがって、利用可能なコンピューティング能力を 10 ～ 100 分の 1 に削減するだけで、超インテリジェント AI の暴走と、それを阻止しようとする人間との急速な戦闘との間に、容易に違いが生じる可能性があります。
- 署名を取得するために毎週オンラインにアクセスする必要があるという固有の煩わしさは、このスキームを消費者グレードのハードウェアに拡張するという考えを強く妨げるでしょう。
- ランダムなチェックによって検証できますが、ハードウェア レベルで検証すると、特定のユーザーを免除することが困難になります (技術的手段ではなく、法的に強制されたシャットダウンに基づくアプローチには、この「全か無か」の性質がないため、簡単に検証できます)。すり抜けます）、軍隊などの場合は免除されます。
ハードウェア規制は、通常は輸出規制の枠組み内ではあるものの、すでに強く検討されており、輸出規制には基本的に「我々は一方を信頼するが、他方は信用しない」という哲学がある。レオポルド・アッシェンブレナーは、米国は決定的な優位性を獲得するために競争すべきであり、その後、中国が運用できる装備の量を制限する協定に署名するよう強制すべきであると主張したことは有名である。私にとってこのアプローチは危険に思え、多極化した競争と中央集権化の落とし穴を組み合わせる可能性があります。人々を制限する必要がある場合は、一方の当事者が全員を支配しようとするのではなく、全員を平等に制限し、実際に協力して実施を組織することを試みたほうがよいと思われます。
AI リスクにおける d/acc Technology の役割
どちらの戦略 (責任とハードウェアの一時停止ボタン) にも穴があり、それらが一時的な一時しのぎにすぎないことは明らかです。時間 T にスーパーコンピューターで何かが実行できる場合、時間 T + 5 年の時点でラップトップで実行できる可能性があります。コンピューターでも。したがって、時間を稼ぐためのより安定した措置が必要です。多くの d/acc テクニックがここに関連します。 d/acc テクノロジーの役割は次のように見ることができます。人工知能が世界を征服した場合、どのようにそれを行うでしょうか?
- 私たちのコンピュータに侵入します → サイバー防御
- 超疫病→生物防御を生み出す
- それは私たちを説得します（私たちがそれを信頼するか、お互いを信頼しないかのどちらかです） → 情報防御
上で簡単に述べたように、責任規則は、これらの防御策が世界中で採用され、真剣に受け止められるよう奨励する上で非常に効果的であるため、d/acc の哲学に自然に適合する規制アプローチです。台湾は最近、虚偽広告に対する責任を課す試みを行っているが、これは情報防御を促すために責任を利用する例といえるかもしれない。私たちはどこにでも責任を課すことにあまり熱心ではなく、小規模な人々が訴訟を恐れることなくイノベーションに参加できるようにする通常の自由の利点を忘れないでください。しかし、安全性をより強力に推進したい場合には、責任は非常に柔軟かつ効率的になる可能性があります。 。
d/acc における暗号通貨の役割
d/acc の多くの側面は、典型的なブロックチェーンのトピックをはるかに超えています。バイオセキュリティ、ブレイン コンピューター インターフェイス、共同ディスコース ツールなどは、暗号通貨関係者が通常話している内容とはかけ離れているように見えます。ただし、暗号通貨と d/acc の間には、特に次のような重要な関係があると思います。
- d/acc は、暗号通貨の基本的な価値 (分散化、検閲への抵抗、オープンな世界経済と社会) を他の技術分野に拡張したものです。
- 暗号通貨ユーザーは自然な早期導入者であり、価値観の一致があるため、暗号通貨コミュニティは d/acc テクノロジーの自然な早期導入者です。コミュニティ（オンラインとオフラインの両方、イベントやポップアップイベントなど）に重点が置かれており、これらのコミュニティが単にお互いに話し合うだけでなく、実際に一か八かのことを行っているという事実により、暗号通貨コミュニティはd/accにとって特に興味深いものとなっています。テクノロジー 基本的に個人ではなくグループに作用するテクノロジー (ほとんどの情報防御技術や生物防御技術など) の魅力的なインキュベーターと実験場。暗号通貨の人々はただ一緒に何かをするだけです。
- 多くの暗号通貨テクノロジーは、d/acc のトピック分野で使用できます。たとえば、より堅牢で分散化された金融、ガバナンス、ソーシャル メディア インフラストラクチャを構築するためのブロックチェーン、プライバシーを保護するためのゼロ知識証明などです。現在、最大の予測市場の多くはブロックチェーン上に構築されており、徐々に複雑化、分散化、民主化が進んでいます。
- 双方にとって有利なコラボレーションの機会は、仮想通貨プロジェクトに有用であり、形式的検証、コンピュータ ソフトウェアとハードウェアのセキュリティ、敵対的な堅牢なガバナンス テクノロジといった d/acc の目標を達成するための鍵となる、仮想通貨に隣接するテクノロジにも存在します。これらにより、イーサリアムのブロックチェーン、ウォレット、分散型自律組織 (DAO) がより安全で堅牢になり、また、超インテリジェントな人工知能による脆弱性を含むサイバー攻撃に対する脆弱性を軽減するなど、重要な文明防衛の目標も達成されます。 。
Cursive は、完全準同型暗号化 (FHE) を使用するアプリケーションです。これにより、ユーザーはプライバシーを保護しながら、他のユーザーと共通の関心のある領域を識別できます。チェンマイのエッジシティ (Zuzalu の多くの支店の 1 つ) はこのアプリを使用しています。
d/acc と公共財への資金提供
私が興味を持っている質問の 1 つは、公共財、つまり非常に多くの人々にとって価値があるものの、自然にアクセスできるビジネス モデルを持たないプロジェクトに資金を提供するためのより良いメカニズムを考え出すことです。この分野における私の過去の仕事には、Quadratic Funding への貢献と、その Gitcoin Grants、Retroactive Public Goods Funding (レトロ PGF)、そして最近では Deep Funding への貢献が含まれます。
多くの人は公共財の概念に懐疑的です。この疑惑は通常、次の 2 つの側面から生じます。
- 公共財は歴史的に、社会や経済に対する政府の中央による高圧的な計画や介入を正当化するために利用されてきました。
- 一般的な認識は、公共財への資金提供は厳格さを欠いており、社会的望ましさのバイアス、つまり実際に良いものではなく、良さそうに見えるものに基づいて運営されており、ソーシャル ゲームに参加できる内部関係者が有利であるというものです。
これらは重要な批判であり、妥当なものです。しかし、私は公共財への強力な分散型資金調達が d/acc のビジョンにとって極めて重要であると信じています。なぜなら、d/acc の重要な目標（中央管理点の最小化）自体が多くの伝統的なビジネスモデルを妨げているからです。オープンソースで成功するビジネスを構築することは可能ですが、Balvi の助成金を受けている数名がまさにそれを行っていますが、場合によっては、重要なプロジェクトに追加の継続的サポートが必要になるほど難しい場合もあります。したがって、私たちは難しいことをしなければなりません。それは、上記の 2 つの批判に対処する方法で公共財に資金を提供する方法を見つけることです。
最初の問題の解決策は、基本的に信頼できる中立性と分散化です。中央計画には問題がある。なぜなら、それは虐待的になる可能性のあるエリートに制御を委ねるからであり、また、しばしば現在の状況に過度に適応し、時間の経過とともにますます非効率になるからである。二次資金調達および同様のメカニズムは、まさに、可能な限り最も信頼性が高く中立的で (建築的および政治的に) 分散化された方法で公共財に資金を提供することを目的としています。
2 番目の質問はさらに難しいです。二次資金調達に対するよくある批判は、それがすぐに人気コンテストになり、プロジェクト資金提供者が宣伝に多大な労力を費やす必要があるというものです。さらに、「人々の目の前にある」プロジェクト (エンドユーザー アプリケーションなど) には資金が提供されますが、舞台裏にあるプロジェクト (典型的な「ネブラスカ州の男が維持する依存関係」) には資金が提供されません。すべて あらゆる資金。楽観的な遡及的資金提供は、少数の専門家バッジ所有者に依存しています。ここでは、人気コンテストの効果は減少しますが、バッジ所有者との親密な個人的関係による社会的影響は増幅されます。
Deep Funding は、この問題に対処するための私自身の最新の取り組みです。ディープファンディングには主に 2 つの革新があります。
- 依存関係グラフ。各陪審員にグローバルな質問 (「人類にとってプロジェクト A の価値は何ですか?」) を尋ねる代わりに、ローカルな質問 (「結果 C にとってプロジェクト A とプロジェクト B のどちらがより価値がありますか? どのくらいですか?」) を尋ねます。人間は、世界的な質問に答えるのが苦手であることで知られています。ある有名な研究では、N 羽の鳥を救うためにいくらかかるかと尋ねられたとき、回答者は N = 2,000、N = 20,000、N = 200,000 の答えはおよそ 80 ドルと答えました。ローカルな問題は対処しやすくなります。次に、「依存関係グラフ」を維持することによって、ローカルな答えをグローバルな答えに結合します。プロジェクトごとに、他のどのプロジェクトがその成功にどれだけ貢献しているか?
- 人間の判断を洗練させた人工知能。陪審員にはそれぞれ、すべての質問のうち、ランダムな少数のサンプルのみが割り当てられます。グラフ内のすべてのエッジを効率的に埋めることを試みる人工知能モデルを誰でも提出できるオープン コンペティションがあります。最終的な答えは、陪審の答えと最も適合するモデルの加重合計です。コード例については、ここを参照してください。このアプローチにより、陪審が少数の「情報」を提出するだけで済む一方で、メカニズムを非常に大規模に拡張することが可能になります。これにより、破損の可能性が減り、あらゆる情報が高品質であることが保証されます。陪審員は、何百もの質問をすばやくクリックするのではなく、各質問について長い時間をかけて考えることができます。 AI のオープン コンペティションを使用することで、単一の AI トレーニングおよびキュレーション プロセスによる偏見を軽減します。人工知能の公開市場がエンジンとして機能し、人間がハンドルとして機能します。
しかし、ディープファンディングは最新の例にすぎず、公共財への資金提供メカニズムについてはこれまでにもアイデアがあり、将来的にはさらに多くなるでしょう。 allo.expert はそれらをカタログ化するのに優れています。根本的な目標は、少なくとも民間財の市場資金調達に近いレベルの精度、公平性、オープンアクセスで公共財に資金を提供できるソーシャル ツールを作成することです。結局のところ、市場自体が完璧である必要はありません。しかし、すべての人に利益をもたらす高品質のオープンソース プロジェクトに取り組んでいる開発者が、受け入れがたい妥協をする必要性を感じることなくプロジェクトを継続できる程度には十分な効果があるはずです。
現在、ワクチン、ブレインコンピューターインターフェース、手首の筋電図や視線追跡などの「エッジブレインコンピューターインターフェース」、抗老化薬、ハードウェアなど、d/acc のテーマ分野における主要プロジェクトのほとんどは独自のプロジェクトです。上で述べた多くの分野で見てきたように、これには国民の信頼を確保するという点で重大な欠点があります。また、競争力学 (「私たちのチームはこの重要な業界で勝たなければなりません!」) に注意を向け、超インテリジェント AI の世界で私たちを守るためにこれらのテクノロジーが十分早く出現することを保証するために、より大きな競争から遠ざけます。こうした理由から、強力な公共財への資金提供は、開放性と自由を強力に推進する原動力となる可能性があります。これは、暗号通貨コミュニティが d/acc を支援できるもう 1 つの方法です。これらの資金調達メカニズムを調査し、独自の状況で適切に機能させることに真剣に取り組み、オープンソースの科学技術でより広範に応用できるように準備することです。
未来
今後数十年は重要な課題をもたらします。私は最近、次の 2 つの課題について考えています。
- 強力な新テクノロジー、特に強力な人工知能の波が急速に到来していますが、それらには避けるべき重要な落とし穴が伴います。 「人工超知能」が実現するには5年かかるかもしれないし、50年かかるかもしれない。いずれの場合も、デフォルトの結果が自動的に肯定的になるかどうかは明らかではありません。また、この投稿と前回の投稿で説明したように、回避すべき落とし穴が複数あります。
- 世界はますます非協力的になってきています。以前は、少なくとも時には高い原則（国際主義、自由、共通の人間性...など）に基づいて行動しているように見えた多くの強力な俳優が、今では個人または部族の自己利益をより公然とそして積極的に追求しています。
ただし、これらの課題にはそれぞれ明るい兆しがあります。まず、残りの作業をより高速に行うための非常に強力なツールが手に入りました。
- 現在および近い将来の AI は、他のテクノロジーの構築に使用でき、ガバナンス (ディープ ファンディングや情報金融など) の要素として使用できます。これはブレイン・コンピューター・インターフェースにも非常に関連しており、それ自体がさらなる生産性の向上をもたらす可能性があります。
- 以前よりもはるかに大規模な集団調整が可能になりました。インターネットとソーシャルメディアは調整の範囲を拡大し、グローバル金融（仮想通貨を含む）はその力を増し、現在では情報防御ツールとコラボレーションツールがその質を高めることができ、おそらく近い将来、人間-コンピューター-人間の形で脳とコンピューターのインターフェースが登場するでしょう。深みを増すことができます。
- 形式検証、サンドボックス技術 (Web ブラウザ、Docker、Qubes、GrapheneOS など)、セキュア ハードウェア モジュール、およびその他の技術が向上しており、より優れたネットワーク セキュリティが可能になっています。
- あらゆる種類のソフトウェアを作成するのは 2 年前に比べてはるかに簡単です。
- ウイルスの仕組みを理解するための最近の基礎研究、特に最も重要な感染形態は空気感染であるという単純な理解により、生体防御を向上させる方法がより明確に示されています。
- 最近のバイオテクノロジーの進歩 (CRISPR、バイオイメージングの進歩など) により、防御、長寿、超幸福、複数の新しい生物学的仮説の探求、または単に本当に素晴らしいことを行うためであっても、あらゆる種類のバイオテクノロジーの利用が容易になりました。
- コンピューティングとバイオテクノロジーの進歩により、健康状態に適応、監視、改善するために使用できる合成生物学的ツールが可能になりました。暗号化などのサイバー防御テクノロジーにより、この次元のパーソナライゼーションがより実現可能になります。
第二に、私たちが大切にしている原則の多くは、もはや選ばれた少数の旧勢力によって保持されていないため、世界中の誰でも参加を歓迎する広範な連合によってそれらを取り戻すことができます。これは、最近世界中で起きている政治「再編」の最大のメリットかもしれないし、活用する価値はある。暗号通貨はこれを活用するという素晴らしい仕事をしており、d/acc も同様のことができるでしょう。
ツールを獲得するということは、私たちが生物学や環境に適応して改善できることを意味し、d/acc の「防御」の部分は、同じことをする他人の自由を侵害することなくこれを行うことができることを意味します。リベラル多元主義の原則は、私たちがこれを行う方法には大きな多様性があり得ることを意味し、人類共通の目標に対する私たちの取り組みは、それが達成されるべきであることを意味します。
私たち人間は依然として最も輝く星です。星に到達する人類の生存、自由、主体性を守る明るい 21 世紀を構築するという私たちの目の前にある課題は、困難な課題です。しかし、私たちはそれができると信じています。
