生成的データ インテリジェンス

暗号通貨 + AI アプリケーションの期待と課題

日付:

著者: Vitalik Buterin ヴィタリック・ブテリンのブログ

フィードバックとディスカッションを提供してくれた Worldcoin チームと Modulus Labs チーム、Xinyuan Sun、Martin Koeppelmann、Illia Polosukhin に特別に感謝します。

長年にわたって多くの人が私に同様の質問をしてきました。 交差点 暗号通貨と AI の間で最も有益だと思うのはどれでしょうか?それはもっともな質問です。暗号通貨と AI は過去 10 年間の 2 つの主要なディープ (ソフトウェア) テクノロジーのトレンドであり、それはまさに現実であるように感じられます。 しなければなりません 両者の間に何らかのつながりがあること。表面的な雰囲気レベルで相乗効果を生み出すのは簡単です。暗号通貨の分散化は、 AI集中化のバランスを取る、AIは不透明であり、暗号は透明性をもたらします、AIはデータを必要とし、ブロックチェーンはデータの保存と追跡に適しています。しかし、長年にわたって、人々が私に、さらに深く掘り下げて特定のアプリケーションについて話すように頼んだとき、私の答えは残念なものでした。「確かに、いくつかのことはありますが、それほど多くはありません」。

過去 3 年間で、現代的な形でより強力な AI が台頭しました。 LLM、そしてブロックチェーンスケーリングソリューションだけでなく、 ZKP, FHE、(二党およびN党) MPC, この変化が見え始めています。確かに、ブロックチェーンエコシステム内には AI の有望なアプリケーションがいくつかあります。 AI と暗号化ただし、AI がどのように適用されるかに注意することが重要です。特に課題となるのは、暗号化ではオープンソースが真に安全なものを作る唯一の方法であるのに対し、AI ではモデル (またはそのトレーニング データ) がオープンであることです。 大幅に増加 に対する脆弱性 敵対的な機械学習 攻撃します。この投稿では、暗号通貨と AI が交差する可能性のあるさまざまな方法を分類し、各カテゴリーの展望と課題について説明します。

暗号通貨と AI の共通部分の概要 uETHのブログ投稿。しかし、具体的なアプリケーションでこれらの相乗効果を実際に実現するには何が必要でしょうか?

 

4大カテゴリー

AI は非常に幅広い概念です。「AI」は、明示的に指定するのではなく、大きな計算スープをかき混ぜ、そのスープを次の方向に押し進めるある種の最適化圧力を加えることで作成する一連のアルゴリズムであると考えることができます。必要なプロパティを持つアルゴリズムを生成します。この説明を決して否定的に受け取ってはなりません。 含ま   プロセス それ 作成した そもそも私たち人間なのです!しかし、それは、AI アルゴリズムがいくつかの共通の特性を持っていることを意味します。それは、AI アルゴリズムが非常に強力なことを行う能力であると同時に、内部で何が起こっているのかを知り理解する能力には限界があるということです。

AI を分類する方法はたくさんあります。この投稿では、AI とブロックチェーン (ブロックチェーンは、 「ゲーム」を作るということ)を以下のように分類してみます。

  • ゲームのプレイヤーとしての AI [最も高い実行可能性]: AI は、インセンティブの最終的なソースが人間の入力を伴うプロトコルから得られるメカニズムに参加します。
  • ゲームへのインターフェースとしての AI [高い可能性を秘めていますが、リスクも伴います]: AI は、ユーザーが周囲の暗号世界を理解し、ユーザーの行動 (つまり、署名されたメッセージやトランザクション) がユーザーの意図と一致し、だまされたり詐欺に遭わないようにするのに役立ちます。
  • ゲームのルールとしての AI [非常に慎重に扱ってください]: ブロックチェーン、DAO、および AI を直接呼び出す同様のメカニズム。たとえば。 「AI審査員」
  • ゲームの目的としての AI [長期的だが興味深い]: 他の目的に使用できる AI を構築および維持することを目的として、ブロックチェーン、DAO、および同様のメカニズムを設計します。暗号ビットを使用して、トレーニングの動機付けを高めたり、AI のプライベート データの漏洩や悪用を防止したりすることができます。

これらを一つずつ見ていきましょう。

ゲームのプレイヤーとしての AI

これは実際には、少なくとも 10 年近く前から存在するカテゴリです。 オンチェーン分散型取引所 (DEX) 重要な使用が見られ始めました。取引所があるときはいつでも、裁定取引を通じてお金を稼ぐ機会があり、ボットは人間よりもはるかに上手に裁定取引を行うことができます。このユースケースは、今日のものよりもはるかに単純な AI であっても、長い間存在していましたが、最終的には、非常に現実的な AI と暗号の交差点になります。最近では、MEV アービトラージ ボットが登場しています。 お互いを搾取し合うことが多い。オークションや取引を伴うブロックチェーン アプリケーションを使用する場合は常に、裁定取引ボットが存在することになります。

しかし、AI アービトラージ ボットは、より大きなカテゴリの最初の例にすぎず、すぐに他の多くのアプリケーションが含まれ始めると私は予想しています。 AIOmen を紹介します。 AI がプレイヤーとなる予測市場のデモ:

予測市場は長い間、認識論テクノロジーの聖杯でした。予測市場をガバナンス (「フターキー」) のインプットとして使用することに興奮していました バック2014で, 彼らと大いに遊んだ 前回の選挙でも 最近になって。しかし、これまでのところ予測市場は始まっていない 過度に 実際には、一般的に言われている一連の理由があります。最大の参加者はしばしば非合理的であり、正しい知識を持っている人は、よほどのことがない限り、時間をかけて賭けようとはしません。 たくさん 多額の資金が関与している、市場が薄いことが多いなど。

これに対する 1 つの応答は、継続的な UX の改善を指摘することです。 ポリマーケット または他の新しい予測市場であり、以前の繰り返しが失敗した場合に成功することを期待しています。結局のところ、人々は喜んで賭けるという話です スポーツに数百億ドルでは、なぜ人々は米国の選挙に賭けたり、 LK99 本格的なプレイヤーが参加し始めるのは理にかなっていますか?しかし、この議論は、以前の繰り返しでは、 持ってる (少なくとも彼らの支持者たちの夢と比較して)このレベルの規模に達することができなかったので、次のことが必要のようです。 新しい何か 予測市場を成功させるために。したがって、別の反応は、2020 年代には見られなかった、2010 年代には見られると予想される予測市場エコシステムの XNUMX つの特定の特徴を指摘することです。 AIがユビキタスに参加する可能性.

AI は 1 時間あたり 50 ドル未満で喜んで働き、百科事典ほどの知識を備えています。さらに、それだけでは不十分な場合は、リアルタイムの Web 検索機能と統合することもできます。市場を作り、XNUMX ドルの流動性補助金を設定した場合、人間は入札するほど気にしませんが、何千もの AI が簡単に質問に群がり、可能な限り最善の推測を下すでしょう。 XNUMX つの質問に対して良い結果を出すインセンティブは小さいかもしれませんが、優れた予測を行う AI を作成するインセンティブは大きくなります。 一般に 数百万単位になるかもしれません。潜在的に、 ほとんどの質問について人間が判断する必要さえありません: 次のような複数ラウンドの紛争システムを使用できます。 占師 またはクレロスでは、AI も初期のラウンドに参加します。人間が対応する必要があるのは、一連のエスカレーションが発生し、双方が多額の資金を投入した少数のケースのみです。

これは強力なプリミティブです。なぜなら、「予測市場」をこのような微視的なスケールで機能させることができれば、他の多くの種類の質問に対して「予測市場」プリミティブを再利用できるからです。

  • このソーシャル メディアの投稿は [利用規約] の下で許容されますか?
  • 株式 X の価格はどうなるでしょうか (例: Numerai)
  • 現在私にメッセージを送っているこのアカウントは本当にイーロン・マスクなのでしょうか?
  • この作品はオンライン タスク マーケットプレイスに提出できますか?
  • https://examplefinance.network の dapp は詐欺ですか?
  • Is 0x1b54....98c3 実際には「Casinu Inu」ERC20 トークンのアドレスですか?

これらのアイデアの多くは、私が「情報防御" で 。広義に定義すると、問題は、集中管理機関に善悪の判断権限を与えずに、ユーザーが真偽の情報を区別し、その立場を悪用する可能性のある詐欺を検出できるようにするにはどうすればよいかということです。ミクロレベルで言えば、その答えは「AI」かもしれません。しかし、マクロレベルで見ると、問題は誰が AI を構築するのかということです。 AI はそれを作成したプロセスを反映しているため、バイアスを避けることはできません。 したがって、AI がプレイヤーとしてゲームに参加できる、さまざまな AI がどれだけうまくやっているかを判断する、より高いレベルのゲームが必要です。.

この AI の使用法では、AI は、人間からの入力を収集するオンチェーン メカニズム (分散型市場ベースと呼ばれます) によって、最終的に報酬またはペナルティを (確率的に) 受け取るメカニズムに参加します。 RLHF?) については、本当に検討する価値があると思います。ブロックチェーンのスケーリングがついに成功し、これまでは実現できなかった「マイクロ」なものがついにオンチェーン上で実行可能になったため、今こそこのようなユースケースをもっと検討するのに最適な時期です。

関連するカテゴリのアプリケーションは、高度に自律的なエージェントの方向に進んでいます。 ブロックチェーンを使用して連携を強化する、支払いを通じて、またはスマートコントラクトを使用して信頼できるコミットメントを行うことによって。

ゲームへのインターフェースとしての AI

私が自分の中で思いついた一つのアイデア に関する書き込み ユーザーがナビゲートしているオンライン世界の危険を解釈して特定することでユーザーの利益を保護する、ユーザー向けソフトウェアを作成する市場機会があるという考えです。この既存の例の 1 つは、Metamask の詐欺検出機能です。

別の例は、 ラビーのお財布 シミュレーション機能。署名しようとしているトランザクションの予想される結果をユーザーに示します。

ラビーは、私のすべての「BITCOIN」(実際のBTCではなく、ランダムな詐欺ERC20)をETHと交換するトランザクションに署名した結果について説明してくれました。

潜在的に、この種のツールは AI で強化される可能性があります。 AI は、参加している dapp の種類、署名しているより複雑な操作の結果、特定のトークンが本物かどうか (例: BITCOIN これは単なる文字列ではなく、実際の暗号通貨の名前であり、ERC20 トークンではなく、価格が $0.045 よりもはるかに高く、現代の LLM ならそれを知っているでしょう) などです。この方向に徹底的に取り組み始めているプロジェクトがあります(例: ラングチェーンウォレット、AIを 主要な インターフェース)。私自身の意見は、純粋な AI インターフェイスは、現時点ではおそらくリスクが高すぎる、というものです。 他の エラーの種類しかし、より従来型のインターフェイスを補完する AI は非常に実用的になってきています。

言及する価値のある特定のリスクが 1 つあります。これについては、以下の「ゲームのルールとしての AI」のセクションで詳しく説明しますが、 一般的な問題は敵対的な機械学習です。ユーザーがオープンソース ウォレット内の AI アシスタントにアクセスできる場合、悪者もその AI アシスタントにアクセスできるため、詐欺を引き起こさないように最適化する機会が無限に与えられます。その財布の防御力。すべての現代の AI にはどこかにバグがあり、トレーニング プロセスはそれほど難しくありません。 モデルへのアクセスが制限されている、それらを見つけるために。

これは、「オンチェーンのマイクロマーケットに参加する AI」がより効果的に機能する場合です。個々の AI は同じリスクに対して脆弱ですが、数十人が継続的に反復し、継続的に改善するオープン エコシステムを意図的に作成しているのです。さらに、個々の AI はクローズドです。システムのセキュリティは、ルールのオープン性によってもたらされます。 ゲーム、それぞれの内部動作ではありません プレイヤー.

概要 AI はユーザーが平易な言葉で何が起こっているのかを理解するのに役立ち、リアルタイムの家庭教師として機能し、ユーザーを間違いから守ることができますが、悪意のある誤報や詐欺師に対して AI を直接使用しようとする場合は注意が必要です。

ゲームのルールとしての AI

さて、多くの人が興奮しているアプリケーションにたどり着きますが、これは最もリスクが高く、最も慎重に取り組む必要があると私は考えています。それは、私が AI と呼んでいるものがゲームのルールの一部であるということです。これは、主流の政治エリートの間での「AI 裁判官」に対する興奮と結びついています (例: この記事 「世界政府サミット」のウェブサイトで)、これらの欲求の類似物がブロックチェーンアプリケーションにあります。ブロックチェーンベースのスマートコントラクトまたは DAO が主観的な決定を下す必要がある場合 (例: 特定の作業成果物は雇用契約で受け入れられますか? 楽観主義のような自然言語憲法の正しい解釈はどれですか) 鎖の法則?)、AI を単にコントラクトまたは DAO の一部にして、これらのルールを強制できるようにすることはできますか?

これはどこですか? 敵対的な機械学習 非常に厳しい挑戦となるだろう。 「なぜ」という基本的な 2 文の議論は次のとおりです。

仕組みの中心となるAIモデルがクローズドだと内部の動作を検証できず、中央集権的なアプリケーションと何ら変わらない。 AI モデルがオープンな場合、攻撃者はそれをダウンロードしてローカルでシミュレートし、モデルを騙すために高度に最適化された攻撃を設計し、ライブ ネットワーク上で再現することができます。

敵対的機械学習の例。ソース: リサーチゲートネット

さて、このブログを頻繁に読んでいる人 (または暗号世界の住人) はすでに私よりも先を行っていて、次のように考えているかもしれません。しかし、待ってください。私たちは、派手なゼロ知識証明やその他の非常に優れた暗号形式を持っています。確かに、暗号魔法を実行して、攻撃者が攻撃を最適化できないようにモデルの内部動作を隠すことはできますが、同時に 証拠 モデルが正しく実行されており、基礎となるデータの合理的なセットに基づいて合理的なトレーニング プロセスを使用して構築されたことを示します。

通常、これは 正確に 私がこのブログと他の著作の両方で提唱している考え方です。しかし、AI 関連の計算の場合、2 つの大きな反対意見があります。

  1. 暗号化オーバーヘッド: SNARK (または MPC など) 内で何かを行うのは、「平文で」行うよりもはるかに効率が低くなります。 AI がすでに非常に多くの計算を必要とすることを考えると、暗号ブラック ボックス内で AI を実行することは計算上実行可能でしょうか?
  2. ブラックボックスの敵対的機械学習攻撃: AI モデルに対する攻撃を最適化する方法はあります あまり知識がなくても モデルの内部動作について。そして、あなたが隠すなら 過度にとすると、トレーニング データを選択した人が簡単にモデルを破損してしまう危険性があります。 中毒 攻撃.

これらはどちらも複雑なウサギの穴なので、それぞれについて順番に説明していきます。

暗号化オーバーヘッド

暗号化ガジェット、特に ZK-SNARK や MPC などの汎用ガジェットには、高いオーバーヘッドがあります。クライアントがイーサリアムブロックを直接検証するには数百ミリ秒かかりますが、そのようなブロックの正確性を証明するための ZK-SNARK の生成には数時間かかる場合があります。 MPC などの他の暗号化ガジェットの一般的なオーバーヘッドはさらに悪化する可能性があります。 AI の計算はすでに高価です。最も強力な LLM は、人間が読み取るよりもわずかに速く個々の単語を出力できます。言うまでもなく、AI の計算コストは​​数百万ドルに達することがよくあります。 トレーニング モデルたち。最上位モデルと、より多くのコストを節約しようとするモデルとの品質の違い 研修費用 or パラメータ数 は大きい。一見すると、これは、暗号化で AI をラップすることで AI に保証を加えようとするプロジェクト全体に疑問を抱く十分な理由になります。

幸いにも、 AIというのは、 非常に特殊なタイプ 計算能力が高く、あらゆる種類の最適化が可能になります。 ZK-EVM のような「非構造化」タイプの計算では恩恵を受けることができません。 AI モデルの基本構造を見てみましょう。

通常、AI モデルは主に、要素ごとの非線形演算が散在する一連の行列乗算で構成されます。 ReLU 関数 (y = max(x, 0))。漸近的に、行列の乗算が作業のほとんどを占めます。つまり、2 つの乗算です。 N*N 行列 ±(±2.8)時間かかります一方、非線形演算の数ははるかに少ないです。 これは、暗号化にとって非常に便利です。なぜなら、暗号化の多くの形式では、線形演算 (少なくともモデルを暗号化するがその入力を暗号化しない場合には、行列の乗算がこれに相当します) をほぼ「無料」で実行できるからです。.

あなたが暗号学者であれば、おそらく、次の文脈で同様の現象についてすでに聞いたことがあるでしょう。 同型暗号: 演奏 追加 暗号化された暗号文の解析は非常に簡単ですが、 掛け算 これは信じられないほど難しく、2009 年までは無制限の深さでそれを行う方法はまったく見つかりませんでした。

ZK-SNARK の場合、同等のものは次のとおりです。 2013 年のこのようなプロトコルを示します。 4倍未満 行列の乗算を証明する際のオーバーヘッド。残念ながら、非線形層のオーバーヘッドは依然として重大であり、実際の最良の実装では約 200 倍のオーバーヘッドが示されています。しかし、さらなる研究によってこれを大幅に減らすことができるという期待があります。見る Ryan Cao によるこのプレゼンテーション GKR に基づいた最近のアプローチと私自身のアプローチについて GKR の主要コンポーネントがどのように機能するかの簡単な説明.

しかし、多くのアプリケーションでは、単に次のことを行うだけではありません。 証拠 AI 出力が正しく計算されたことを確認するためにも、 モデルを隠す。これには素朴なアプローチがあります。モデルを分割して、異なるサーバーのセットが各レイヤーを冗長的に保存し、一部のレイヤーをリークしているサーバーの一部が大量のデータをリークしないことを期待することができます。しかし、驚くほど効果的な形式もあります。 特殊なマルチパーティ計算.

これらのアプローチの 8 つを簡略化した図。モデルはプライベートに保ち、入力はパブリックにします。モデルと入力を非公開にしたい場合は、少し複雑になりますが、これも可能です。 の 9 ~ XNUMX ページを参照してください。 .

どちらの場合でも、物語の教訓は同じです。 AI 計算の大部分は行列の乗算であり、これにより次のことが可能になります。 非常に効率的 ZK-SNARK や MPC (さらには FHE) など、暗号ボックス内に AI を組み込む際の総オーバーヘッドは驚くほど低くなります。。一般に、サイズは小さいにもかかわらず、最大のボトルネックとなるのは非線形層です。おそらく次のような新しいテクニック ルックアップ引数 助けることができる。

ブラックボックスの敵対的機械学習

さて、もう 1 つの大きな問題、つまり実行できる攻撃の種類に移りましょう。 たとえ モデルの内容は非公開に保たれ、モデルへの「API アクセス」のみが許可されます。を引用すると、 2016からの紙:

多くの機械学習モデルは、敵対的な例、つまり機械学習モデルが誤った出力を生成するように特別に作成された入力に対して脆弱です。 1 つのモデルに影響を与える敵対的な例は、2 つのモデルが異なるアーキテクチャを持っていたり、異なるトレーニング セットでトレーニングされた場合でも、両方のモデルが同じタスクを実行するようにトレーニングされている限り、別のモデルに影響を与えることがよくあります。。したがって、攻撃者は、被害者に関するほとんど情報を持たずに、独自の代替モデルをトレーニングし、代替モデルに対する敵対的な例を作成し、被害者モデルに転送する可能性があります。

「ターゲット分類子」へのブラックボックス アクセスを使用して、ローカルに保存された独自の「推論分類子」をトレーニングおよび改良します。次に、推測された分類子に対して最適化された攻撃をローカルで生成します。これらの攻撃は、多くの場合、元のターゲット分類子に対しても機能することが判明しています。 図のソース.

潜在的には、次の情報を知って攻撃を作成することもできます。 トレーニングデータだけ攻撃しようとしているモデルへのアクセスが非常に限られているかまったくアクセスできない場合でも。 2023 年現在も、この種の攻撃は引き続き大きな問題となっています。

この種のブラックボックス攻撃を効果的に抑制するには、次の 2 つのことを行う必要があります。

  1. 本当に モデルをクエリできる人または内容を制限する それと、いくらですか。 API アクセスが無制限のブラック ボックスは安全ではありません。 API アクセスが非常に制限されたブラック ボックスである可能性があります。
  2. 信頼性を維持しながらトレーニング データを非表示にする トレーニング データの作成に使用されたプロセスが破損していないことを確認します。

前者に関して最も多くの成果を上げたプロジェクトは、おそらく Worldcoin です。私はその初期のバージョン (他のプロトコルの中でも) を詳細に分析しました。 こちら。 Worldcoin は、AI モデルをプロトコル レベルで広範囲に使用し、(i) 虹彩スキャンを類似性の比較が容易な短い「虹彩コード」に変換し、(ii) スキャンしているものが実際に人間であることを検証します。 Worldcoin が依存している主な防御策は、次の事実です。 AI モデルを単純に呼び出すことはできません。むしろ、信頼できるハードウェアを使用して、モデルが Orb のカメラによってデジタル署名された入力のみを受け入れるようにしています。.

このアプローチが機能するという保証はありません。生体認証 AI に対して、次のような形で敵対的攻撃を行うことができることが判明しています。 顔に付けることができる物理的なパッチやジュエリー:

額に余分なものを付けて、検出を回避したり、他人になりすましたりすることもできます。 ソース.

しかし、希望があるのは、もしあなたが すべての防御を組み合わせてくださいAI モデル自体を隠し、クエリの数を大幅に制限し、各クエリを何らかの方法で認証することを要求することで、システムを安全にできるほど困難な敵対的攻撃を行うことができます。

ここからは 2 番目の部分に進みます。トレーニング データを非表示にするにはどうすればよいでしょうか?ここが 「AIを民主的に統治するDAO」は実際には意味があるかもしれない: 誰がトレーニング データの送信を許可されるか (およびデータ自体にどのような証明が必要か)、誰がクエリを実行できるか、およびその数のプロセスを管理するオンチェーン DAO を作成し、MPC などの暗号化技術を使用できます。各ユーザーのトレーニング入力から各クエリの最終出力に至るまで、AI の作成と実行のパイプライン全体を暗号化します。この DAO は、データの送信に対して人々に報酬を与えるという非常に一般的な目的を同時に満たすことができます。

この計画は非常に野心的なものであり、非現実的であることが判明する可能性は数多くあります。

  • 暗号化のオーバーヘッドが依然として高すぎる可能性がある この種の完全にブラックボックスのアーキテクチャは、従来のクローズドな「私を信頼してください」アプローチと競合することができます。
  • それは判明するかもしれません トレーニング データの送信プロセスを分散化する良い方法はありません および 保護された 毒攻撃に対して。
  • マルチパーティの計算ガジェットが壊れる可能性がある 安全性やプライバシーの保証 参加者が共謀している: 結局のところ、これはクロスチェーン暗号通貨ブリッジで起こったことです 再び および 再び.

私がこのセクションを「AI 裁判官はやめてください、それはディストピアンです」という大きな赤い警告ラベルで始めなかった理由の 1 つは、私たちの社会がすでに説明責任のない集中型 AI 裁判官に大きく依存しているからです。ソーシャルメディア上では、投稿や政治的意見が強化されたり、強化されたり、さらには検閲されたりします。この傾向がさらに拡大すると思います さらに 現段階ではかなり悪い考えですが、その可能性はそれほど高くないと思います。 AI を実験するブロックチェーン コミュニティ 詳細 それが事態を悪化させる一因となるでしょう。

実際、暗号技術を使用してこれらの既存の集中システムをさらに改善できる、非常に基本的な低リスクの方法がいくつかあり、私はこれにかなり自信を持っています。 1 つの簡単なテクニックは次のとおりです。 検証された AI の公開が遅れた: ソーシャル メディア サイトが AI ベースの投稿ランキングを作成する場合、そのランキングを生成したモデルのハッシュを証明する ZK-SNARK を公開する可能性があります。このサイトは、たとえば、 1年の遅れ。モデルが公開されると、ユーザーはハッシュをチェックして正しいモデルがリリースされたことを確認でき、コミュニティはモデルに対してテストを実行してその公平性を検証できます。公開が遅れれば、モデルが公開される頃にはすでに時代遅れになってしまうでしょう。

したがって、比較すると、 集中型の 世界よ、問題はそうではない if もっと良くできるはずだけど、 いくらで。 のために 分散型の世界ただし、次の点に注意することが重要です。 たとえば誰かが構築した場合。 AI オラクルを使用した予測市場やステーブルコイン、そのオラクルが攻撃可能であることが判明した場合、それは一瞬で消えてしまう可能性がある巨額のお金です.

ゲームの目的としての AI

上記の、中身が誰にも分からないブラックボックスでスケーラブルな分散型プライベートAIの構築手法が実際に機能すれば、ブロックチェーンを超えた実用性のあるAIの構築にも応用できる可能性がある。 NEAR プロトコル チームはこれを実現しています。 現在進行中の仕事の中心的な目的.

これを行う理由は XNUMX つあります。

  1. もしあなた できる 作る "信頼できるブラックボックスAI」 ブロックチェーンと MPC の組み合わせを使用してトレーニングと推論のプロセスを実行することで、ユーザーがシステムの偏りや不正行為を心配している多くのアプリケーションがその恩恵を受ける可能性があります。多くの人が希望を表明しています 民主的ガバナンス システム的に重要なAIの 私たちが依存するもの。暗号化およびブロックチェーンベースの技術は、それを実現するための道となる可能性があります。
  2. から AIの安全性 観点から見ると、これはナチュラル キル スイッチも備えた分散型 AI を作成する手法となり、悪意のある動作に AI を使用しようとするクエリを制限できます。

「より優れた AI の作成を奨励​​するために暗号インセンティブを使用する」ことは、暗号を使用して完全に暗号化するという完全なウサギの穴に陥ることなく実行できることも注目に値します。 ビットテンサー このカテゴリに分類されます。

結論

現在、ブロックチェーンと AI の両方がより強力になっているため、2 つの領域が交差するユースケースが増えています。ただし、これらのユースケースの中には、他のユースケースよりもはるかに理にかなっており、はるかに堅牢なものもあります。一般に、基礎となるメカニズムは以前と同様に大まかに設計され続けますが、個々のメカニズムが プレーヤー AI になり、メカニズムがよりミクロなスケールで効果的に動作できるようにすることは、すぐに有望であり、正しくするのが最も簡単です。

正しく理解するのが最も難しいのは、ブロックチェーンと暗号技術を使用して「シングルトン」、つまりアプリケーションが何らかの目的で依存する単一の分散型信頼できる AI を作成しようとするアプリケーションです。これらのアプリケーションは、機能性と、その問題に対する主流のアプローチに伴う集中化のリスクを回避する方法で AI の安全性を向上させるという点で有望です。しかし、根底にある仮定が崩れる可能性も数多くあります。したがって、特にこれらのアプリケーションを高価値かつ高リスクのコンテキストに導入する場合は、慎重に行う価値があります。

これらすべての分野で AI の建設的な使用例がさらに試みられることを楽しみにしています。そうすれば、どれが大規模に本当に実行可能であるかがわかります。

著者: Vitalik Buterin

スポット画像

最新のインテリジェンス

スポット画像