原作者: グレースヒル
この記事に対する貴重な洞察、フィードバック、レビューを提供してくれた Brian Retford、SunYi、Jason Morton、Shumo、Feng Boyuan、Daniel、Aaron Greenblatt、Nick Matthew、Baz、Marcin、Brent に感謝します。
私たち暗号愛好家にとって、人工知能はしばらくの間大流行しています。興味深いことに、AI が暴走するのを誰も見たくありません。ブロックチェーン発明の本来の目的は、ドルが制御不能になるのを防ぐことであるため、私たちは人工知能が制御不能になるのを防ごうとするかもしれません。さらに、物事が間違っていないことを確認するためのゼロ知識証明と呼ばれる新しいテクノロジーも導入されました。ただし、AI という野獣を活用するには、AI がどのように機能するかを理解する必要があります。
機械学習の簡単な紹介
人工知能は、「エキスパート システム」から「ニューラル ネットワーク」、次に「グラフィカル モデル」、そして最後に「機械学習」と、何度か名前が変更されてきました。これらはすべて「人工知能」のサブセットであり、さまざまな名前が付けられており、AI に対する私たちの理解は深まり続けています。機械学習をもう少し深く掘り下げて、その謎を解き明かしてみましょう。
注: 現在、多くのタスクにおいて優れたパフォーマンスを発揮するため、ほとんどの機械学習モデルはニューラル ネットワークです。機械学習を主にニューラル ネットワーク機械学習と呼びます。
機械学習はどのように機能するのでしょうか?
まず、機械学習の内部の仕組みを簡単に見てみましょう。
入力データの前処理:
入力データは、モデルへの入力として使用できる形式に処理する必要があります。これには通常、有用な情報を抽出し、データを入力行列やテンソル (高次元行列) などの適切な形式に変換するための前処理と特徴エンジニアリングが含まれます。これがエキスパートシステムのアプローチです。ディープラーニングの出現により、処理層が前処理を自動的に処理します。
初期モデルパラメータを設定します。
初期モデルパラメータには、複数の層、活性化関数、初期重み、バイアス、学習率などが含まれます。一部のパラメーターは、モデルの精度を向上させるために、トレーニング中に最適化アルゴリズムによって調整できます。
トレーニングデータ:
入力データは、通常、畳み込み層 (CNN)、リカレント層 (RNN)、またはセルフアテンション層などの 1 つ以上の特徴抽出および関係モデリング層から始まるニューラル ネットワークに供給されます。これらの層は、入力データから関連する特徴を抽出し、これらの特徴間の関係をモデル化することを学習します。
これらのレイヤーの出力は 1 つ以上の追加レイヤーに渡され、入力データに対してさまざまな計算と変換が実行されます。これらの層には通常、学習可能な重み行列の行列乗算と非線形活性化関数の適用が主に含まれますが、畳み込みニューラル ネットワークでの畳み込みやプーリング、リカレント ニューラル ネットワークでの反復などの他の演算も含まれる場合があります。これらの層の出力は、モデル内の次の層への入力として、または最終的な予測出力として機能します。
モデルの出力を取得します。
ニューラル ネットワーク計算の出力は通常、ネットワークのアプリケーションに応じて、画像分類の確率、感情分析スコア、またはその他の結果を表すベクトルまたは行列です。通常、モデルの目的に従ってパラメータを自動的に更新するエラー評価およびパラメータ更新モジュールもあります。
上記の説明がわかりにくいと思われる場合は、CNN モデルを使用してリンゴの写真を識別する次の例を参照してください。
画像をピクセル値の行列としてモデルに読み込みます。この行列は、次元 (高さ、幅、チャネル) を持つ 3D テンソルとして表すことができます。
CNN モデルの初期パラメータを設定します。
入力画像は CNN の複数の隠れ層を通過し、各層は畳み込みフィルターを適用して、画像からますます複雑な特徴を抽出します。各層の出力は、非線形活性化関数を通過した後、特徴マップの次元を削減するためにプールされます。最後の層は通常、抽出された特徴に基づいて出力予測を生成する完全接続層です。
CNN の最終出力は、最も確率の高いクラスです。これは入力画像の予測ラベルです。
機械学習の信頼フレームワーク
上記を、機械学習の 4 つの基本層を含む機械学習信頼フレームワークに要約できます。機械学習プロセス全体が信頼できるためには、これらの層が信頼できる必要があります。
入力: 生データは前処理する必要があり、場合によっては秘密にしておく必要があります。
整合性: 入力データは改ざんされておらず、悪意のある入力によって汚染されておらず、正しく前処理されています。
プライバシー: 入力データは必要な場合には公開されません。
出力: 正確に生成および送信される必要がある
完全性: 出力は正しく生成されます。
プライバシー: 必要に応じて出力が漏洩することはありません。
モデルのタイプ/アルゴリズム: モデルは正しく計算される必要があります。
完全性: モデルは正しく実行されます。
プライバシー: 必要に応じて、モデル自体や計算が漏洩されることはありません。
ニューラル ネットワーク モデルが異なれば、さまざまなユースケースや入力に適したアルゴリズムとレイヤーが異なります。
畳み込みニューラル ネットワーク (CNN) は、画像などのグリッド状のデータを含むタスクに一般的に使用され、小さな入力領域に畳み込み演算を適用することで局所的なパターンや特徴をキャプチャできます。
一方、リカレント ニューラル ネットワーク (RNN) は、時系列や自然言語などのシーケンシャル データに適しており、隠れ状態で前のタイム ステップから情報を取得し、時間依存関係をモデル化できます。
セルフアテンション レイヤーは、入力シーケンス内の要素間の関係を把握するのに役立ち、機械翻訳や要約など、長距離の依存関係が重要なタスクに効果的です。
多層パーセプトロン (MLP) など、他のタイプのモデルも存在します。
モデルパラメータ: 場合によっては、パラメータは透明であるか、民主的に生成される必要がありますが、すべての場合において改ざんの影響を受けません。
整合性: パラメータは正しい方法で生成、維持、管理されます。
プライバシー: モデルの所有者は、モデルを開発した組織の知的財産と競争上の優位性を保護するために、機械学習モデルのパラメーターを秘密にすることがよくあります。この現象は、変圧器モデルのトレーニングに非常に費用がかかるようになるまで一般的でしたが、依然として業界にとって大きな問題です。
機械学習における信頼の問題
機械学習 (ML) アプリケーションの爆発的な成長 (CAGR 20% 以上) と、最近の ChatGPT の人気など、日常生活への統合が進むにつれて、ML に対する信頼の問題はますます重要になってきており、無視できません。したがって、AI の責任ある使用を確保し、誤用の可能性を防ぐには、これらの信頼性の問題を特定して対処することが重要です。しかし、何が問題なのでしょうか？詳しく見てみましょう。
透明性や証明性が不十分
信頼の問題は、次の 2 つの主な理由により、機械学習を長年悩ませてきました。
プライバシーの性質: 前述したように、モデルのパラメーターはプライベートであることが多く、場合によってはモデルの入力もプライベートに保つ必要があるため、モデルの所有者とモデルのユーザーの間に信頼性の問題が当然発生します。
アルゴリズム ブラック ボックス: 機械学習モデルは、理解や説明が難しい計算に多くの自動化されたステップが含まれるため、「ブラック ボックス」と呼ばれることもあります。これらのステップには複雑なアルゴリズムと大量のデータが含まれるため、結果として不確実でランダムな出力が生成され、アルゴリズムが偏見や差別の非難に対して脆弱になります。
先に進む前に、この記事の大前提の 1 つは、モデルが「すぐに使用できる」、つまり十分にトレーニングされており、目的に適合しているということです。モデルはすべての状況に適しているわけではなく、モデルは驚くべき速度で向上しています。機械学習モデルの通常の寿命は、アプリケーション シナリオに応じて 2 ～ 18 か月です。
機械学習における信頼問題の詳細な内訳
モデルのトレーニング プロセスには信頼性の問題がいくつかあり、Gensyn は現在、このプロセスを促進するために有効な証明を生成することに取り組んでいます。ただし、この記事では主にモデル推論プロセスに焦点を当てます。次に、機械学習の 4 つの構成要素を使用して、潜在的な信頼の問題を明らかにしましょう。
入力：
データソースは改ざん防止されています
プライベートな入力データはモデルオペレーターによって盗まれません (プライバシーの問題)
モデル：
モデル自体は宣伝どおりに正確です
計算処理は正しく完了しました
パラメータ:
モデルパラメータは変更されていないか、宣伝されているとおりです
プロセス中、モデル所有者にとって価値のあるモデル パラメーターは漏洩しません (プライバシーの問題)
出力：
出力は正しいことが証明されています (上記のすべての要素が改善されると改善される可能性があります)
ZK を機械学習信頼フレームワークに適用するにはどうすればよいですか?
上記の信頼性の問題の一部は、オンチェーンに移行することで解決できます。入力と機械学習パラメータをチェーンにアップロードし、チェーン上でモデルを計算することで、入力、パラメータ、モデル計算の正確性を保証できます。ただし、このアプローチではスケーラビリティとプライバシーが犠牲になる可能性があります。 Giza は Starknet でこの作業を行っていますが、コストの問題により、ニューラル ネットワークではなく、回帰などの単純な機械学習モデルのみをサポートしています。 ZK テクノロジーは、上記の信頼問題をより効果的に解決できます。現在、ZKML の ZK は通常、zkSNARK を指します。まず、zkSNARK のいくつかの基本概念を簡単に確認してみましょう。
zkSNARK 証明は、w が何であるかは明かさずに、この計算 f の結果が OUT であることが真実であるような秘密の入力 w を私が知っているという証明です。プルーフ生成プロセスは次のステップに要約できます。
証明されるステートメントを定式化します: f(x, w)=true
「プライベート パラメーター w を持つ機械学習モデル f を使用して、この画像 x を正しく分類しました。」
ステートメントを回路に変換 (算術化): R 1 CS、QAP、Plonkish などのさまざまな回路構築方法があります。
他のユースケースと比較して、ZKML では量子化と呼ばれる追加の手順が必要です。ニューラル ネットワークの推論は通常、浮動小数点演算を使用して行われますが、演算回路のメイン ドメインでエミュレートするには非常にコストがかかります。さまざまな定量化方法により、精度と装置要件の間の妥協点が得られます。
R1 CS などの一部の回路構築方法は、ニューラル ネットワークにとって効率的ではありません。この部分を調整してパフォーマンスを向上させることができます。
証明キーと検証キーを生成する
証人を作成します: w=w*、f(x, w)=true の場合
ハッシュ コミットメントの作成: 監視者は、暗号化ハッシュ関数を使用してハッシュ値を生成することをコミットします。このハッシュは公開できます。
これは、プライベート入力またはモデル パラメーターが計算中に改ざんまたは変更されていないことを保証するのに役立ちます。わずかな変更でもモデルの動作と出力に大きな影響を与える可能性があるため、この手順は非常に重要です。
プルーフ生成: プルーフ システムが異なれば、使用するプルーフ生成アルゴリズムも異なります。
これらの計算にサブリニア時間効率の良いプロトコルを実装するには、行列乗算や畳み込み層などの機械学習操作用に特別なゼロ知識ルールを設計する必要があります。
- groth 16 のような汎用 zkSNARK システムは、過度の計算負荷によりニューラル ネットワークを効率的に処理できない可能性があります。
- 2020 年以降、モデル推論プロセスの ZK 証明を最適化するために、vCNN、ZEN、ZKCNN、pvCNN などの多くの新しい ZK 証明システムが登場しました。ただし、それらのほとんどは CNN モデル用に最適化されています。これらは、MNIST や CIFAR-10 などの一部の主要なデータセットにのみ適用できます。
- 2022 年、ダニエル・カン・タツノリ・ハシモト、イオン・ストイカ、イー・スン (Axiom 創設者) が Halo 2 に基づく新しい証明スキームを提案し、ImageNet データセットの ZK 証明生成を初めて達成しました。その最適化は、非線形性のための新しいルックアップ パラメータと層全体のサブ回路の再利用により、算術部分に焦点を当てています。
- Modulus Labs は、オンチェーン推論用のさまざまな証明システムのベンチマークを行っており、証明時間の点では ZKCNN と plonky 2 が最高のパフォーマンスを示し、ピーク証明者のメモリ使用量の点では ZKCNN と halo 2 が良好なパフォーマンスを示していますが、plonky は良好なパフォーマンスを示しています。ただし、メモリ消費が犠牲になり、ZKCNN は CNN モデルにのみ適しています。また、ZKML 専用に設計された新しい zkSNARK システムと新しい仮想マシンも開発中です。
検証証明: 検証者は、証人に知られずに検証キーを使用して検証します。
したがって、ゼロ知識技術を機械学習モデルに適用すると、多くの信頼性の問題を解決できることがわかります。インタラクティブ検証を使用した同様の手法でも同様の結果が得られますが、検証者側により多くのリソースが必要となり、より多くのプライバシー問題に直面する可能性があります。特定のモデルによっては、その証明の生成に時間とリソースがかかる場合があるため、このテクノロジーを最終的に現実世界のユースケースに適用する際にはトレードオフが生じることに注意してください。
現在のソリューションの現状
次に、既存のソリューションにはどのようなものがあるでしょうか?モデルプロバイダーには、ZKML プルーフを生成したくないさまざまな理由がある可能性があることに注意してください。 ZKML を試す勇気があり、ソリューションが理にかなっている場合は、モデルと入力の場所に応じて、いくつかの異なるソリューションから選択できます。
入力データがオンチェーンにある場合は、ソリューションとして Axiom の使用を検討してください。
Axiom は、ブロックチェーン データへのユーザー アクセスを改善し、オンチェーン データのより複雑なデジタル ビューを提供するために、イーサリアム用のゼロ知識コプロセッサを構築しています。オンチェーン データに対する信頼性の高い機械学習計算が可能です。
- まず、Axiom は、イーサリアム ブロック ハッシュのマークル ルートをスマート コントラクト AxiomV 0 に保存することでオンチェーン データをインポートします。これは、ZK-SNARK 検証プロセスを通じてトラストレスに検証されます。 AxiomV 0 StoragePf コントラクトにより、AxiomV 0 のキャッシュされたブロック ハッシュによって与えられる信頼のルートに対して、任意の履歴イーサリアム ストレージ証明をバッチ検証できるようになります。
- 次に、インポートされた履歴データから機械学習の入力データを抽出できます。
- Axiom は、最適化された Halo 2 をバックエンドとして使用して、実証済みの機械学習操作をトップに適用し、各計算部分の妥当性を検証します。
- 最後に、Axiom は各クエリ結果の zk 証明を添付し、Axiom スマート コントラクトは zk 証明を検証します。それを証明したい利害関係者は、スマート コントラクトからアクセスできます。
モデルをオンチェーンに配置する場合は、ソリューションとして RISCZero の使用を検討してください。
RISC Zero の ZKVM で機械学習モデルを実行すると、モデルに含まれる正確な計算が正しく実行されたことを証明できます。計算と検証のプロセスは、ユーザーの好みの環境でオフラインで実行することも、ユニバーサル ロールアップである Bonsai Network で実行することもできます。
- まず、モデルのソース コードを RISC-V バイナリにコンパイルする必要があります。このバイナリが ZKVM で実行されると、出力は暗号シールを含む計算されたレシートとペアになります。このシールは、計算の完全性に関するゼロ知識引数として機能し、暗号化されたイメージ ID (実行中の RISC-V バイナリを識別する) を、第三者による迅速な検証のために宣言されたコード出力に関連付けます。
- モデルが ZKVM で実行される場合、状態変化に関する計算は完全に VM 内で行われます。モデルの内部状態に関する情報が外部に漏洩することはありません。
- モデルが実行されると、結果として得られるシールは、計算上の完全性のゼロ知識証明になります。 RISC ZeroZKVM は、実行するコードのゼロ知識証明を生成できる RISC-V 仮想マシンです。 ZKVM を使用すると、ZKVM クライアント コードによって生成されたものであることを誰でも検証できる暗号化されたレシートを生成できます。レシートが発行されるとき、コードの実行に関するその他の情報 (提供された入力など) は明らかにされません。
ZK 証明を生成する具体的なプロセスには、検証者としてランダムなオラクルを使用した対話型プロトコルが含まれます。 RISC Zero 受領書のシールは、基本的にこの相互作用契約の記録です。
Tensorflow や Pytorch などの一般的に使用される機械学習ソフトウェアからモデルを直接インポートする場合は、ソリューションとして ezkl の使用を検討してください。
Ezkl は、zkSNARK の深層学習モデルおよびその他の計算グラフを推論するためのライブラリおよびコマンド ライン ツールです。
- まず、最終モデルを .onnx ファイルとしてエクスポートし、いくつかのサンプル入力を .json ファイルとしてエクスポートします。
- 次に、ezkl に .onnx および .json ファイルを指定して、ZKML ステートメントを証明できる ZK-SNARK 回路を生成します。
単純そうに思えますよね？ Ezkl の目標は、Halo 2 回路で高レベルの操作を呼び出してレイアウトできる抽象化レイヤーを提供することです。 Ezkl は、驚くべき柔軟性を維持しながら、多くの複雑さを抽象化します。量子化されたモデルには、自動的に量子化されたスケーリング係数が含まれています。新しいソリューションに関連する他の証明システムへの変更の柔軟性をサポートします。また、EVM や WASM など、複数のタイプの仮想マシンもサポートします。
証明システムに関しては、ezkl は証明の集約 (検証が難しい証明を仲介者を介して検証しやすい証明に変換する) と再帰 (メモリの問題は解決できるが、halo 2 に適応するのは難しい) によって halo 2 回路をカスタマイズします。 Ezkl はまた、高度な証明を通じてオーバーヘッドを削減できる融合と抽象化を通じてプロセス全体を最適化します。
他の一般的な zkml プロジェクトと比較して、Accessor Labs は、AI NPC、ゲームプレイの自動更新、自然言語を含むゲーム インターフェイスなどが関与する可能性のある完全なオンチェーン ゲーム用に特別に設計された zkml ツールの提供に焦点を当てていることは注目に値します。
ユースケースはどこにありますか?
ZK テクノロジーを通じて機械学習の信頼性の問題を解決するということは、単に人々の会話についていくことや、猫の写真と犬の写真を照合して区別するだけではなく、より「高リスク」かつ「高確実性」のユースケースに機械学習を適用できることを意味します。 Web3 はすでにこれらのユースケースの多くを検討しています。これは偶然ではありません。ほとんどの Web3 アプリケーションはブロックチェーン上で実行されるか、ブロックチェーン上で実行される予定です。ブロックチェーンには、安全に動作し、改ざんが難しく、決定論的な計算を行うための特定の特性があります。検証的に適切に動作する AI とは、トラストレスで分散化された環境で動作できる AI である必要があります。
ZK+ML を Web3 に適用できるユースケース
多くの Web3 アプリケーションは、セキュリティと分散化が明らかに優先事項であり、インフラストラクチャの制限が存在するため、ユーザー エクスペリエンスを犠牲にしています。 AI/ML にはユーザー エクスペリエンスを豊かにする可能性があり、これは間違いなく役立ちますが、以前は妥協なしには不可能だと思われていました。 ZK のおかげで、セキュリティと分散化の点で大きな犠牲を払うことなく、AI/ML と Web3 アプリケーションの統合を快適に実現できるようになりました。
基本的に、これはトラストレスな方法で ML/AI を実装する Web3 アプリケーション (この記事の執筆時点では存在するかどうかは不明) になります。トラストレスとは、トラストレス環境/プラットフォームで実行されるかどうか、またはその動作が検証可能であることが証明できるかどうかを意味します。すべての ML/AI ユースケース (Web3 であっても) がトラストレスな方法での実行を必要としたり、トラストレスな方法で実行することを好むわけではないことに注意してください。さまざまな Web3 ドメインで使用される ML 機能の各部分を分析します。次に、ZKML が必要な部分、通常は証明のために追加料金を払っても構わないと考えられる高価値の部分を特定します。以下に挙げるユースケース/アプリケーションのほとんどは、まだ実験研究の段階にあります。したがって、実用化にはまだ程遠い状況です。その理由については後で説明します。
Defi
Defi は、ブロックチェーン プロトコルと Web3 アプリケーション間の製品市場適合性を証明する数少ない証拠の 1 つです。許可のない方法で富と資本を創造、保存、管理できる能力は、人類史上前例のないものです。私たちは、セキュリティと分散化を確保するために AI/ML モデルをパーミッションレスで実行する必要がある多くのユースケースを特定しました。
リスク評価: 現代の金融では、詐欺やマネーロンダリングの防止から無担保ローンの発行まで、さまざまなリスク評価に AI/ML モデルが必要です。このような AI/ML モデルが検証可能な方法で動作することを保証することは、検閲を可能にするためにモデルが操作され、それによって Defi 製品のパーミッションレスな性質の使用を妨げることを防ぐことができることを意味します。
資産管理: 自動取引戦略は、従来の金融や Defi にとって新しいものではありません。 AI/ML で生成された取引戦略を適用する試みはこれまでにも行われてきましたが、成功した分散型戦略はほんのわずかです。現在、Defi 分野の典型的なアプリケーションには、Modulus Labs が実験した Rocky Bot が含まれます。
- Rocky ボット: Modulus Labs は、StarkNet での意思決定に AI を使用した取引ボットを作成しました。
-- L1 で資金を保持し、Uniswap で WEth/USDC を交換する契約。
これは、ML トラスト フレームワークの「出力」部分に適用されます。出力は L2 で生成され、L1 に転送され、実行に使用されます。このプロセス中に改ざんすることはできません。
-- 将来の WEth 価格を予測するためのシンプル (ただし柔軟な) 3 層ニューラル ネットワークを実装する L2 コントラクト。契約では、過去の WETH 価格情報が入力として使用されます。
これは、「入力」セクションと「モデル」セクションの両方に当てはまります。過去の価格情報はブロックチェーンから入力されます。モデルの実行は CairoVM (ZKVM の一種) で計算され、その実行トレースにより検証用の ZK プルーフが生成されます。
-- 視覚化のためのシンプルなフロントエンドと、リグレッサーと分類子をトレーニングするための PyTorch コード。
自動化されたマーケットメーカーと流動性供給: 基本的に、これはリスク評価と資産管理で行われている同様の取り組みを組み合わせたものですが、量、タイムライン、資産タイプの点で方法が異なるだけです。株式市場でのマーケットメイクに ML を使用する方法に関する研究論文は数多くあります。一部の研究結果がDefi製品に適用されるのも時間の問題かもしれません。
- たとえば、LyraFinance は Modulus Labs と協力して、資本利用をより効率的にするためのスマート機能を備えた AMM を強化しています。
佳作:
- Warp.cc チームは、訓練されたニューラル ネットワークを実行してビットコイン価格を予測するスマート コントラクトを展開する方法に関するチュートリアル プロジェクトを開発しました。入力は RedStoneOracles によって提供されるデータを使用し、モデルは Arweave 上で Warp スマート コントラクトとして実行されるため、これはフレームワークの「入力」部分と「モデル」部分と一致します。
- これは最初のイテレーションであり、ZK が含まれるため、佳作の中に含まれますが、将来的には、Warp チームは ZK パーツの実装を検討しています。
ゲーム
ゲームと機械学習には多くの交差点があります。
図の灰色の領域は、ゲーム部分の機械学習機能を対応する ZKML 証明と組み合わせる必要があるかどうかの初期評価を表しています。 Leela Chess Zero は、ZKML をゲームに適用する非常に興味深い例です。
AIエージェント
- Leela Chess Zero (LC 0): Modulus Labs によって構築された完全にオンチェーンの AI チェス プレーヤーで、コミュニティの人間プレーヤーのグループと対戦します。
-- LC 0 と人間集団は、(チェスの場合のように) 交代でゲームをプレイします。
-- LC 0 の動きは、LC 0 の簡略化された回路適合モデルから計算されます。
- LC 0 の動きには、人間の脳の信頼からの干渉がないことを保証する Halo 2 のスナークプルーフが備わっています。単純化された LC 0 モデルのみが意思決定を行うために存在します。
- これは「モデル」セクションに準拠しています。モデルの実行には、計算が改ざんされていないことを検証するための ZK 証明があります。
データ分析と予測: これは、Web2 ゲームの世界では AI/ML の一般的な使用法です。ただし、この ML プロセスで ZK を実装する理由はほとんど見つかりませんでした。おそらく、プロセスに直接関与する価値をあまり持たないように努める価値はありません。ただし、ユーザーへの報酬を決定するために特定の分析と予測が使用される場合は、結果が正しいことを保証するために ZK が実装されることがあります。
佳作:
- AI Arenaはイーサリアムネイティブのゲームで、世界中のプレイヤーが人工ニューラルネットワークを利用してNFTキャラクターをデザイン、トレーニング、戦闘することができます。世界中の才能ある研究者が、ゲームの戦いに参加するための最高の機械学習 (ML) モデルを作成するために競い合います。 AI Arena はフィードフォワード ニューラル ネットワークに焦点を当てています。全体として、畳み込みニューラル ネットワーク (CNN) やリカレント ニューラル ネットワーク (RNN) よりも計算オーバーヘッドが低くなります。それでも、現在モデルはトレーニングが完了した後にのみプラットフォームにアップロードされるため、言及する価値はあります。
- GiroGiro.AI は、大衆が個人または商用目的で人工知能を作成できるようにする AI ツールキットを構築しています。ユーザーは直感的かつ自動化されたAIワークフロープラットフォームをベースに、さまざまなタイプのAIシステムを構築できます。わずかなデータを入力し、アルゴリズム（または改善用のモデル）を選択するだけで、ユーザーは思い描いたAIモデルを生成・活用することができます。このプロジェクトは非常に初期段階にありますが、GiroGiro がゲーム ファイナンスとメタバースに焦点を当てた製品に何をもたらすことができるか非常に楽しみにしているため、これを佳作として含めました。
DID とソーシャル
DID とソーシャル スペースでは、Web3 と ML の接点は現在主に人間の証明と資格証明の領域にありますが、他の部分も開発される可能性がありますが、さらに時間がかかるでしょう。
人間の証明
- Worldcoin は、不正に認証しようとするのではなく、Orb と呼ばれるデバイスを使用して、誰かが本物かどうかを判断します。これは、さまざまなカメラセンサーと機械学習モデルを通じて顔と虹彩の特徴を分析することによって行われます。この決定が下されると、Orb は人々のグループの虹彩の写真を撮り、複数の機械学習モデルとその他のコンピューター ビジョン技術を使用して、個人の虹彩パターンの最も重要な特徴をデジタル表現した虹彩コードを作成します。具体的な登録手順は次のとおりです。
-- ユーザーは携帯電話でセマフォ キー ペアを生成し、QR コードを通じてハッシュ化された公開キーを Orb に提供します。
-- Orb はユーザーの虹彩をスキャンし、ユーザーの IrisHash をローカルで計算します。次に、ハッシュされた公開キーと IrisHash を含む署名付きメッセージを登録順序ノードに送信します。
-- シーケンシャル ノードは Orb の署名を検証し、IrisHash がデータベース内の既存の署名と一致するかどうかを確認します。一意性チェックに合格すると、IrisHash と公開キーが保存されます。
- Worldcoin は、オープンソースの Semaphore ゼロ知識証明システムを使用して、IrisHash の一意性を、リンクせずにユーザー アカウントの一意性に変換します。これにより、新しく登録されたユーザーは自分の WorldCoins を正常に請求できるようになります。次のように進めます。
-- ユーザーのアプリケーションはウォレット アドレスをローカルに生成します。
-- アプリケーションはセマフォを使用して、以前に登録された公開キーの秘密キーを所有していることを証明します。これはゼロ知識証明であるため、どの公開鍵であるかは明らかにされません。
-- 証明は再度シーケンサーに送信され、シーケンサーは証明を検証し、提供されたウォレット アドレスにトークンを入金するプロセスを開始します。いわゆるパーツは証拠付きで送信されるため、ユーザーが特典を二重に請求することはできません。
- WorldCoin は、ZK テクノロジーを使用して、ML モデルの出力でユーザーの個人データが明らかにならないようにしています。これは、ユーザー間に相関関係がないためです。この場合、出力が目的の方法で (この場合は非公開で) 送信および使用されることが保証されるため、信頼フレームワークの「出力」部分に該当します。
行動によって証明される
- Astraly は、StarkNet 上の評判ベースのトークン発行プラットフォームであり、最新かつ最高の StarkNet プロジェクトを見つけてサポートするために使用されます。評判は抽象的な概念であり、単純な指標では簡単に定量化できないため、評価を測定することは困難な作業です。複雑な指標を扱う場合、より包括的で多様な入力がより良い結果を生み出す傾向があります。そのため、Astraly は、より正確な評判評価を提供するために ML モデルを使用する支援を Modulus Labs に求めました。
パーソナライズされた推奨事項とコンテンツ フィルタリング
- Twitter は最近オープンソースになりました"あなたのために"(For You) タイムラインのアルゴリズムですが、ツイートのランク付けに使用される ML モデルの重みは秘密にされているため、ユーザーはアルゴリズムが正しく機能していることを確認できません。これにより、偏見と検閲に関する懸念が生じます。
- ただし、Daniel Kang、Edward Gan、Ion Stoica、および Yi Sun は ezkl を使用して、モデルの重みを公開せずに Twitter アルゴリズムの真の動作を証明することで、プライバシーと透明性のバランスをとるのに役立つソリューションを提供しました。 ZKML フレームワークを使用することで、Twitter はランキング モデルの特定のバージョンにコミットし、特定のユーザーとツイートに対して特定の最終出力ランキングを生成するという証拠を公開できます。このソリューションにより、ユーザーはシステムを信頼せずに計算が正しいことを検証できます。 ZKML をより使いやすくするためにやるべきことはまだたくさんありますが、これはソーシャル メディアの透明性の向上に向けた前向きな一歩です。したがって、これは ML 信頼フレームワークに該当します"モデル"一部。
ユースケースの観点から ML トラスト フレームワークを再考する
Web3 における ZKML の潜在的なユースケースはまだ初期段階にあることがわかりますが、無視することはできません。将来、ZKML の使用が拡大し続けるにつれて、ZKML プロバイダーが必要になり、クローズドなサービスが形成される可能性があります。以下の図のループ:
ZKML サービス プロバイダーは、主に ML トラスト フレームワークの「モデル」部分と「パラメータ」部分に重点を置いています。ただし、現在確認されている「パラメータ」に関連するもののほとんどは、より「モデル」に関連しています。 「入力」部分と「出力」部分は、データ ソースまたはデータ送信先として、ブロックチェーン ベースのソリューションによってより対処されることに注意することが重要です。 ZK またはブロックチェーン単独では完全な信頼性を達成できない可能性がありますが、それらを組み合わせることで完全な信頼性を達成できる可能性があります。
大規模なアプリケーションからはどの程度離れていますか?
最後に、ZKML の現在の実現可能性ステータスと、ZKML の大規模な適用がどの程度進んでいるのかに焦点を当てることができます。
Modulus Labs の論文は、Worldcoin (厳格な精度とメモリ要件) と AI Arena (費用対効果と時間要件) をテストすることにより、ZKML アプリケーションの実現可能性に関するデータと洞察を提供します。
Worldcon が ZKML を使用した場合、証明者のメモリ消費量は市販のモバイル ハードウェアの能力を超えることになります。 AI Arena 競技が ZKML を使用する場合、ZKCNN を使用すると、時間とコストが 100 倍（元の 0.008 秒と比較して 0.6 秒）増加します。したがって、残念ながら、どちらも ZKML テクニックを直接適用して時間を証明し、メモリ使用量を証明するのには適していません。
証明サイズと検証時間はどうですか? Daniel Kang、橋本達則、Ion Stoica、Yi Sun の論文を参照できます。以下に示すように、同社の DNN 推論ソリューションは、ImageNet (モデル タイプ: DCNN、16 レイヤー、340 万パラメーター) 上で 79% の精度を達成できますが、検証時間はわずか 10 秒で、証明サイズは 5952 バイトです。さらに、zkSNARK は、わずか 0.7 秒の検証時間で 59% の精度までスケールダウンできます。これらの結果は、ImageNet スケール モデルでの zkSNARKing が証明サイズと検証時間の点で実現可能であることを示しています。
現時点での主な技術的ボトルネックは、証明時間とメモリ消費量です。 Web3 の場合に ZKML を適用することは技術的にまだ実現可能ではありません。 ZKMLにはAIの発展に追いつく可能性はあるのでしょうか？いくつかの経験的データを比較できます。
機械学習モデルの開発速度: 2019 年にリリースされた GPT-1 モデルには 1 億 5,000 万個のパラメーターがありますが、2020 年にリリースされた最新の GPT-3 モデルには 1,750 億個のパラメーターがあり、わずか 2 つのモデルでパラメーターの数が 1,166 倍に増加しました。年。
ゼロ知識システムの最適化速度: ゼロ知識システムのパフォーマンスの向上は、基本的に「ムーアの法則」のペースに従います。新しいゼロ知識システムはほぼ毎年登場しており、証明者のパフォーマンスの急速な成長はしばらく続くと予想されます。
このデータから判断すると、機械学習モデルは非常に急速に開発されていますが、ゼロ知識証明システムの最適化速度も着実に向上しています。将来的には、ZKML には AI の発展に徐々に追いつく機会がまだあるかもしれませんが、その差を縮めるには継続的な技術革新と最適化が必要です。これは、ZKML には現在 Web3 アプリケーションで技術的なボトルネックがあるものの、ゼロ知識証明テクノロジーの継続的な開発により、ZKML が将来的に Web3 シナリオでより大きな役割を果たすと期待できる理由がまだあることを意味します。最先端の ML と ZK の改善率を比較すると、見通しはあまり楽観的ではありません。しかし、畳み込み性能、ZK ハードウェア、および高度に構造化されたニューラル ネットワーク操作に基づいて調整された ZK 証明システムの継続的な改善により、ZKML の開発が、いくつかの旧式のマシンの提供から始めて、Web3 のニーズを満たすことができることが期待されています。学習機能が起動します。
ブロックチェーン + ZK を使用して ChatGPT からフィードバックされる情報が信頼できるものであることを検証するのは難しいかもしれませんが、いくつかの小規模で古い ML モデルを ZK 回路に適合させることはできるかもしれません。
結論は
"権力は腐敗する傾向があり、絶対的な権力は絶対に腐敗する"。 AI と ML の驚異的なパワーを利用して、これをガバナンス下に置く確実な方法は現時点ではありません。政府が事後介入を遅らせるか、完全禁止を進めるかのどちらかであることは、事実が何度も証明している。 Blockchain+ZK は、証明可能かつ検証可能な方法で獣を飼いならすことができる数少ないソリューションの 1 つを提供します。
ZKML の分野でさらなる製品イノベーションが見られることを楽しみにしています。ZK とブロックチェーンは、AI/ML の運用に安全で信頼できる環境を提供します。また、パーミッションレスな暗号通貨の世界では、ここでの de-SaaS 商業化モデルに制限されないため、これらの製品イノベーションがまったく新しいビジネス モデルを生み出すことも期待しています。私たちは、この分野でより多くのビルダーをサポートすることを楽しみにしています"ウェストフォールのアナーキー"そして"アイボリータワーエリート"彼らのエキサイティングなアイデアを構築するために、魅力的なオーバーラップを作成します。私たちはまだ初期段階にいますが、すでに世界を救う途上にあるかもしれません。
この記事は SevenX 調査チームによるオリジナルであり、コミュニケーションと学習のみを目的としており、投資の参考となるものではありません。引用する必要がある場合は出典を明記してください。
