提案の背景と技術的な動機

AIが「エンジン」として果たす仕組み

人間が「ハンドル」として行う制御

このアプローチの利点

• 効率性と人間の意思反映の両立：AIがエンジンとして多数の計算・提案を行うため、従来人間だけでは不可能だったスピードとスケールで意思決定プロセスが進みます。一方で重要な方向付けは人間が行うため、人間の価値観や戦略がちゃんと反映されます。これにより、効率と民主性のバランスが取れると期待されています。ブテリン氏は、このデザインにより「DAO（分散型自律組織）において人間の投票者がシステムの方向性を握り続けつつも、あまりに多くの決定事項に圧倒されないようにできる」と述べています。従来は組織内の全ての細かな決定に人が関与するのは難しく、代表者に委任するケースが多かったですが、この仕組みでは一人ひとりが直接関与できる範囲を広げつつ負担は軽減できます。
• 権力の分散と腐敗防止：人間がハンドルを握り続け、しかもAIを一つに絞らず複数活用することで、意思決定権が特定の個人や単一のAIに集中しにくくなります。AIがいくら賢くても、人間の審査を経なければ最終決定とはならないため、AI単独で暴走するのを防げます。また意思決定プロセスが複雑で多層的になる（ブテリン氏はこれを「インセンティブの平滑化」と表現しています）ことで、賄賂や不正な工作が効きにくくなる利点もあります。例えば政府の政策決定でも、一部の有力者に有利な措置を個別に取るのではなく、万人に適用される一般的ルール（法律）を定め、それを司法が解釈・適用する形にすることで賄賂の旨味を減らせる、というのが法治主義の利点です。同様に、AIと人間のハイブリッド意思決定では、直接「〇〇さんに○ドル与える」といった一発勝負の決定ではなく、多数の要素に基づく総合的な決定になるため、一箇所に働きかけても大勢を変えにくい構造になります。この分散性・複雑性が、買収や汚職の抑制につながる可能性があります。
• 判断の質と多様性向上：AIは人間が見落とすパターンや膨大な選択肢を提示できますし、人間は少数精鋭の判断で質を保証します。例えば前述のフタルキーでは、予測市場を使うことで群衆の知恵とAIの分析力を組み合わせ、より精度の高い予測に基づく政策選択が可能になります。また「人間の判断の精製」では複数AIの回答を組み合わせることで、一つのモデルでは出せなかった精度の高い回答が得られています（実験では、ある質問集に対しAIモデルAとBの回答を一定比率で混合することで、人間の模範解答に最も近い結果が得られたと報告されています。このように、AIをエンジンとして複数活用し人間が評価することで、単一の判断よりも高品質な結果を導ける可能性があります。
• 人間の負担軽減と集中：人間は全ての細かい決定から解放され、より重要な戦略的判断や価値判断に集中できます。日常的な反復判断はAIに任せ、人間は「ここぞ」という場面でハンドルを切るイメージです。これにより専門家や市民は、本来自分が熟考すべき根本的な問題（価値観の選択など）に時間とエネルギーを割けます。結果として、人間の判断も質が上がり、AIの働きも適切に方向付けされるという好循環が期待されます。
• 透明性と説明可能性の向上：この点は設計次第ですが、ブロックチェーン技術（後述）と組み合わせることで、AIの出した提案や人間の評価プロセスを記録し監査可能にできます。意思決定過程がブラックボックス化しにくく、あとから「なぜこの決定になったか」を検証しやすい仕組みを作ることも可能です。透明性が高まれば、人々の納得感やシステムへの信頼も向上するでしょう。

このアプローチの課題

• AIのアラインメント（目的の適合）問題：AIが与えられた目標に向かって暴走しないようにする、いわゆる価値観のアラインメント問題は依然として重大です。人間が入力する目的関数が不完全だったり誤っていた場合、AIはそれを過剰に追求して思わぬ副作用を招く可能性があります。少数のビットの情報に人類の価値観をすべて盛り込むのは難しく、「与えた目標を忠実に達成したら人間にとっては望ましくない結果になった」という事態も起こりえます。このため、人間の側で目標設定や評価基準を綿密に設計する必要がありますし、途中での軌道修正手段（AIの提案に対する是正フィードバック）も確保しなければなりません。
• 人間の入力の質と偏り：ハンドル役の人間が提供する情報の質が極めて重要です。もし人間の判断が偏っていたり誤っていたりすれば、AIはその方向に大きく舵を切ってしまいます。例えば審査する人間の判断が不公平だった場合、それが大量のAI決定に反映されてしまいます。また、人間が少数しか関与しないことを逆手に取り、審査プロセスを操作しようとする悪意ある者が出るリスクもあります。限られた人間の入力に過度に依存するため、その人選やプロセスの公正さを確保することが課題です。
• 複雑なメカニズムの実装と理解：フタルキーにしろ人間の判断の精製にしろ、具体的なメカニズムは高度に設計されたアルゴリズムや市場制度を伴います。これを実際の組織や社会に導入するには、技術的な複雑さを乗り越える必要があります。例えば予測市場を運営するには十分な参加者と適切なインセンティブ設計が必要ですし、AIの提出する回答を評価するスコアリング関数の設計も専門的です。一般の人々にとってはブラックボックスに見える恐れもあり、説明責任をどう果たすかも難題です。制度として広く受け入れられるには、専門家だけでなく市民にも理解可能で、納得感のある形に落とし込む必要があります。
• プライバシーと情報共有：AIを多数参加させるオープンな仕組みにすると、判断の材料となるデータをどこまで公開するかという問題が出てきます。意思決定に重要な情報の中には機密情報や個人データも含まれるでしょう。単一の信頼できるAIにだけそれらを見せるのであれば守秘できますが、多数のAIに公開するとプライバシーが損なわれます。ブテリン氏はこの課題に対し、暗号技術の活用（マルチパーティ計算: MPCや完全準同型暗号: FHE、信頼できる実行環境: TEEの利用）によって、プライベートな情報を暗号化したままAIに解析させ、出力（提案）だけを共有する方法を提案しています。しかしこれらの技術は現時点では計算コストが高く、実用にはさらなる研究が必要です。プライバシーを守りつつオープンなAI活用を実現することは、今後の大きな技術課題です。
• 人間の責任と関与の低下：AI任せにできる部分が増えることで、かえって人間が関与しなくなる（責任感が希薄になる）危険もあります。ハンドルを握ると言っても、常に積極的に操作しなければAIが勝手に走り続けます。人間が怠惰になりAIの判断を鵜呑みにしすぎると、本末転倒でAIによる独裁のような状態になる可能性もゼロではありません。制度的に人間が定期的に関与しチェックするステップを強制するなど、人間の積極的関与を促す仕組みも必要でしょう。また最終責任の所在を明確にする（AIの提案による決定でも、その採択を承認した人間に責任を負わせる等）といったガバナンス上の工夫も求められます。
• 新たな権力構造の懸念：このモデルでは、人間全員が直接ハンドルを操作するわけではなく、審査員や評議員などの役割を担う人にある程度権限が集中します。例えばフタルキーでは指標Mを決める有権者多数や市場参加者がいますが、「何を測るか」を設定するプロセスに専門家の関与が大きいかもしれません。人間の判断の精製でも、審査チームの選抜や構成が結果を左右します。つまり、誰がハンドル役を務めるかで結果が大きく変わりうるため、その選出や構成の公正さ・多様性担保が課題です。一部の専門家や開発者ばかりがハンドルを握れば、結局従来のエリート支配と変わらなくなる恐れもあります。

結論

※ディープファンディングとは「Xのクレジットの何パーセントがYに属するか」を表すグラフのエッジの重みを入力する問題に、精緻な人間の判断を適用することを指します。