考え方 / はじめに
AIに向けられる労力と資本の多くは、二つの課題に注がれています。システムの能力を高めること、そして人間の価値観と整合させることです。
どちらも重要です。しかし、人間の価値観と完全に整合したシステムでも、それを受け止める備えのない経済、政府、情報環境に導入されれば、期待された成果を出せず、実害さえ招きます。
私たちは、この見過ごされてきた課題を「Reverse Alignment」と呼びます。社会がAIを安全に受け止め、その恩恵を広く分かち合えるよう、制度・規範・技能・ガバナンスを意図的に再設計する取り組みです。
工業化も、電化も、インターネットも、恩恵が届くまでに数十年にわたる制度の発明を必要としました。組立ラインの時代に生まれた企業は組立ラインに似ていました。インターネットを統治する制度はインターネットに似ていました。
歴史が教えるのは、こうした適応が技術変化に後から付け足す選択肢ではなく、成功の前提だということです。
手を打たなければ、
この齟齬は三つの予測可能な失敗を生みます。
1
仕事は、人々が学び直したり別の仕事へ移ったりできる以上の速さで再編され、その恩恵は大多数に届きません。
2
テキスト、画像、コードを生み出すコストが急落すると、希少になるのは、成果物を検証し、出所を確かめ、責任を引き受ける人の力です。
3
制度の力を高める道具は同時に、権力を集中させかねません。上訴や異議申立ての権利も、ともに強化する必要があります。
いずれも必然ではありません。
いずれも見過ごしてきた結果であり、今からでも変えられます。
今後10年の人類の繁栄は、社会と技術にまたがる一連の重大課題にかかっています。
提言の要約
必要なのは、AIによる変革を支える人と制度への、大規模で足並みのそろった投資です。課題はアイデンティティ、プライバシー、市場、ガバナンス、労働、知識にまたがります。共通する設計思想と手法があります。どの課題も、一つの分野だけでは実現できません。
*ホバーで詳細を表示 *クリックで詳細を表示
偽造文書や偽の生体認証情報、人工的な人物像を、ほとんどコストなく作れる時代です。身元を明かさずに、参加者が実在する一人の人間だと証明できる仕組みが必要です。
AIによって、誰もが私立探偵並みの調査力を手にします。必要なのは全面的な秘匿でも丸裸の公開でもなく、その場に必要な情報だけを過不足なく開示できる道具です。
もっともらしい偽物をほぼ無償で作れるなら、コンテンツの出所を確かめられることが、共通の現実を保つために欠かせません。
モデルの学習に使われる人々の記録は、ほとんど対価を払わず集められてきました。生み出した人々が適正に取引できる市場と、継続的に対価を受け取れる仕組みが必要です。企業がすでに行っている価値測定を使えば実現できます。
AIエージェントは、それぞれの知識を持ち寄るとき最も力を発揮します。そのためには、閉じたサービスの内側ではなく、提供事業者の壁を越えて、人間同士と同じように信頼を築けなければなりません。
怒りをあおるほど得をし、誰と誰が合意しているかを見えにくくするメディアでも、意見の違いを公正に示しながら、共通点を浮かび上がらせるよう再設計できます。
活力あるコミュニティが生み出す正統性は、資源配分を実際に動かす力へ結びつく必要があります。そのために、参加と代表、そして地道な実装の仕組みを現代化します。
AIは監視と執行のコストを下げ、行政府に力を偏らせます。均衡を取り戻すには、監督、異議申立て、上訴の側にも同等の力を築く必要があります。
AIによる生産性向上を阻むのは、個人の作業速度ではありません。創造性と主体性の高まりを生かせるよう、組織そのものを再設計できるかどうかです。
AIモデルは、査読がさばける以上の速さで仮説や草稿を生み出しています。同じ道具を適切に使えば、真に独創的で分野の壁を越える研究を評価することもできます。
AIは、教えること、学ぶこと、資格を認めることが一体だった従来の仕組みをほどきます。学校は、何を身につけるべきかを明確にし、一人ひとりが実際に何を理解しているかを証明しなければなりません。
一社単位の大量解雇を前提につくられた雇用制度では、AIがもたらす継続的で細かな仕事の再編に対応できません。組織をまたいで使え、内容を検証できる資格証明と、必要なときにすぐ学び直せる仕組みが必要です。
独自の 主張
社会が新しい汎用技術を取り込むとき、そこには一定のパターンがあります。うまくいく制度は、その時代を支配する思考様式の構造を映し出す傾向があります。
産業時代は、標準化された会計と組立ラインを軸に認知を組織し、それに見合う階層的・部門別の制度を生み出しました。株式会社、中央銀行、ブレトン・ウッズ体制のもとで設立された多国間機関です。インターネット時代は、層状のプロトコルと分散ルーティングを軸に認知を組織し、それに見合う層状で協調的な組織を生み出しました。標準化団体、通信協同組合、RFC（Request for Comments）という開かれた合意形成プロセスです。
ニューラルネットワークは、第三の文法を課します。事物を単一のラベルではなく、高次元空間における位置によって表します。異なる入力に、それぞれが他へどう影響するかに応じた重みをつけて組み合わせ、違いを平均で消さずに共通の構造を見つけます。各貢献が結果へ及ぼした影響をたどり、クレジットを配分します。
制度と技術が同じ文法を共有するとき、成果が現れます。共有しなければ、成果は停滞します。電化された工場は、蒸気動力工場の配置を保ったままでは、約20年にわたりほとんど成果をもたらしませんでした。電動機を分散配置する前提で工場を再設計して初めて、生産性が向上しました。
この連合が賭けているのは、AIを受け止められる制度とは、同じ原理を社会全体で実装した制度だということです。私たちの仕事は、それを意識的に築くことです。
論考
Noema掲載
この問題と提言を、より包括的に公に論じた論考です。三つの失敗パターン、大衆民主主義から台湾のデジタルガバナンスに至る歴史的先例、そして社会技術上の重要課題の全体像を扱います。まずはこちらから。
Noemaで英文原文を読む (新しいタブで開きます)Science掲載
この提言を支える明快な工学原則を示します。なぜ制度は、その時代の認知技術に似てくるのか。ニューラルネットワークのかたちで築くとは何を意味するのか。歴史的な記録と技術的な対応関係を備えた、独自の主張です。
近日公開What AI Can’t Buildは、これらの課題を脚本家やクリエイターのための物語の素材に変えるガイドです。各課題に、物語の核となる企画案と、ライターズルームですぐ使える問いを収録しています。
提言を支える要約プレゼンテーションです。
いま私たちが頼る制度も、かつては想像すらできないものでした。物語が人々の心を動かし、実現しようと立ち上がらせたからこそ生まれたのです。AIが人間社会に突きつける課題は、抽象的な政策論ではありません。これから10年で最も重要な物語の素材であり、その多くはまだ語られていません。
その物語を語る人のために、
ガイドをつくりました。
What AI Can’t Buildは、それぞれの課題を、脚本家が使える物語の核とライターズルーム向けの問いに変えます。人生の場面ごとに違う自分でいる権利を求める女性。非の打ちどころのない作品に、同じく非の打ちどころのない反論を突きつけられるドキュメンタリー作家。豊かな価値を生む、不可欠でありながら完全に匿名のデータ提供者。
動画を見る (新しいタブで開きます) これらの着想を、テレビ脚本家100人が集う場へ持ち込んだ様子をご覧ください。
動画を見る (新しいタブで開きます)課題を見る
私たちは独立したクリエイターとも協力し、これらの課題を一つずつ、誰にでも伝わる物語に変えています。各ショートフィルムは、オンラインで人間だと証明する仕組みから、AIの学習データを提供した人に正当な対価を払う仕組みまで、一つの問題を取り上げ、なぜ重要なのか、解決した姿はどのようなものかを示します。
最初のフィルムは近日公開予定です。
こうしたアイデアを作品に織り込む語り手へ、資金を提供します。
文章、映像、ゲームなど、人の目に触れる作品をつくる方が、ここにある課題を取り入れたり、新たに読み替えたりするなら、ぜひ支援したいと考えています。
政策を説明する必要はありません。何が問われているのかを、人々に感じてもらえれば十分です。
この取り組みは、普段は同じテーブルを囲まない人々によって形づくられました。
AI研究者と社会科学者、テクノロジストと公務員、資金提供者と市民社会の担い手など、地域も政治的立場もさまざまです。その幅の広さは偶然ではありません。現実の違いを抑え込まず、そのなかに共通の基盤を見いだす。私たちが提唱するこの方法が、取り組みそのものを生み出しました。
研究テクノロジー政府フィランソロピー市民社会ビジネスエンターテインメントメディア
連合に参加する
Reverse Alignmentは、一つのプロジェクトではありません。あらゆる分野にまたがる未来への賭けを束ねたものです。これを支え続けられるのは、幅広い連合だけです。
社会の仕組みにも、アルゴリズムと同じ野心を注いで築くべきだと考えるなら、賛同者として名を連ね、この取り組みをあなたの分野へ広げてください。
reversealignment.aiで参加する（英語） (新しいタブで開きます)
