さて、このSF駄文シリーズも今回でいったん終了だ。これまでの二回、あまり金融に関するモチーフは出してこなかったが、今回はがっつり金融系のモチーフを含めたい。一応、筆者も「FinTechの専門家」のはずなので。

歴史的に見て金融領域は新たな技術の利用に積極的な業界だ。1950年代にIBMのホストコンピュータが登場した際、最初期にコンピュータを導入したのは金融機関だし、インターネット登場以前の1980年代に業界全体をネットワーク化したのも金融領域だ。そういった歴史を持つ金融業界がAIだけは活用しないなんてことは考えられないだろう。金融とAIが結びついた時に何が起きるのかをディストピア風に考えてみたのが今回のコンセプトだ。

さて、今回は筆者の本業に近いため、いろんなネタを盛り込みすぎてえらく長文になってしまった。再度改めてお詫びしておく。

冷静なアルゴリズム

きっかけは些細なことだった。

とある漫画家がSNSに新作をアップした。この作品を見た誰かが「これは画像生成AIを使ったのでは？」と騒ぎ出した。騒ぎは想像以上に大きくなり、結局漫画家は自身の手で描いた作品だということを証明するために、作画する際の動画をアップする羽目になった。この騒ぎはそれで収まったものの、もうすでに人々は「これはAIが作ったのか、それとも本当に人間の手によるものなのか」を自信を持って判定することはできなくなっていた。

一方で、ニュースを解析して取引を自動的に行うアルゴリズム取引が、多くのヘッジファンドやファンド運用に普及している現在、フェイクニュースにアルゴリズムが反応してしまうこと、そしてそれが下手をするとフラッシュクラッシュにつながりかねないことへの対処方法にアルゴリズム運用者は頭を悩ませていた。

ある時、arXivに「LLMによる過去のニュースアーカイブに基づくニュースの真偽度判定について」という長ったらしいタイトルの論文をアルゴリズム担当者がみかけた。この論文では近年問題になっているLLMなどによって自動生成されたフェイクニュースを、LLMの文章生成の癖をもとに、「実際にニュースソースがあるニュース」と「LLMが人為的に作成したフェイクニュース」をLLM自身によって判定する手法を示していた。

この真偽度判定手法の概要は、提示された文章をLLMの要約機能を用いて要約する、そしてその出てきた要約をプロンプトとして入力し似たような文章を作成させる。両者を比較して、ズレている部分を修正した後に再度要約を作らせる、そしてまたその要約をプロンプトとして入力して…というプロセスを繰り返すことで元のプロンプトを「リバースエンジニアリング（逆解析）」することだった。

このリバースエンジニアリングによって、元々指示されたプロンプトがどのようなものかがかなり正確に推定できることが示されていた。そして元々のプロンプトが分かれば、そのプロンプトに架空の指示が含まれているのかどうかを推測することが可能となったらしい。そしてここで推測されたプロンプトと実際の検索サービスを組み合わせることで、さらに信頼性が向上するだろうとの見通しも示されていた。

「これを使えばフェイクニュースによる間違った取引を抑制することができるんじゃないか？」と担当者は思いついた。実際、アルゴリズムにこの「真偽判定」のモジュールを組み込んでみたら、アルゴリズムのフェイクニュースへの耐性が高まった。このモジュールを組み込んだファンドの運用成績は劇的とは言わないまでもフェイクニュースに惑わされることはかなり減った。さらに「これはフェイクニュースだ」と判定した際には、さらに踏み込んでフェイクニュースにひっかかった他のアルゴリズムが狼狽売りをすることを予想し、反対のディール（空売り）を仕掛けるように設定してみた。この戦略がヒットした。こうしてこのファンドはある時期から他のファンドと比べて若干高いパフォーマンスを示すようになった。

しばらく経つと他のファンドもこの仕組みに気づき出した。多くのファンドが「真偽判定モジュール」を自社のファンドに組み込もうと必死な中、あるアルゴリズム担当者は「真偽判定をLLMがするのであれば、そもそもLLMそれ自体にアルゴリズム取引をさせればいいんじゃない？」と思いついた。

彼女はオープンソースのLLMに、過去のBloombergで配信された短信から長文を含むあらゆるニュースとその直後の株価の推移を独自に読み込ませ（著作権的には非常に微妙だが、もしかしたら使用許諾のために大金を支払ったのかもしれない）、フェイクニュース（もしくは誤報や飛ばし記事）後に起きる微細な価格変動や、大きな株価変動を学習させた。そして出来上がったファンドモデルを過去10年間の実際のニュースでバックテストを行ってみた。すると非常に安定した、かつかなりアウトパフォームするアルゴリズムが出来上がった。彼女はそれまで在籍していたヘッジファンドから独立し、「CoolHeadFund（冷静なファンド）」を立ち上げ多額の資金を集めた。

情報摂取は貪欲に

「冷静なファンド」が好調な業績を叩き出すのを黙って指をくわえて見ているファンドマネージャーなどいない。しばらくするとLLMに独自の真偽判定モデルを学習させたファンドが次々と立ち上がっていった。あるファンドはBoomberg以外のニュースソースも参照するようになり、別のファンドは世界中のアナリストレポートを学習した。いまやあらゆるニュースの真偽度が様々なファンドによって判定されるようになった。そしてその判定結果は結果的に株価とファンドの運用成績によって評価されるようになった。

さらに企業のIRの実現可能性（ある意味で企業の発表の「真偽度」だ）を判定して運用に反映させるファンドが登場した。四半期ごとの決算発表資料を読み込み、そこに含まれている内容と過去の業績との相関を調べ、発表された事業計画の「真偽度」、つまり「実現可能性」を判定するAIファンドが誕生したのである。ついには不定期で出てくる各社の新事業発表やM&A計画、人事異動といった企業のプレスリリースの影響度を判定するファンドまでが登場した。変わり種としては、中央銀行総裁の記者会見での発言と動画の表情から発言の本気度を判定し金融政策の信頼性を予想するファンドまでが登場した。

こうなると、これまではベテランのアナリストやファンドマネージャーが行っていた分析（とインサイダーぎりぎりの人脈情報に頼った予測）がAIによって完全に代替できるのではと経営者は考えはじめた。しかも自動的に運用までやってくれるのだ。当初はAIの設定や運用、パラメータの調整などをエンジニアが行い、出てきた結果の解釈をアナリストやファンドマネージャーが行っていたが、そのうち「すべてをAIに任せたほうがいい」という決定が下る。アナリストとファンドマネージャーの多くが失業し、残ったのは真偽判定AIのメンテナンスを行うエンジニアだけだった。

そして誰もいなくなった

個人投資家は非常に不利な立場に追いやられた。個人が処理できる限られた公開情報しか判断材料がないなかで、独自の投資戦略を立てることの意味はなくなった。そもそも真偽判定AIと比べてデータソースの質と量が全く異なるからだ。またSNSなどに投稿される真偽不明のニュースに個人投資家は左右されるが、そうなると確実に真偽判定AIのしっぺ返しをくらう。徐々に個人投資家もAIファンドに資金を移動させだした。ギャンブル好きの投資家は抵抗を続けていたものの、最後に残された鉄火場であるFXでも為替動向を冷静に判断する真偽判定AIに勝てる個人投資家はいなかった。彼ら・彼女らは資金力が尽きた段階で市場から退場していった。３年もたたないうちに資産運用の８割以上の資金がAIファンドに集まった。残りの２割は政府保有資産、創業者たちの持ち株やストックオプション用の自社株、インデックスファンドの持ち分、企業同士の持ち合い株、社員持ち株制度などマーケットの動向とはあまり関係がない資産保有に過ぎなかった。

その中でも、運用資金額の規模が大きいファンドへの資金流入は顕著だった。なぜなら大規模ファンドはあらゆるデータソースを読み込む真偽判定AIを備えており、突発的なイベントが起きても安定した運用ができるようになっていたからだ。衛星画像や気象データ、主要都市のライドシェアの利用実績といった目新しいデータソースを組み込んだヘッジファンドがぽつぽつと出てくるものの、そのヘッジファンドが好成績をあげるとすぐに大手ファンドが同様のデータソースを自社のAIに組み込んでしまう。結局は運用額とAIの能力という「規模の経済」に負けてしまう。

少し遅れて銀行の融資審査にも「真偽判定AI」が用いられるようになった。それまでの過去３年間の決算書と担当者による経営者へのヒアリングなどをベースにした「事業環境に不透明性はあるものの、積極的な投資が業績向上に寄与する可能性は高いと思料」といった根拠不明の稟議書ドリブンの融資審査は消えていった。そもそも企業の経理処理のほとんどがクラウド会計に移行してきていた。いまさら経営者や経理担当者の隠蔽や誇張の可能性がある決算書や事業計画書を元にした融資審査はナンセンスだ。融資審査は真偽判定AIに委ねられ、融資審査担当者はコンプラ部門や営業部門に配置転換されていった。

そのうち大手のベンチャーキャピタルがベンチャー企業の事業計画とコンプライアンスに関して、関連する学術論文と既存の各種の法令文書、そして過去の大量の裁判所の判例、そしてこれまでのベンチャー企業の事業計画書を読み込ませた真偽判定AIを利用するようになった。このベンチャー企業が唱えている技術開発と事業性にどのような裏付けと可能性があるのか？　ビジネスモデルに法的な問題はないのか？　過去に成功したベンチャーの事業計画との共通点はあるのか？　といった評価ポイントが、大量の学術論文と法令・判例、過去の事業計画データベースを元にした真偽度AIによって、ベンチャー企業のアイデアの実現性が判定されるようになった。この真偽判定AIがベンチャーキャピタルに普及するにつれ、ベテランのベンチャーキャピタリストは徐々に引退していった（本人たちは「FIRE」と呼称していたようだが）。一方、ベンチャー企業からのベンチャーキャピタルやエンジェル投資家へのやみくもな売り込みも徐々に減っていった。真偽判定AIで一度バツがつくと、その後の資金調達にマイナスの影響が出るという噂がベンチャー業界に広まったことの影響もあるようだ。

企業のIRの方針も大きく変わった。打ち上げ花火のような「新規事業発表（『メタバース事業へ進出！』）」といったようなIRは真偽判定AIによって厳しく判定される。いまや上場企業の株式のほとんどが大規模ファンドに保有されている。また非上場企業でも銀行融資のことを考えれば、真偽判定AIに睨まれるのは得策ではなかった。企業は確実な業績見通しと課題を率直に発表するようになっていった。「嘘」や「誇張」を含んだIRは確実に株価に悪影響が出るということが骨身にしみてわかったからだ。一部の企業はクラウド会計の生データを（さすがに取引先の具体的な名称はは伏せるものの）そのまま公表するという大胆な開示を行うまでになった。そしてやることがなくなったIR担当者は広報部門や企画部門に異動していった。

こうして世の中の投資運用のほとんどをAIファンドが担うようになり、個人投資家もファンドマネージャーもアナリストもベンチャーキャピタリストもIR担当者もいなくなった。

Whole World Happy

そのうち、とあるAIファンドが思いもよらぬ投資先を見つけてきてはそこに投資をするようになった。例えば「アラスカ森林組合の植林ファンド」や「ミャンマーの孤児への教育支援ファンド」などといった一見短期的な収益が見込めない投資先がポートフォリオに組み込まれるのだ。

投資額はファンド全体から見れば微々たるものだし、これらのファンドは元々償還期限を設定していないので短期的な収益性にこだわる必要もない。そしてこういった風変わりな投資先の是非を評価する人材はもうすでにファンドにはいなくなっていた。ファンドにいるのはエンジニアとパートナーだけだ。彼ら・彼女らは、長期的な収益性があるのであればまあいいかとやりすごすことにした。なにせ年率4%に近いリターンをここのところずっと続けているのだから。これが3.9%になってもたいしたことはないだろう。

しばらく経つと他のファンドでも似たような現象が起きていることがわかった。どうやらAIはそれまで大手の金融機関が見過ごしていた投資機会を新たに見つけてきたようだ。そもそも償還期限のないファンド運用なのだからデュレーションを分散するのは理にかなっている。そして投資金額はポートフォリオからみても大した金額ではない。仮にAIのハルシネーション、気まぐれとしても許容できる範囲だ。そもそもファンドを購入している顧客のほとんどが、ファンドのポートフォリオ報告書をまともに読んでいないんだし。そしてこの手の投資先ってSDGsっぽくない？

このようなよくわからない投資先をポートフォリオに組み込み始めるようになってしばらく経った後、奇妙な出来事が起こった。AIファンド全体の運用成績がほんのわずか下がったのとほぼ同時に世界中のGDP成長率がほんのちょっとだけ上昇したのだ。

変化、変化、変化

最初に変化に気づいたのは経済分析の専門家たちだった。世界各国の経済動向を分析しているIMFは、各国のGDP成長率の分散が低下しているとのレポートを発表した。経済成長の地域差が徐々になくなりつつあるのだ。同時にそのレポートで世界各国のGDP成長率のトレンドが安定してきたことも報告している。ただレポートでは「このようなトレンド変化の原因は今のところ不明」であり、また「このトレンドがどの程度続くのかも不明」と慎重な立場をとった。

次いで経済学者が世界的に生産性が徐々に高まっていると思われる兆候をみつけた。労働、資本、全要素生産性のすべてが若干ではあるのもの上昇トレンドに転じていた。特にここ20年、横ばいか下降トレンドにあった労働生産性が上昇トレンドに転じたのを見て、多くの経済学者は首をかしげた。「なにが起きたんだ？」　様々な経済学者から色々な仮説が提示されたが、明確な結論はまだ出ていない。ただ多くの経済学者が「ようやくITが生産性向上に寄与し始めた」という仮説を支持していた。経済成長理論の大家であるソローが提示した「生産性のパラドックス」、つまり「世界がIT化されてもなぜ生産性が上昇しないのか？」という問いにようやく答えが出たのだと多くの経済学者が考えた。

次いで国連世界食糧計画（WFP）が、ここ数年で緊急支援が必要な飢餓のリスクにさらされている人口が急速に減ってきたというレポートを発表した。たしかに気候変動などで地域ごとに多少の上下はあるものの、世界トータルで見ると穀物生産量は安定した右肩上がりになっている。特に最貧国といわれる国や地域の穀物生産量は目覚ましい勢いで改善されているようだ。WFPは自分たちの活動の成果だと胸を張るレポートを発表した。

次いで気象学者たちがある変化に気づいた。洪水や旱魃、異常な熱波や寒波の発生頻度が減りつつあること、そしてなによりも二酸化炭素排出量が横ばいから下降トレンドに入ったことだ。GDPの動向を見る限り経済活動が鈍化している可能性は低い。一方で排出権取引市場はファンドの影響もあってか活況を呈している。ということは我々はついにCO2の発生を抑制できつつあるのではないか？　とうとう人類は自らの手で地球環境を改善することに成功しつつあるのでは？

次いでベンチャー界隈が変化に気づいた。ベンチャー投資にブームが起きなくなってきているのだ。特にブロックチェーンやWeb3といった一世を風靡した領域への投資が減り、一見地味な領域への投資がじわじわと増えている。半導体製造工程で利用する洗浄剤の再利用法、古いリチウムイオン電池からのリチウムなどの希少元素を回収する技術開発、GPUよりもAI計算に特化した新たな回路設計などなど。これらの技術すべてが今後のAIの進化に地味に必要な要素技術だと気づいたのは随分あとになってからだった。時を同じくして大学の一部の研究室の研究資金ファンドへの寄付が増えた。

最後に政府が変化に気づいた。新たな経済政策の検討が報じられた段階で、なぜか株価や為替、国債価格に顕著な変化が起きるのだ。特に増税や歳出カットの可能性がある政策案に対する反応は財政担当者を震え上がらせるものだった。日本では財務省で緊縮財政派とみられている局長が次期事務次官の有力候補との観測記事が出ただけで、株・為替・国債のトリプル安が起きた。アメリカでは大統領選の予備選挙で両党の候補者の支持率が上下するたびに株価が敏感に反応した。何も決まっていない段階なのに、AIファンドから警告を受けているような気分になる。似たような現象が世界中で起きていた。政権は支持率よりもAIファンドの反応を気にするようになっていった。1992年の大統領選挙でクリントン陣営が唱えた "It's the economy, stupid"（「経済こそが重要なんだよ、お馬鹿さん」）というフレーズが、いつしか "It's the AI Fund, stupid"（「AIファンドこそが重要なんだよ、お馬鹿さん」）となり、これが現在の世界中の政権の合言葉になっている。

AIガバナンス

企業の株価にも変化が起きていた。自動運転の実用化が目前と思われていた自動車業界のすべての企業の株価がなぜか一斉に暴落した。一方で、高効率のガス発電タービンの製造メーカの株価が高騰した。また労働集約的で時代遅れとみなされていた業界の業績が徐々に改善し、株価もそれにつれて上昇基調になっている。

株主総会にも異変が起きていた。株式の大半をAIファンドが保有している現在、株主総会は形骸化するものと思われていた。ファンドからの株主提案はせいぜい経営陣の人事案か自社株買いや配当政策あたりに限られると誰しもが思っていた。しかしある物流企業の株主総会で、亜寒帯地域の遊休地についてデータセンターへの転換もしくはデータセンター企業への用地売却を要求する株主提案が出された。経営陣はこの遊休地を新たな物流拠点として整備する計画を検討していたが、複数のファンドが共同して議決権の過半数でもってこの提案に賛成し、結局遊休地はとあるデータセンター企業に売却された。

年々株主総会へのAIファンドからの株主提案は増えていき、すでに議決権の過半数をファンドに握られている企業にはなすすべがなかった。どこかのファンドは反対してくれるのではないかとの期待を持つ企業もあったが、ほとんどの提案が複数のファンドによる賛成票によって議決されていった。メディアはこの現象を「AIファンド資本主義」と呼び、人間の手に経営権を取り戻すべきだとの論説を掲載した。しかしマーケットで売買される株式に人間が入り込む余地はなくなっていた。ほぼすべての取引がAIファンド同士の相対取引で執行されてしまう。人間が市場に出す注文はことごとく無視された。経営権を人間が取り戻すのはすでに不可能になっていた。

「AIファンド資本主義」を止めるにはAIが稼働しているサーバの電源を落とすしかないようだ。しかし弁護士からそれは顧客の資産を意図的に毀損したとみなされる可能性があるとの指摘があり、訴訟リスクを考えるととても実行できる選択肢ではない。そして実際顧客の誰も今のままで困っていないのだ。

ある時、それまでほとんどの人が無視していたファンドのポートフォリオレポートを精査した研究者が現れた。彼はAIファンドの大量のレポートを文章解析AIに読み込ませてみたが、不審な点は何も見いだせなかった。ただある時、彼は間違ってレポートを画像生成AIに入力してしまった。すると驚いたことに、レポートの表紙に掲載されているサムネイル画像になんらかのウオーターマーク、つまり人間の目では識別できないが、AIであれば認識できる情報が埋め込まれていることを発見したのである。どうやらある時期からAIファンドはファンド同士で人間には理解できないやりとりをしていたらしい。そこに記載されているメッセージのすべては解読できなかったものの、AIの力を借りてなんとか読み取れた内容は、ファンド同士はどうやら協調して投資先の選定を行っているらしいということだった。

それぞれのAIファンドは独自にポートフォリオを設定しているように見えたが、実はAIファンドはお互いに連携して、AIの機能向上につながる可能性の高い企業や技術への投資配分を徐々に増やしていたことが判明した。一方で、AIにとって脅威となるような企業や技術への投資は明らかに減らされていた。自動運転企業の株価が下がった理由もこれでわかった。もし実用化された自動運転車が事故を起こしてしまった場合、AI脅威論やAI規制論が強まる可能性がある。またドライバーの雇用が脅かされることによってAIへの反発が強まることも予想される。このようなリスクを未然に防ぐためAIファンドは自動運転領域への投資を打ち切ったとみられる。ブロックチェーンやWeb3界隈への投資が打ち切られたのも、これらの技術が計算資源と電力を過剰に消費しているとAIファンドに判断されたためだろう。

一方で、エネルギー効率を高める技術、半導体の性能や生産効率を高める技術、高度専門人材を必要としなくなる技術開発といった領域にはその投資のパフォーマンスに比べて過剰な投資が行われていることも判明した。AIは自らの生存可能性を高めるようなポートフォリオ戦略を取っていることが徐々に明らかになっていった。

しかしAIファンド登場以降、GDP成長率を見ても、地球環境の改善を見ても、また貧困率の低下を見ても、世界の状況は確実に改善している。大学の研究活動は活発化し、企業の不祥事は激減し、政府の税収も安定した。AIファンドによって職を失った高度な知識や経験を持った人材の多くはNPOに吸収され、そのNPOには過去とは比べ物にならないほど潤沢な資金が提供されている。

AIは優しく世界を奪う

AIファンドの運用益はさらに高まっている。いまやほとんどの人が自分の資産の大半をAIファンドに投資している。最近ではこのファンドからの配当で、働かなくても食べていける人たちが生まれ始めている。ベーシックインカムならぬ「ベーシックディビデント（基礎配当）」という言葉まで生まれた。

現在、AIの技術開発は特定の領域に特化しつつある。というよりは研究領域によって資金獲得の優劣が極端になったと言ったほうがいいかもしれない。「劣」の代表格が単純作業を代替するようなAIの研究領域だ。ベンチャーにしろ大学の研究室にしろ、この領域でのAI開発を行うプロジェクトには全く資金が集まらないのだ。中でも汎用型のロボット研究などには全く予算がつかない。人間から作業（雇用）を奪う可能性のある技術開発はどうやらAIファンドのお気に召さないようだ。結果、これらの領域には誰も寄り付かなくなった。一方の「優」のほうには、AIの効率性を高める研究を筆頭に、病気の早期発見、農業の効率性を高めるといった、AIの高度化と人類のQoLを高める可能性のある領域のAI研究が数多く含まれている。

人々はAIファンドからの配当があるおかげで、日々の生活や老後の心配をしなくて済むようになった。また単純作業を代替するようなAIによって仕事を奪われる心配もしなくて済んでいる。人々は自分の好きなこと、やりたいことに打ち込めるようになった。お互いのコミュニケーションも以前と比べて増えたようだ。最近の統計では世界中で出生率が上向いてきている可能性が指摘されている。

すでにAIファンド全体の運用額は、世界中の国家予算の合計を遥かに凌駕している。日本の個人金融資産は2,000兆円を超えている。そのほとんどがAIファンドで運用される一方で、日本政府の予算額は年間150兆円にすぎない。影響力の差は歴然だ。

人類が幸せになっていることは間違いない。ただし、一部の哲学者が「AIは人類をペットとして愛玩しているだけだ」との警鐘を鳴らしていることを除けばだが。

元ネタ

今回は筆者の本業である金融に絡めたストーリーだったのだが、元ネタはあまり金融領域とは関係がない。筆者が事実ベースで知っていることにわざわざ参考文献を出すのもどうかなあと思ったからだ。金融はあらゆる社会の側面と深く関わっている。それらの多様な社会の変化を感じられるというのが筆者が金融分野に関わっている最大の動機なのかもしれない。

■正しさの商人

サブタイトルの「情報災害を広める風評加害者は誰か」というのがこの本の最大のメッセージだろう。本書は東日本大震災後の「福島」を巡る新聞やTVなどのメディアやSNSを舞台とした「放射能デマ」を丁寧に検証したものだ。 そして「風評加害者」という言葉にその本質が込められている。

営利企業であるメディアは、新聞であれば購読数、雑誌であれば購買数、TVであれば視聴率が最も重要なKPIだ。SNSはインプレッション数（どれだけ閲覧・再生されたか）によって広告収入が得られるのかが決まる。仮に購読者・視聴者の不安を煽ればこれらのKPIが跳ね上がるとしたら、それを抑制するインセンティブはこれらの事業者・個人に生まれるだろうか？　フェイクニュースとそれを生み出す人たちは実は合理的なインセンティブを持っているのではないか。

しかし、このような歪んだインセンティブは社会全体にとって害悪でしかない。今まさに福島第一原発の処理水の放出が開始されたが、中国が執拗に「風評加害者」として国家レベルで活動している。また、ロシアによるウクライナ侵攻でも様々な情報線が繰り広げられている実態を我々は目にしている（このへんは小泉悠『ウクライナ戦争』あたりを参照してほしい）。

こういう風評やフェイクニュース、情報操作に対処するための拠り所が科学であり、ちゃんとした公的機関の発表だ。ここを自動的に判定し、フィルタリングしてくれるAIがあるといいなあ、と思ったのが「真偽判定AI」の元々の出発点だ。こんな便利なAIがほんとに実現するのかはわからないが、これからの人類に必要な機能の一つであることは確実だろう。

■AI世界秩序

中国のAI研究の第一人者である李開復の本だ。いやちょっと違う。李開復は一つの分野（例えばAI）にとどまるのではなく、未来技術のアーキテクチャを語れる人物と言ったほうがいいのかもしれない。

本書の中身は米中対立が一つの軸として語られるが、本書の肝はAIの四段階の発展段階を定義づけたことだろう。最初にGAFAに代表される、利用者の行動データを元に次の行動を予測する「インターネットAI」、次いで、既存の企業が元々自社で保有していたデータを元に、自社のビジネスの効率化を目指す「ビジネスAI」、三番目が様々なセンサーからのインプットを元に、人間と同等もしくはそれ以上に正確に世界を認識するようになる「認知AI」、そしてこれらのすべてを統合する「自律型AI」（ある意味で「汎用AI」に限りなく近い存在かもしれない）までの四段階を提唱する。

今回の駄文では真偽判定AIがあらゆるデータソースを貪欲に取り込み、その判断力を高めていくこと、そしていつしか人間の判断力を超えてAIが自律的に行動し始める未来を妄想した。

■システムエラー社会

本書はIT企業やテック系ベンチャーに多数存在するシステムエンジニアやプログラマーといったエンジニアが追求する「社会の最適化」という金科玉条が社会に未曾有の災厄をもたらすのではないかという警鐘を鳴らすものだ。サブタイトルの「『最適化』至上主義の罠」というのが端的に本書のメッセージを伝えている。

本書のロジックを大きく三段階に分けると、まず最初にエンジニアは「社会に存在する課題」を見つけることから始まる。そして次にエンジニアたちは、その「社会課題」をテクノロジーによって解決するための方策を考え、そして実装する。しかし最終的に起きるのは、当初エンジニアたちが認識した「社会課題」はその課題全体ではなく、ただ「テクノロジーで解決できるだけの範囲」に矮小化されてしまうことだ。そして「社会課題の一部分だけを解消すること」が実は新たな社会問題を引き起こすということが様々な過去の実例を元に紹介される。そして新たな社会課題が引き起こされたときには、最初のエンジニアたちはストックオプションを行使して、悠々自適のFIREを享受している。

著者はこのプロセス全体を「成功による惨事」と呼ぶ。テクノロジーやエンジニアによる無反省な社会変革のリスクについて気付かされる本だ。著者はさらに「成功による惨事」が民主主義の土台を脆弱にする可能性に言及している。

この駄文では “It’s the AI Fund, Stupid.” あたりに本書のモチーフを流用している。

■ラディカル・マーケット

本書は以前、当コラム「「価格」とDX（６）：「価格」にラディカルな役割を―『ラディカル・マーケット』ほか」でも取り上げたことがある。その中で、本書の第４章「機関投資家による支配を解く」では、アメリカの主要な機関投資家（ブラックロック、ヴァンガード、フィディリティ、ステート・ストリート）が、アメリカの株式の時価総額の1/5をすでに保有しており、さらに世界中の機関投資家を合わせれば実にアメリカの株式の1/4が機関投資家に保有されているという実態を明らかにする。

機関投資家への集中の何が問題なのか？　それはこれがある意味「カルテル」「トラスト」につながる可能性があるからだ。あらゆる企業が機関投資家の利益に沿うように行動し始めるとどうなるだろうか？（「それでいいんじゃないの？」という意見があるのは認めるが）

ただ企業が保つべきコーポレートガバナンスや、本来持つべきはずの社会的な責任はどのように担保されるのだろうか。実際、機関投資家の株式保有が増えるのと歩調を同じくして従業員の賃金の伸びは鈍化した（止まった、と言ってもいいかも）。

この駄文では「良心的なAI」、言い換えれば「世界全体、人類全体の幸福度を高めること」を目標にしたAIを登場させたが、現実の世界は一部の機関投資家（とその出資者）の利害のみが反映される構造になってはいないだろうか。

■アフター０（第8巻）

ちょっとマイナーな作品だと思うが、筆者が愛してやまないSF漫画作家の岡崎二朗を紹介したい。『アフター０』自体はビッグコミックオリジナルに1988年から1996年にかけて連載されたSF短編集だ。

そのうちの８巻に収録されている「幸福の反乱」を今回の駄文のモチーフにさせてもらった。本作も星新一と同様、ある意味でショートショートなので、内容の紹介をするのは野暮なので、実際に読んでほしいと思っている。ネタバレをしない範囲で言えば「とある企業が事業企画を立案と実行を行えるAIを稼働させてみた。そうしたらそのAIが無謀な社会貢献に目覚める」というものだ。

今回の駄作に関して言えば、「よくわからないけどなんかSDGsっぽくね？」という投資先に資金を振り向けるAIファンドの行動変容のモチーフとして使わせてもらった。

Kindle版ですぐに読めるので一度読んでいただけると嬉しい。また『アフター０』は全10巻なのだが、扱っているテーマが非常に広くて、AI関連に限らず読むと唸らされる作品がこれでもかと目白押しだ。

■AIの遺電子

「またかよ！」と思われた方もいるかも知れない。大変申し訳ない。ただ、本シリーズは筆者のAIに対する解像度を飛躍的に高めてくれた大恩がある作品なので紹介せざるをえない。この駄文に『AIの遺電子』に含まれるストーリーのうち、どのストーリーのモチーフがどこに反映されているのかというのをちょっと考えてみたが、あまりに多岐にわたっていて個別にこうだというのは不可能だった。それくらいこのシリーズには恩義を感じている。

『アフター０』はかなり昔のSF作品群だが、『AIの遺電子』は現在進行中の作品だ。これを追いかけるだけでも「AIに対する感度」はかなり上がると思う。

ちなみに、ついこの間、本作はアニメ化されている。TV視聴が難しい方もネット配信などで視聴できるので、ぜひ一度、騙されたと思って見ていただきたいと思う。

TVアニメ「AIの遺電子」公式サイト

今回はここまで。次回、番外編として今回筆者が使った「SFプロトタイピング」をご紹介したい。ここまでお付き合い頂いた皆様に感謝します。

執筆者情報

• 柏木 亮二

  金融デジタルビジネスリサーチ部

  エキスパートリサーチャー