テクノロジーの未来予測を始めるには、それにふさわしいツール（手法）が必要だ。（略）未来の手がかりは過去のパターン、また現在変化がまさに起きようとしている『限界的事例』、そしてサイエンス・フィクション（SF）が描く『想像上の未来』のなかに潜んでいる。（「2050年の技術」英エコノミスト編集部 p.11より）
AIは数十年来SFの格好のテーマだった。AI研究の冬の時代には創作活動も下火になっていたが、近年のAIブームを受けて、再びAIを主題にしたSFの佳作が生まれている。質のいいSFはAIがもたらす影響を想像するツールとして最適だと思う。その中でも読みやすい短編を中心として紹介する。

AIの機能と論点が俯瞰できるショートショート集

「人工知能の見る夢は　AIショートショート集」は、人工知能学会が発行する学会誌「人工知能」に連載されていたSF作品を同学会が編集したものである。同書の構成は、作品内に登場する人工知能の「技術」や「使われ方」に即して、同じテーマを持つ作品ごとに章立てを行っている。また、各章にはその章のテーマに関する専門家による解説が付されている。この解説だけを読んでも十分に面白い（が、作品を読んでからのほうが当然ながらもっと楽しめるが）。

章は８つあり、それぞれ以下のようなテーマを扱っている。

「対話システム」：Siriが実用化されたことで一気に身近になった対話システムだが、これまでの対話システムは「意味」を理解してはいなかったと言われる。人間の言葉を音声データとして分析し、利用されている単語の並びに最も関係がありそうな文章を返す、というのがこれまでの対話システムの構造だった。しかし、最近は人間の発言（自然言語）の意味を分析する方向での開発の成果が出てきている。注目の分野である。

「自動運転」：まだまだ現実の世界での完全自動運転の実現は難しそうだが、仮に実現したら社会に大きなインパクトを与える技術である。それだけに将来起きるであろう様々な問題や課題が想像できる分野でもある。

「環境にある知性」：IoTが普及すれば、私たちの身の回りは「スマート」な機械や構造物で囲まれることになる。これはある意味で「究極の便利さ」を実現しうる環境でもあるが、一方で、常に「始終何かしら干渉される」大変にうざい環境にもなりかねない（カーナビが頻繁に「この先、渋滞があります」と伝えてくるのをうざいと思った人ならわかるだろう）。人間と機械のインタフェースをどうデザインすべきかはこれからの大きな課題である。

「ゲームAI」：チェスや将棋、囲碁といったボードゲームの世界ではすでに人工知能が人間を上回っている。しかし、だからといって将棋の魅力が減じたわけではない。いくらF1カーが時速400kmに近い速度が出せるからと言って、オリンピックの100m走の魅力がなくならないことと同じだ。ただ逆のことは人工知能にも言える。彼/彼女ら（？）は、そもそも「ゲームに勝つ」という意味を理解していない。ではそれは「強さ」と呼べるものなのだろうか。人工知能にとっての「ゲーム」や「勝利」の意味を考えてみるのも面白い。 なお、コンピュータによって最終解が明らかにされたゲームも既に存在する。その一つがチェッカーだが、そのチェッカー界における人類最強のプレーヤーとコンピュータの対戦という「人類 vs. AI」の縮図のような作品がある。これも短編集だが、宮内悠介「盤上の夜」の中の「人間の王」である。何かいろんなことを考えさせてくれる作品である。

「神経科学」：ディープラーニング（深層学習）のモデルは元をたどると、人間の脳の構造を再現しようとしたニューラル・ネットワークの研究に始まる。現時点ではまだ人間の脳のサイズのニューラル・ネットワークは再現されていないが、ハードウェアが十分に進歩した将来、人間の脳をそのままシミュレーションできるようになったり、もしかしたら脳をまるごとコピーできたりするのではないかと考えている研究者もいる。また別の問いかけもできるだろう。それは「機械（人工知能）はそもそも人間の脳を模倣しなくてもいいのではないか？」というものだ。人間の脳以外にも「知性」「知能」がありうるとすれば（例えば粘菌はある種の問題を「解ける」）、その方向で知能を強化させることもできるのでないだろうか。

「人工知能と法律」：新たな技術は社会に大きな変化を起こす。そうすると、それまでの社会を構成していた法律も変わらざるを得なくなる。すでに現在でも人工知能に関しての法的議論は活発に行われているが（自動運転の責任分担や著作権の問題などなど）、そこで行われている議論は堅苦しい法律解釈論にとどまらず、ある種突拍子もない想定が真面目に語られていたりする面白い世界でもある。解説もぜひ読んでほしい。

「人工知能と哲学」：人工知能には常にある種の倫理的な問題がつきまとう。倫理的な問題を考える上での土台となるのが哲学であるとするなら、人工知能と哲学は切っても切れない関係だと言えるだろう。このテーマは過去から多くの作品で取り上げられており、古くて新しい問題だが、具体的な技術とその実社会への適用が始まった今だからこそ、改めて見えてくる問題がある。

「人工知能と創作」：「知能とはなにか？」という問いに対する一つの回答として、「創造ができること」という立場がある。では、人工知能が創作活動を行い、それが人間にとっても意味を持つ創作であった場合、人工知能に人間同様の「知能」が存在すると認めるべきだろうか？最近、既に亡くなったアーティストの過去のデータを元にAIによる新曲や新作品の制作が実際に行われている（例えばNHKの美空ひばり）。この新たに作られた作品の著作権は誰に帰属するのだろうか。また現在では人工知能による「創作」には、過去の人類の創作活動のデータがそもそもの材料として利用されているが、もし何のデータも与えられずに強化学習を用いて人工知能が何かを作り出したとしたら、それは誰の作品なのだろうか？　ひとつ金融に近い例を上げると、過去の株価データのみを与えた人工知能がそのデータだけを元に編み出したポートフォリオとトレード戦略が利益を生んだとする。ではその利益は誰に帰属するのだろうか。

ショートショートなので、気楽に読み始められる。しかし、解説を含め、この本の取り扱っている範囲は広く、また問題意識は深い。

マンガとAIの相性はとてもいい

「AIの遺電子」は、情報技術の進歩と人間社会の関わりを鋭く描く山田胡瓜氏の作品である。現在、一話読み切り形式での連作として「AIの遺電子」が全８巻、その後、主人公の母親の人格コピーをめぐる物語を描いた「AIの遺電子 RED QUEEN」が全５巻出ている。個人的にはまずは順番通りに「AIの遺電子」全８巻を読むことをおすすめする。

この作品では、上で挙げた「人工知能の見る夢は」で扱った８つのテーマが、よりビジュアルな形で表現されている。そこに出てくる「AI」もバラエティに富んでおり、「人間とほぼ同様の思考を行い、人格も持つ（ある意味での寿命も設定されている）ヒューマノイド」、「機能的には人間と同様の能力を持つが、人間とヒューマノイドに使役することが目的として作られているアンドロイド」、「実体としての体は持たないが（おそらく）シンギュラリティを超えた超AI」など様々な人工知能が登場する。

そして、これらの多様な人工知能と人間が普通に共存している社会で起きる事件、事故、また事件や事故とも呼べない日常が短い一話の中で展開される。主人公はヒューマノイド医療が専門の医師である。ハードウェアの不調（人間で言えば怪我にあたる現象）や、ウイルスへの感染など様々なヒューマノイドのトラブルをときには解決し、時には傍観する。あるようでないような揺れ動く倫理基準、合法・違法の隙間で起きる脱法的状況など、リアルな「AI社会」がそこにはある。

どの回も面白いが、個人的に気に入っているのは７巻に収録されている第76話「あるAIの結末」だ。おおよそのあらすじはこうだ。自動運転車が事故を起こしてしまう。その時運転者はたまたまシートベルトを外しており、急な子供の飛び出しを回避するにはフルブレーキをかける必要があるが、フルブレーキを選択してしまうとシートベルトを外した運転者が前方に投げ出される危険が生じる。結果、AIは運転者の安全を優先し、フルブレーキを選択せず飛び出してきた子供をはねてしまう。幸いにも死者は出なかったが、事故の被害者は重症を負い、運転者と同乗者も軽い怪我を負う。さて、この事故の責任はどう処理されるべきだろうか。

©山田胡瓜(秋田書店)2016
（出所：「AIの遺電子」07巻「あるAIの結末」 p.181）

この話は実はもう少し続くのだが（結末はぜひ実際にお読みいただきたい）、人間社会がAIを利用する際の「責任」についてのかなり深い洞察が込められていると思う。「事故を起こしたバージョンのAIを消去」することで責任を取らせるというこのやり方に正義はあるのだろうか？　そもそも「自己の権利を付与されていないAIが責任を取りうる主体たりうるのか？」という疑問が浮かんで来ないだろうか。

また最近世界各地で議論が盛り上がっているベーシックインカム（BI）をモチーフにした作品、超AIが社会を暗黙のうちに最適化しているのではないかという疑念を扱う作品、ヒューマノイドと宗教など、AIに関するSF的テーマのあれこれがこれでもかと登場する。この「AIの遺電子」は将来的に起きうる倫理的問いかけを様々な視点から提起してくれる（ご参考：当作品は人工知能学会のAI倫理賞受賞）。一読をおすすめする。

AIが普及した社会における「金融」とは

続いては宮内悠介「スペース金融道」を取り上げる。おおよその舞台設定を説明すると、「人類が恒星間移住を既に果たした未来に、とある惑星系で融資の回収を行う消費者金融の社員コンビのドタバタ劇（「スペースオペラ」と呼ぶべきです、はい）」となる。

この世界では既にアンドロイドが多数存在しており、一定の「人権」も認められている。しかし、アンドロイドにはアシモフのロボット三原則に似た制約が課せられており、その制約のせいで、人間との安定した共存が維持されている。その原則は以下の３条からなる。

• 第一条  

  人格はスタンドアロンでなければならない

• 第二条  

  経験主義を重視しなければならない

• 第三条  

  グローバルな外部ネットワークにアクセスしてはならない

これだけを見て意味が分かる人はいないと思うが、この３条が作品中で実に面白い制約条件（そしてトリック）として機能するのである。

それぞれの原則を簡単に説明すると、第一条の「スタンドアロン」とは、人格の複製や転写の禁止を意味する。

第二条の「経験主義」というのは、本来完全に合理主義的な意思決定を行うであろうアンドロイドに、一種の不合理な意思決定をさせるためのバイアスを埋め込むことを意味している。「経験主義」とは、「本来因果関係がないものに因果関係を見出すための仕組み」として機能する。たとえば「今朝飲んだお茶に茶柱が立っていた。そして今日はいいことがあった。ならば次に茶柱が立った日にもいいことがあるだろうと予測する」といったバイアスである。これは言ってみれば、人間の持つ認知バイアスをアンドロイドに埋め込むことで、人間との協調を測る仕組みと言える。完全合理主義のアンドロイドを、経済学でいうところの「ホモ・エコノミクス」、経験主義を埋め込まれたアンドロイドを「認知バイアスを持つ実際の人間」として対比すれば、このアイデアの秀逸さが分かるだろう。

そして第三条の「グローバルなネットワーク」とは、今で言うインターネットであり、人間社会の基盤となるネットワークである。アンドロイドの計算能力を持ってすれば、彼/彼女らが集団で人類のインターネットにアクセスすれば、シンギュラリティを起こしうるというリスクを回避するための措置である。これらの三原則の絶妙さがご理解いただけただろうか。

さて、これらの背景を説明することも本来は野暮なことなので、あとは作品を読んでほしいと言うしかないが、もう一点だけ作品中の「金融」についてのアイデアを紹介しておく。それは「量子金融工学」というアイデアである。現在のブラック・ショールズ方程式がブラウン運動や熱伝導方程式といった物理学の領域と密接に関連を持つように、この作品では、ポートフォリオの構成要素に「量子効果」をもたせた「マルチユニバース・ポートフォリオ」なる概念が登場する。この量子金融工学の元では、取引が相対性理論の範囲に収まる限り、完全にリスクを排除することが可能となる（SFの話ですから真に受けてはいけませんよ）。しかし、取引速度が光速に近づくと、量子力学の影響が強くなり・・・という設定である。この作品はこのようなアイデアがやりたい放題に詰め込まれており、金融の知識がある人なら思わずニヤッとしてしまうだろう。さて、本当に野暮になるのでこのへんでやめる。あとは作品を実際に読んでほしい。

中国の人々のテクノロジー観

続いて取り上げるのはケン・リュウ編「折りたたみ北京　現代中国SFアンソロジー」である。同書は現代の中国のSF作家の短編集である。実は中国SFは今大変盛り上がっている（ご参考：SF業界が急成長、7000億円産業に 最新の「中国SF産業リポート」発表）。そのきっかけの一つが先ごろ日本でも邦訳が出版された劉慈欣（リウ・ツーシン、りゅう　じきん）「三体」だろう。実は中国で改革開放政策が始まった時期くらいから、中国のSF界にも新たなムーブメントが起こり、中国ならではのテクノロジー受容のあり方の影響を受けたSFの素晴らしい作品が数多く発表されてきた。ただ残念ながら外国語への翻訳（英語や日本語）の機会が少なく、世界的には余り知られていなかったようである（筆者もあまり中国にSF作品があるとは思っていなかった）。

ただ、中国はこの30年あまりで急速に発展・変化してきている。経済発展はもちろんのことだが、現在ではAIの分野ではアメリカと覇権を争う存在とみなされるほど、急速に科学技術国家としての立場を確立しつつある。また、アリババやテンセントといったIT企業や政府・自治体による社会へのIT技術の実装でも世界をリードする存在でもある（性急すぎるのではないかと危惧を抱く面もあるが）。

さて、このような社会変化を、中国の人々はどのように受け止めているのか、また中国の人々のテクノロジー観とはどのようなものなのか、という点に私は個人的に大きな関心を抱いている。そして、この短編集はその疑問の一部に答えてくれる内容である。

必ずしもすべてがAIに関連する作品ではないものの、個人的に印象に残っている作品として、「遠隔操作可能なロボットによる社会問題の解決」というまさに現実の中国で起きているテクノロジーの社会実装を想起させる夏笳（シア・ジア、か　か）「童童の夏」、「現実を補完するARによるディストピア」を描いた陳楸帆（チェン チウファン、ちん しゅうはん）「麗江の魚」、同じく陳楸帆による「急激な発展を遂げた深センの周縁部のカオスと、中国の庶民のテクノロジーの利用方法」を描いた「沙嘴の花」などがある。

またこの短編集には作品を寄せている作家によるエッセイも収録されている。その中で現在の中国の急激な社会変化と中国のSFについて書かれた陳楸帆による「引き裂かれた世代：移行期の文化における中国SF」がある。その中の一節に次のようなものがある。

現代中国を見る一つの視座として、中国SFが果たす役割は意外と重要なものではないだろうか。

SFリテラシーは意外と重要？

仕事柄か私はAIやIoT、ブロックチェーンといった技術領域の研究者の方々とお会いする機会がある。研究者の方の多くが、ご自身の仕事を説明する際にSFやアニメを持ち出すことが多々あった。私も知っているものであれば無駄に盛り上がってしまって本題からそれてしまうこともあるので一長一短ではあるが、研究内容とその研究の目指す世界観がビビッドに伝わってくる効果は想像以上にでかい。そして、私がお会いした研究者のほぼすべてがSFファンだと言って過言ではないだろう（余談だが、ノーベル経済学書受賞者にもガチなSFファンは多い）。

また一方で、私は金融領域の経営層の方々から「自社でAIなどのデジタル技術を活用する部署を立ち上げたいが、どういう人材が適任だろうか？」といったような質問を受けたこともある。その時とっさに答えたのは「SF好きの人を探すといいんじゃないですか」だった。理想を言えばその領域の技術に精通している人材が理想なのだろうが、技術が適用された「未来」を想像できる力というものも重要なのではないだろうか。そして「未来を想像する力」を測る一つの指標として「SFリテラシー」があるのではないかと思っている。

執筆者情報

• 柏木 亮二

  金融イノベーション研究部

  上級研究員