昨年11月末にOpenAIから公開されたChatGPTはこれまでのAIの能力をはるかに超える性能を示し世界に衝撃を与えた。ChatGPTとの間で行われる自然な会話のやりとりは「汎用人工知能（AGI：Artificial General Intelligence）」の実現も間近ではないかと思わせるほどだ。そしてChatGPT発表以降、生成系AIのニュースを聞かない日はない。筆者も日々生成系AIをいじり、またニュースを追い、そして戦慄している。

生成系AIについて現時点でなにかを書くことは非常に気が重い。なぜなら３日も経てば書いたことが時代遅れになることがわかっているからだ。それほどにこの領域の進歩のスピードは速い。

そして筆者の能力では生成系AI（とその先に来るであろう汎用人工知能）の未来を予測することはできない。とはいえ、なにかアンカーになるもの、未来を想定できる指標になるものはないのかという思いは強い。「来るべき未来像」の片鱗をなんとか想像したい、もしくは「来るべき未来像」のオプションが知りたい。それが人類にとってハッピーエンドかバッドエンドかはわからないが、少なくとも「なにが起きそうか」という想像力だけはなんとか確保しておきたい。そこで頼りにすべきものはSFではないかと思っている。

生成系AIの衝撃

筆者が最初に生成系AIに触れたのは2022年6月に公開されたStable Diffusionという画像を生成するAIだった。プロンプトと呼ばれる「画像生成の指示文書」に従って、一瞬で画像を生成するAIを見て「これはヤバイな」と思った記憶がある。

その前の2020年に現在のChatGPTやGPT-4に連なるGPT-3が公開されてはいたが、当時は日本語の扱いもたどたどしく、DeepLのような翻訳AIのほうがはるかに使い勝手は良かった。しかしその後、生成系AIは短期間で長足の進歩を遂げた。

ChatGPTの言語処理を支えているのはGPT-3.5と名付けられた大規模言語モデル（LLM：Large Languege Model）で、数百億の文章（トークン）を学習し、前後の文脈から文章の意味を推測し、また適切な文章を返すことができるAIだ。このGPT-3.5などに用いられているLLMと以前の文章AIの違いは、一言で言えば「過去の文脈への配慮の有無」だと言える。

それまでの文章AIでは直前の単語を認知して、その後に続く単語を最も頻繁に出現する単語を確率で選択していた。そのため　文章にはなっているが人間にとっては非常に違和感のある文章を生成していた。しかしLLMでは、直前の単語よりももうちょっとさかのぼって単語を拾うことである種の「文脈」を確率的に判断することができるようになった。そのため、こちらからの問いかけをAIが「理解」し、また人間にとって非常に自然な「会話」と思える文章を返答できるようになった。

一方で、こちらからの「問いかけ（プロンプト）」がAIにとって理解しづらい場合は、相変わらず頓珍漢な返事が返ってくることもある。しかし、このあたりも着実に改善がなされており、現時点ではかなり自然な問いかけ（無茶振りだろうが）にAIが適切な答えを返してくるようになってきている。

このLLMと音声認識を組み合わせれば、例えば単純な問い合わせ系のコールセンターなどはすぐにAIに置き換えられるだろう。また、既存のホワイトカラーがやっている業務の大半は「現場や顧客からの問い合わせに対する返答」だとするなら、ここもLLMに置き換えられる可能性は高い。さらに言えば、生成系AIはこちらから適切な問いかけをすればある意味で「創造的な返答」もしてくれる。実際、サイバーエージェントはWeb広告のコピーライターをGPTで代替し、クリエイターの数を大幅に削減した。そしてもっとショックなことに、人間のコピーよりもGPTが作るコピーのほうが広告の反応率が高かったということだ。（注）ChatGPTで広告会社の組織激変、サイバーでは30人以上いたディレクターがゼロに | 日経クロステック（xTECH）

筆者も実際ChatGPTに試しにレポートを書かせてみたことがあるが（この文章は筆者がリアルで書いている。念のため）、入社３年目くらいの若手のレポートとレベル的には変わらない文章が返ってきて驚いたことがある。

LLMの課題

とはいえ、LLMが万能というわけではない。現在のGPT-3.5やGPT-4は大規模な文章（トークン）を読み込んで学習を行っているわけだが、そのデータは2021年9月以前の情報に基づくものだ。そのため、直近のデータを参照する必要のある問いかけには正確な答えが帰ってくる保証はない。MicrosoftがBingに組み込んだGPTなどでは、その点を改善して直近のWeb情報を同時に検索するようにして、この欠点をカバーしようとしているが、それなら普通に検索したほうが早いとも思える。

また、LLMには「ハルシネーション（幻覚・妄想）：hallucination」と呼ばれる欠陥がある。これは、ありもしない情報・文章をLLMが勝手に作り上げてしまう現象で、例えばChatGPTに筆者の所属する「野村総合研究所について教えてください」と聞くと以下のような回答が出る。

弊社の本社所在地は「東京都千代田区」だ。このようにLLMはしれっと平気で嘘の回答を返してくる（ただChatGPTの名誉のために言っておくと、これ以外の返答は極めてまともなものだった。実際に皆様も試してみてほしい）。

このハルシネーションが解消されない限り、クリティカルな領域で使用するのはかなり危なっかしい。コールセンターで顧客からの問い合わせに間違った手続きを回答してしまうような状況は想像するだけで胃が痛くなるだろう。

LLMは大量の文章（トークン）を読み込み学習することで文章理解と文章生成を行えるようになっているが、大量の文章を読み込み学習するためにはどうしても時間がかかる。そのためリアルタイムの情報をすぐに反映させることは現時点では難しい（これもいずれ解決されるかもしれないが）。このため、LLMの活用領域は現時点では「結論が多少間違っていてもいいもの」、「人間が結果を判断して修正できるもの」に限られるとも言える。この課題を乗り越えるための努力が現在様々なプレーヤーによって行われているが、現時点で見通しがたっているとは言い難いと筆者は思っている。

LLMとその先を見通すためのSF

さて、ようやく書評になる。

まずはLLMの代表格であるChatPGTの仕組みを知っておきたい。

■ChatGPTの頭の中

この本はChatGPTがどのように作られ、どのように動いているのかを解説したおそらく最高の解説書だ。さらにChatGPTの驚くべき性能（と欠点）が、人間の思考と言語のより根本的な機能についての新たな視点を与えているのではないかという指摘もされている。汎用人工知能（AGI）の実現がいつになるかを見通す能力は筆者にはないし、予測する気もさらさらないが、汎用人工知能、もしくは人間と変わらない会話能力を持つAIが出現するための条件やハードル、そしてそのようなAIが出現した際に人類が受ける影響についてヒントが多く詰まった本だ。

■AIとSF

この書評欄で再三SFを取り上げてきたが、ことAIに関する限り現時点で未来を見ようとするならSF以外に頼るすべがない、というのが筆者の実感だ。AIの未来を語るビジネス本は数多く出版されているが、筆者は正直読む気がしない。一応筆者もAIを（かなり本気で）追っかけている立場だが、それでも未来を見通すことはできないし、やる気もない。そのような状況だと思っている中で、「AIの未来」を断言できるような意見には眉に唾をつけるだけだ。

ただ、AIが着実に能力を高めていくことは確実で、その先にどのような未来をもたらすかについては想像力を持っておきたい。そのためにはこの『AIとSF』は現時点では最良の選択肢だろう。

この本の企画はChatGPTが発表された直後の昨年12月に立ち上がったものらしい。そのため、気鋭の作家陣が真剣に生成系AIのインパクトが社会にどのような影響を与えうるのかを縦横無尽な想像力で描き出している。どれが正解というわけではない。ただこのような未来がありうるというオプション、想像力を持っておくことが重要だ。

本書は様々なSF作家によるAIをめぐる物語のアンソロジーなのでどこから読み始めてもいいし、通読する必要もない。手軽に読み始めてほしい。ただ老婆心ながら以下の短編は読むといいかなと思う。

『Forget me, bot』
『シンジツ』
『人間はシンギュラリティをいかに迎えるべきか』

そして解説にあたる鳥海不二夫　東大教授による『この文章はAIが書いたものではありません』を最初に読んでから他の作家の作品にとりかかるのも登山ルートしてはいいかもしれない。

■ボッコちゃん

今更ながら星新一も紹介しておきたい。このショートショート集の中にある「肩の上の秘書」をぜひ一読してもらいたい。

ショートショートなので内容を説明するのは大変に野暮な行為だが、ネタバレを避けつつ簡単に言うと「個々人に最適化されたAIエージェントをみんなが常備している世界」を1971年（52年前ですよ！）で描き出した傑作だ。このストーリーを読んだ営業職の方はゾッとするのではないか。

■金融AI成功パターン

さて、LLMのような生成系AIについてここまで触れてきたが、生成系AIにはハルシネーションという欠陥があるため、まだクリティカルな領域では使いにくい。しかし金融の現場ではすでにある程度安定したAIの利活用が着実に行われている。地に足をつけた議論として「現時点でできること」を知っておくのも重要だろう。

本書は様々な金融機関ですでに利用され実績をあげているAI活用事例が利活用の難易度別に整理されている。これから先、発展したAIが金融業界にどのような変化ももたらすかは未知数だが、来るべき「強いAI」の荒波に対して自社の体力を強化して備えることが重要だろう。その意味で本書は様々なヒントを与えてくれるはずだ。

執筆者情報

• 柏木 亮二

  金融デジタルビジネスリサーチ部

  エキスパートリサーチャー