この指摘に森は「ある研究者が世界価値観調査の質問をChatGPTに答えさせたところ、欧米人の価値観とぴったり合っていたそうです。もう1つ面白いのが、『日本人のように答えなさい』とChatGPTに言うと、日本人らしい答えをしました」と事例を挙げ、アライメントの難しさと重要性を改めて確認しました。

※トロッコ問題：トロッコのブレーキが壊れ暴走する中で、このまま進めば5人が犠牲になり、レバーを引いて進路を変えれば犠牲者は1人になるという状況下で、どのような選択をするかを問う思考実験。

AIの最先端領域、特に自律的に動くAIエージェントに対し、森はさらに問いを深めます。「問題は、そうしたパーソナルAIエージェントが本当に私のためを思ってくれているのか。もしかしたら、どこかの企業の利益の代弁者かもしれない。どのAIが信頼できるのか、人間にはなかなか判定できません」と指摘。

最後に森は、AIがユートピアをもたらすと考えるAI Boomer（ブーマー）や、ディストピアになるというAI Doomer（ドゥーマー）など極端な考え方が混在するサンフランシスコにいながら、ケリー氏が「プロトピアン（世の中は漸進的だが少しずつ良くなる）」のスタンスを貫ける背景を尋ねました。
 
ケリー氏は2つのきっかけがあると語りました。「一つは、若き日にアジア中を旅した経験です。台湾、インド、パキスタン、アフガニスタンといった国や地域が、50年で貧しさから豊かさへと成長する姿を目の当たりにし、人は不可能なことを可能にできると心の底から信じるようになりました。もう1つは、デジタル世界の変遷を見てきたこと。インターネットが登場して人がお互いにつながることで、『善の力』を解き放つのを実感しました」
 
そして、ケリー氏は聴衆に向けてこう語りかけました。「インターネットの黎明期、『オンラインで食品や車を買う人などいない』と専門家は言いました。今、多くの人がAIについて同じように語っています。しかし、私はそうは思いません。自分の考え方を少し押し広げ、想像力を持ってベストケースのシナリオを描き、それに向かって一歩一歩近づいていく。不可能なことはないと信じる力が大切です」
 
「ケリーさんはまさに知識を行動に変えることを実践していらっしゃいますね。今日ここから、未来を悲観するのではなく、想像力を武器に最善の未来へ向かう準備を進めていきたいと思いました」と述べて、森は対話を締め括りました。