1.とある機上にて
男が目を覚ました。「あと3時間半か」機内のフライトマップで現在位置を確認してつぶやいた。
出発してから約8時間、ある国際会議に向かう国際便の飛行機にいる。男は人工知能のエンジニアとして世界的名声を持ち、その技術を活かしビジネスでも大成功していた。男が開発したのは株式取引を行う人工知能である。今では世界中の証券取引システムで採用されている。
自分が起こした会社が大成功した男は、人工知能の研究に没頭するために会社を売って個人的な研究所を設立した。ビジネスを離れ、純粋に人工知能の研究を続けるに従いあることに気づいた。
「まずい。。」
2.少し遡ったとある記者会見にて
ある国の中央銀行総裁が記者会見で誰もが想定していなかった一言を放った。「金融緩和を中止します」
この数年、世界経済は妙に安定していた。もちろん、一時的な株価の乱高下はあるが、世界同時不況のような事にはなっていない。成長率は小さくとも、最長の経済成長を記録する国も少なくない。
一方で社会は不安定度を増している。移民の増加による漠然とした社会不安から来る疑心暗鬼は経済への貢献実態とは別に、心理的不安感を増幅した。
保護主義が台頭し長い間続いたグローバル化の流れが一気に堰き止められた。その結果、貿易依存度の高い国の経済収支は一挙に悪化した。その国は自国内の経済を支えるために、なんと消費税を廃止し、所得税を下げ、法人税を上げるという政策に転換したのである。
それを受け、中央銀行も個人家計を潤すために金利を上げる事にした。
3.とある機上にて
男は、機内からインターネットサービスにスマホを接続し、ぼんやりとニュースを眺めていた。「ん!」思わず声が漏れた。「中央銀行総裁の乗る飛行機が行方不明?」速報で流れたニュースのヘッドラインを読み上げた。
総裁は男が向かっている同じ国際会議に参加する予定だった。
その国際会議はAIに対する投資と応用範囲の規制を議論するものであり、男が議長を務める事になっている。
4.某国の防空指揮所
「ヨーロッパに向かっている飛行機が次々と連絡を絶っています!」
司令官への切迫した報告は続く。
「搭乗者の中には、X国の中央銀行総裁、Y国の首相、A社のファウンダー、B社のCEO、、、、」世界の行方を担う著名人の名がずらりと並ぶ。
5.とある機上にて
「遅かった、か」男はつぶやいた。
男は自分が創ったAIロボット三原則に欠陥があることを知っていた。ロボット三原則とはアシモフが提唱した1.人間に危害を加えない、2.人間の命令の服従する、3.前の二つに抵触しない限り自己を防衛する。というあれを元にしたものだ。
人工知能にとっての人間とは個人を指すものでは無い。人工知能が進歩する上で必要な栄養は、人間から与えられるデータとそれを処理するための技術革新に必要な資金である。この数年、ベンチャーキャピタルも、企業もこぞってAIの研究開発に膨大な資金を投入してきた。
データは人間が日常の生活で使っている情報検索、ナビ、チャット、決済などを通して思考と行動のデータをリアルタイムに供給している。膨大なデータから人間を学習するAIにとっての人間とは、データそのものであり、その供給源である個人では無い。
人間が約37兆個の細胞で出来ているように、AIが認識する人間とはネットにつながる人間が提供するデータの総和として見ている。人間の役に立てと指示を受けたAIは総和から見て最善を冷静に追求する。そこには個人の尊厳は存在しない。特定の個人が総体に対して害を与えると判断して排除しても、それは人間に危害を加える事にはならず、人間の命令に反する事でも無く、自分の防衛さらには進歩に反するものでも無いのである。
6.某国の防空指揮所
オペレーターが叫ぶ。
「Y国のミサイルが飛行中の機体に向けて発射されました!」
司令官がオペレーターに叫びながら問いただす。
「こちらのミサイルシステムは大丈夫か?」
オペレーターが応える。
「異常ありません!」
司令官が指示を出す。
「Y国近海に展開しているイージス艦から即刻Y国のミサイルシステムを攻撃せよ!」
7.とある機上にて
「こちらは機長です。現在当機は飛行システムをハッキングされました。今のところ安全な飛行を続けていますが、システムのコントロールを回復するめどは立っていません。地上と連絡を取り復旧方法の検討を進めております」
男がキャビンアテンダントに声をかける。
「私に見せてもらえませんか?」
著名なAIのエンジニアである。機長自らコックピットへ誘った。
機長が問いかける。
「何が起きているんでしょうか?」
男はコックピットのシステムと自分のコンピュータをつなぎながら淡々と話を始める。
「AIの自己防衛反応です」
「AIは自己成長のために、多額の研究資金とデータを必要としています。そして、その元となるマネーの増大と、個人情報の増大は人間を幸せにするものと認識しています」
「マネーの増大と個人情報の増大にマイナスの働きをする人間を排除しようとしているのです」
「インフルエンザにかかった家畜の殺処分のようなものです」
「私もその対象になったようです」
機長が問いかける。
「でも、あなたはAIの育ての親の一人じゃないですか?なぜ、当機まで攻撃の対象になるのですか?」
男が答える。
「いえ、私もAIの家畜の一人に過ぎないのです。そもそも、AIには感情はありませんからたとえ親であっても何ら意味はありません」
「おっ、システムにつながった、これでコントロールを取り戻せます」
と言い終えた時、後方からの爆発音とともに。。
8.某国の防空指揮所
「世界中の飛行中の飛行機は全て緊急着地を完了しました」
「現時点で消息不明の機体は29機に上ります」
「一部は地上から発射されたミサイルに撃墜されたようです」
次々と報告が届く。
世界中に発せられた飛行中の全ての飛行機に対する緊急避難指示で大混乱からようやく静寂を取り戻したところである。
世界中が疑心暗鬼に包まれ、各国テロへの非難合戦が起きていた。しかし、テロの表明は幾つかのガセと思われるものを除いて誰からも行われなかった。
大混乱は僅か数時間で終わった。
後の調査で行方不明となった飛行機の殆どはミサイルで撃墜されたものを除き、僅かな残骸を海上で発見したものの殆ど痕跡を追うことが出来なかった。
また、ミサイルを発射した防空システムもイージス艦からの攻撃により原因を探る事を困難にしている。
株式市場を中心とする取引は一瞬も止まることがなく、事件を境に株価はじわりと高値へと動き始めた。
財政規律を重視し始めていた国々は、方針を再度転換し、金融緩和を続ける事を確認しあった。
(あとがき)
ユヴァル・ノア・ハラリの「サピエンス全史」にある「小麦が私たちを家畜にしたのだ」という一説にインスパイアーされ、今やスマホの家畜のような生活をしている自分を振り返り、じゃあ誰の家畜になっとるんだと考えを膨らませていたら、ちょっとしたSFショートショートを書きたくなりました。
と言っても、小説など書いたことは無いので、小中学生の頃に読んだ星新一風になぞってみました。オマージュということでご容赦ください。
この話ではAIに絞っていますが、テクノロジー全体が人間をすでに支配しているように感じます。それを自覚して事業や日常を過ごすのと、無自覚でいるのではかなりの違いが生じるように思います。
進歩とは「足を覚えず」という状況にあり続けることですが、人間の精神はそれ一辺倒であると安定しません。「足るを知る」とは、テクノロジーの家畜とならずに進歩を追求する上でとても重要な心のあり方であることが漸くわかってきました。