ChatGPTをはじめとする生成AI（Generative AI)の華々しい登場以来、
世界のあちこちで私たちの未来について、ポジティブな意見と同時に
ネガティブな意見が錯綜し、それは今も続いています。
日々朝から晩までAIを軸にしたシステム開発の現場に携わっていると、
薄々と、私なりに人工知能がこの先にもたらしそうな近未来を感じます。
これにもポジティブ面とネガティブ面と両方あるのですが、
確実に言えることは、今は賛否両論あるなかでAIの活用を拒否、あるいは遮断
といった段階は終わり、すでにここにあるので後はどう付き合うのか？
そういったすでに生活の中にあるAIを前提として、この先を
考える次元に私たちはいる、という状況だということです。
こういった状況において、このページでは
AIがもたらす真の危険性
について探ってみたいと思います。
ChatGPTの話をしなくなる日
2022年の11月に登場したChatGPTは瞬く間に浸透し始め、私自身は
"AIを応用した商品作りのために生成AI(ChatGPT）を使う"
というAIが新たなAIを生み出すようなこれまでにない不思議な感覚で仕事しています。
このChatGPTなど生成AIブームは、これからしばらくの間、
いろいろな形で騒がれ続けることになるだろう、とは
誰もが簡単に想像できることですよね？
ですがそれはいつまで続くものでしょうか？
私はこの生成AIブームがいずれ急速に萎れてしまうのではないかと、
そのように思えてなりません。
そのわけは？
生成AIブームが萎れるといっても、単に人々が話題にすることが
だんだんと無くなってしまう、という意味であって
それは生成AIが消滅することではありません。
むしろ逆。
生成AIを含めて
AIがコモディティ化
するという意味です。
要は、パソコン、スマホやインターネットなどと同様に
あって当たり前のようになる、という意味です。
ChatGPTという言葉を使わずとも、生活のあらゆる場で
あえて意識しないでもいつでもそこに「AIが存在する」
という状況になるため、目新しい話題ではなくなるということです。
AI最大の危険性が「砂糖」と「麻薬」に似ているワケ
AIは、あって当たり前というコモディティ化が進むだけでは終わりません。
すでにパソコン、スマホ、インターネットなどが果たしてきた影響を
はるかに次元を超えた形で強烈にもたらす点が異なります。
このことに関係して、アメリカ在住の起業家でありソフトエンジニアでもある
中島聡さんがとてもうまい説明をしてくれています。
中島聡さんについては、こちらの記事でもご紹介しておりますのでご興味ある方はどうぞ。
-
-
ChatGPTはどう変わっていく？～「UI」が自然言語に置き換わる想像を超えた未来 - インフォレビュー（INFOREVIEW）
かれこれ10年ちょっと前になりますが、「AIが今度こそ商売になりそうだぞ！」と当時在籍していた会社で半信半疑ながらその会議に参加していました。 ちょうどディープラーニングが本気で研究から実用へ移行し始
www.ifrv.net
中島さんは、かの有名なイスラエルの歴史家であるユヴァル・ノア・ハラリが、
Lex Fridman（レックス・フリードマン）のPodcastで対談している中で漠然と感じていた
AIの人類にとっての最大の危険性
が何かハッキリ見えてきたと断言しています。
ここでLex Fridman（レックス・フリードマン）という人はほとんどご存じないかと思いますが、
ロシア系アメリカ人であり、家族とアメリカに移住しMITの助教授ですが、
AIについても超専門家のひとりです。
Lex FridmanのPodcastは実は分野も広く、他でなかなか聞けないレベルでありとても人気があります。
ユヴァル・ノア・ハラリとのこちらのYouTube対談も一般人には難しい話ながらも
本記事投稿時点で100万回近く再生されています。（英語対談になります）
-
-
Yuval Noah Harari: Human Nature, Intelligence, Power, and Conspiracies | Lex Fridman Podcast #390 - YouTube
Yuval Noah Harari is a historian, philosopher, and author of Sapiens, Homo Deus, 21 Lessons for the ...
www.youtube.com
「砂糖」がAIの危険性と共通している点とは？
中島さんによると、AIの本当の危険性は「砂糖」とよく似ているとのことです。
人間（人間だけでなく、霊長類を含むさまざまな動物）は長い年月をかけて味覚を発達させ、自分が必要とする栄養分を摂取するようになりました。
その中で、「甘み」を感じる味覚は、エネルギー源である「糖分」を含む食べ物を積極的に摂取するために重要な役割を果たして来ました。しかし、サトウキビから簡単に砂糖を作れるようになった現代では、その「味覚」をハックする甘い飲み物（例：コカコーラ）や食べ物（例：チョコレート、羊羹、…）が巷に溢れ、それが肥満や糖尿病（2型）の主たる原因になっています。
中島聡さんのLife is beautifulより（太字はKENBOによるもの）
肥満や糖尿病が原因で亡くなる人が毎年何百万人もいることを考えれば、砂糖は人類の敵だとも言えます。
砂糖の話で思い出したのですが、最近とても面白い！と思った映画で
「ヴァチカンのエクソシスト」の中で、ラッセル・クロウ扮する主人公の
ガブリエーレ・アモルト神父がエスプレッソに砂糖を入れるのを断ったシーンがありました。
確か、「砂糖は悪魔の食べ物」だとか（正確に何と言ったかは失念しましたが）
と言っていて、そういう考え方もあるのかと思ってましたが、
中島さんのコメント聞いて、なるほどと納得した次第です。
「麻薬」がAIの危険性と共通している点とは？
また中島さんによると、AIの本当の危険性は「麻薬」ともよく似ているとのことです。
麻薬は、砂糖と違って、人間の脳や神経の働きに直接的な影響を与え、幻覚や高揚感を与えます。しかし、中毒症状を起こし、通常の生活を送れなくなったり、過剰摂取により命を落とす人が後を立ちません。
中島聡さんのLife is beautifulより（太字はKENBOによるもの）
砂糖と違って、麻薬は明らかに「人類の敵」です。
ここまでで何を言いたかったかというと、
AIは近いうちに、人類にとって「砂糖」と「麻薬」の間のような存在になって行くだろう、
これが中島さんの読みであり、私も深く同感していることです。
これはいったいどういうことでしょうか？
もう少しその中身を深掘りしていきます。
バーチャル・ラバー
中島さんの洞察をもう少し見ていきましょう。
InstagramやTiktokなどのSNSは、アルゴリズムにより、ユーザーをそのサービスに「長時間釘付けにする」ことにより成功したビジネスです。次のフェーズでは、そこに人工知能が応用されるようになります。
それは、人工知能を活用した、ペット、セラピスト、恋人、相談相手、教祖などのさまざまな形をとって具現化されますが、その全てに共通するのは、それが
中島聡さんのLife is beautifulより（赤太字はKENBOによる編集）
「ユーザーを虜にし、それなしでは生きていけないぐらい重要な存在」
になることを目指して設計される点です。
それなしでは生きていけない
ように設計される。
とは、実に怖ろしい話ではありませんか。
中島さんはもし自分がMetaでエンジニアをしているならば、
必ずそこを目指すと断言しています。
すでに画像生成AIとChatGPTを連携させて、
亡くなった愛する子供、夫、妻、恋人の在りし日を
再現させるようなニュースも聞いた覚えがあります。
本格的なロボットの形として登場するにはまだまだ時間かかりそうですが、
ネットを介した形でのバーチャルな姿であればかなり近い未来に登場しそうです。
亡くなった寂しさと愛しさを抱えたあなたの記憶を再現させ、
そっくりそのままの話し方、トーン、表情で語る
バーチャルな夫、妻、子、恋人、それからペット。
倫理面でも問題になりそうですが、あたかも在りし日の
表情や言葉そのまま（に見える）のスクリーンの向こうとの会話は、
エクソシストどころではなく怖い状況かもしれません。
いえいえリアルな人物やペットに限らず、
想像の世界ではもっと自由に、もっと極端に演出できます。
あなたの妄想によって作られた、あなた好みの
バーチャルな恋人やバーチャルなペット
がいつでもあなたの呼びかけに答え、癒してくれるならどうでしょう？
これまで製品化されているAIおもちゃではありません。
自然言語を理解して、あなたを芯から癒してくれるバーチャルな存在が
いてくれたら、それなしでは生きていけないくらいに重要だと感じておかしくありません。
バーチャルな恋人やペットの虜になるということです。
一度、この罠にはまってしまうと容易には抜けることが難しくなります。
もしこのバーチャルな恋人やペットとの関係を維持、さらに深くするために、
これにはまった人は際限なくお金を費やす可能性が生じます。
それなしでは生きていけないくらいの存在をAIで作り出せれば、
それは一種の究極の広告装置にもなりえます。
さらに言うと、AIを使って購買行動を起こさせる、あるいは
投票活動にも影響を与える存在にもなりえます。
こうなると、世論を左右してしまうことだってできそうです。
中島聡さんはこの究極の広告装置のことを、
「薬物を使わない合法ドラッグ」
と語っておられました。
こういったことが今、無邪気に騒いでいる（私もその一人に過ぎませんが）
ChatGPTなどの生成AIがほんの少し先にもたらしそうな真の危険性になるかもしれません。
PS :ブレードランナー2049
バーチャルな恋人・・・という話をして、この話に極めてマッチした
映画のあるシーンを思い出しました。
ライアン・ゴズリング（主人公のK)やハリソン・フォード出演の名作映画
（私はAmazonプライムビデオ含めて10回以上は観ている大ファンです）
ブレードランナー2049に出てくる、ジョイというAIを搭載したホログラムの女性です。
ジョイ役には、アナ・デ・アルマス。
ジョイはAIですが、Kに恋をしています。
Kももちろんジョイを嫌いではありません。
ジョイは、部屋に呼んだ人間（売春婦）のマリエットと同期して
Kとセックスをする・・・そういうシーンですがYouTubeでも出ています。
（いつ削除されるかはわかりません）
-
-
Blade Runner 2049 - Incredible Scene - YouTube
This movie belongs to Warner Bros Pictures. I own nothing! ®2017 Alcon Entertainment, Columbia Pictu ...
このシーンを観ると、AIがどのような可能性を帯びているかSF映画とはいえ、
AIに携わる者としては、あり得る未来ではないかとある種のロマンも禁じえません。