ChatGPTを筆頭とする生成AIの話題は尽きず、今後の影響について
楽観論と悲観論の両方が渦巻いているのはどなたもご承知の通りです。
私はメルマガ（KENBOの「異端メルマガ」）や当ブログでもお話しているように、
どういうわけか長年、AIを軸にしたシステム開発現場に関わっており、それは今も変わらずです。
ひと月に１回か２回、大学などで学生向けに企業現場の視点でAI業務などのレクチャにも対応しています。
ただ私が関わっているのはこちらの記事でもお伝えしている通り、
華々しい生成AIのほうではなく、自動運転や工場などでひそかに裏方として動く認識系のほうです。
今大騒ぎしているChatGPTはAIの処理でいうと「推論」フェーズに光を当てているように見えます。
一方でどのAIでも共通しているのは推論の前に、「学習」フェーズが必要です。
この学習フェーズでは、よく話題になるディープラーニングを始め、強化学習や
調整（例えば差別的なアウトプットを出さないといったようなフィルタリング）など
実は推論フェーズの前に鬼ほど時間と手間ひまのかかる仕事が求められます。
それは何倍というより何千倍、何万倍といったスケールで
とにかく一言で表すと「大変」としか言いようがありません。
この学習次第で意味のあるAIになるかどうか決まるからです。
さて、ここではメルマガ読者様からタイトルにあるようなご質問を受け、
私なりに返事した内容を共有と備忘録の意味で記事化しています。
AIに「感情」はあるのか？
ChatGPTなどの対話型AIに「感情」があるのかどうか？
というご質問をいただきました・
ここでとり上げた理由は、単純に
感情はありません
と即答する前に、いろいろと考えるべきことがあると思ったからです。
実際にChatGPTに「君に感情はあるのか？」と聞いてみればすぐわかりますが、
『ChatGPTはAIモデルであり、感情を持つことはありません。』
と答えます。
この質問に対する返答は想定通りとも言えますが、
実は、危険でセンシティブな領域の話題となっているようにも思います。
この点を深堀するとそもそも
感情とはなにか？
を定義しないとあやふやで焦点の定まらないままかと。
・・・医学、脳科学、心理学などについてはまったくの門外漢の私でも、
「感情」が人の大脳だけから生まれているのではない、
ということは知ってます、というか本を読んで理解している程度ですが。
それによると、
感情は脳の最深部から生まれる
ようです。
脳の最深部とは、脳幹や扁桃体や海馬などを含めた辺縁系と呼ばれるところ。
感情は人の三大欲求である、食欲・性欲・睡眠欲とも深く結びついていますよね？
また生存本能にも関わるので大脳というより、小脳とかせき髄なんかに関係します。
感情が生まれる場が脳の最深部であるとなると、やはり
AIには感情がない、というのは自明の理のようにも思えます。
なぜなら、AIの機能はそもそもが大脳を模したものだからです。
そこに小脳をはじめ脳幹、辺縁系といった概念は無いからです。
それに、怖い、嬉しい、癒される、ワクワクするといった感情だけではなく、
腹減った～、ムラムラ、ねむぅ～zzzといった三大欲求に直結する感情も
私たちに「肉体」があるからそう感じることができると思うわけです。
そう考えると、どうやってもAIに感情があるはずがない、
と少なくとも今あるAIはそうだと断言できます。
しかし、AIに「感情のあるフリ」はできます。
ChatGPTに聞いてみたらズバリそう返答しました。
ChatGPTは「感情があるふり」をすることができます。
AIシステムはプログラムやアルゴリズムに基づいて応答を生成しますが、
その応答を感情的に見せるように設計することは可能です。
例えば、特定のキーワードに対して喜びや悲しみのような感情表現を含んだ応答を生成することができます。
（中略）したがって、ChatGPTが感情を持つわけではなく、「感情があるふり」をすることができると言えます。
引用元：ChatGPTに「ChatGPTは「感情があるふり」はできるか？」と質問したときの返事
ただし、この「感情があるふり」はあくまでテキスト生成の範囲内での表現であり、実際の感情の体験や理解は含まれていません。
では感情をもたないAIが今後、「感情」を獲得できるのかどうか？
・・・それはわかりませんが、誰かが「生存本能を持つAI」
をこの先に生み出すことができればもしかしたら、ともおののいてしまいます。
AIのゴッドファーザーがGoogleを退社して警鐘
ジェフリー・ヒントン（Geoffrey Hinton）さんが
「AIが持つリスクをGoogleに遠慮することなく発言するため」
Googleを退社したというニュースには大変に驚きました。
ヒントンさんはGoogleのエンジニアリング・フェローという
いわば技術面での最高職にあった人です。
「ディープラーニングの父」とも呼ばれている人で、
私もAIの片隅に関わるようになって何度もこの方の名前を聞いておりました。
確か2008年には、コンピューティング技術における
ノーベル賞とも言われるチューリング賞を共同受賞した方であり、
この方の業績がなければ今話題になっているChatGPTも生まれてなかったかもしれません。
要は、今ある「AI」の基礎を作った方ですね。
私は普通の技術者や研究者が警鐘を鳴らしているのではなく、
AIのゴッドファーザーとも呼ぶべき人がそうしていることに一抹の不安を覚えます。
正直なところ、AIのチューニングや、そのための技術者リソース確保、さまざまな打合せ、
スケジュールや予算管理などチマチマした日常業務に忙殺されている中で、AIがこの先にどう進化していくか
関わっていても予想できないほどに進化スピードが速い、としか言えません。
こちらの記事でご紹介したChatGPTに関する無料レポートは、
2022年暮れに着手し2023年2月にメルぞうに登録しましたが、それ以降は
AIやChatGPT関連でのレポートや書籍などに一切着手しておりません。
理由は明白です。
書いてるそばからChatGPT含む生成AIの進化が激しすぎて、
リリースしたときにはすでに古くなっている状態が目に見えるからです。
当ブログでも何度か述べていますが、例えば
"ChatGPTを使って稼ぐ"的な商品・サービスはしばらくの間、
どんどん雨後の筍のように出現しては消えていくと確信しています。
新たな商品・サービスで上書きしないとすぐに陳腐化し
昨日作ったものがもう使い物にならないというほどのスピードです。
ChatGPT3.5を実装し公開されたChatGPTと、現時点での最新ChatGPT4は
まるで性能（回答の精度など）が異なりますが、それもたったここ2，3か月で生じた話です。
ご存じのようにChatGPTの一般向け仕様、APIなども
どんどん変わっている途上にあり、これからも変わり続けるでしょう。
また対抗馬はやはりGAFAMですね。
誰が最終的に生成AIの牙城を奪うか、目まぐるしい競争が進んでいます。
なおヒントンさんは、AIの開発を止めろとはひと言も言っておらず、
もしそのようにAIを止める方向にいる側にいると思ったらそれは誤りです。
逆でして、ヒントンさんはAIはもはや止められず、良い可能性を追う開発はどんどん進めつつ、
「ただし、それと同じくらいの労力が、AIがもたらす悪影響を抑える、
あるいは防ぐため注がれるべきだと考えています」
と話されています。
それにヒントンさんは、AIと人間の脳ではまだまだ大きな開きがあると指摘しています。
例えば、消費電力の問題です。
ちょっと専門的な話になりますがAIには、機械学習により
推論した結果と正解値が異なる場合に、このまま学習していっても無駄。。。
となるのでそれをカバーする仕組みが存在します。
バックプロパゲーションといって、出てきた結果をもとに
AIのニューラルネットワークを修正していく仕組みがあるのです。
日本語では誤差逆伝播法（ごさぎゃくでんぱほう）と呼ばれます。
ニューラルネットワークの出力側から中間層そして入力側に向かって、
誤差を元に前の前へとさかのぼっていき修正を行う手法です。
実はこのバックプロパゲーション、莫大な電力を消費するんですね。
つまり、間違った答を出してしまったことがわかり、そうしないために
ネットワークへ修正を行い、学習の精度を高めていくのに
気の遠くなるような演算処理が必要でこのため膨大な電力消費を伴うわけです。
ところが人間は違います。
「あーっ！しまった！間違ってしまった。。。
そうかきっと原因はこれだな。。。」
という処理を難なく、さらりとこなしてしまいます。
AIのバックプロパゲーションのような細かい演算は無用です。
このとき脳の消費電力は大きくても30ワット程度だそうです。
だから人間はすごい！
とも言えますし、逆の見方として・・・
だからAIはまだまだ伸びしろがでかい！
とも言えます。
AI現場でヒーヒー言っている中で思うことは、
ChatGPTにしろStable Diffusionのような画像生成AIにしろ、
それらを使ってなんとか。。。という商品・サービスは
非常に短いサイクルで別のものに上書きされる（淘汰される）ということです。
そういった中で、本物につながる可能性のあるものを見つけることは大変です。
しかし、ひそかに息づく本物を見分けるときっと俄然チャンスが広がります。
もう少し言うと、AIを駆使したツールやサービスが
合体、統合したりするとまったく新しい商品・サービスが生まれやすくなります。