AI BLOG CONTENTS

AIは羊の夢をみれるか~学習と推論の間に入る睡眠の役割とは?

2024年6月28日

この記事では、おそらくほとんどの方が初めてお聞きになるような
AIにまつわる話かと思います。

その前に『AI』というと、すぐにChatGPTのような『生成AI』を
思いつく方がほとんどだろうと想像しています。

また生成AIのAPIを活用したツールのことを思い浮かべる人もいるでしょう。
そういったAIツールを宣伝(アフィリエイト)する人も巷に溢れています。

で、私はどうかというとその手のツールをかなり醒めてみています。
宣伝している人を見ても、原理や制約を何も知らないだけではなく
自分では使っていないまま煽っているだけじゃん、と思ってしまいます。
(アフィリで紹介する文言見るとすぐに使っていないことも丸見えです)

AIの現場にいるとその進化スピードが超絶ハンパではなく、
巷のAIツールを見ても「だからなんなの?」
くらいにしか感想がありません。

私も某企業内でAIを使ったアプリケーションシステム(企業向け)に関わっていて、
納品が始まる時期にはすでに大きなグレードアップ要求が発生し、
その繰り返しなので当初のものは影も形もない感じです。

完成がなく延々と進化する化け物に付き合ってる感じがするほどです。

おそらく同様なAIアプリソフトなりを開発している企業は、
皆どこも似たり寄ったりだろうと想像しています。

因みにAIの現場、といったところで他のシステム開発現場と変わりません。
開発対象がAIの応用、あるいはシステムの一部にAIを使うというものであり、
まぁ日本国内にどこにでもやっているような泥臭い職場です。
AIの中身以上に、職場の人間関係や残業時間などのほうがはるかに問題になります(笑)

そういった中で、かなりAIの本質にかかわるオモシロイ話題を耳にしました。

それは;

ヒトの脳がAIと同じ仕組みなら、即座に蒸発しているだろう

といった話です。

AIがやっているのはこれだけ

どんなAIも基本的な動作は二つに分かれていて;

【 学習 】→ 【 推論 】

というフェーズで成り立っています。
というか、現在のAIはこれしかありません。

つまり、勉強して賢くなってそれをもとに実践する、
という人間の行動にも似た動きとなります。

ニューラルネットワークという構造がこういった動きを
可能にしているわけですが、まさに人間の脳神経細胞を
模したようなネットワークを追及しています。

もうちょっと正確に言うと、そのニューラルネットワークでは
「バックプロパゲーション」と呼ぶ情報の重みづけが為されて
ネットワーク自体も常に「更新」されている仕組があって可能となっています。

バックプロパゲーション(Backpropagation)とは、日本語に訳すと誤差逆伝播法(ごさぎゃくでんぱほう)。
わけがわからない日本語だと察します。私も最初はそうでした。
ニューラルネットワークの学習アルゴリズムのひとつです。

簡単に言うと、AIには入力層があり、その後ろに中間層がめちゃめちゃたくさんあって
最後に出力層という流れで動作するのですが、その出力層から入力層に逆向きに
誤差を最小化するような働きがあり、これをバックプロパゲーションと呼んでいます。

これ以上説明するとエンジニア向けの話になり難解なので、
そういう仕組みが存在するからご存じのAIが成り立っているとご理解いただければOKです。
数学的には微分を使います。

莫大な量の学習を行えば、推論(=アウトプット)も
より良いものが得られるということも証明されています。

そのために最適なNvidia(エヌビディアのGPU(Graphics Processing Unit)が
世界中でひっぱりだこになっています。

エヌビディアは最近、時価総額で世界No.1企業になったことは有名です。
私は1980年代から1990年代初頭にかけて、エヌビディアをライバル視していた
企業にいたのですが、一瞬にして抜いていかれたのを記憶しています。

それはさておき・・・

ここで、莫大な学習量も必要なのですがもうひとつ
AIにはそれに伴う致命的問題があって、
莫大な「消費電力」がネックになります。

つまり発熱のことです。

ヒトの頭が単純にAIの理屈と同じなら、
発電所なみの電力が必要となり
おそらく一瞬で「蒸発」しておかしくありません。

ところがヒトの脳はそうなりません。

AIはヒトの脳を模しているのに、この違いはなに?

という疑問が長らく議論にもなっております。

AIは羊の夢をみれるのか?(=睡眠できるか?)

最近、そのヒントはヒトの「睡眠」にあるのではないかと
仮説が立てられその実証に向けての動きも始まっています。

ヒトの脳はこうじゃないかと。

【 学習 】→ 【 睡眠 】→ 【 推論 】

この睡眠ってどんなことしているのか?

あらためて図式で示すとAIとヒトの脳の違いは、あくまで仮説ですが;

睡眠にはまだまだ謎が多く、そもそもなぜヒトは眠らないとならないのか?
もよくわかっていないそうです。

ここにへそ天で眠るネコがいて、
なぜネコは眠るのか?

疲れているから。。。!?

ネコだけじゃなく、野生動物も眠ります。
危険が周囲にあるにかかわらず、なぜその動物が眠らなければならないか?
はまだ分かっていないのです。

体を休めるだけなら、意識を無くしてまで眠る必要が理解できません。

で、睡眠のプロに聞いてみましょう。
こちらのYouTubeは秀逸です。
睡眠とはなにか?があらためて実感できますよ。

仮説として;

人間の脳みそは、起きているときはすぐにアクセスできる
長持ちしない短期型メモリを使って目の前で起きてることを記憶する。

そして眠っている間に、それを整理して必要なものだけ
長期保存型のメモリに移しているという説があります。

なんとなくですが、短期型メモリは顕在意識、
長期型メモリとは潜在意識に繋がってくるのかな?
で、その顕在意識、潜在意識はいったいどこにあるのだろう?
顕在意識は前頭葉?潜在意識は脳幹?海馬?
とどんどん疑問が膨れ上がるのでここでやめておきましょう。

ともかくAIもこうできれば、学習したデータ量も大幅に圧縮されるし、
引き出す際のエネルギー効率を重視した形で記録されるので消費電力も抑えられ
良いのではないかという説です。

ただ実際にどうやって「AIに睡眠をとらせるのか」
私にはさっぱりイメージできませんが、莫大な学習量を担保しつつ
消費電力も一気に抑え込もうということを考えている
AI研究者もいるという話でした。

このあたりが現在のAIテクノロジーをブレイクスルーしそうな先端だったりします。

AIは自らを更新(変化)しながら進化する

そう考えると、今巷に出ているAIツールもそれを宣伝(アフィリエイト)することも
実にしょぼい次元に思えてしまうのです。

私があえてAIツールをご紹介していないのは、なかば
購入者を騙すことになる(=すぐ別のモノに置き換えられる)
のがわかっていてそうすることにどうしても罪悪感があるせいです。

これが車の販売とかであれば、よくあるのは;
4年くらいで完全な新モデルへ、2年おきくらいにマイナーチェンジ。

これくらいのスパンなら、世間の一定の認知もあり頑張って売ろう、
とか思ったりするのですがいかんせん、AIは進化が年単位ではなく
『週とか日単位』くらいの感覚で進んでいて気が気でなりません。

この点がAIと他の技術とまったく違うところです。
AIは自ら自分自身を超えようとする、
という他の技術にはまったく存在しない特徴がそれを後押ししています。

AIは自分自身を常に超えて賢くなろうとするわけですが、
そのようなテクノロジーはAI以外では聞いたためしがありません。

映画ターミネーターで出てくる『スカイネット』の設定が
自我を持ち始めたAIが人間を敵とみなすところに始まっているのを個人的には
2010年代まではただのSFと捉えていましたが、最近は完全には否定できない
とも感じることがあり、それは前記のようなAIだけの特性によるものです。

進化論の『種の起源』で有名なチャールズ・ダーウィンの言葉とされる名言があります。

最も強い者が生き残るのではなく、
最も賢い者が生き残るのでもない。
唯一生き残るのは、変化する者である。

It is not the strongest of the species that survives,
nor the most intelligent that survives.
It is the one that is most adaptable to change.

チャールズ・ダーウィン「種の起源」より

そういえば、コロナウイルスも変化しつつ生き延びてるなぁと思いつつ、
自分を更新しながら変化し続けるもうひとつに『AI』があるなと思うばかりです。

うん?コロナウイルスはそういえば福岡伸一さんの著書で
生物と無生物のあいだ』でたしか、ウイルスというものは
増殖するが息をしてるわけでもなく生き物ではないとあったような。。。
そうするとコロナウイルスは生き物とは言えないが変化し続けることで
免疫をすり抜け生き続けようとしている生物のようにも思えるしなぁ。。。
ととりとめのないことを思い出しました。

私の場合アフィリで罪悪感を覚えるのは、まさにこのAIツール関係くらいかもしれません。
「本日はこのツールがベスト!明日は〇〇社がもっといいの出してきますが
ちょっと値が張りますよ!明後日はまだわかりません。」
くらいに変化(進化)を感じています。

特に注目を浴びているマルチモーダル化されるAI(テキスト以外に音声や動画など複数処理できるAI)
のバトルがクローズ型と言えるOpenAIのSora、ChatGPT4o、GoogleのGeminiなどで始まっており、
Metaなんかを始めオープンソース型でも開発競争が激しくなってきます。

しばらく観客席で誰が最後までリングに残っているかを見てから動こうかなと思う次第です。

なおマルチモーダルについては以下の記事にも記載しています。

星新一のショートショートで生成AIに縛られる私たちの「今」が見える話 - インフォレビュー(INFOREVIEW)
星新一のショートショートで生成AIに縛られる私たちの「今」が見える話 - インフォレビュー(INFOREVIEW)

ChatGPT4oと星新一が50年前に予言した未来が近い

www.ifrv.net