物理学者が「大規模化した生成AIが人間の知能を超えること」を”否定”する理由…「素子数」を増やせば相転移が起きるとは限らないワケ

「いつの日かAIは自我を持ち、人類を排除するのではないか―」2024年のノーベル物理学賞を受賞した天才・ヒントンの警告を、物理学者・田口善弘は真っ向から否定する。

理由は単純だ。人工知能（AI）と人間の知能は本質的に異なるからである。しかし、そもそも「知能」とは何なのだろうか。その謎を解くには、「知能」という概念を再定義し、人間とAIの知能の「違い」を探求しなくてはならない。生成AIをめぐる混沌とした現状を物理学者が鮮やかに読み解く田口氏の著書『知能とはなにか』より、一部抜粋・再編集してお届けする。

『「人工超知能」「自律型AI」が実現する未来…量子力学をシミュレートできる「世界シミュレーター」が構築されるかもしれない』より続く。

AIが人間の知能を超える？

生成AIは非線形非平衡多自由度系に起源を持つ世界シミュレーターとみなすことができる、というのが本書で私が主張したいことであった。現在の生成AIが非線形非平衡多自由度系の末裔であるとしても、20世紀末に死ぬほど研究された非線形非平衡多自由度系の知見が十分に生かされているとは言えないのが現状である。非線形非平衡多自由度系の研究という観点から今後の生成AIの発展について何が言えるだろうか？

非線形非平衡多自由度系を昔研究していた人間の立場からして非常に気になるのは深層学習、あるいは、生成AIにおいて、このまま大規模化が進めばどこかの時点で相転移が起きてシンギュラリティが達成されるのでは、という意見である。この本ではシンギュラリティという言葉を意図的に避けてきたが、シンギュラリティとは機械学習が人間の知能を超える、あるいは、少なくとも同等の能力を獲得することを言う。

これまで見てきたように、筆者は、生成AIは人間の知能とは別系列の全く異なった世界シミュレーターであるという立場なので、発展することで人間の知能と同じものになることはないと考えるが、それとは別にこの「サイズが大きくなれば臨界点を越えて相転移が起きてシンギュラリティが実現する」という考え方には違和感がある。

相転移は素子数の問題ではない

実のところ、前世紀に非線形非平衡多自由度系の研究は非常にたくさんされたが、相転移というべき定性的な変化が、素子数を増やすだけで実現するという研究はほとんどない。というか全くないと思うのだが、そこまで断言する自信はないのでほとんどないという言い方をしているが、多分、存在しないのではと思う。

非線形非平衡多自由度系の研究は物理学者がやっていたせいもあるのだと思うが、起源は気体や液体みたいな多数の同じものがたくさん集まったときに起きる現象を扱っているので、そこで起きる相転移というのは、単純に数が増えたから起きるものではなく、温度とか圧力とか密度みたいなサイズによらないマクロな示強変数（温度や密度や圧力は体積を倍にしても変わらないので量ではなく、なにかの「強度」を示すのでこう呼ばれる）が変化したとき起きるもの、とされていた。

そのとき、仮想的に素子の数は∞と仮定されていたので、そもそも、そういう枠組みでは数が増えることで、相転移が起きるという考え方は湧いてこない。

非線形非平衡多自由度系の中には（深層学習ではない従来型の）ニューラルネットワークの研究もたくさん含まれていてさんざんやられたと思うが、素子数が増えたら定性的な変化（相転移）が起きた、という話は寡聞にして知らない。

シンギュラリティの実現は困難

素子数が増えていって人間の脳の域に達すれば、シンギュラリティが起きて生成AIは人間を超えられるというのはわかりやすい考え方ではあるが、そもそも、ここまで見てきたようにニューラルネットワークのミクロな動作原理は、人間のニューロンの集合体とはかなり違うのでそれはややナイーブ（幼稚）な期待ではないかな、と正直思う。

ただ、非線形非平衡多自由度系の研究で行われていたのは、相互作用などのパラメータを固定したままサイズを増やすという研究が主だったのに対し、現在の生成AIの研究はモデルのパラメータは学習によって決まるものなので、サイズが増えることによって間接的に値が変化してその結果相転移を迎える、ということはあるかもしれない。

それでも、数が増えたらシンギュラリティが起きるというのは20世紀末にニューラルネットワークをその一部に内包する非線形非平衡多自由度系の研究をさんざんやった身からすると、かなり楽観的なのではと思えてしまう。

ただ、私は非線形非平衡多自由度系の研究の専門家だと名乗りながらチャットGPTをはじめとするLLMがこんな性能を出すことを全く予見できなかったので、今回もまた単純に間違っているだけかもしれない。

『生成AIは「シンギュラリティ」を起こし「人類の驚異」となる!?…「自我」を持って「人間に敵対する」人工知能は誕生するのか』へ続く。