ChatGPTのシンギュラリティー

理化学研究所の高橋恒一氏のtwitterに書き込まれた、ここ最近急速にその能力を拡大して居るChatGPTに付いての一連のツイート。

GPTでAI界隈が沸騰している。開発者も含めて誰も急激な性能向上の理由を理解出来ていない。普段は半年や1年で古くなるような時事ネタはあまり呟かないことにしているが、このところの動きがあまりに早く、未来に向けての不確実性が高まっているので、少し現時点でのシナリオ整理をしたい。(1/15)

— 高橋恒一 (@ktakahashi74) March 20, 2023

自分なりに咀嚼して理解したことは、ChatGPTが話題になり、その利用範囲や参照されるデータ量が加速的に増加すると、あるポイントを境に急速にその能力が発達し、与えられたデータ以上の回答(アウトプット)が得られるような状態になりつつある、と言う事。物理の実験なんかだと「臨界点を超えた」「境界値を超えた」みたいな言い方をすることがありますが、今のChatGPTあるいはAIの世界は、まさにその一歩手前あるいは超えつつある状態というのは、最近のChatGPTの様子を実際に利用して居ると肌感覚ですが感じる所。

私自身そんなヘピーユーザーでは無いし、半分はお遊び感覚でChatGPTを利用する程度何ですが、話題になり始めた初期の頃と比べて、その受け答えや内容に関して「進化している」と感じるんですよね。元々日本語での受け答えも最初から凄いなと感心したんですが、最近はその文章作成能力もより自然に感じるようになり、内容に関しても以前のように的外れだったりどこからデータを引っ張ってきているんだと不思議に感じる内容も減ってきている気がします。より多くのユーザーが多様な質問や使い方をするようで、AI側の学習が進んで進歩していることは確実なんじゃないかと。高橋氏は二つの可能性を上げていて、私は専門外の話なのでこれもざっくりとしか理解出来ないのだけれど、一つ目の可能性(データセットが拡大することで、これまで見えて居なかったものが見えるようになった)が、多分現在起きていることの中心何だろうけど、個人的には二つ目の可能性、AIが相転移(次の能力獲得)を起こしつつあるというのが、SFの世界が実現するようでちょっとワクワクする話。後1～2年位で、実際に何が起きているのかはっきりするのでは無いかと高橋氏が書かれていますが、それこそが少し前に話題になった「シンギュラリティー(技術的特異点)」なのかも。

 12番目のツイートにも書かれていますが、私もこのChatGPTを支えているプラットフォームがどんなものなのか凄く不思議というか疑問というか興味が有ります。Googleが台頭してきていた時には、Googleが独自にコンピューターを準備して、それを何千何万台と接続してネットワークシステムを構築していた時に話題になりましたが、ChatGPTにしてもかなりのハードウェアが要求されると思うんですよね。でも、その辺りの話は一般にはなかなか流れてこない。ChatGPTやその周りのビジネスモデルってよく分からないのですが、これだけ話題になれば投資する企業にも不足しないだろうしますます加速することは確実だろうな。気になるのはライバルの存在で、Microsoftは新しいOffice製品にAI(ChatGTP)を組み込んで"Microsoft 365 Copilot"として製品化したから、Win-Winの関係を築いていくことは確実。となると、ライバルはGoogleか、となるんですが、ChatGPTの元々の技術はGoogleの"Transformer"という技術らしい。私も昔から思っているんですが、今の世の中それこそスマホから組込デバイスまで、世の中にはあちこちにCPUやメモリーやネットワークデバイスが一つになって存在しているわけです。その能力は、勿論ピンキリ何だけれど、いつも100%利用しているわけじゃ無い。結構忙しい時でも、だいたいは半分くらいの使用率が目安だと思うんですよね。となると、その開いているリソースを少しずつだけれど世界中から集めて利用することで、とんでもないデータ量と計算力が生まれるんじゃ無いだろうか。言ってみれば、ドラゴンボール孫悟空の「元気玉」みたいなAIが生まれるんじゃ無いだろうか。最近のスマホなら、CPU/GPUの性能だってちょっと前のパソコンどころかホストコンピューター並みだし、通信機能だって5Gとか6Gが標準になれば、そんなに遅延を考えなくても良いだろうし。

余談) ちなみに、技術的にはあまり意味のない試算だが10の24乗FLOPsというのは人の脳を10の15乗FLOPs毎秒として１日8時間で90年分の思考にあたる。90年間ひたすらwikipediaやネット上の文章を読み続けた人がどれだけ博識かと想像すると直感的にはなんとなく理解できる閾値の規模だ。(15/15)

— 高橋恒一 (@ktakahashi74) March 20, 2023

この最後のツイートもなかなか意味深で、人間の90年間分の知識で、しかも「忘れる」事の無い知識をAIは一秒毎に獲得して行くことのある意味脅威を感じる話。人間でも、記憶から消えているわけでは無く、保存されているけれどその場所が特定出来ないことも「忘れる」に含まれるけれど、AIにしても余りにデータセットが膨大になりすぎると、場所は分かっていても底にアクセスしてデータを取得するコンマ何秒という「遅延」が「忘却」になってしまうかもしれないけれど。ただ、人間の場合は忘れてしまうと何かの切っ掛けで思い出すことはあっても、二度と参照出来ない可能性も高いわけで、それが事実上無いAIの強さは想像するまでも無いでしょうね。ノーベル賞受賞者の逸話で、失敗した実件から発見したとか、偶然の組合せが発明に繋がったみたいな話がよく聞かれます。それって、人間の場合は膨大な組合せ実験が出来ないから、そういう偶然でしか遭遇できないけれど、AIの場合はそれこそ無数の組合せの実験を瞬時にすることも可能なわけで、そうなると書かれている10の24乗FLOPsを超えた瞬間に、人間の新しい社会が生まれるのかもしれない。あと1～2年後かぁ... ちょっと楽しみ。