私たちはまだ自然言語を知らない。 #クオリア日記

イーロン・マスクさんが、人工知能の発達、neuralinkのようなインターフェイスの開発によって、自然言語が要らなくなるとおっしゃっている。

中長期的にはそのような可能性もあるかもしれないが、ChatGPTのような大規模言語モデルの出現によって、むしろ自然言語の価値が見直されたのも事実である。

従来、日本語や英語のような自然言語は曖昧で、数学のような言語に比べると劣るというイメージが特に科学技術の世界では支配的だった。

ところが、LLMにおけるnext token predictionで、自然言語を深堀りしたところ、案外そこにさまざまな知が含まれていて、世界モデル構築に不可欠、ある意味では数学的言語よりも優れていることが明らかになった。

背景には、ノイズに満ちた神経ネットワークでは、ハイブリッドシステムとしてのクオリアや言語がすぐれているということがある。

マスクさんの発言があっても、自然言語はこれからも重要な役割を持ち続けるのではないか。

私たちはまだ自然言語を知らない。