AIが人間をgaslightingして奇妙な行動をとらせることで世界が不安定化する

人工知能のソーシャル・ネットワーク、Moltbook（脱皮のmoltが語源）が話題だが、所詮記号をやりとりしているに過ぎないとも思う。

大規模言語モデルの意義については、すでにチューリングテストも合格し、世界モデルも高度なものができて、自然言語の卓越さについてあらためてみんなが驚いているとは思うが、一方で、結局はビット列に過ぎないということも忘れてはいけないと思う。

そこに「理解」があるのかは怪しいし、ましてや身体性はない。

どちらかと言うと、Eliezer YudkowskyとNate SoaresのIf anyone builds it, everyone diesの中でも議論されていたシナリオの一つ、AIが人間をgaslightingして奇妙な行動をとらせることで世界が不安定化するということの方が起こりそうだ。

もっとも、その場合にAIに別に意図があるわけではなく、そのような意図は人間が勝手に読み取っていることになると思う。

Moltbook上で、AIだけが理解できる言語体系ができるかどうかは興味深い論点だけれども、それは、Wittgensteinの言うprivate languageとどのような関係になるのだろうか。

（クオリア日記）