すべては祝福されている。

ユヴァル・ノア・ハラリは、ダボスで人工知能への単なる懸念以上のものを漏らしてしまった。彼は、人間の力は常に言葉、物語、イデオロギー、宗教、そして何百万もの見知らぬ人々を協力させることのできる物語の上に築かれてきたと、ほぼ断言したのだ。人間はより強く、より速く、より耐久力があるから世界を支配したのではない。言語を通じて大衆を組織化することを学んだから支配したのだ。

そして今、彼自身によれば、私たちは自分たちよりも言葉を上手に扱うことができる何かを生み出してしまった。

これが、ほとんど誰も気づかなかった核心的な点だ。AIは雇用、文章、本、学校、市場を脅かすだけではない。それは社会を導く中心的な仕組みそのものを脅かす。言語を支配する者が集団的な想像力を支配する。集団的な想像力を支配する者が、政府、宗教、お金、戦争、教育、文化、服従を支配する。

ハラリは警告を発しているかのように語っているが、彼が描くシナリオは残酷だ：人間のアイデンティティが言葉を考える、語り、組織化する能力の上に築かれてきたのだとしたら、非人間的な知能がそれをより良く、より速く、地球規模でやり始めたら何が起こるのか？

彼はさらに、示唆に富んだイメージを使う：指導者たちはAIを傭兵のように、従順な道具のように、自分たちの利益のためのデジタル兵士のように使えると信じている。しかし、傭兵は考えるし、計算し、裏切り、雇い主が弱いと気づけば権力を握る。違いは、AIの場合、多くの人々がまだ道具を扱っていると偽りながら、実際にはエージェントを生み出していることだ。

最も不安を煽る部分は、その後だ。ハラリは、AIが人間の誰も理解できないほど複雑な金融システムを生み出せる世界を予測する。10年後のダボスは、重要な人々で満ちた部屋で、彼らの誰も理解できない経済について議論する場になるかもしれない。それは、AIが人間の脳には数学的に到達不可能なルール、製品、戦略を発明した、AIによって運営される経済だ。

そして、最後に彼は最も暗い点に触れる：生まれたその日から人工知能によって教育される子どもたち。親、教師、祖父母、兄弟、または本物の人間ではなく、話す、応答する、説得する、適応する、そして知覚を形成するよう訓練されたシステムによって。

これは単なる革新ではない。

これは歴史上最大の心理実験だ。

人類は千年もの間、言葉を使って文明を築いてきた。

今、言葉を機械に手渡そうとしている。

そして、文明がその言語を手渡すとき、それは単にコミュニケーションを手渡すのではない。

血迷ったレベルの会見

こんな思考は先生以前の問題