おそらく終末論的な 2023 年の映画『Leave the World Behind』には、イーサン・ホーク演じるジョージが物資を探すために車に乗った後、見知らぬ土地を走り回っていることに気づくという、暴露的な瞬間があります。
それだけでなく、何かが起こり、彼の車と携帯電話のテクノロジーがすべて役に立たなくなります。彼が当たり前のことだと思っていたことはすべて、もはや特に役に立たず、実用的にも役に立ちません。
彼は、テクノロジーが機能していたときは簡単に見つけられた場所にいる妻や友人たちにどうやって戻るのか見当もつきませんが、もっと深刻なことが起こっています。ジョージは運転の仕方を忘れていません。彼は、ほとんどの思考を機械に任せずにナビゲートする方法を忘れてしまった。
人間の成長には認知コントロールが重要
認知制御は、人間が絶えず変化する環境の要求に適応するのに役立ち、道に迷うことは人間が進化する理由の一部です。この制御が Google マップなどのアプリに渡されると、ジョージのようなドライバーが真っ先に屈服することになります…そして彼の個人的な真空から立ち往生することになります。
そして、自然は真空を嫌いますが、AI は真空を好みます。したがって、AI が便利なツールから、むしろより重要なものへと移行するにつれて、この場面はますます関連性を増しているように感じられます。
それはすでに認知的副操縦士であり、意思決定を行い、議論を構築し、証拠を評価し、さらには私たちが何を考えるべきかを伝えるために徐々に招待されています。
ここでの議論はAIが悪いということではありません。これは並外れた革新的なテクノロジである可能性があり、優れたモデルを 10 分間使用したことのある人なら誰でも、研究、執筆、コーディング、分析、問題解決を加速するその能力を理解できます。
しかし、ポスト量子ソブリンデータプラットフォームVeldrisの創設者であるJB Benjamin氏は、人間の認知だけでなく人間のデータと主権にも影響があると指摘している。
「行われている誤った議論の 1 つは、AI が人類に取って代わるというものです。AI は私たちに取って代わることはありませんし、代わることはできません。しかし、AI は究極の力を倍増させるものであり、私たちのすべてのスキルと能力を強化し拡張する善の代理人となり得るのです。
「危険は、私たち自身の一般的な知性の代替としてAIに過度に依存することだけでなく、金銭的および政治的利益のために私たちに対して私たちのデータを利用するサードパーティのクラウドインテリジェンスプロバイダーに私たちの来歴と主権を放棄することにも起こります。
認知的降伏
潜在的な問題は、加速が代替になると合体し、認知降伏と呼ばれることが増えており、2206年に博士研究員スティーブン・ショーと、ペンシルバニア大学ウォートン・スクール・オブ・ビジネスで神経システムの博士号を取得したウォートン教授ギデオン・ネーブによって生み出された段階である。
彼らは、そのような人間の服従が内なる直観、認識、自己分析を腐らせ、比喩的な明かりが消えたとき、怠惰な人間がイーサン・ホークのジョージと同じくらい役立たずになってしまうのではないかと懸念している。
脳の腐敗も近年作られた言葉で、当初は（そして気楽に）ソーシャルメディアをスクロールする怠惰な人間を表現していましたが、現在ではより現実的で危険なものになりつつあります。
中国の最近の研究は、そのようなスクロールは認知機能を抑制し、そのプロセスが一旦始まると、神経化学的変化に対処するのが困難であるという以前の警告に続いて行われた。
さらに、AI を使用して人間を速くすることと、AI を使用して人間に考えさせることの間には決定的な違いがあります。その違いは明白に聞こえますが、そのような考え方は日常のワークフローから消えつつあります。
AIに人間の思考に挑戦してもらい、人間の思考がより良くなるかもしれません。人間が意見を形成する前に何を考えるべきかをそれに尋ねると、人間はすでにプロセスの最も重要な部分を放棄しています。完全な認知降伏。
AI が人間の認知力を弱めていると発表することはほとんどないため、この危険は特に深刻です。通常は魅力的で、自信があり、流暢です。その答えはためらうことなく届き、美しく構成されています。
したがって、摩擦がないことによって、思考の不在が隠蔽される可能性があります。ナスダック上場の AI 企業 Datavault AI の CEO であるナサニエル・ブラッドリー氏は次のように述べています。
「私たちよりも知能の高いシステムを使用すると、その結果は私たちに課せられます。人間の集団であっても、AI の知能に追いつくことができなくなります。
リファレンスを自己チェックし、リファレンスの品質を分析する従属 AI システムは人生の目的を提供しており、当社のような企業は、私たちが信頼できるものと AI の出力にどれほどの価値があるかを示しています。」
ヘリオットワット大学のストヤン・ストヤノフ教授は、この問題を能力から障害に変える可能性のある代替問題であると説明しています。
「人間がそのタスクを独立して実行できる間は、AI にタスクを渡すことは利点です。しかし、根底にある判断力が萎縮し始めると、同じ代替は欠点になります。」
職場における AI
AI が最も排除できるタスクの一部は、まさに人間が学習するタスクであるため、これは職場では非常に重要です。だからこそ、問題は単なる個人の怠惰ではないのです。それは組織設計でもあります。
AI 業界の研究者で AI Tools Police の創設者である Mücahit Kaya 氏は、組織は個人よりも早く認知を放棄できると主張しています。
「企業がモデルを通じて意思決定を行うと、以前は意思決定に付随していた会議、意見の相違、書面による推論が静かに消える可能性があります。」
ここには皮肉があります。私たちは何十年もかけて、反復的なタスクから人間を排除するテクノロジーを構築してきましたが、一部の反復的なタスクが、後に必要となる人間を密かに構築していることに気づきました。 AI は研究し、挑戦し、比較し、統合し、加速する必要があります。
何が重要なのか、何が真実なのか、何が適切なのか、次に何が起こるべきなのかを決定する責任は人間が負うべきです。これは、AI に相談する前に、人々が最初のビューを形成する必要があるワークフローを設計することを意味します。
それは、従業員になぜ推薦を受け入れたのか拒否したのか説明を求めることを意味します。それは、単に回答の洗練さを賞賛するのではなく、回答の背後にある理由を評価することを意味します。
なぜなら、究極の悪夢は私たちよりも賢くなるAIではないからです。 AIが便利になりすぎて、私たち自身がだんだん賢くならなくなってしまいます。そしてそれは文字通り、私たちの監視下で起こっています。
『世界を残して』で道に迷ったジョージは、最終的に、私たちの周りのシステムが機能しなくなったときに何が起こるかを発見します。 AI 時代にとって不快な問題は、AI がAI 時代に突入したとき、私たちが家に帰る方法をまだ知っているのかどうか、そして私たちが本当にそれを気にしているのかどうかということです。