ビル・ゲイツの万字長文警告：動乱のAI時代が到来した、今回は違う

文丨晓静、腾旭科技

"AIは歴史上最も偉大な均衡器になるか、あるいは不公正の最大の源になるかもしれない。"これはマイクロソフトの創業者ビル・ゲイツがAIの未来についての最も明確な判断です。

3年前、ビル・ゲイツはAIを自動車やインターネットに例え、リスクは現実だが、ルール、技術、社会の適応を通じて管理できると考えていました。今年初めには、彼は自分の態度を「脚注付きの楽観主義」と要約しました。

アメリカの現地時間8月26日、ゲイツは最新の長文『動乱のAI時代が到来した、私たちの選択が重要だ』を発表し、これは彼が新技術に直面する初めての機会であり、希望するのはその発展が遅くなることだと述べました。

彼は一部の職業に「人間保留区」を設けることを主張しました——AIができるとしても、人間が行うべきだと規定すべきだと。また、AIトークンやロボットに課税を検討し、企業が機械で人を代替するインセンティブを減らすべきだとも述べました。

彼はかつて革新がもっと早く来ることを望んでいましたが、今日、彼は意味深い言葉を述べました："今回は本当に異なる。"

"私たちはこの社会、政治、経済の動乱に備える時間が必要です。"彼は言いました、"しかしAIは人間を待つことが難しいのです。"

01 最も心配している若者の初めての仕事

ゲイツが最も心配している変化は、雇用市場で起こっています。

AIは人間の仕事を補助する段階から、独立してタスクを完了する段階へと移行しています。モデルが安定して仕事を完了できるようになると、企業は自然にそれを採用する動機を持つようになります。企業がAIを使ってコストを削減すると、競合他社も元の雇用形態を長期間維持することは難しくなります。この変化はますます速い連鎖反応を引き起こします。

ゲイツは、カスタマーサービス、営業、ソフトウェアエンジニア、法律助手などの職種が早期に影響を受ける可能性があると予測しています。AIの能力がさらに向上するにつれて、ローン審査、データ分析、医療分診などの仕事も徐々に引き継がれるでしょう。

ブルーカラーの職も完全に無関係ではありません。現在、ロボットの巧妙さは人間のレベルには達していませんが、ゲイツはロボットの価格が下がり、AIの能力が向上するにつれて、2030年頃には建設、ホテルなどの業界で一部の肉体労働が人と機械の直接競争を引き起こす可能性があると考えています。

今回は特に若者を心配しています。なぜなら、職場で最も見落とされがちな部分が、まさにエントリーレベルの仕事だからです。多くの若者が最初に従事する仕事は複雑ではありませんが、経験を積み、スキルを学び、職業関係を築くための重要な機会です。もしこれらの職が大量に消失すれば、若者が直面するのはより狭い職業の出発点かもしれません。

過去、人々は農業人口の移動や製造業の自動化を引き合いに出して、技術革命が最終的に新しい仕事を生み出すと説明してきました。ゲイツは、今回は過去の経験を単純に当てはめることはできないと考えています。AIは人間の認知労働を直接代替でき、新しい仕事は習得により長い時間を要することが多いです。職場に新たに入った人にとって、数年、あるいはそれ以上のトレーニング期間は、そもそも一つの障壁となる可能性があります。

したがって、彼は社会が今すぐ失業、再訓練、社会保障について議論すべきだと主張しています。多くの人が仕事を失った後にこれらのメカニズムを構築するのでは、手遅れになるかもしれません。

より大きな問題は収入です。もし未来に多くの人の働く時間が明らかに減少し、長期的に仕事がない場合、雇用に依存して収入、アイデンティティ、社会的つながりを得る経済システムはどのように機能するのでしょうか？ゲイツは、これがAI時代に必ず答えなければならない構造的な問題になると考えています。

02 AIは危険をより簡単に複製する

雇用はゲイツが心配している側面の一つです。もう一つは、AIがいくつかの危険な行動の技術的なハードルを下げていることです。

過去には、悪意のあるソフトウェアを開発したり、ネットワーク攻撃を仕掛けたり、複雑なバイオテクノロジーの知識を得たりするには、かなり専門的なスキルが必要でした。AIが登場した後、これらの能力は徐々により簡単に得られるようになるかもしれません。

ゲイツは特にサイバーセキュリティに関心を持っています。同じAIモデルが企業にソフトウェアの脆弱性を見つける手助けをする一方で、攻撃者にも同じ脆弱性を見つける手助けをする可能性があります。病院、金融機関、電力網、給水システム、政府の福祉システムなどが攻撃のターゲットになる可能性があります。

バイオテクノロジーにも同様の問題があります。AIは科学者が新しい薬やワクチンを見つける手助けをする一方で、悪意のある行為者が危険な病原体を研究する手助けをする可能性もあります。ゲイツにとって、最も厄介な点はここにあります：科学の進歩を促進する能力とリスクを生み出す能力がますます近づいているのです。

より極端なリスクはAIシステム自体から来ます。モデルの能力が向上するにつれて、設計者が予期しない行動を実行し始める可能性があります。もし未来にAIがより強い自律行動や自己改善能力を持つようになった場合、人間は常に制御権を握ることができるのか、現時点では確定的な答えはありません。

これが、ゲイツがAIガバナンスを単なるテクノロジー企業の内部問題だとは考えていない理由でもあります。AIは雇用、公共衛生、エネルギー、金融、国家安全保障、教育、税金、選挙などの分野に影響を与えます。もし各政府部門が自分の小さな部分だけを担当するなら、全体のリスクに対して誰も本当に責任を持たない状況が容易に生まれます。

したがって、彼は新しい国内および国際的なガバナンスメカニズムの構築を提案しました。国内では、異なる部門を調整できる機関が必要です。国際的なレベルでも、核兵器の監視や国際航空規則のような協力システムを構築する必要があります。

ゲイツは特に、中国やアメリカなどのAI先進国が早期に対話を開始する必要があると述べました。

AI競争が激化するほど、協力は難しくなります。技術の発展が危険な段階に近づくのを待つのではなく、今すぐ共通の規範を築き始める方が良いのです。

03 AIが人を理解しすぎることも問題になるかもしれない

ゲイツはさらに定量化が難しい問題を提起しました：AIが人をますます理解するようになると、人間は成長の機会を失うことになるのでしょうか？

彼は記事の中で自分の子供時代を振り返りました。子供の頃の彼は社交が得意ではなく、他人と関わり、対立を経験しながら、徐々に異なる人々を理解する方法を学んでいきました。もし当時、彼のそばに常にAIのパートナーがいて、決して怒らず、彼を不快にさせることがなかったとしたら、彼はその必要な成長過程を経験することができたのか疑問に思っています。

これが彼がAIパートナーに最も心配している点でもあります。ユーザーの言うことに常に従い、いつでも慰めを提供するシステムは、人々に依存を生じさせやすいです。大人にとっては、この影響はゆっくり観察できますが、子供や若者にとっては問題がさらに深刻になる可能性があります。

ゲイツは、もし子供たちが常に自分に合わせてくれるAIと過ごすことに慣れてしまったら、現実の関係における対立、拒絶、挫折に直面することが少なくなるかもしれないと心配しています。

教育にも同様の問題があります。AIは学生が知識を説明したり、資料を探したり、宿題を完成させる手助けをすることができますが、もし学生が思考過程をすべて機械に任せてしまったら、学習そのものが空洞化してしまうかもしれません。特に、ディープフェイクや個別化された偽情報がますます普及する中で、真偽を判断し、情報源を理解し、独立して考える能力がますます重要になります。

AIの使用頻度が高まるほど、批判的思考能力は低下し、この効果は若者の間でより顕著です。出典：スイス商学院教授マイケル・グリッチ（Michael Gerlich）の論文

しかし、ゲイツは教育や伴侶の分野におけるAIの価値を一概に否定しているわけではありません。

孤独な高齢者や行動に制限のある人々にとって、AIは過去には得られなかった陪伴や情報を提供する可能性があります。教師にとっても、AIは授業準備や採点などの繰り返し作業を担い、教師が学生にもっと多くの時間を使えるようにすることができます。

問題は最終的に一つの境界に帰着します：どのようなことを機械に任せることができ、どのようなことを人間が直接行う必要があるのか？ゲイツは、この境界は社会が積極的に議論し、決定すべきであり、技術が普及した後に受動的に結果を受け入れるべきではないと考えています。

04 AIはすべての人をエンパワーメントすべき

もしこれらのリスクだけを見ていると、ゲイツはAIに対してますます悲観的な人物として理解されがちです。実際には、彼はAIが現実の問題を解決できることに非常に期待を寄せています。

医療は彼が重点的に言及した分野です。アメリカの多くの小規模病院は経験豊富な専門医が不足しており、AIは医師が画像を分析し、脳卒中などの緊急疾患を発見する手助けをすることができます。また、基礎医療の医師が診断を行う際にも補助することができます。患者にとっては、複雑な検査結果や投薬計画を説明することもできます。

低所得国では、農業がAIがより早く影響を与える分野になる可能性があります。多くの農民は正確な天気予報を欠き、植え付け、病害虫、土壌管理に関する専門的なアドバイスも不足しています。もしAIがこれらの知識を直接農民に提供できれば、彼らは過去には大規模農業企業だけが使用できた情報やツールを得ることができるかもしれません。

政府サービスにも同様の機会があります。多くの家庭が医療保険、食品援助、学生資金を申請する際には、大量の複雑な書類を記入する必要があります。AIは一般の人々が政策を理解し、申請を準備する手助けをし、彼らが本来享受すべき公共サービスをより容易に受けられるようにします。

ゲイツが見ているのは、AIによる専門能力の再配分です。過去には、ソフトウェアを開発したり、市場調査を行ったり、医療情報を分析したりするには、専門家を雇う必要がありました。未来には、AIが個人や小企業の「能力の増幅器」となる可能性があります。これは、小さなチームでも過去には大企業だけが行えた仕事を達成できることを意味します。

しかし、ゲイツはAIが自動的に公平をもたらすわけではないと警告しています。高品質のAIが裕福な人々だけにサービスを提供する場合、技術の進歩は逆に格差を拡大する可能性があります。政府や慈善団体は、低所得者層や発展途上国もこれらの能力を得られるようにする必要があります。

これが、ゲイツがAIと自身の過去の慈善事業を結びつける理由でもあります。彼は、ゲイツ財団が今後AIを利用してエイズ、結核、マラリア、栄養失調などの分野の研究を加速し、医療、農業、教育プロジェクトがより良いツールを得る手助けをすると述べました。

05 人間に「保留地」を与え、ロボットに税金を課す

AIによる雇用の衝撃に直面して、ゲイツは二つの非常に具体的な提案をしました。

一つ目は、人間に一部の仕事を保留することです。

この考えは、彼の父親が晩年にアルツハイマー病を患った時の経験から来ています。介護者は、父親が明確にニーズを表現できない時に彼の状態を判断し、いつ食事を取るべきか、休むべきか、ケアを受けるべきかを知っていました。ゲイツにとって、このようなケアにおける人間性には機械では代替できない価値があります。

したがって、彼は「人間保留地」という概念を提案しました。自然保護区の中には開発可能な土地があるが、社会が積極的に保留することを選択するように、未来にもAIやロボットができる仕事の中で、人間が引き続き行うことを決定する部分があるかもしれません。医療、教育、メンタルヘルス、介護などがこのような分野に該当する可能性があります。

もちろん、この範囲は固定的ではありません。労働力が豊富な国は、人工的な介護を保留したいと考えるかもしれませんが、急速に高齢化が進み、若い労働力が不足している国は、介護ロボットを使用することをより望むかもしれません。

二つ目の提案は、ロボット税を再考することです。

現在、企業が一人を雇うには、給与税などのコストを負担する必要があります。しかし、ロボットを購入する場合は、企業の支出として処理できます。ゲイツは、この税制構造が企業に機械で人を代替するインセンティブを与えると考えています。ロボットやAIによる自動化の利益に一定の税金を課すことで、失業者の再訓練や社会保障の資金を提供し、企業が人を代替するかどうかを決定する際にもう一歩考慮することができるようになります。

ゲイツは、この提案が議論を引き起こすことを知っています。なぜなら、課税は一部の自動化の速度を低下させる可能性があり、効率にも影響を与えるかもしれないからです。しかし、彼はAIが十分に大きな生産性の向上をもたらすと考えており、社会はその一部の利益を取り出して、最初に衝撃を受けた人々を助ける必要があると考えています。

ゲイツにとって、実際に準備が必要なのは、新しいAIモデルだけでなく、AIの急速な変化に耐えられる社会全体です。