甲小姐とケビン・ケリーの対話：AIについて、私は書籍に書いたことのない判断

著者：甲小姐 八度 編集：田思奇

Slower than it looks（AIは見た目より遅い）、LLMs tend average（大規模言語モデルは人間の平均的な知能レベルに傾く）、Not replacing humans（AIは人間を置き換えるものではない）、New, not substitutions（AIは新しいものを創造するものであり、代替品ではない）、Cloud first, then AI（まずクラウド、その後AI）、Must change your org（AIは組織を再構築する）、Just beginning（一切はまだ始まったばかり）……この7つの予測は完全ではありません。他にどこでも言及されていない予測を教えてもらえますか？"私はKKに尋ねました。

メガネを外したKKは少なくとも30秒間沈黙し、いくつかの長い反問を私に投げかけ、突然私を遮りました。

"それでは私の予測をお伝えします。私の予測は、10年後には、トレーニングデータは重要ではなくなる (In 10 years now, training data won't be important) 。KKは言いました。

ケビン・ケリー（Kevin Kelly）、テクノロジー愛好者に「KK」と呼ばれ、あごひげと白髪で時代の象徴となった彼は、『失控』、『テクノロジーは何を欲するか』、『5000年後の世界』などの著書を持ち、「シリコンバレーの精神の父」と称されています。30年前にはクラウドコンピューティング、バーチャルリアリティ、IoTなどのトレンドを予見していました。2024年6月16日、彼は蘇州に訪れ、蘇州科技商学院と上海交通大学上海高級金融学院が共同開催するテクノロジー講演会に参加しました。上記の対話は、彼の講義後の会議室での独占インタビューで行われ、元々20分のインタビューが彼によってほぼ1時間に延長されました。

この記事では、甲小姐がケビン・ケリーと深く対話し、近況からAIの革新と人間の本質について話しました。個々の詳細な判断の違いを除けば、KKと「甲子光年」は似たような見解を持っています：AIが世界を変える「進捗バー」はまだ始まったばかりです。

1.近況："それが私のすべての時間を占めています"

あなたは1000時間必要です。おそらく私は800時間訓練しましたが、まだ1000時間には達していません。

甲小姐： ニュースは次々と変わり、世界中でAIに対する態度が多く変化しました。特に人々のAI 2.0、AGI、大規模モデルに対する見方が。最近の間、あなたはどれくらいの時間を最前線のAIの進展を追うことに費やしましたか？

ケビン・ケリー：それが私のすべての時間を占めています。私がしていることは、AIに関する記事を読み続けることです。

甲小姐：あなたは誰の記事が一番好きですか？

ケビン・ケリー：あなたが言ったように、毎日新しい記事があり、たぶん毎時間新しい記事が出ています。言語モデルに関する新しい発見について。

先週、Anthropicからの論文があり、特徴の重みとそれを操作する方法について、これは AI のブラックボックスの概念に関連しています。彼らは、実際に背後のメカニズムを少し見ることができると言っています。これは非常に興味深いです。

甲小姐：普段Midjourney、Pika、RunwayなどのAIアプリを使いますか？

ケビン・ケリー：私は毎日AIで絵を描いています、もう1年続けています。

甲小姐：あなたは今やAI業界の原住民ですか？

ケビン・ケリー： まだ途中です。あなたは1000時間必要です。おそらく私は800時間訓練しましたが、まだ1000時間には達していません。

甲小姐：あなたはテクノロジー分野の哲学的思考者です。最近のAIの波の中で、あなたのテクノロジー哲学は進化または変化しましたか？

ケビン・ケリー： それは良い質問です。私のテクノロジー哲学は変わっていません。新しい現象が現れた場合、それは私の哲学を確認し強化するものだと考えます。

これまでのところ、私の技術に対する見方を変える可能性のある出来事は見ていません。だから私のテクノロジー理論は進化しているようなもので、AIで見たすべての現象は私の根本的なテクノロジー哲学を変えていません。

2. AI観："私が本当に心配していること：人工知能の武器化"

OpenAIが下した最良と最悪の決定はそれぞれ何ですか？

甲小姐： あなたの公式ウェブサイトの最上部には小さな文字があります：OVER THE LONG TERM , THE FUTURE IS DECIDED BY OPTIMISTS（長期的には、未来は楽観主義者によって決まる）。最近のAIの進展と急速な進化の波、そしてあなたが先ほど言及した百年の人間のアイデンティティ危機は、あなたに不安を感じさせますか？

ケビン・ケリー： 全体的に見て、私は特に心配していません。私が本当に気にしていることもありますが、私たちは解決できると信じています。しかし、まだ解決方法がわからない問題もあります。例えば、気候変動については、私たちは何をすべきか知っていますが、AIの分野には解決方法がわからない問題がいくつかあり、これらの問題は将来的に私たちを悩ませる可能性があります。例えば、AIの武器化：私たちはロボット兵士の存在を許可すべきでしょうか？AIは殺人能力を持つことができるのでしょうか？これは私たちが知らないことであり、決定するのは本当に難しいです。だからこれが私が本当に 心配している ことです：人工知能の武器化。

もちろん、私はAIがオープンソースであるべきか、クローズドソースであるべきか、公開されるべきか、企業が所有するべきかについても非常に関心があります。私の考えは、それは公開されるべきだということです。

甲小姐：あなたはAIはオープンソースであるべきだと思いますか？

ケビン・ケリー：はい、公開されるべきです。これは私が非常に気にしているもう一つのことです。

甲小姐：あなたは依然として楽観主義者です。

ケビン・ケリー：私は非常に楽観的です。私たちは最終的にこれらのAI関連の問題を解決すると信じていますが、今はその方法がわかりません。つまり、結果は確定していますが、道筋はまだ明確ではありません。だから私は非常に楽観的です。もちろん、心配していることもありますが、私は心配していないこともあります。例えば、失業については心配していません。また、人工知能が私たちに脅威を与えることについても心配していません。

甲小姐：あなたは世界中にファンがいて、多くの偉大な科学者の友人もいるでしょう。彼らはあなたのAIに関する見解に同意していますか、それとも反対意見が多いですか？

ケビン・ケリー： このトピックは確かに興味深いです。現在、大きな分裂があります。スーパーAIについては二つの陣営があり、非常に優れた科学者の中には心配している人もいれば、心配していない優れた科学者もいるのです。私はAIを心配していない陣営にいます。

甲小姐：これまでのところ、OpenAIが下した最良と最悪の決定はそれぞれ何ですか？

ケビン・ケリー：最悪の決定はOpenAIが 大規模モデルをオープンにしなかったこと、これは非常に悪い決定です。また、もう一つの最悪の決定は（かつて）創業者のサム（サム・アルトマン）を解雇したことです。

最良の決定はOpenAIが常に急速に発展し、迅速に進化し、絶えず革新を続けていることです。ますます速く成長することで、サムを再雇用することができました。また、彼らは非常に確固たる姿勢を持ち、発展の中であまり慎重にならず、実際に迅速に成長を試みることを強調しています。

3.境界："AIは山を登るのが得意で、山を作るのは得意ではない"

あなたはMidjourneyやDall-Eで有名な宇宙飛行士が馬に乗っている絵を描くことができますが、馬が宇宙飛行士に乗ることはできません。なぜなら、それは学習範囲外だからです。

甲小姐： あなたは2種類の創造性、タイプ1とタイプ2について言及しました。あなたはAIが山を登るのが得意で、山を作るのが得意ではないという面白い図を描きましたが、この二つの違いは何ですか？

ケビン・ケリー：大規模言語モデルの創造性は実際には一つの創造性だけであり、それは既知の範囲内で機能することです。彼らは私が知っている空間内のすべてを埋めたり探求したりしています。彼らは全く新しい領域を発明しているわけではありません。

突破は基本的に新しい領域を創造することであり、既存の制約内で解決策を探すことではありません（So breakthroughs basically are making up new territories rather than exploiting of finding solutions within an existing term）。

彼らが今行っていることは、私たちが知っている範囲内で答えを探すことです。あなたはMidjourneyやDall-Eで有名な宇宙飛行士が馬に乗っている絵を描くことができますが、馬が宇宙飛行士に乗ることはできません。なぜなら、 それは学習範囲外だからです。

甲小姐：あなたはスケーリング法則の支持者ですか？

ケビン・ケリー：確かにいくつかあります。「甲子光年」のユーザーが理解しやすいように、まず説明します。スケーリング法則は、モデルがどれだけ大きくなるか、損失要因、そして最適な性能からどれだけ遠いかを記述できる数学的な比率関係が存在することを示しています。

これが無限に拡張できるかどうかはわかりません。私は永遠に拡張できますか？曲線は最終的に平坦になりますか？これまでのところ、証拠はそれが直線に近づくことを示しています。これはインターネットとは異なります。

もちろん、証拠はスケーリング法則自体から来ているわけではなく、スケーリング法則自体は仮説です。

甲小姐：最近、AI業界では非常に流行している見解があります------すべてはデータセットに関係しており、時間が経てばAIの効果はアルゴリズムや他の方法とはあまり関係がなく、データセットだけが重要だというものです。

ケビン・ケリー：ある論文では、データの質と影響がアルゴリズムよりも大きいと言っています。私はこれは非常に可能性が高いと信じています。

私は予測します、私たちはある AI 企業がAIはトレーニングデータに基づいていると宣伝するのを見るでしょう。だから誰かが言うでしょう、私たちは何のアルゴリズムトレーニングも受けていません、私たちは最高のデータを使ってトレーニングしました。私たちは高品質の書籍や他の高品質の資料を使ってトレーニングしました。私たちはRedditでトレーニングしました。

これは教育のようなものです。もしあなたに子供がいるなら、彼らをどう教育しますか？彼らに何を読ませますか？あなたは彼らにTwitterを見せますか、それとも古典を読ませますか？誰かが言うには、私たちの人工知能は古典だけを読んでいます。彼らは最高品質の書籍、最高品質の科学雑誌を読んでいます。彼らはReddit、Twitter、またはWeiboを読んでいません。彼らは良いものを読んでいます。彼らは最高のトレーニングを受けています。ある人々はこのようなキュレーションされたトレーニングデータのアイデアをセールスポイントとして非常に注意深く策定するでしょう。昨日、Getty ImagesはGettyライブラリでのみトレーニングされたAI画像生成器を発表すると発表しました。

4.推測："10年後、トレーニングデータは重要ではなくなる ( In 10 years now , training data won't be important )"

10年後、私たちは数百万のデータなしで推論能力を持つことができます。

甲小姐： あなたの知名度は大部分があなたの予言者としてのアイデンティティに起因していますが、あなたは先ほど画面に大きな文字で表示しました：No predictions （予測なし） 。しかし、あなたは7つの判断を挙げました： Slower than it looks（AIは見た目より遅い） LLMs tend average（大規模言語モデルは人間の平均的な知能レベルに傾く） Not replacing humans（AIは人間を置き換えるものではない） New, not substitutions（AIは新しいものを創造するものであり、代替品ではない） Cloud first, then AI（まずクラウド、その後AI） Must change your org（AIは組織を再構築する） Just beginning（一切はまだ始まったばかり）

判断 は 完全ではない あなたは私たちに、他のどこでも言及されていない推測を教えてくれますか？

ケビン・ケリー：（長い沈黙の後）一般的に、もし私に考えがあれば、私は必ず他の人に伝えます。まずは対話を続け、その後、何かを思いつくように努力します。

（さらに沈黙）人工知能について、私は中国の人工知能についてあまり知識がありません。あなたは明らかに論文を読んでいますが、あなたは中国で現在何が人工知能に起こっていると思いますか？

甲小姐： 私は中国とアメリカの類似点は人々が想像するよりもはるかに大きいと思います。

ケビン・ケリー：類似点？どういう意味ですか？

甲小姐：例えば人材。中国には多くの若い才能がいて、彼らは学生やスタートアップ企業にいます。彼らは私がアメリカや他の国で出会った若い才能と非常に似ています。なぜなら、AIは非常に鋭く、新しいからです。

私の専門は数学です。AIと数学を比較すると、歴史の長さは異なります。私の周りの多くの友人は、人工知能は非常に複雑で理解しにくいと考えています。しかし、AIの歴史はわずか半世紀であり、もしあなたが概要、歴史、学科分類を理解したいだけなら、2、3冊の本を読むだけでAIの基礎的な概観を築くことができます。学科自体については、皆の出発点は似ています。中国にはマスクやアルトマンのような大物はいないかもしれませんが、若い才能を見回すと、全体的な基盤は非常に似ています。

第二の次元はデータです。おそらく中国にはいくつかの利点があるかもしれません。

ケビン・ケリー：誰がデータにアクセスする権利を持っていますか？若いスタートアップ企業は、これらのデータにアクセスできますか？

甲小姐：私は私たちがまだ始まったばかりだと思います。政府は人々が良い方法で欲しいデータを得られるように基本的なインフラを構築しようとしています。

ケビン・ケリー：それはどのような良い方法ですか？

甲小姐：データ市場。ご存知のように、データは基本政策に書き込まれ、要素となり、資本、労働力、技術、土地のように、中国では「生産要素」と呼ばれています。

ケビン・ケリー：あなたたちの起業家はデータにアクセスするのに何の難しさもありませんか？

甲小姐：難しさはありません。しかし、彼らは他の国と同じように、もしかしたらもっと簡単にアクセスできるかもしれませんし、多くの課題に直面しなければなりませんが、私が考える最大の課題は政策でも権限でもなく、データセットです。異なる言語のデータセットは異なります。

ケビン・ケリー： それでは私の予測をお伝えします。私の予測は、10年後、データは重要ではなくなる。

現在、すべての大規模言語モデルは大量のデータ方法を拡張する必要がありますが、他のタイプの認知や知性は彼らにはありません。人間の幼児が12の例を見た後に猫と犬を区別できるように、幼児は1200万のデータを必要としません。

私は考えます、 10 年後、私たちは数百万のデータなしで推論能力を持つことができます。これはスタートアップ企業にとって大きな利点です。なぜなら、彼らはすべてのデータを所有する必要がないからです。これが私の推測です。

5.本質："意識が人間を特別にするが、私たちは意識をAIに与えることもできる"

私たちはAIと共に人間としての意味を発見するでしょう。

甲小姐： あなたの人間と人工知能の本質に関する見解を教えてもらえますか？

ケビン・ケリー： 問題は私たちも人間の本質が何であるかを知らないということです その答えを見つける方法 は 人工知能を作ることです。私たちは成功するでしょう。

私たちは、ああ、創造性が私たちを特別にする理由だと気づきました------しかし今、私たちは考えを変えました。なぜなら、人工知能も創造性を持っているからです；そして私たちは言うでしょう、さて、今私たちは意識が私たちを特別にする理由だと考えていますが、私たちは 意識をAIに与えるでしょう ……

甲小姐：この「与える」プロセスはどこまで続くのでしょうか？

ケビン・ケリー： テクノロジーとAIの推進によって、私たちは自分自身を再定義し続けます。より重要な問題は、私たちが誰であるかではなく、私たちが誰になりたいかです。私たちは人間として何になりたいのでしょうか？これはより力強い問題です。

なぜなら、私たちは少し選択の余地を持つことができるからです。これは興奮をもたらします。私にとって、これはAIの究極の魅力 であり、私たちが誰であるかの霧を照らし出し、私たちがどのような人間になりたいかを刺激します。

甲小姐：加速計算は科学の無人地帯に触れています。この道の限界は何ですか？

ケビン・ケリー：私たちは知能についての理論を持っていないように、人間についての理論も持っていません。

私たちはAIが向かう場所を予測することはできません。なぜなら、私たちはAIについての理論を持っていないからです。私たちはまた、もしあなたがこれを行えば、予測が得られるという理論も持っていません；もしあなたがこれを行えば、これが起こるという理論もありません；もしあなたがすべての計算を加えれば、これが得られるという理論もありません……私たちは今、そのような理論を持っていません。これは非常に異常です。

物理学には理論があります------もしあなたが十分に大きな衝突機を作れば、その粒子を見つけることができます。私たちは知能の分野ではそのような理論を持っていません。しかし興奮するのは、私たちはAIと共に人間としての意味を発見するでしょう。

甲小姐：あなたの回答が好きです。

ケビン・ケリー：あなたの質問が好きです。

右：ケビン・ケリー、左：甲子光年創業者&CEO 張一甲（画像提供：「甲子光年」撮影）