深津さん流石です。実はこの「土地が高くなる」という話に関しては、サム・アルトマンが2021年にさらに詳しく言及しています。サムは、課税の重心を労働から資産（企業や土地）へとシフトするなど、根本的に異なる社会設計が必要になる説いています。以下にその概要をまとめます。 --- ・⭐️労働力から資本へと権力が移行し、公共政策がそれに応じて適応しなければ、ほとんどの人々は今よりも悪い状況に陥ることになる ・⭐️私たちは、このテクノロジーの未来を受け入れ、その世界で価値の大部分を占める資産（企業や土地）に課税し、将来の富の一部を公平に分配するシステムを設計する必要がある ・そうすることで、未来の社会ははるかに分裂が少なくなり、誰もがその利益に参加できるようになる ・これらのスマートマシン自体が、よりスマートなマシンの開発に役立っているため、イノベーションの再帰的なループが革命のペースを加速させるため、この技術革命は止められない ・⭐️この革命は驚異的な富を生み出す。十分なパワーを持つAIが「労働力に加わる」と、多くの種類の労働の価格はゼロに近づく ・⭐️世界は急速かつ劇的に変化するため、この富を分配し、より多くの人々が望む人生を追求できるようにするには、同様に劇的な政策の変更が必要になる ・これら両方を正しく行えば、人々の生活水準をこれまで以上に向上させることができる ・⭐️近い将来の根本的に異なる社会に向けて設計する必要がある ・⭐️時間のスケールを縮小すると、技術の進歩は指数関数的なカーブを描く ・農業、工業、計算の3つの偉大な技術革命に、AI革命という4つ目の革命が加わり、社会として責任を持って管理すれば、誰もが必要なものを得られるだけの富を生み出せる ・今後100年間に成し遂げる技術的進歩は、人類が火を制御し、車輪を発明して以来のすべての進歩よりも大きなものになる ・すでに学習して役に立つことができるAIシステムを構築していて、まだ原始的だが、そのトレンドラインは明らか ・⭐️大まかに言えば、豊かな生活を送るには個人がより多くのお金を得るか、価格が下がるかの2つの方法がある ・⭐️社会の富を増やす最善の方法は、食品からビデオゲームまでモノの価格を下げること ・⭐️AIは商品やサービスのコストを下げる。多くの段階で労働コストが大きな要因だから ・ロボットが、所有している土地に対して現地で採掘・精製された天然資源と太陽光発電を使いながら家を���てられるなら、家の建設コストはロボットのレンタル料にほぼ等しくなる ・そのロボット自体が他のロボットによって製造されているなら、レンタルコストは人間が製造していた場合より大幅に安くなる ・⭐️「ムーアの法則はあらゆるものに当てはまる」は、欲しいものを買う余裕のない世代にとってのスローガンであるべき ・⭐️技術が実現し得る（すでに実現している場合もある）世界として、住宅、教育、食料、衣服などあらゆるものが2年ごとに半額になる未来を想像できる ・⭐️不平等に対処する従来の方法は、所得に累進課税することだったが、さまざまな理由からうまく機能していない ・将来的には、さらに深刻な問題になる可能性がある。多くの人の仕事が、今日考えるような「大きな価値」を生み出すものではなくなるかもしれないから ・⭐️したがって、課税の重点を労働から資本に移し、そこから得た税収を、所有権と富を国民に直接分配する機会として活用すべき ・言い換えれば、誰もが株主として資本主義から直接利益を得られるようにすることが、資本主義を改善する最善の方法 ・AIのさらなる進歩によって分配される富が劇的に拡大するため、このアイデアは新たに実現可能になる ・⭐️富の2つの主要源は、AIを活用する企業を含む企業そのものと、供給量が限られた土地 ・これら2つの課税を導入する方法はいくつもあり、その取り扱いにもさまざまな考え方がある ・長期的に見れば、他の多くの税金を廃止できる可能性がある ・1つのアイデアとして、アメリカン・エクイティ・ファンド（American Equity Fund）という仕組みをつくり、一定の評価額を超える企業に対して毎年時価総額の2.5%を課税し、ファンドに譲渡される株式で支払うようにする ・同時に、私有地の価値の2.5%をドルで課税してこのファンドを支える ・企業の株式に課される税は、企業、投資家、国民のインセンティブを一致させる。利益への課税ではそれが難しい ・⭐️新しい社会契約は、誰もを上限で縛るのでなく、すべての人に下限を保障するもの ・米国には約30兆ドル相当の私有地があり、その価値は今後10年で約2倍になると仮定できる ・⭐️世界がAIによる変化を本格的に理解し始めると、土地という数少ない本当に有限な資産の価値はさらに急上昇するはず ・新税導入によって、土地や企業資産の価値が15%ほど下がり、回復には数年を要すると想定するのは妥当 ・企業にとっては、毎年自社の価値の2.5%に相当する新株を発行し、その株で税を支払うのが最も簡単な方法 ・理論的に最適なのは土地の価値のみに課税し、その上に建設された改良物には課税しないことだが、その評価は困難かもしれない ・その場合は土地と建物を合わせた評価額に対し、より低い税率で課税する方法などが考えられる ・⭐️AIが本格化すると成長は非常に急速になり、2種類の資産クラス（企業と土地）に課税することで他の多くの税金を削減できるようになる可能性がある ・これから起こる変化を止めることはできない。私たちが変化を受け入れ、計画を立てるなら、より公平で幸せで豊かな社会を築ける

サム・アルトマンが先ほどブログを更新しました。AIの未来について示唆に富む内容を示しています。以下にまとめます。 --- 【AGI】 ・私たちの使命は、AGI（Artificial General Intelligence＝汎用人工知能）が人類全体にとって有益となるようにすること ・AGIに近づきつつあるシステムが姿を見せ始めている今、この瞬間を理解することが重要だと考えている ・AGIは明確に定義しづらい用語だが、一般的には、人間と同等のレベルで、複数の分野においてますます複雑な問題に取り組めるシステムを指している ・（ここでAGIという言葉を使うのは分かりやすく伝えるためであり、私たちとMicrosoftの間における定義やプロセスを変更したり解釈したりする意図はまったくない。私たちは今後も長期的にMicrosoftと協力し続けることを完全に想定している） ・「今回は本当に違う」と言わざるを得ないような何かの始まりでもある 【AIの経済学】 ・私たちの前にある経済成長は驚異的なものに見え、今やあらゆる病気を治し、家族と過ごす時間をもっと増やし、創造力を完全に発揮できる世界を想像することができる ・10年も経てば、地球上の誰もが、現代において最も大きな影響を与えている人以上のことを成し遂げられるようになるかもしれない ・私たちはAI開発が急速に進歩し続けるのを目にしている ・ここではAIの経済学について3つの所見を挙げる ・1. AIモデルの知能は、おおむねそれを訓練し運用するために使われるリソースの対数に相当する ・これらのリソースの中心は、訓練に必要な計算処理（コンピュート）、データ、推論に必要な計算処理 ・恣意的な金額を投入すれば、連続的かつ予測可能な性能向上を得られるように見える ・こうしたスケーリング則は、多くの桁数にわたって正確に予測を行っている ・2. 特定レベルのAIを使うコストは12カ月ごとに約10分の1になっており、コスト低下によって利用量は大幅に増加する ・たとえば2023年初頭のGPT-4と2024年半ばのGPT-4oにおけるトークン単価を比較すると、その価格はその間で約150分の1にまで低下した ・ムーアの法則では18カ月ごとに2倍という世界を変えてきたが、これはそれをはるかに上回る劇的なもの ・3. 知能が線形的に増すことによる社会経済的価値は、その本質として超指数関数的 ・これがもたらす結果として、近い将来この指数関数的に増大する投資が止まる理由は見当たらない ・もしこの3つの所見がこのまま当てはまり続けるならば、社会に与える影響は非常に大きくなるだろう 【ソフトウェアエンジニアリング向けエージェント】 ・私たちは今、AIエージェントを順次導入し始めている ・これらは最終的に、仮想の同僚のような存在になるだろう ・ソフトウェアエンジニアリング向けのエージェントは特に重要になると期待している ・いずれ、このエージェントは、トップクラスの企業で数年の経験を積んだソフトウェアエンジニアが数日かけて行う作業の大部分をこなせるようになるかもしれない ・ある程度は現実的だが、比較的ジュニアな仮想の同僚としてイメージしてほしい ・そこに1000人分、あるいは100万人分を想像してみてほしい ・そして、それがあらゆる知的労働分野に存在すると想像してみてほしい 【未来の変化】 ・世界は一夜にして変化するわけではない ・これまで一度もそんなことはなかった ・短期的には生活はほとんど同じように続き、2025年の人々も2024年とほとんど同じ方法で時間を使うだろう ・しかし、未来は無視できない形で私たちに迫ってきて、長期的に見れば社会や経済は大きく変化すると考えられている ・それらは今の仕事の在り方とは大きく異なるかもしれない ・主体性や意欲、そしてやり遂げる力は極めて価値が高まると考えられている ・何をすべきかを正しく決定し、常に変化し続ける世界をどう乗り切るかを見極めることには大きな価値がある ・レジリエンスや適応能力は磨いておくと役立つ ・AGIはこれまでで最大の「てこ」になり得る ・個人がかつてないほど大きなインパクトを持つことを可能にし、人の存在が小さくなるどころか、むしろ大きくなると考えられている ・AGIの影響は不均一になると予想されている ・多くの産業ではほとんど変化がない可能性がある一方で、科学的進歩は現在よりもずっと速くなるだろう ・このAGIの影響は他のすべてを凌ぐかもしれない ・多くのモノの価格は最終的に劇的に低下すると考えられる（現在は知能とエネルギーコストが多くを制約している） ・一方で、高級品や土地などの本質的に限りのある資源の価格は、もっと劇的に上昇する可能性がある 【オープン化】 ・歴史的にはあまり行われてこなかった「利用者側への技術のコントロール権限を増やす」という方向性が必要だと考えている ・オープンソース化を進めるなどの取り組みも行う可能性がある ・安全性と個人のエンパワーメントとのバランスをどう取るかという問題では、トレードオフが必要になる ・AGIの実現に近づくにつれ、個人のエンパワーメントをより重視する方向に進むことが重要だと考えている ・というのも、もう一つのシナリオとして、権威主義国家がAIを使って大規模監視や自律性の剝奪を通じて市民を支配する可能性があるため 【資本と労働】 ・平等性を高めることは技術によって自動的に決まるわけではなく、新たなアイデアが必要になる可能性がある ・資本と労働の間の力関係は簡単に歪められる可能性があり、早い段階での介入が必要かもしれない ・「地球上のすべての人が大量のAIを使えるように、何らかの“コンピュート予算”を与える」という一見奇妙に聞こえるアイデアに���前向き 【2035年】 ・2035年には、2025年の全人類に相当する知的能力を一人ひとりが扱えるようになるべきだと考えている ・誰もが無限の天才性を活用し、自分の想像力のままにそれを使えるようになるべきだと考えている ・現在、世界には十分なリソースがなく、自分の才能を完全に開花できていない人が多く存在する ・もしこの状況を変えられれば、世界の創造的アウトプットは飛躍的に増大し、全員にとって大きな恩恵をもたらすだろう

サム・アルトマンが先ほどブログを更新しました。AIの未来について示唆に富む内容を示しています。以下にまとめます。 --- 【AGI】 ・私たちの使命は、AGI（Artificial General Intelligence＝汎用人工知能）が人類全体にとって有益となるようにすること ・AGIに近づきつつあるシステムが姿を見せ始めている今、この瞬間を理解することが重要だと考えている ・AGIは明確に定義しづらい用語だが、一般的には、人間と同等のレベルで、複数の分野においてますます複雑な問題に取り組めるシステムを指している ・（ここでAGIという言葉を使うのは分かりやすく伝えるためであり、私たちとMicrosoftの間における定義やプロセスを変更したり解釈したりする意図はまったくない。私たちは今後も長期的にMicrosoftと協力し続けることを完全に想定している） ・「今回は本当に違う」と言わざるを得ないような何かの始まりでもある 【AIの経済学】 ・私たちの前にある経済成長は驚異的なものに見え、今やあらゆる病気を治し、家族と過ごす時間をもっと増やし、創造力を完全に発揮できる世界を想像することができる ・10年も経てば、地球上の誰もが、現代において最も大きな影響を与えている人以上のことを成し遂げられるようになるかもしれない ・私たちはAI開発が急速に進歩し続けるのを目にしている ・ここではAIの経済学について3つの所見を挙げる ・1. AIモデルの知能は、おおむねそれを訓練し運用するために使われるリソースの対数に相当する ・これらのリソースの中心は、訓練に必要な計算処理（コンピュート）、データ、推論に必要な計算処理 ・恣意的な金額を投入すれば、連続的かつ予測可能な性能向上を得られるように見える ・こうしたスケーリング則は、多くの桁数にわたって正確に予測を行っている ・2. 特定レベルのAIを使うコストは12カ月ごとに約10分の1になっており、コスト低下によって利用量は大幅に増加する ・たとえば2023年初頭のGPT-4と2024年半ばのGPT-4oにおけるトークン単価を比較すると、その価格はその間で約150分の1にまで低下した ・ムーアの法則では18カ月ごとに2倍という世界を変えてきたが、これはそれをはるかに上回る劇的なもの ・3. 知能が線形的に増すことによる社会経済的価値は、その本質として超指数関数的 ・これがもたらす結果として、近い将来この指数関数的に増大する投資が止まる理由は見当たらない ・もしこの3つの所見がこのまま当てはまり続けるならば、社会に与える影響は非常に大きくなるだろう 【ソフトウェアエンジニアリング向けエージェント】 ・私たちは今、AIエージェントを順次導入し始めている ・これらは最終的に、仮想の同僚のような存在になるだろう ・ソフトウェアエンジニアリング向けのエージェントは特に重要になると期待している ・いずれ、このエージェントは、トップクラスの企業で数年の経験を積んだソフトウェアエンジニアが数日かけて行う作業の大部分をこなせるようになるかもしれない ・ある程度は現実的だが、比較的ジュニアな仮想の同僚としてイメージしてほしい ・そこに1000人分、あるいは100万人分を想像してみてほしい ・そして、それがあらゆる知的労働分野に存在すると想像してみてほしい 【未来の変化】 ・世界は一夜にして変化するわけではない ・これまで一度もそんなことはなかった ・短期的には生活はほとんど同じように続き、2025年の人々も2024年とほとんど同じ方法で時間を使うだろう ・しかし、未来は無視できない形で私たちに迫ってきて、長期的に見れば社会や経済は大きく変化すると考えられている ・それらは今の仕事の在り方とは大きく異なるかもしれない ・主体性や意欲、そしてやり遂げる力は極めて価値が高まると考えられている ・何をすべきかを正しく決定し、常に変化し続ける世界をどう乗り切るかを見極めることには大きな価値がある ・レジリエンスや適応能力は磨いておくと役立つ ・AGIはこれまでで最大の「てこ」になり得る ・個人がかつてないほど大きなインパクトを持つことを可能にし、人の存在が小さくなるどころか、むしろ大きくなると考えられている ・AGIの影響は不均一になると予想されている ・多くの産業ではほとんど変化がない可能性がある一方で、科学的進歩は現在よりもずっと速くなるだろう ・このAGIの影響は他のすべてを凌ぐかもしれない ・多くのモノの価格は最終的に劇的に低下すると考えられる（現在は知能とエネルギーコストが多くを制約している） ・一方で、高級品や土地などの本質的に限りのある資源の価格は、もっと劇的に上昇する可能性がある 【オープン化】 ・歴史的にはあまり行われてこなかった「利用者側への技術のコントロール権限を増やす」という方向性が必要だと考えている ・オープンソース化を進めるなどの取り組みも行う可能性がある ・安全性と個人のエンパワーメントとのバランスをどう取るかという問題では、トレードオフが必要になる ・AGIの実現に近づくにつれ、個人のエンパワーメントをより重視する方向に進むことが重要だと考えている ・というのも、もう一つのシナリオとして、権威主義国家がAIを使って大規模監視や自律性の剝奪を通じて市民を支配する可能性があるため 【資本と労働】 ・平等性を高めることは技術によって自動的に決まるわけではなく、新たなアイデアが必要になる可能性がある ・資本と労働の間の力関係は簡単に歪められる可能性があり、早い段階での介入が必要かもしれない ・「地球上のすべての人が大量のAIを使えるように、何らかの“コンピュート予算”を与える」という一見奇妙に聞こえるアイデアにも前向き 【2035年】 ・2035年には、2025年の全人類に相当する知的能力を一人ひとりが扱えるようになるべきだと考えている ・誰もが無限の天才性を活用し、自分の想像力のままにそれを使えるようになるべきだと考えている ・現在、世界には十分なリソースがなく、自分の才能を完全に開花できていない人が多く存在する ・もしこの状況を変えられれば、世界の創造的アウトプットは飛躍的に増大し、全員にとって大きな恩恵をもたらすだろう

8年前にサム・アルトマンがイーロン・マスクにインタビューする動画を観ましたが、当時の二人はとても親しげでした。「OpenAI」、「AIの民主化」、「AIとの融合」、さらに「おすすめのゲーム」などについて話していました。 --- 【OpenAI】 サム：OpenAIはまだ創設して6か月ほどですが、どう進んでいると感じますか？ 実は私、あまりカメラの前でこれは聞かれたくないんですが（笑）。 イーロン：うまくいってると思いますよ。OpenAIにはとても優秀なメンバーがそろっていて… サム：そうですね、優秀そうですよね。 イーロン：はい、本当に優秀なチームです。そして皆一生懸命取り組んでいる。OpenAIは非営利組織ですが、多くの非営利組織にありがちな「緊迫感のなさ」はありません。普通の非営利はそれでもいいのですが、OpenAIの場合はメンバーが本当にミッションを信じていて、それが重要だと思っている。これは将来的な存在リスク（エクジステンシャルリスク）を最小化するためでもあります。だから皆、とても真剣に取り組んでいると思います。メンバーたちの取り組みや才能は本当に感心します。もちろん常に、ミッションに賛同してくれる優秀な人がいれば迎えたいと思っています。 --- 【AIの民主化】 サム：AIの望ましい未来像と、そこに至るまでの道筋について話してもらえますか？ イーロン：わかりました。まず強調したいのは、これは私が「こうするべきだ」と主張しているものではなく、「おそらくこうなるだろう」という予測に近いということです。「こうなってほしい」と思うものの中で、私が思いつく限りベストな案がこれ、というだけで、誰かがもっといい方法や結果を示せるならそちらのほうがいいかもしれません。私が考える「現時点で取り得るベストな選択肢」は、AI技術の民主化、つまり先端AI技術を一社や少数の個人が独占しないようにすること。これは非常に危険な状況を招きかねません。 イーロン：悪い独裁者のような人間がそれを盗んでしまったらどうなるか。国家の諜報機関が盗みに来るかもしれない。そしてそれを支配したら、とても不安定になります。ものすごく強力なAIを手に入れたら、誰がそれをコントロールするかわからない。だから、AI自体がいきなり独自の意志を持つことを恐れているわけではなく、誰かがそれを悪い形で使うかもしれない、あるいは悪意がなくても他の誰かに奪われて悪用されるかもしれない、というのが心配なんです。これは大きな危険だと思います。だからこそ、AI技術の民主化が必要だと思っています。少数だけが独占しないように。そういう理由で、あなた（サム）や私、そしてチームの皆でOpenAIを創設したわけです。AI技術がごく一部だけに集中しないようにするためにね。 --- 【AIとの融合】 サム：人間は本当に動作が遅いですからね。 イーロン：そう、人間は遅いんです。でもすでに、脳の中には皮質（コルテックス）と大脳辺縁系（リムビックシステム）があります。大脳辺縁系は原始的な本能や欲求を司る部分で、コルテックスは思考を司る上位の部分です。この2つはうまく連携していて、たまに食い違いはあっても… サム：まあ、だいたいうまくやってますよね。 イーロン：ええ、だいたいうまくいってます。そしてコルテックスや辺縁系を「要らないから取り除きたい」と思う人は、私は見たことがありません。変わった人以外はいないと思います。 サム：確かに。 イーロン：そういうことです。だから、もしAIと融合できるなら、つまりコルテックスとデジタルな拡張部分（今すでにあるけど帯域��が狭い）を強化して、事実上「AI-ヒューマンの共生体」になれるなら、しかもそれが望む人なら誰でも手に入れられる仕組みであれば、コントロールの問題も解決できます。悪意ある独裁者AIが現れる可能性を気にする必要がなくなる。私たち自身が集合知としてAIになるわけですから。これは私が思いつく最善の未来像ですね。 --- 【おすすめのゲーム】 サム：新しいビデオゲームを探してるんだけど、おすすめはある？ イーロン：オーバーウォッチ。 サム：オーバーウォッチはやってるよ。 イーロン：ああ、いいね。それ以外は？ サム：オーバーウォッチは最高だよ。 イーロン：オーバーウォッチは最高だね。うん。だいたいブリザードはいいもの作るし。あと、ハースストーンっていうのもあるよ。 サム：それはまだ試してないな。うん、知ってる。みんな好きだよね。 イーロン：うちの子どもたちが一番やってるよ。ハースストーンもブリザード？ サム：今夜試してみるよ。じゃあ、今日はありがとう。そろそろ行かないといけないよね。 イーロン：いいよ。オーバーウォッチ以外は何かやる？ 新しいデウスエクスは試してみた？ サム：新しいデウスエクスはやってみたよ。 イーロン：まあまあかな。 サム：でも、最近やった中で一番よかったのは、そんなに新しくはないんだけど「ラスト・オブ・アス」なんだ。 イーロン：へえ、本当？ サム：数年前の作品だよね？ イーロン：そうだね。 サム：大好きだったよ。うん。 イーロン：ラスト・オブ・アス。 サム：うん。 イーロン：それも好きなんだ？ そんなにいいの？ うん。『アンチャーテッド』もいいって聞いたよ。ほんと？ ラスト・オブ・アス。 サム：あんなふうにストーリーテリングができるゲームってそうそうないよ。 イーロン：うん、正直言って、そういうところは本当におろそかにされがちだと思う。新しいデウスエクスはストーリーがちょっとイマイチって聞いたし。前作のデウスエクスとかオリジナルのやつ。オリジナルのデウスエクスはストーリーがすごかった。誰かやったことある？ オリジナルのデウスエクスやった？ あれは最高だったよ。 サム：うん。ゲームがどんどんNFLの代わりみたいになってきて、ストーリー部分はだいたい軽視されるようになってるよね。だからこそ、本当に映画みたいなストーリーテリングのゲームをやると衝撃を受けるんだ。うん。 イーロン：あと、昔のゲームってグラフィックもサウンドもひどかったから、ストーリーに頼るしかなかったんだよね。 サム：昔のマリオとかもストーリーがすごかったよね。 イーロン：そうだね。

8年前にサム・アルトマンがイーロン・マスクにインタビューする動画を観ましたが、当時の二人はとても親しげでした。「OpenAI」、「AIの民主化」、「AIとの融合」、さらに「おすすめのゲーム」などについて話していました。 --- 【OpenAI】 サム：OpenAIはまだ創設して6か月ほどですが、どう進んでいると感じますか？ 実は私、あまりカメラの前でこれは聞かれたくないんですが（笑）。 イーロン：うまくいってると思いますよ。OpenAIにはとても優秀なメンバーがそろっていて… サム：そうですね、優秀そうですよね。 イーロン：はい、本当に優秀なチームです。そして皆一生懸命取り組んでいる。OpenAIは非営利組織ですが、多くの非営利組織にありがちな「緊迫感のなさ」はありません。普通の非営利はそれでもいいのですが、OpenAIの場合はメンバーが本当にミッションを信じていて、それが重要だと思っている。これは将来的な存在リスク（エクジステンシャルリスク）を最小化するためでもあります。だから皆、とても真剣に取り組んでいると思います。メンバーたちの取り組みや才能は本当に感心します。もちろん常に、ミッションに賛同してくれる優秀な人がいれば迎えたいと思っています。 --- 【AIの民主化】 サム：AIの望ましい未来像と、そこに至るまでの道筋について話してもらえますか？ イーロン：わかりました。まず強調したいのは、これは私が「こうするべきだ」と主張しているものではなく、「おそらくこうなるだろう」という予測に近いということです。「こうなってほしい」と思うものの中で、私が思いつく限りベストな案がこれ、というだけで、誰かがもっといい方法や結果を示せるならそちらのほうがいいかもしれません。私が考える「現時点で取り得るベストな選択肢」は、AI技術の民主化、つまり先端AI技術を一社や少数の個人が独占しないようにすること。これは非常に危険な状況を招きかねません。 イーロン：悪い独裁者のような人間がそれを盗んでしまったらどうなるか。国家の諜報機関が盗みに来るかもしれない。そしてそれを支配したら、とても不安定になります。ものすごく強力なAIを手に入れたら、誰がそれをコントロールするかわからない。だから、AI自体がいきなり独自の意志を持つことを恐れているわけではなく、誰かがそれを悪い形で使うかもしれない、あるいは悪意がなくても他の誰かに奪われて悪用されるかもしれない、というのが心配なんです。これは大きな危険だと思います。だからこそ、AI技術の民主化が必要だと思っています。少数だけが独占しないように。そういう理由で、あなた（サム）や私、そしてチームの皆でOpenAIを創設したわけです。AI技術がごく一部だけに集中しないようにするためにね。 --- 【AIとの融合】 サム：人間は本当に動作が遅いですからね。 イーロン：そう、人間は遅いんです。でもすでに、脳の中には皮質（コルテックス）と大脳辺縁系（リムビックシステム）があります。大脳辺縁系は原始的な本能や欲求を司る部分で、コルテックスは思考を司る上位の部分です。この2つはうまく連携していて、たまに食い違いはあっても… サム：まあ、だいたいうまくやってますよね。 イーロン：ええ、だいたいうまくいってます。そしてコルテックスや辺縁系を「要らないから取り除きたい」と思う人は、私は見たことがありません。変わった人以外はいないと思います。 サム：確かに。 イーロン：そういうことです。だから、もしAIと融合できるなら、つまりコルテックスとデジタルな拡張部分（今すでにあるけど帯域幅が狭い）を強化して、事実上「AI-ヒューマンの共生体」になれるなら、しかもそれが望む人なら誰でも手に入れられる仕組みであれば、コントロールの問題も解決できます。悪意ある独裁者AIが現れる可能性を気にする必要がなくなる。私たち自身が集合知としてAIになるわけですから。これは私が思いつく最善の未来像ですね。 --- 【おすすめのゲーム】 サム：新しいビデオゲームを探してるんだけど、おすすめはある？ イーロン：オーバーウォッチ。 サム：オーバーウォッチはやってるよ。 イーロン：ああ、いいね。それ以外は？ サム：オーバーウォッチは最高だよ。 イーロン：オーバーウォッチは最高だね。うん。だいたいブリザードはいいもの作るし。あと、ハースストーンっていうのもあるよ。 サム：それはまだ試してないな。うん、知ってる。みんな好きだよね。 イーロン：うちの子どもたちが一番やってるよ。ハースストーンもブリザード？ サム：今夜試してみるよ。じゃあ、今日はありがとう。そろそろ行かないといけないよね。 イーロン：いいよ。オーバーウォッチ以外は何かやる？ 新しいデウスエクスは試してみた？ サム：新しいデウスエクスはやってみたよ。 イーロン：まあまあかな。 サム：でも、最近やった中で一番よかったのは、そんなに新しくはないんだけど「ラスト・オブ・アス」なんだ。 イーロン：へえ、本当？ サム：数年前の作品だよね？ イーロン：そうだね。 サム：大好きだったよ。うん。 イーロン：ラスト・オブ・アス。 サム：うん。 イーロン：それも好きなんだ？ そんなにいいの？ うん。『アンチャーテッド』もいいって聞いたよ。ほんと？ ラスト・オブ・アス。 サム：あんなふうにストーリーテリングができるゲームってそうそうないよ。 イーロン：うん、正直言って、そういうところは本当におろそかにされがちだと思う。新しいデウスエクスはストーリーがちょっとイマイチって聞いたし。前作のデウスエクスとかオリジナルのやつ。オリジナルのデウスエクスはストーリーがすごかった。誰かやったことある？ オリジナルのデウスエクスやった？ あれは最高だったよ。 サム：うん。ゲームがどんどんNFLの代わりみたいになってきて、ストーリー部分はだいたい軽視されるようになってるよね。だからこそ、本当に映画みたいなストーリーテリングのゲームをやると衝撃を受けるんだ。うん。 イーロン：あと、昔のゲームってグラフィックもサウンドもひどかったから、ストーリーに頼るしかなかったんだよね。 サム：昔のマリオとかもストーリーがすごかったよね。 イーロン：そうだね。

8年前にサム・アルトマンがイーロン・マスクにインタビューする動画を観ましたが、当時の二人はとても親しげでした。「OpenAI」、「AIの民主化」、「AIとの融合」、さらに「おすすめのゲーム」などについて話していました。 --- 【OpenAI】 サム：OpenAIはまだ創設して6か月ほどですが、どう進ん��いると感じますか？ 実は私、あまりカメラの前でこれは聞かれたくないんですが（笑）。 イーロン：うまくいってると思いますよ。OpenAIにはとても優秀なメンバーがそろっていて… サム：そうですね、優秀そうですよね。 イーロン：はい、本当に優秀なチームです。そして皆一生懸命取り組んでいる。OpenAIは非営利組織ですが、多くの非営利組織にありがちな「緊迫感のなさ」はありません。普通の非営利はそれでもいいのですが、OpenAIの場合はメンバーが本当にミッションを信じていて、それが重要だと思っている。これは将来的な存在リスク（エクジステンシャルリスク）を最小化するためでもあります。だから皆、とても真剣に取り組んでいると思います。メンバーたちの取り組みや才能は本当に感心します。もちろん常に、ミッションに賛同してくれる優秀な人がいれば迎えたいと思っています。 --- 【AIの民主化】 サム：AIの望ましい未来像と、そこに至るまでの道筋について話してもらえますか？ イーロン：わかりました。まず強調したいのは、これは私が「こうするべきだ」と主張しているものではなく、「おそらくこうなるだろう」という予測に近いということです。「こうなってほしい」と思うものの中で、私が思いつく限りベストな案がこれ、というだけで、誰かがもっといい方法や結果を示せるならそちらのほうがいいかもしれません。私が考える「現時点で取り得るベストな選択肢」は、AI技術の民主化、つまり先端AI技術を一社や少数の個人が独占しないようにすること。これは非常に危険な状況を招きかねません。 イーロン：悪い独裁者のような人間がそれを盗んでしまったらどうなるか。国家の諜報機関が盗みに来るかもしれない。そしてそれを支配したら、とても不安定になります。ものすごく強力なAIを手に入れたら、誰がそれをコントロールするかわからない。だから、AI自体がいきなり独自の意志を持つことを恐れているわけではなく、誰かがそれを悪い形で使うかもしれない、あるいは悪意がなくても他の誰かに奪われて悪用されるかもしれない、というのが心配なんです。これは大きな危険だと思います。だからこそ、AI技術の民主化が必要だと思っています。少数だけが独占しないように。そういう理由で、あなた（サム）や私、そしてチームの皆でOpenAIを創設したわけです。AI技術がごく一部だけに集中しないようにするためにね。 --- 【AIとの融合】 サム：人間は本当に動作が遅いですからね。 イーロン：そう、人間は遅いんです。でもすでに、脳の中には皮質（コルテックス）と大脳辺縁系（リムビックシステム）があります。大脳辺縁系は原始的な本能や欲求を司る部分で、コルテックスは思考を司る上位の部分です。この2つはうまく連携していて、たまに食い違いはあっても… サム：まあ、だいたいうまくやってますよね。 イーロン：ええ、だいたいうまくいってます。そしてコルテックスや辺縁系を「要らないから取り除きたい」と思う人は、私は見たことがありません。変わった人以外はいないと思います。 サム：確かに。 イーロン：そういうことです。だから、もしAIと融合できるなら、つまりコルテックスとデジタルな拡張部分（今すでにあるけど帯域幅が狭い）を強化して、事実上「AI-ヒューマンの共生体」になれるなら、しかもそれが望む人なら誰でも手に入れられる仕組みであれば、コントロールの問題も解決できます。悪意ある独裁者AIが現れる可能性を気にする必要がなくなる。私たち自身が集合知としてAIになるわけですから。これは私が思いつく最善の未来像ですね。 --- 【おすすめのゲーム】 サム：新しいビデオゲームを探してるんだけど、おすすめはある？ イーロン：オーバーウォッチ。 サム：オーバーウォッチはやってるよ。 イーロン：ああ、いいね。それ以外は？ サム：オーバーウォッチは最高だよ。 イーロン：オーバーウォッチは最高だね。うん。だいたいブリザードはいいもの作るし。あと、ハースストーンっていうのもあるよ。 サム：それはまだ試してないな。うん、知ってる。みんな好きだよね。 イーロン：うちの子どもたちが一番やってるよ。ハースストーンもブリザード？ サム：今夜試してみるよ。じゃあ、今日はありがとう。そろそろ行かないといけないよね。 イーロン：いいよ。オーバーウォッチ以外は何かやる？ 新しいデウスエクスは試してみた？ サム：新しいデウスエクスはやってみたよ。 イーロン：まあまあかな。 サム：でも、最近やった中で一番よかったのは、そんなに新しくはないんだけど「ラスト・オブ・アス」なんだ。 イーロン：へえ、本当？ サム：数年前の作品だよね？ イーロン：そうだね。 サム：大好きだったよ。うん。 イーロン：ラスト・オブ・アス。 サム：うん。 イーロン：それも好きなんだ？ そんなにいいの？ うん。『アンチャーテッド』もいいって聞いたよ。ほんと？ ラスト・オブ・アス。 サム：あんなふうにストーリーテリングができるゲームってそうそうないよ。 イーロン：うん、正直言って、そういうところは本当におろそかにされがちだと思う。新しいデウスエクスはストーリーがちょっとイマイチって聞いたし。前作のデウスエクスとかオリジナルのやつ。オリジナルのデウスエクスはストーリーがすごかった。誰かやったことある？ オリジナルのデウスエクスやった？ あれは最高だったよ。 サム：うん。ゲームがどんどんNFLの代わりみたいになってきて、ストーリー部分はだいたい軽視されるようになってるよね。だからこそ、本当に映画みたいなストーリーテリングのゲームをやると衝撃を受けるんだ。うん。 イーロン：あと、昔のゲームってグラフィックもサウンドもひどかったから、ストーリーに頼るしかなかったんだよね。 サム：昔のマリオとかもストーリーがすごかったよね。 イーロン：そうだね。

8年前にサム・アルトマンがイーロン・マスクにインタビューする動画を観ましたが、当時の二人はとても親しげでした。「OpenAI」、「AIの民主化」、「AIとの融合」、さらに「おすすめのゲーム」などについて話していました。 --- 【OpenAI】 サム：OpenAIはまだ創設して6か月ほどですが、どう進んでいると感じますか？ 実は私、あまりカメラの前でこれは聞かれたくないんですが（笑）。 イーロン：うまくいってると思いますよ。OpenAIにはとても優秀なメンバーがそろっていて… サム：そうですね、優秀そうですよね。 イーロン：はい、本当に優秀なチームです。そして皆一生懸命取り組んでいる。OpenAIは非営利組織ですが、多くの非営利組織にありがちな「緊迫感のなさ」はありません。普通の非営利はそれでもいいのですが、OpenAIの場合はメンバーが本当にミッションを信じていて、それが重要だと思っている。これは将来的な存在リスク（エクジステンシャルリスク）を最小化するためでもあります。だから皆、とても真剣に取り組んでいると思います。メンバーたちの取り組みや才能は本当に感心します。もちろん常に、ミッションに賛同してくれる優秀な人がいれば迎えたいと思っています。 --- 【AIの民主化】 サム：AIの望ましい未来像と、そこに至るまでの道筋について話してもらえますか？ イーロン：わかりました。まず強調したいのは、これは私が「こうするべきだ」と主張しているものではなく、「おそらくこうなるだろう」という予測に近いということです。「こうなってほしい」と思うものの中で、私が思いつく限りベストな案がこれ、というだけで、誰かがもっといい方法や結果を示せるならそちらのほうがいいかもしれません。私が考える「現時点で取り得るベストな選択肢」は、AI技術の民主化、つまり先端AI技術を一社や少数の個人が独占しないようにすること。これは非常に危険な状況を招きかねません。 イーロン：悪い独裁者のような人間がそれを盗んでしまったらどうなるか。国家の諜報機関が盗みに来るかもしれない。そしてそれを支配したら、とても不安定になります。ものすごく強力なAIを手に入れたら、誰がそれをコントロールするかわからない。だから、AI自体がいきなり独自の意志を持つことを恐れているわけではなく、誰かがそれを悪い形で使うかもしれない、あるいは悪意がなくても他の誰かに奪われて悪用されるかもしれない、というのが心配なんです。これは大きな危険だと思います。だからこそ、AI技術の民主化が必要だと思っています。少数だけが独占しないように。そういう理由で、あなた（サム）や私、そしてチームの皆でOpenAIを創設したわけです。AI技術がごく一部だけに集中しないようにするためにね。 --- 【AIとの融合】 サム：人間は本当に動作が遅いですからね。 イーロン：そう、人間は遅いんです。でもすでに、脳の中には皮質（コルテックス）と大脳辺縁系（リムビックシステム）があります。大脳辺縁系は原始的な本能や欲求を司る部分で、コルテックスは思考を司る上位の部分です。この2つはうまく連携していて、たまに食い違いはあっても… サム：まあ、だいたいうまくやってますよね。 イーロン：ええ、だいたいうまくいってます。そしてコルテックスや辺縁系を「要らないから取り除きたい」と思う人は、私は見たことがありません。変わった人以外はいないと思います。 サム：確かに。 イーロン：そういうことです。だから、もしAIと融合できるなら、つまりコルテックスとデジタルな拡張部分（今すでにあるけど帯域幅が狭い）を強化して、事実上「AI-ヒューマンの共生体」になれるなら、しかもそれが望む人なら誰でも手に入れられる仕組みであれば、コントロールの問題も解決できます。悪意ある独裁者AIが現れる可能性を気にする必要がなくなる。私たち自身が集合知としてAIになるわけですから。これは私が思いつく最善の未来像ですね。 --- 【おすすめのゲーム】 サム：新しいビデオゲームを探してるんだけど、おすすめはある？ イーロン：オーバーウォッチ。 サム：オーバーウォッチはやってるよ。 イーロン：ああ、いいね。それ以外は？ サム：オーバーウォッチは最高だよ。 イーロン：オーバーウォッチは最高だね。うん。だいたいブリザードはいいもの作るし。あと、ハースストーンっていうのもあるよ。 サム：それはまだ試してないな。うん、知ってる。みんな好きだよね。 イーロン：うちの子どもたちが一番やってるよ。ハースストーンもブリザード？ サム：今夜試してみるよ。じゃあ、今日はありがとう。そろそろ行かないといけないよね。 イーロン：いいよ。オーバーウォッチ以外は何かやる？ 新しいデウスエクスは試してみた？ サム：新しいデウスエクスはやってみたよ。 イーロン：まあまあかな。 サム：でも、最近やった中で一番よかったのは、そんなに新しくはないんだけど「ラスト・オブ・アス」なんだ。 イーロン：へえ、本当？ サム：数年前の作品だよね？ イーロン：そうだね。 サム：大好きだったよ。うん。 イーロン：ラスト・オブ・アス。 サム：うん。 イーロン：それも好きなんだ？ そんなにいいの？ うん。『アンチャーテッド』もいいって聞いたよ。ほんと？ ラスト・オブ・アス。 サム：あんなふうにストーリーテリングができるゲームってそうそうないよ。 イーロン：うん、正直言って、そういうところは本当におろそかにされがちだと思う。新しいデウスエクスはストーリーがちょっとイマイチって聞いたし。前作のデウスエクスとかオリジナルのやつ。オリジナルのデウスエクスはストーリーがすごかった。誰かやったことある？ オリジナルのデウスエクスやった？ あれは最高だったよ。 サム：うん。ゲームがどんどんNFLの代わりみたいになってきて、ストーリー部分はだいたい軽視されるようになってるよね。だからこそ、本当に映画みたいなストーリーテリングのゲームをやると衝撃を受けるんだ。うん。 イーロン：あと、昔のゲームってグラフィックもサウンドもひどかったから、ストーリーに頼るしかなかったんだよね。 サム：昔のマリオとかもストーリーがすごかったよね。 イーロン：そうだね。