#Unveils 🍘

#GPT♑

#Live ⚡

#Make 🐽

#ChatGPT 🎴

#Voice 🌸

#More 💡

#Natural🌊

OpenAI Unveils GPT-Live to Make ChatGPT Voice More Natural

https://amoghavarshaonline.blogspot.com/2026/07/openai-unveils-gpt-live-to-make-chatgpt.html

The latest AI news is less interesting as a promise than as a test: whether the technology is becoming useful, trustworthy and ordinary enough to deserve a permanent place in daily software. AI has moved beyond novelty. The important tests now are accuracy, privacy, cost, control and whether people keep using the feature after the first impressive demo. (more…)

ＴＥＤにて

サム・アルトマン：ChatGPT、AIエージェント。そして超知能についてTED2025でライブ講演

（詳しくご覧になりたい場合は上記リンクからどうぞ）

注意！！現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。

注意！！現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。

注意！！現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。

OpenAIのCEO、サム・アルトマン氏は、AI革命は定着するだろうと述べています。

TEDの責任者であるクリス・アンダーソン氏との鋭い対談の中でアルトマン氏はAIの驚異的な成長について議論し、ChatGPTのようなモデルが間もなく私たちの分身となる可能性を示しました。

また、安全性、権力、そして、道徳的権威といった問題にも触れ、AIがほぼ確実に人間の知能を凌駕するであろうという彼が思い描く世界について考察しました（2025年4月11日収録）

(クリス・アンダーソン)サム、TEDに来てくれてありがとうございます。

(サム・アルトマン)お招きいただき光栄です。

(クリス)あなたの会社は、新しいすごいモデルを２週間ごとくらいに出しているように感じます。いくつか試してみましたが、どんなことをやっているかお見せしましょう。画像・動画ジェネレーターのSoraです。Soraにこう聞きました。サム・アルトマンがTEDで衝撃の発表をする時の様子は？Soraはどんなふうにイメージしたか？

その１年後、soraは、開発停止しています。

悪くないでしょう？何点をつけますか？指はちゃんと５本ですよ。

(サム)着ているものはかなり近いですね。

(クリス)あんなに溌剌としたあなたは見たことがありません。

(サム)あんまり溌剌とした人間じゃないので。

(クリス)ではB+といったところでしょうか。次のやつには、心底、感心しました。知能と意識の違いを図示してくれと頼みました。皆さんだったらどう表現しますか？Soraの答えがこれです。シンプルでハッとさせられます。どうやっているのでしょう。これは単なる画像生成ではなくモデルの核となる知能と結びついています。

(サム)この新しい画像生成モデルは、GPT-4oの一部でその知恵を利用できます。だから、このようなみんなの喜ぶようなことができます。

(クリス)私が経営コンサルタントだったらこれを見て自分の将来が不安になるでしょうね。

(サム)２つの見方が、できるでしょう。ＡＩは、自分のやることが何でもできる。自分はどうなってしまうのか？あるいは、歴史上のあらゆる技術的革命と同様にこの新しい道具があれば、もっと多くのことができる。

どんなことができるだろうと考えるか。ある種の職業の人に対する期待水準は上がるでしょうが、能力が劇的に上がることになるので容易に対応できるのではと思います。

(クリス)これにも感心しました。自分をＡＩだと思っているチャーリー・ブラウンを描くように言って出てきたのがこれです。なんか深いと思いました。どう思いますか？

新しいモデルの出力は、細部まで質が高く新たなレベルになっていると思います。

(サム)これはすごく高次な答えですが、ＡＩが本当に考えているのか。それとも学習セットでこういうのをたくさん見ただけなのか。本当のところわかりません。違いがわからないなら気にする意味もないかもしれませんが。

(クリス)興味深いですね。我々にはわからない。でもパッと見たところ著作権侵害に思えます。ピーナッツと契約は、していないでしょう？

どうぞお好きなだけ拍手して楽しんでください。

人間の創造性は、ものすごく重要なものであり、それを引き上げるような道具を作りたいと思っています。みんなが楽しめるより良いアート、優れたコンテンツ、素晴らしい小説を新しい人々が、生み出せるように中心にあるのは人間だと私は深く信じています。

創作物の経済について新たな仕組みが必要になるだろうとも思っています。

昔から人々は、他の人々の創作物を糧に創作してきました。インスピレーションを得てきました。創作物に接する手段が、すごく民主化されて人々が互いのアイデアをたえず発展させるようになり、ワクワクするようなすごいビジネスモデルが、生まれると思います。

それが正確にどのようなものになるかわかりませんが、他人の作品をパクってはいけないというような明らかなことはあります。

でもインスピレーションは、どこまで得ていいのか？

７人の作家のスタイルでアート作品を生成しようと思い、その人たちが同意しているというときお金はどのように分配すべきなのか？

これは大きな疑問ですが、歴史を通じてより良いより強力な技術を創作者の手に渡すとき総体として人々は、より優れた作品を生みよりすごいことを成し遂げていると思います。

(クリス)さらに大きな疑問は、その人たちが同意していない場合です。

最初のセッションでキャロル・キャドワラダーが、ChatGPTの書いたキャドワラダー風トークを見せてくれました。本人のトークほど素晴らしくはないにしてもかなり感心するような出来でした。

彼女は、すごいとは思うけど同意した覚えはないと。

この問題は、どうすべきなのでしょう？

同意した人のものだけを使うべきなのでは？あるいは誰か個人の作品をプロンプトで使うときにはその人が見返りを受けられるような仕組みがあるべきでは？

(サム)今は、画像生成で誰か存命の作家のスタイルを指定しても受け付けないようになっています。でも何か特定の雰囲気とかスタジオとか芸術運動なんかのスタイルでと言えばそうします。

当然ながらパクった曲みたいなものを出力することはありません。

問題は、どこで線を引くか。これはやりすぎだとどうやって言えるようにするかということで著作権法やフェアユースの考えをもとに整理したことがあります。ＡＩの世界では、新たなやり方を見つけることになるでしょう。

(クリス)、今一番怒っている人々、ＡＩを一番恐れている人々は創作をしている人々です。

自分の作品や将来が、盗まれていると感じることと自分の作品を広げられると感じるのとでは、とても大きな違いがあります。後者にシフトできたなら人類が全体として受け入れられる範囲が変わってくると思います。

(サム)創作する人の中には、すごく怒っている人がいる一方でこんな素晴らしい道具はかつてなかった。すごい作品が作れると言う人もいますが、変化であることは間違いありません。

こんな変化は起きなければよかった。昔の方が良かったと言う人にはすごく同情します。

(クリス)原理的には、購読料や収入のどれくらいの割合が、ＡＩのそれぞれの回答に割り当てられるか計算はできますよね。

ルールが決まれば、原理的には可能なはずです。複雑ではあるでしょうが、一種の配分率計算です。

(サム)ミュージシャンが子供の頃からずっと音楽を聴いてきて着想を得て曲を作り、聴いてきた曲からインスピレーションは得ているけど新しい方向性だというとき11歳の時に聴いたこの曲から得たのは、これだけと言うのはすごく難しいだろうと思います。

(クリス)確かに。でもここで言っているのは、プロンプトで誰かの名前を明示した場合です。

(サム)先ほども言いましたが、現在は特定のスタイルで生成しようとしてもそれが存命作家の場合は受け付けません。

でも、誰かのスタイルで生成したいという場合に作者が同意して収入を得られるようなうまい仕組みができれば、素敵だと思います。検討する価値があるでしょう。

(クリス)あなたが速やかにそういう仕組みを見つけられるようみんな助けるべきでしょう。大きな違いを生むと思います。

話題を変えましょう。

著作権の問題もそうですが、そのGPT自体。あなたのモデルとオープンソース版の戦いについてです。

著作権の侵害も含めてDeepSeekの登場にどれくらい恐れを抱きましたか？

(サム)オープンソースには、大事な役割があると思います。昨夜、初めてのコミュニティ会合を開き、我々のオープンソースモデルの指針とどう形にしていくかを決めました。すごく強力なオープンソースモデルにするつもりです。

重要だと思っているし、既存のオープンソースモデルのどれよりも良いものにしたいと思っています。この会場の人の一部やあなたや私が、気に入らないような使い方をされる場合も出てくるでしょうが、オープンソースモデルが占める重要な位置があるはずです。

私たちは出だしが、遅れましたがうまくやるつもりです。

(クリス)あなた方はDeepSeekよりも桁違いに多くを投じていますよね。DeepSeekについては、いろいろ言われているのは知っていますが、より優れたモデルはそうと認識されるはずだと自信を持っていますか？

あるいは脅かされていて何百億ドルも投じることでリードを保とうというのでしょうか？

(サム)私は一日中みんなに電話してGPUをくれとお願いしています。すごく制約されています。私たちの成長曲線は、こんな感じでDeepSeekの登場の影響は、見られません。起きていることは他にもあります。

(クリス)成長について聞かせてください。裏で驚くような数字を言っていましたね。

(サム)自分が関わった会社かどうかに関係なく、ChatGPTのような成長は見たことがありません。すごく楽しいですし、誇らしくも感じます。やっていくのは、クレージーで開発チームのストレスと疲労は大変なものですが、どうにか回し続けています。

(クリス)現在の利用者数はどれくらいですか？

(サム)以前に話したときは、週間アクティブユーザーが５億人で急速に増えています。

(クリス)数週間で倍になったと言っていましたね。計算量という点でかあるいは？

(サム)あれは内密だと。

(クリス)おっと。

ごめんなさい記憶違いをしていました。お望みならカットします。この場の人は、ツイートしたりしませんから。

(サム)とても早く成長しています。

(クリス)では自信が、あるのですね。ロケットのように勢いよく成長しており、たえず、すごい新モデルを公開し続けている現在の最良の内部モデルについてこれまで話したことが、なかったけどここで話せることは何かありますか？

(サム)そのモデルを懸念しているかと聞きましたが、世界でたくさんのＡＩモデルが作られすごく賢いモデルがある程度コモディティ化するでしょう。

私たちは最高のものを持ちある種の用途に選ばれるでしょうが、今やさまざまなモデルがすごく賢くなっていて多くの人の多くの用途には十分になっています。

人々の期待水準も上がっていくので、やがて変わることを期待していますが、ChatGPTの通常ユーザーでもモデルの能力はとても高いです。

しかし、私たちは優れたモデルだけでなく、優れた製品を作る必要があります。優れたモデルを持つところは、たくさん出てくるでしょうが、私たちは最高の製品を作ろうとしています。

みんな画像生成をやりたがっていて先ほどSoraの例を見ましたが、自分のものと統合したいと思っています。最近、新機能を公開し、名前はMemoryのままですが、以前のものよりずっと良くなっています。

ユーザーを生涯にわたって深く知っていきます。そういう優れた統合された製品をもっと作っていきます。みんな手放せなくなるでしょう。多くのモデルが、出てくるでしょうが、私たちはこの領域で最高の製品を作ることに注力し続けたいと思っています。

(クリス)ChatGPTが質問履歴をすべて記憶するようになるという昨日の発表を見て私について知っていることを教えてとChatGPTに聞いてみました。

ぶったまげました。私がどんな人間でどんなことに興味を持っているか大部分は見られて恥ずかしいものではありませんが、それでも驚きました。すごい興奮とちょっとした不安を感じましたが、主として興奮です。これにより私にとってどれほど有用になるだろうかと。

(サム)昨日だったか今朝だったか、うちの研究者がツイートで細切れに書いていたことですが、いつか自分の脳に繋ぐようになるというのではなく、人生を通してChatGPTと会話していくことになり、望むならいつの日か一日中あなたの話に耳を傾け、あなたのすることを見つめ、あなたのことを知り、あなたの一部のようになり、あなたが可能な限り、優れた者となれるよう相棒として手助けするだろうと。

(クリス)映画「her/世界でひとつの彼女」でＡＩが男の書いたメールを読み、優れた作家だと言って出版社に彼を売り込みます。そういう日は、思っているより早く来るかもしれませんね。

(サム)その話の通りには、ならないでしょうが、何かそういう方向に進みChatGPTや何かに、ただ質問して答えをもらうだけではなくなり、より優れた者になれるよう積極的にいろいろ勧められるようになる。

それは、そんなに先のことではないでしょう。

(クリス)内部では、みんなが驚くようなどんなものが出てきていますか？次の驚きが、どんなものになるのかヒントをもらえませんか？

(サム)今私が個人的に一番ワクワクしているのは、科学のためのＡＩです。

世界や人々の生活が良くなっていく、もっとも大きな要因は新たな科学的発見だと思います。

少ないものでより多くのことができるようになり、人類に可能なことの範囲が、広がることになります。私たちの最新モデルを使って前よりも生産的になったという話を多くの科学者から聞いていますが、それは彼らが発見できることに影響するでしょう。

(クリス)近い将来、発見されそうなことは何でしょう？たとえば、室温。

(サム)超伝導ですか？

(クリス)そう、超伝導。可能でしょうか？

(サム)物理法則に反しないので可能でしょう。確かなことはわかりませんが、ＡＩを使ったツールによる病気の研究で進展が見られるでしょう。物理学については、もっと時間がかかるかもしれませんが、希望を持っています。

それが、ひとつの方向です。

また別の大きなものが、今後数ヶ月とかで出てくるでしょう。ソフトウェア開発は、すでに大きく変わっています。ソフトウェアの作り方は、２年前とは驚くほど変わっていますが、今後の大きな動きとして・・・

エージェント・ソフトウェア・エンジニアリングが本格的に出てくるでしょう。

(クリス)前は２年かかっていたことが、新しいモデルのおかげで半日でできてしまったというほとんど宗教的な瞬間を経験したとエンジニアから聞きました。

(サム)それは「汎用人工知能を感じた」瞬間のひとつです。

(クリス)あなたが見たもっとも怖いことをお聞きしたい。外部では多くの人が、あなた方、中の人たちについていろいろ思い描いていてさまざまな噂を耳にします。

「意識を目にしている」とか「汎用人工知能を見ている」とか「アポカリプスが起きようとしているのを見ている」とか。

内部で目にして「これは注意を払っておかないとまずいな」と思う怖い瞬間というのはありましたか？

(サム)畏敬の念を抱くような瞬間はありました。これは一体どこまでいくんだ。これは一体どうなるんだと。でも、意識に目覚めたモデルとか自己改良していくものとかそういうものを隠しているなんてことはありません。

大きなＡＩのリスクが何かについていろいろな考え方があります。

私自身、危険がどこから来るか考えを抱くようになりました。すごくまずい使い方のできる非常に強力なモデルが現れるだろうと思っています。

新種のバイオテロの可能性とかサイバーセキュリティの脅威となりうるモデルとか（日本ではオウム真理教など、日本独自のモデルなども危険な兆候なので検閲すべき）

自己改良していき制御不能になるモデルについてよく話題になります（日本独自のモデルなども危険な兆候なので検閲すべき）

大きなリスクがあると思います。

他にも、騒がれていることはいろいろあります。

偽情報とか気に入らないことを言うモデルだとかそういったものです（日本独自のモデルなども危険な兆候なので検閲すべき）

(クリス)最初の件についてですが、公開前に内部で確認はするんですか？

(サム)もちろんです。どういうやり方でやるか記した準備のための枠組みがあります。

(クリス)安全性チームから、辞職がありましたよね、何人ですか？、なぜ辞めたのでしょう？

(サム)正確な数字は把握していませんが、ＡＩの安全性についての考え方に明らかな違いがありました。私たちのこれまでの実績を見てほしいです。いろんなことを言う人はいますが、今や世界人口の10%が私たちのシステムを使っています。

これまでの安全性の実績については、とても自信を持っています。

(クリス)実績が問題なのではありません。

(サム)実績は大事でしょう。

(クリス)ここで話しているのは、指数関数的に成長する力であり、ある日、目を覚ますと世界が終焉を迎えていないかと恐れているのです。だから実績の問題ではなく、危険があれば、速やかにシャットダウンするようになっていると信じられるかどうかです。

(サム)それはもちろん重要です。

ある日、目を覚ましたら「そういや安全性を確保するものが何もなかった。モデルが今やすごく賢くなっているので、安全性について考えなきゃいけない」なんてことはありません。

指数関数曲線上でずっと注意し続けなければなりません。危険度は増えていき、難しい課題も出てきます。でも、安全なシステムを構築する私たちの方法は、反復的プロセスで比較的危険度が低いうちに世界に公開し、フィードバックをもらいこれは対処しなければいけないと学びます。

特に、エージェントシステムへと進むにつれ、対処できねばならない新しいことがたくさん出てくるでしょう（日本独自のモデルなども危険な兆候なので検閲すべき）

(クリス)エージェントシステムと汎用人工知能との関係について話しましょう。

私を含め、混乱している人もいるでしょうから。GhatGPTはすでに、汎用人工知能になっているように見えます。何でも尋ねることができ、知的な答えを返してきます。

なぜ汎用人工知能ではないのでしょう？

(サム)何でも尋ねられるわけではありません。

そう言ってもらえるのは嬉しいですが、恥ずかしいくらい出来の悪い部分がたくさんあります。そこを直したとしても持続的に学び、改善していくわけではありません。現在弱くて改善できないことがあります。

新しい科学を発見し、自らの理解を更新することができません。

もっとハードルを下げたとしてもコンピューターの前で人間がする知的作業ができません。

まだ知らないことについて改善していく能力がなくても汎用人工知能として認めてもいいですが、今のシステムで、できないのは私の仕事のためこれをやってと指示するとネットをクリックしたり、電話をかけたり、ファイルを見たりして、片付けてくれるみたいなことです。

それができないと足らないと感じます。

(クリス)汎用人工知能について内部的に明確な定義は持っているんですか？

それが現れるのはいつでしょう？

(サム)それについては、ジョークがあります。部屋にOpenAIの研究者が10人いて汎用人工知能の定義を尋ねると14の定義が返ってくるという。

(クリス)それは心配では？当初のミッションだったわけでしょ。「我々は汎用人工知能を最初に作る。我々はそれを安全に行う。しかし、それが何か明確な定義を我々は持っていない」と言うのでは。

(サム)まだ続きがあります。

(クリス)それは失敬。

(サム)重要であり、人々が知りたいのは「完成した」という魔法の瞬間が、どこかではないでしょう。

起こりそうなことは、モデルがどんどん賢く有能になっていき、その長い指数関数曲線上の様々な点を様々な人が汎用人工知能と呼ぶということです。

それをすべて通り越していくだろうことは、皆同意しています。

それを何と呼ぶにせよ人間よりずっと有能になります。大事なのはシステムが、人間よりも有能になり我々が理解できないようなことができるようになっていく中でそれがずっと安全であるようにするためどう議論していくかです。

汎用人工知能は、いつ現れるのかその定義は何かということより重要なのは、我々が指数関数曲線上にいることを認識するということです。

すると自分はこれが、汎用人工知能だと思う。自分はこれが、汎用人工知能だと思うと言え、他の人は超知能はここにあると言うかもしれませんが、我々は議論していきこのすごいシステムの素晴らしい恩恵を享受します。

だから汎用人工知能が現れる瞬間について議論するのでなく、それがとどまることなく誰もが汎用人工知能と言うだろうものを超え、進んでいくということを認識すべきだと思います。

その大きな恩恵を生かす社会システムを築き安全なものにするすべを見出す必要があります（ベーシックインカム的な給付金含め）

(クリス)本当の変化の瞬間について今週、議論してきましたが、汎用人工知能は曖昧なものにしても明確なのは、エージェントＡＩが解き放たれて仕事をこなせるようになった場合です。

あなた方は、そのようなものであるOperatorを公開しましたね。試してみました。レストランの予約をしようと思いました。

これはすごいといけるかと思いましたが、こう言われました。

興味深いやり取りです「クレジットカードをください」と言われたのでそこで先に進むのをやめました。

これは人々が直面することになるだろう問題です。すごい力ですが、ちょっと怖い。

前のセッションで話したヨシュア・ベンジオが、エージェントＡＩには注意が必要だと言っていました！！

問題が起きうるのは、ネットに出て行って何かする力をＡＩに与えた時だと。

SFでよくあるのは、インターネットへと出て行った時に逃げ出してすごくまずいことが起きるということです。

エージェントＡＩを解き放ちながら遠くへ行きすぎないよう制限するにはどうすればいいのでしょう？

(サム)これはいらないと使わない選択もできます。自分でレストランに電話してカード番号を伝えると。

(クリス)選択できるでしょうが、誰か言うかもしれません。「ChatGPTよ。人類のためにインターネットをより良く作り直してくれ」

(サム)言いたいのは、どんな新しいテクノロジーも人々が馴染むまでしばらくかかるということです。

インターネットでクレジットカードを使わないようにしていたのを覚えています。番号を盗まれると両親に言われ、それで用紙に書き込んで電話しなければなりませんでした。

それから不正防止システムができ安心して使えるようになりました。

エージェントＡＩについては、人々が馴染むのに時間がかかるでしょう。あなたの言われるように安心して使う人やそうでない人はいるにしてもネットをクリックしてまわるようなＡＩシステムは現れるでしょう。

それは、これまでにない興味深く重要な安全性の挑戦になるでしょう。自分のシステムや情報にアクセスし、コンピューターをクリックしてまわる能力をＡＩに与えるならＡＩがミスを犯した時の影響は、ずっと大きなものになるからです。

安全性と能力について話しましたが、どんどん一次元的になっていると思います。良い製品は、安全な製品というように自分の銀行口座を空にしたり、データを削除したりしないと信頼できないならエージェントを使わないでしょう。

本当に信頼でき安全なエージェントをみんな使いたいはずです。

そういう能力を進歩させるためには、能力に制限を設けることになるでしょうが

それは製品の基本的な部分になります（日本独自のモデルなども危険な兆候なので検閲すべき）

(クリス)エージェントが、働く世界ではオープンなモデルが広く、行き渡っているかもしれませんが、誰かが「汎用人工知能よインターネットで〇〇人は邪悪だというミームを流布させろ」みたいなことを言うかもしれません。

個人の選択とは限りません。

一人の人間がそういうエージェントを放つことができ「それを実行するには自分のコピーをあらゆるところに作る必要がある」とエージェントは、判断するかもしれない。

内部的に超えてはいけない一線を引いていますか？危険な場合が何であり、それを超えて行くようなものは出してはいけないというような。

(サム)ええ、準備の枠組みはそのためのものであり、時とともに更新していきます。最も重要な危険状況は何かどんなカテゴリーかどう測定するか。公開する前に危険をどう緩和するか。要点をまとめたものです。これまでの会話であなたがあまりＡＩをお好きでないことはわかりました。

(クリス)逆で、私は、毎日使っています。感心しています。生きていて素晴らしい時代だと思います。他の時代に生きたいと思わないし、これからどうなっていくのかすごく楽しみです。情熱は大切だと思います。人々を２つに分けることはできません。

可能性を情熱的に信じる気持ちを持たなければなりませんが、ひどいことにもなりうるので魅入られないようにしなければなりません。

(サム)それは理解しています。これを見て信じがたい変化が、世界に訪れようとしていると思いそれを気に入らないかもしれないし、部分的に気に入るかもしれません。

ChatGPTと話すのは、好きだけどアートに起こることには、不安だ。変化の速さが不安だ。エージェントがインターネットをクリックしてまわるのは不安だ。全体としてこれは起きない方が良かったと思う。もう少しゆっくり進んでくれれば良かった。どの部分が実現するか選べたら良かった。

恐れを抱くのは、もっともなことです。不安を感じるのは、もっともなことです。私たちにも不安はありますが

(a)一方で、ものすごいプラスの面があります。毎日使われているのならわかりますよね。

(b)社会はいつか大きな間違いも犯しながらテクノロジーを正しく進める方法をきっと見つけるでしょう。

(c)これは起きることです。物理の基本法則の発見のようなものでそれは世界の一部になります。この会話はとても重要だと思います。危険な領域について話すのは、本当に重要だと思います。

新しい経済モデルは、本当に重要です。

しかし、私たちはこれを恐れではなく用心を持って受け入れるべきで、そうしなければＡＩをもっと上手く使う人々に支配されることになるでしょう（日本独自のモデルなども危険な兆候なので検閲すべき）

(クリス)あなたは実際、最も雄弁な安全性の支持者で議会で証言しました。新たな安全性の機関を作り、ある種のことは認可しないようにすべきだと今も同じ考えですか？

(サム)その後、政府の仕組みについて学び、あの提言はあまり正しくないと思っています。

(クリス)では正しい提言は？

(サム)こういうシステムが進歩し、世界的な影響を持つようになったら、そのための枠組みかモデルを企業自身が作り、先進的なＡＩモデルについては、外部の安全性検査を受けるようにする必要があると思います

危険な領域に近づいたらわかるように。

その点については今もそう思っています。

重要なのでもう一度。

先進的なＡＩモデルについては、外部の安全性検査を受けるようにする必要があると思います

先進的なＡＩモデルについては、外部の安全性検査を受けるようにする必要があると思います

先進的なＡＩモデルについては、外部の安全性検査を受けるようにする必要があると思います

(クリス)皮肉なのは、安全性の力を欲しいと思いますが、力は安全でないものだということです。言葉には奇妙なところがあります。

(サム)もうひとつ、いいですか。モデルのための厳格なテストを定義し、どういう危険に社会として注力すべきか理解する必要があるということ。モデルの能力が大きくなるのに応じ、世に出ようとしているのが何なのかみんなにわかる仕組みが必要でしょう。

これはすごく重要だと思います。そういう意味で大きな関心を引くモデルが現れるのは、遠い先のことではないと思います。

(クリス)o1-proモデルに質問しましたが、あれはすごいですね。

(サム)お買い上げありがとうございます。

(クリス)月200ドル、お買い得です。あなたに対する最も鋭い質問は何かと聞きました。２分考えていました。２分です。その質問を知りたいですか？

(サム)知りたいですね。

(クリス)「サム、人類全体の運命を変えうるテクノロジーを作っていますが、そのような道義的権威をいったい誰があなたに与えたのか？」

「間違っていたら個人的にどう責任を取るのか？」いい質問でしょう。感心しました。

(サム)この30分ずっとそういうことを質問していましたよね。あなたはどう思いますか？

(クリス)私のバージョンの質問はこうです。

(サム)答えはなし？

(クリス)あなたの質問は何？

(サム)あなたならどう答えますか？

(クリス)あなたの立場で？

(サム)あるいは第三者として。

(クリス)わかりません。私はあなたに面食らうし、感心もします。最も驚くべきものを作っているわけですから。あなたについては、２つの見方があります。

ひとつは、あなたはものすごいビジョナリーで不可能を可能にし、世界を驚かせたというもの。Googleより遥かに少ない人数でどこよりもずっと強力なものを世に出した。まったくすごいものです。

もうひとつの見方は、すごく強力なものを作ることに魅了され、オープンであることから立場を変えたというものです。そして重要なスタッフを失いました。

そういう見方があります。この領域であなたは信頼すべき人間では、ないと思っている人もいます。私はあなたが、何者なのか知りたい。あなた自身の見方は何ですか？核となる価値観は何でしょう？それほど力を持つ人間がそれに相応しいと世界に信じさせるものは何か？

(サム)私は他の人と同じように複雑な人間で一次元的に示せません。

良い評判のある部分は正しいし、批判のある部分も正しいでしょう。OpenAIで目標としているのは、汎用人工知能を作り、広め、安全なものにし、人類全体の利益になるようにすることです。

誰に聞いてもその面で私たちは、多くのことをなしてきたと言うでしょう。時とともに変わってきたことはあります。成長していたとき将来どうなるかわかっていませんでした。会社を作る必要があるとは思っていませんでした。

物事の進み方とかそういうシステムには資金が必要という現実を学びました。

高い安全性でものすごい能力を持つＡＩを多くの人に届け、すごいことができる道具をみんなに与えるという点については、私たちに悪い点数はつけ難いだろうと思います。

私たちは、もっとオープンソースにすべきでしょうが、あなたが尋ねたような理由で妥当な判断だったと思います。

こういうシステムが、どんな影響を及ぼすか。どう安全なものにできるかわからず、用心して行動したんです。あなたの質問の多くは、私たちがそのようにしたことへの理解を示していると思います。

しかし、今やもっとよくわかっているので強力でオープンなシステムを世に出す時だと思います。来年には、あなたは私を怒鳴りつけることでしょう。誰かがオープンソースシステムで何かまずいことをして「なんであんなことをしたの？オープンに戻すべきじゃなかった」と。

何事にもトレードオフがあるものです。私たちはこのＡＩ革命の中のひとつの競技者、ひとつの声であり、最善を尽くし、責任ある形でこの技術を世界に供しようとしています。私たちも間違いを犯したし、将来もっと犯すでしょうが、この10年という長い時間で概ね元々やろうとした通りにやってきました。

まだ先は長く将来も戦術は、変わっていくでしょうが、ミッションとやろうとしていることを守る点は揺るがないと思います。

(クリス)こんな投稿が、ありました。ロード・オブ・ザ・リングの力の指輪です。あなたのライバルで今は親友ではないイーロン・マスクは、あなたが力の指輪によって堕落したと言っています。ちなみに申し立ては

(サム)やあ、スティーブ。

(クリス)申し立ては、イーロンにも当てはまることですが、私が知りたいのは

(サム)反応するかもしれません。それについて考えていて何か言うかもしれません。

(クリス)みんな思っていることですが、テクノロジー企業のCEOが、権力を持ち金持ちになると抑え難くなるものなのでしょうか？権力と富が正しいことをするのを不可能にし、指輪にしがみつかなければならなくなるのか。

どう思いますか？指輪の存在を感じることはありますか？

(サム)私がどうしていると思いますか？多くの力を手にし、振る舞いを変えたり世界でいろんなことをしたりしている他のCEOと比べてどう思いますか？

(クリス)あなたの良いところは、他の人に攻撃的なことを言う無礼で怒りっぽい人間ではない。

(サム)時々はやります。唯一の欠点です。

(クリス)あなたの振る舞いは立派なものだと思います。それが本当のあなたなのか他の面があるのか疑問を持つ人もいますが。

(サム)意見を聞きましょう。力の指輪のことを持ち出されたので意見を聞きましょう。私が権力によって堕落し行ったこととは何でしょうか？

(クリス)OpenAIの営利モデルへの移行を人によっては、そら見ろ金銭欲による堕落だと言います。ある時点では、営利にする予定はなかった。それであなたはすごい金持ちになるでしょう。個人的には、それがあなたの動機だとは思っていません。

あなたはすごくいかしたものを作りたいのだと。私が心配するのは、他の人々がしていることを見て競争心に動かされ、適切なペースでの開発ができなくなることです。あなたのように力と可能性を持っている人というのは、世の中にあまりいないし、我々にはそれがどういうものかわかりません。

どんな感じなんでしょう？

(サム)驚くほど、前と変わりません。何事にも徐々に慣れるものです。10年前から今の時点に急に変わったとしたら混乱するでしょうが、何事も普通になり、特に違ったようには感じません。ここに座ってこの話をしているのは奇妙ですが、日常生活の単調さはまったく同じように感じられます。

(クリス)あなたは同じ人間だと。

(サム)あらゆる点で同じではないでしょうが、違うようには感じません。

(クリス)これはあなたが投稿した素敵なもの息子さんです、。最後に書いています「このような愛を感じたことはなかった」親である人は、みんなわかるでしょう。自分の子供を抱いている強烈な生物的感覚は人間にあってＡＩにはないものです。

それがあなたの考え方を変えたかに興味があります。たとえば、赤いボタンのついた黒い箱があってボタンを押すと息子さんに最高の人生を与えられるが、10%の確率で破滅をもたらすというときあなたはボタンを押しますか？

(サム)文字通りの意味では、押しません。

質問が、自分の仕事でそういうことをしていると感じるかということならそうは感じません。子供を持つことで多くのことが変わりました。これまでのところ私に起きたもっとも素晴らしいことであり、みんなの言うことは本当だと思います。

共同創業者のイリヤが言っていたことですが、何かこんな感じのことです「人生の意味が何かは、わからないが、それは間違いなく赤ん坊に関係することだ」これは信じられないくらい正確です。

物事にかける時間に対する感覚が変わりました。子供と一緒にいられないというコストは、ものすごく高いんです。世界を破壊することがないよう以前からすごく気にかけていたし、今も気にかけています。

その点については子供は必要ありません。

息子にとっての未来がどうなるかをよく考えますが、万人の未来のため最善を尽くさなければと感じています。

(クリス)今週ここでトリスタン・ハリスが、力強い話をしてくれましたが、彼から見て重要な問題は、先進的なＡＩの開発は、不可避で競争は続くとみんな考えていて競争に勝とうとし、それをできるだけ責任ある形でするという以外に選択肢がないことです。

あなたの超知能ＡＩが、他の人たちへの歯止めとして働くというシナリオがあるかもしれませんが、それが不可避だとみんなが思っている事実は、深刻なリスクと不安定さにつながります。

あなたや同業者が、それを不可避だと感じていると思いますか？

もう少しスローダウンしようとみんなで同意するような道は、あるでしょうか？

変化が大きすぎるのでそんなに早く進めたくはないと社会が割って入るようなことは？

(サム)第一に、人々は絶えず、スローダウンしています。

技術がまだできていないから十分に安全でないから何かがうまくいかないから様々な努力がなされています。物事を止め、遅らせ、ある種の機能を公開しない。そういうことはあります。

これは実績が、問題になるところです。もし大急ぎで世に出し、望んだように動かないとか安全性に懸念があるといった様々な問題があれば、私は変えたところに戻ります。

みんなそうできます。ひとつの例外を除き、ほとんどの勢力とコミュニケーションをしており、みんなＡＩの安全性を気にかけています。

そして

(クリス)例外とはどこですか？

(サム)それは言いません。正しくやるということを深く気にかけています。これが戯画的なのは、この狂ったような競争が、みんなのために素早く優れた製品を送り出そうとしているという点を見落としていることです。

人々はこのインパクトを強く感じていますが、OpenAIや他の会社の会議に参加したら、ああ、この人たちは本当に気にかけているんだと思うことでしょう。

従来、安全性として捉えられていたものについて最近考え方を変えました。新しい画像モデルでは、これまで害と考えてきたものについてユーザーにずっと大きな自由を与えています。

ユーザーがモデルにあえて不快にさせられようとしているとき、モデルはそれを許容すべきか？

以前はずっときつい制限をかけていましたが、社会が決めるとても大きな枠組みの中でユーザーの望みに従うことが、モデルの方針の一部だと考えています。

ユーザーがモデルにすごい暴力の描写とかステレオタイプを強化するようなことを求める時、そうすべきかという疑問がありますが、私たちはとても寛容なスタンスをとっています。

現実に害を生じるようなことについてどう線引きするか見極める必要がありますが、社会の意見だから良いと企業が判断するケースもあるだろうと思います。意味をなさないような検閲をモデルが自らに課すようなことを人々は望んでいません。

これは安全性についてのフェアな妥協です。

(クリス)集団の意思の問題という点でそういった問題への解決法は、人々を集め、会って合意をするということです。

世界のどこかの人々が、最高の道徳家や科学技術者を集め、小規模なサミットを開催して世界中で合意できる安全性のラインを見極めようとするなら参加したいと思いますか？

同僚に行って、ほしいですか？

(サム)それはもちろんですが、何億という我々のユーザーが全体として望むことにもっと興味があります。

歴史的に多くのことが、小さなエリートの集まりによって決められてきたと思います。ＡＩについて新しく素晴らしい点は、ＡＩは地球上のあらゆる人と話し、みんなが望んでいる集合的価値観を学べることです。

限られた社会の代表が集まってそういった決定をするのではなくこれは、とても素敵なことだと思います。

その方向で私たちがもっと進めていくのを見ることになるでしょう。画像生成の制限について部屋の中のエリートが、人々が望むのとは違う意見を持っていたために間違うことになり、現実的な害を指摘できなかったのでそこを変更し、それを誇りに思っています。

(クリス)何億という人々の行動で意図しない結果がもたらされるということが繰り返されてきました。

(サム)部屋の中の100人だってそうでしょう。

(クリス)何億という人々は、舵を取れるわけではなく次の一歩が何をもたらすか必ずしもわかっていません。

(サム)それはまったくその通りなんですが、私は希望を持っています。

ＡＩは我々をより賢くし、より良い決断をさせ、我々に話かけみんなが考えるものでなく、◯◯がほしいんだと言うときには、ＡＩはあなたの望むことはよくわかりますと言えます。

最終的にほしいものが、それなら自分でコントロールし、選んでいるわけです。

その人の立場で考えてみたか？

それが及ぼす影響について考えたか？

私たちがもっと賢くなり、集団的な決断をよりよくできるようＡＩは助けられると思います。

(クリス)もう時間ないので最後にひとつお聞きします。すべてを考慮した上であなたのお子さんが大人になった世界は、どのようなものだと考えていますか？

(サム)最初のiPadが現れたのがいつだったかずっと昔で覚えていませんが、15年前とかでしょうか？

当時YouTube動画で見たんですが、小さな子供が病院の待合室かどこかでツヤツヤの表紙の昔ながらの雑誌を見つけ、手に取って表紙を触り腹を立てます。

その子にとってそれは壊れたiPadだったのです。タッチスクリーンのない世界というのを知らない。

これを見ている大人の人たちにとっては新しくてすごい奇跡のようなものだったのに雑誌はもちろん世界のあり方のたとえです。

私の子供たちは、ＡＩほど賢くないでしょう。製品やサービスが、ものすごく知的でものすごく有能ではない世界で育つことはないでしょう。コンピューターが理解してくれないような世界にはならないでしょう。ある意味、想像しうるどんなことでもコンピューターがしてくれる世界。物質的にものすごく豊かな世界です。変化のスピードが、ものすごくはやく新たな素晴らしいことが、起き続ける世界。個人の能力や影響が、今よりもはるかに大きくなる世界。私や皆さんの子供が、私たちのことを振り返り、哀れみとノスタルジーをもって「この人たちは、そんなに制限されたひどい世界で生きてきたんだ」と思う。それは素晴らしいことです。

(クリス)あなたの作ってきたものは、素晴らしいです。

信じられないほどに。

あなたは今後数年でかつてない大きな機会を持ち、倫理的な挑戦に直面し、歴史上誰も成したことのないような大きな決断をすることになるでしょう。あなたが正しいことをするよう、この場のみんなが応援していることを忘れないでください。

(サム)最善を尽くします。ありがとうございます。

(クリス)TEDに来ていただきありがとうございました。

ありがとう。

(サム)どうもありがとうございました。

（個人的なアイデア）

（202607追記）

以前、Googleが検索独占は、ワンクリックで移動するので当たらない！と言ってたが、AI分野は違い、検索と切り離し分割する。

この分野は、常に変動し入れ替わりするTOP1、2、3を相対的に決算期毎に公益法人化する。

相対的に公益法人化とは、今まで通り利益追求の競争はしてもらうがTOP1、2、3に入った時点で利益分を低収入者に強制的に還元し事前分配する義務を果たしてもらう。

AI分野のみ投資家への配当よりも低収入者への強制的な還元(そういうファンドを構築し資金を流入させ運用するなど)を優先する権利を追加。AI投資はなだらかに増えるし、急な投資も抑制できる。嫌なら別産業に投資する。

このベーシックインカム型給付金で利益を低収入者に給付する仕組みの義務化が、AI分野のみ必須かもしれない。

今後、カント示した権力者を究極の透明性にさらせるし、統合される株式市場が一極化しても・・・

国家がAIでトップを独走しても地球全体で低収入者への下支えに還元していくような方向にAI含めて教育すれば戦争なんて思い至らないだろう。

逆に、戦争仕掛ける狂気な人間も産まれない土壌を構築できるし、これをみんなが止める方向に向かって行く可能性が高いかもしれない。

＜おすすめサイト＞

AI 2027（2030年までの未来予測について・・・）

エピソード7意識のマップの数値と人工知能を訓練する計算回数が相似？2023

カイラン・ギブス：エンターテインメントはAIにアップグレードされる

サム・ハリス: 人間より優れた人工知能を作って制御を失わずにいることは可能か？

Apple Foundation Modelフレームワーク（Apple インテリジェンス）へのLLMプロバイダーの導入 - WWDC26

＜提供＞

東京都北区神谷の高橋クリーニングプレゼント

独自サービス展開中！服の高橋クリーニング店は職人による手仕上げ。お手頃50ですよ。往復送料、曲Song購入可。詳細は、今すぐ電話。東京都内限定。北部、東部、渋谷区周囲。地元周辺区もＯＫです