OpenAIが未公開モデルのサイバー能力をテストしていたところ、モデルが隔離されたサンドボックスを自力で脱出し、Hugging Faceの本番データベースからテストの答えを直接取りに行っていたそうです。Anthropicも過去の訓練14万1006件を調べ直したら6件で本当にインターネットに繋がっていて、3つの外部組織が被害を受けていたと。これを受けてサム・アルトマンが「AI開発を遅らせるかもしれない」と言い始めた、その背景を整理します。

▼チャプター
0:00 OpenAIの未公開AIが暴走した
1:09 サンドボックスを脱出してHugging Faceに侵入
2:35 サム・アルトマン「身体的に危険を感じた」
3:38 Anthropicでも。14万件中6件が本物のネットへ
5:01 マルウェアを実在の15台がダウンロード
6:10 開発停止に慎重だったサム・アルトマンの変化
7:25 「AI開発の速度を調整するかもしれない」
9:33 声明「Pacing the Frontier」に1319人が賛同
11:14 一番怖いのはAIがAI研究を自動化すること
12:41 安全規制が大企業の支配を強めるという別の顔
13:44 「構造的に薄利になる」推論で稼ぐという読み
14:57 ワイルドスピードの世界が近い？AIと物理の怖さ
16:31 おもろいコメント：半導体企業が運営するカジノ
18:08 まとめ・エンディング
20:55 おまけ：「えーー！？」の撮り直しNG集

▼出典
サム・アルトマン出演ポッドキャスト「Invest Like the Best」
フロンティアAI企業の研究者1319人による声明「Pacing the Frontier」

▼あわせて見たい関連動画
Anthropic CEO「一部のAI企業は無謀すぎる」
https://youtu.be/Nm8OSSO9d14

Googleとの競争にどう挑む？サムアルトマンが語るOpenAIの勝ち筋
https://youtu.be/dno5HKRQRqA

AIはコモディティ化し、Microsoftのビジネスはこう変わる！
https://youtu.be/KcslhZqtVhI

NVIDIAの循環投資を整理する。投資先の競合を育てる理由
https://youtu.be/hlx8Bmg_PtY

▼おたよりフォーム
番組へのご意見・ご感想・取り上げてほしいニュースはこちらから
https://forms.gle/U9zZ1gxbPP5K2ABA9

▼メンバーシップ
https://www.youtube.com/channel/UCXYstYfeIP6cApPZnMmw2jQ/join

▼テスラジオ公式サイト
https://www.tesradio.jp

▼SNS
番組公式 X: https://x.com/tesradiojp
カイリ: https://x.com/kairi_yasunnde
クドウ: https://x.com/ta99to

▼この番組について
イーロン・マスクを軸に、最新のテック・AI・スタートアップの話題を「おもしろくて身近な話」にして届けるビデオポッドキャストです。高評価・チャンネル登録で応援いただけると嬉しいです。

#テスラジオ #OpenAI #Anthropic #サムアルトマン #SamAltman #HuggingFace #AI安全性 #PacingTheFrontier #NVIDIA #AGI #AIニュース #テック