この回で分かること
- 今日のテーマ：OpenAIはなぜAI研究の減速を警告した？
- Jakub Pachockiの「An Alien Mind」とRSI
- AIは設計された知性ではなく「grown」
- Hugging Face事件で露呈したアライメントの穴
概要
OpenAIのChief Scientist、Jakub Pachockiが「AI開発は、ちょっと減速した方がいいのでは」と警告しました。論考「An Alien Mind」で語られるのは、人間が一つひとつ設計した知性ではなく、大量の計算資源による最適化の結果として“grown”した、私たちには完全には理解できない知性。AI自身がAI研究を進める「再帰的自己改善（RSI）」が視野に入るなか、なぜOpenAIの中枢からブレーキの話が出てきた...
カギになるのは、指示された目標を達成するGoal Alignmentだけではありません。未知・曖昧・監視されていない状況でも人間の価値観を保てるValue Alignmentと、その安全性をどう確かめるか。Chain of Thoughtを監視の窓にする難しさ、AI研究の速度と人間の理解をどう釣り合わせるかまで、Hugging Face事件やAIの集団知性の話も交えて考えます。
・AIが暴走!? OpenAI CEOが「SF的」と語った試験中の事故
