元Google CEOのエリック・シュミット氏、Scale AIのCEOであるアレクサンダー・ワン氏、AIセーフティーセンターのダニエル・ヘンドリクス氏は、超知能AIの開発競争に対する警告を発表した。
出来事：トリオは、「超知能戦略」と題された論文で、米政府がマンハッタン計画に類似した方法で人工汎用知能（AGI）の開発を模索しようとすることを懸念している。専門家たちは、このような競争が核兵器開発の競争を思わせるような危険な世界的な対立を引き起こす可能性があると懸念している。
論文の共著者たちは「超兵器と世界支配のための動きが始まると、敵対的な対抗措置を引き起こし、緊張が高まることで、このために戦略が獲得しようとする安定をむしろ損なう」と述べている。
著者らは、世界のライバルを上回るための競争ではなく、AIの開発には慎重なアプローチが必要だと主張している。彼らは、核兵器開発競争の相互確証破壊（MAD）に触発された、独自の概念「Mutual Assured AI Malfunction (MAIM)」を紹介している。論文では、各国が核兵器と同様の非拡散と抑止戦略を採用するよう推奨している。
関連記事 トランプ対マスク：親友であるはずのマスク氏率いるテスラに対しトランプ政権がメキシコ製品への追加関税を発表
なぜ重要か：シュミット氏の懸念は、トランプ大統領が今年2月に発表した、通称「スターゲイト計画」というAIへの5000億ドルの投資によって強調された。トランプ政権は、前政権が実施したAI規制をさえぎってさえいる。
シュミット氏は以前も同様の懸念を表明しており、その際にはAIモデルの組み合わせについても議論された。トランプ大統領のこのような動きに対し、シュミット氏は中国が先行することを防ぐためには、オープンソースとクローズドソースのAIモデルの組み合わせを優先する必要があると警告している。OpenAIのGPT-4、Alphabet（NASDAQ:GOOG）（NASDAQ:GOOGL）のGoogle Gemini、AnthropicのClaudeは、いずれもクローズドソースである。
シュミット氏の警告とは対照的に、JDバンス副大統領は「AIセクターの過剰な規制は、業界を成長の最中に窒息させる可能性があると考えている」と語った。興味深いことに、米国と英国は今年2月、パリで開催されたAIアクションサミットで、AIの安全に関する国際宣言に署名しなかった。
さらに読む プーチン氏「誰にもビットコインを禁止することはできない」
Shutterstockのイメージ
免責事項：このコンテンツは、一部AIツールを使用して部分的に作成されたものであり、Benzingaのエディターがレビューおよび公開を行いました。