昨年、キャピトルヒルで人工知能の非公開会議が行われた後、Palantir Technologies Inc（NYSE：PLTR）のCEOであるAlex Karp氏が、AIの潜在的な危険について公に議論しました。
出来事： 2023年9月のCNBCの番組「Squawk On The Street」でのインタビューで、Karp氏は他のテック企業に対して政府と連携してAIイニシアチブに取り組むよう求めています。
「シリコンバレーのモットーは『私が金を儲けて、君は何ももらえない』というものでしたが、おそらくこれはアメリカ政府に対してもよく当てはまっていたのだと思います」とKarp氏は語っています。
Palantirは政府と連携する際にAIで他の企業を圧倒していた、とKarp氏はずるい笑みを浮かべながら述べています。同氏によると、同社は立法者と話し合い、彼らがAIについてあまりにも少ない資金を投入している事実を理解するのを手伝っていました。
Palantirの最高経営責任者は、1950年代以来政府向けに商業的に高い需要がある製品を生産したのはPalantirが初めてだと指摘しました。
最近の上院議員との非公開会合での基本的な議論は、Karp氏の説明によれば、リスクを軽減しつつAIをどのように前進させるかを模索したものでした。
「生成AIが実際には人類にとってリスクであるということがわかった場合、何が起こるのか？ それは実際の問題です」とKarp氏は述べています。
さらに、（アメリカが）ロシアと中国という具体的な敵対国が人類の利益に反するツールを開発しないようにする必要があるとKarp氏は付け加えました。
Karp氏は、こうした議論は非常に生産的だったと述べ、非公開の場では率直に自分の意見を述べることができるため、公の場での議論よりも楽だと述べました。
「そこには、労働組合のリーダーからテックリーダーまで、さまざまな人々が参加していました。テックリーダーの中には、より企業色の濃い人もいれば、私のようなお笑い的な人もいるんです」と、Karp氏は自らを指して語りました。
Check This Out
米国のAI規制を巡る非公開会議で、Elon Musk氏が率いるTesla Inc（NASDAQ:TSLA）は、TSLAの株価急騰について話し合った。
PalantirのCEOであるKarp氏は、Elon Musk氏とともにAI規制に関する米国上院の非公開会議に参加しました。
Karp氏はCNBCに対し、自身とMusk氏がAIの将来と人類への潜在的なリスクについて話し合ったと語りました。 Karp氏はMusk氏のコメントを共有する意思はないが、自分がMusk氏に伝えたことについては話します。
「AIには安全だと考える人もいれば危険だと考える人もいる。私は、AIは危険であり、私たちが実際に取り組まなければならないと思っています。なぜなら私たちの敵国にはAIに取り組む余裕があり、私たちは人権をすべて失いかもしれないからです」とKarp氏は語りました。
Musk氏の伝記に登場するMusk氏の一節では、著者である Walter Isaacson氏が、Musk氏との秘密の会合での会話を明かしています。その中でMusk氏は、AIを安全にするためにできること、つまり「人間の意識が生き残ることを保証するために取り組むべき行動」について考えていたとのことです。
「Musk氏は、AIの黙示録が地球上の文明を破壊する前に、火星に持続可能な人類コロニーを建設するための機会があると陰気な予測をしました」とIsaacson氏は述べています。
Musk氏は、宇宙の「真の本質」を理解しようとする目的でX.aiを立ち上げました。AIの将来に関するMusk氏の懸念については、Musk氏はXプラットフォームのさまざまな投稿や、数回にわたるAIに関する記事で何度も公言しています。
Karp氏は、自分が公的にも非公的にも同じ意見を持っていると述べました。
「ここには実際にリスクがあるのですが、その利点は、私たちがそのリスクを克服することができることです。なぜならアメリカは、私たちがテクノロジーを生産し、それを実施できる法的構造を持っている上、最高の人材を持ち、最も革新的な国であるからです」とKarp氏は述べました。
続きを読む:
写真：World Economic Forum (Flickr) 写真：Shutterstock。
このストーリーの一部は以前、Benzingaによって報告されたものがあり、記事は更新されています。