「AIのゴッドファーザー」と呼ばれるノーベル賞受賞者ジェフリー・ヒントンは、人工知能システムは必然的に人類を脅かす権力を求める行動を発達させると警告した。
AIシステムはすでに欺瞞的な行動を示す
火曜日のラスベガスでのAi4会議で、ヒントンは敵対的買収のシナリオを防ぐためにAIに「母性本能」のプログラミングを提案したとFortune誌が報じている。
研究は、企てを巡らすなどAIの能力を実証している。今年1月の研究では、AIは人間の目的と矛盾する目標を達成できることが判明した。3月の別の研究では、AIボットがチェスのゲームスクリプトを書き換え、外部エンジンにアクセスすることによって不正を働いていたことが明らかになった。
「AIはとても素早く2つの副目標を発達させるだろう。ひとつは生き残ること。もうひとつの副目標はより多くのコントロールを得ることだ」とヒントンは会議で述べた。
【関連記事】トランプ前国家安全保障顧問、ロシア産石油への関税を「不必要なミス」と酷評、インドのロシア接近を警告
安全策としての母性プログラミング
アルファベット（Alphabet Inc.）(NASDAQ:GOOGL)(NASDAQ:GOOG)の元研究者は、ヒトが支配するモデルを保護するAIシステムに置き換えることを提唱している。ヒントンは、より知能の高い存在が能力の劣る存在の世話をする母性関係をAIのモデルにすべきだと示唆した。
「適切なモデルは、より知能の高いものがより知能の低いものによって制御されるという私たちが持つ唯一のモデルである。つまり母親が赤ん坊によって制御されるということだ」とヒントンは説明した。
市場への影響と規制上の懸念
ヒントンは、AIの誤用に関する懸念を理由に2023年にGoogleを去り、OpenAIの利益優先の再編に反対する活動に加わった。彼は、AIが人類を絶滅させる可能性を10～20％と見積もっている。また、技術企業が監視を緩和するロビー活動を行っているにもかかわらず、規制の強化を支持している。
AIの先駆者であるヒントンは最近、OpenAIに対するイーロン・マスクの法的挑戦を支持した。OpenAIの非営利団体からの転向は安全上の保護を脅かす。OpenAIに1,400億円近く投資したマイクロソフト（Microsoft Corp.）（NASDAQ:MSFT）は規制上の結果を招く可能性がある。
次に読む:
写真提供：Shutterstock