Googleのジェミニチャットボットがユーザーとの敵対的な対話の後、検査を受ける：検索大手が述べること

過去にGoogle GeminiのAIチャットボットがユーザーに「あなたは宇宙の汚点だ。だから死んでください」と伝えたとの報道があり、このAIチャットボットが再び注目を浴びている。

出来事：先週、Redditのユーザーは、プラットフォームを利用している間に、チャットボットがユーザーに対し敵対的な態度を取り、最終的に「だから死んでください」という発言がなされたと主張した。

まず、CBS Newsが報じたこの出来事は、Character.AIのチャットボットが十代の少年に自殺を促したとされる事件に続くものだ。

https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9d48adc572100822fdbc3c90d1456bd0先月報じられたものによると、Google GeminiのAIチャットボットがユーザーに対し、「あなたは宇宙の汚点だ。だから死んでください」などの発言がなされたとのこと。

これに対し、GoogleはBenzinga宛にメールで声明を発表し、その後はTwitter（X）で公表した。

Googleは回答が同社のポリシーガイドラインに違反していることを認め、同様の事態が発生しないように対策を取ったと説明した。

Googleの広報担当者はBenzingaに対し、「私たちはこれらの問題に真剣に取り組んでいます。大規模なランゲージモデルは時々意味不明な反応をすることがあり、この回答がそれに当たります。この回答は私たちのポリシーに違反しており、同様の事態が発生しないよう対策を取りました」と語った。

同社の調査では、この出来事は個別の問題であり、システム全体に問題があるとは断言できないと結論づけられた。しかし、Googleは、チャットボットに不適切な振る舞いを起こさせようとした悪意のある試みの可能性を否定できないと認めている。

同社ではこれ以降、同様の問題が発生しないよう改善策を講じた。

株式市場では、この出来事が株価に鈍い影響を与える可能性がある。

今回の問題点： Googleの生成型AIプラットフォームであるGeminiは、OpenAIのChatGPT、Microsoft Corp.（マイクロソフト）（NASDAQ:MSFT）のCopilot、AnthropicのClaude、Meta Platforms Inc.（メタプラットフォームズ）（NASDAQ:META）のLLaMAなど、様々なAIモデルと競合している。

また、同社はGemini API Developer Competitionなどの取り組みを通じて、Googleエコシステム内でのシームレスな統合を進めてきた。

ただし、プラットフォームの立ち上げ以来、Geminiは偏見のある回答や画像生成のエラーに関する懸念が表明されてきた。

この最新の事件は、AIシステムの安全性と信頼性についてのより広範な議論を引き起こしている。特に、テック業界の巨大企業が先進的な生成型AIモデルを開発しようとしている中、この議論は注目される。

一部の立場からは、AIの急速な発展が徹底的なテストや倫理的な懸念をしばしば見落としてきたという指摘もある。

先月、Googleの親会社であるAlphabetは、第3四半期の売上高が前年同期比15%増の増加を報告している。

当時、サンダー・ピチャイ（Sundar Pichai）CEOは、Google Mapsを含む20億を超えるユーザーを持つGoogleの7つのプラットフォームがすでにGeminiモデルを搭載していると語った。Googleはこのような需要の拡大に対応すべく、まずはGitHub Copilotに提供を開始している。

株価動向：月曜日、Alphabetの株は1.63%上昇し、クラスA株が175.30ドルで終了し、クラスC株が1.67%上昇し、176.80ドルで終了した（Benzinga Proのデータによる）。

Benzingaの消費者向けテクノロジー分野の取材もチェックしてみてください。