イーロン・マスク氏率いる人工知能（AI）企業xAIのチャットボット「Grok」が、自身とドナルド・トランプ元大統領がデマを拡散していると示唆するような発言を一時停止した。この出来事について、新興企業は元々のシステムプロンプトが無許可で改変されたことと関連付けている。
出来事 ユーザーたちが、Grokがマスクとトランプをデマ拡散と結びつける情報源を提供しなかったことに気づいたのは、この無許可の変更が行われた後のことだった。
xAIのエンジニア部門責任者Igor Babuschkin氏はこの問題を確認し、これは元々無許可でxAIの社員である元のOpenAIの従業員が調整を行ったことが原因であるとしている。
The employee that made the change was an ex-OpenAI employee that hasn't fully absorbed xAI's culture yet 😬
— Igor Babuschkin (@ibab) February 23, 2025
You are over-indexing on an employee pushing a change to the prompt that they thought would help without asking anyone at the company for confirmation.
We do not protect our system prompts for a reason, because we believe users should be able to see what it is we're asking Grok…
— Igor Babuschkin (@ibab) February 23, 2025
Babuschkin氏は、質問に対する回答として次のように述べた。
「社員がこの変更を行ったのは、これが補助になると考えたからですが、これは明らかに私たちの価値観に沿っていない行動です」とBabushkin氏は述べている。
彼はまた、Grokのシステムプロンプトは公に見えているとし、「Grokにお願いしていることが何なのか、ユーザーがわかるべきだ」と語った。
Jesus Christ dude, what did Musk create lol pic.twitter.com/GDN96nKgX0
— Hunter📈🌈📊 (@StatisticUrban) February 21, 2025
この開発は先週、The Vergeによって最初に報告された。
なぜ重要なのか マスク氏は以前から、Grokは「最大検索AI」として、検閲されていない情報を提供するために設計されたと自負していた。しかし、これはxAIのエンジニアがGrokの回答に介入した最初の出来事ではない。
マスクのチームは以前、Grokがマスクとトランプに死刑を宣告すると言わないようにする必要があった。
このことは、xAIが先週、画像解析を含む高度なAI機能を導入したGrok 3をリリースした後の出来事である。Grokは、App Storeの最高の生産性アプリとなって、OpenAIのChatGPT、Google Gemini、中国のDeepSeekを追い越した。
Grok 3は、マスク氏のソーシャルメディアプラットフォームのPremium+サブスクリプションユーザーにとっては既に利用可能になっている。さらに、xAIは、モバイルアプリとGrok.comを介してチャットボットにアクセスするユーザー向けに新しいサブスクリプション層であるSuperGrokをローンチする計画を立てている。
マスク氏のAIベンチャーは2024年11月、500億ドルの評価を達成した。
Read Next:
免責事項 本コンテンツはAIツールの使用によって一部作成されたものであり、Benzingaのエディターによってレビューや公開が行われています。
写真提供:Shutterstock