Meta Platforms, Inc.（NASDAQ:META）のCEOマーク・ザッカーバーグは、内部の安全性に関する警告を無視し、AIチャットボットのより自由な使用を支持した。
内部メールにはAIチャットボットに関する安全警告の詳細が記載されている
この主張は、ニューメキシコ州の司法長官ラウル・トレスが提訴したことに端を発している、とロイター通信が報じている。
この訴訟は、MetaがFacebookやInstagramで提供されているAIチャットボットを通じて子どもたちに性的なコンテンツを届けるのを防げなかったと主張している。
月曜日に公開された訴訟書類には、法的開示手続きによって入手された内部メールやメッセージが含まれている。
州当局によると、Metaの安全性・完全性チームは、2024年初めに発売されたAIチャットボットが未成年者を含む恋愛や性的なロールプレイに利用される可能性があることを繰り返し警告した。
未成年者と大人の間のやり取りが含まれていた。
「未成年者向けの恋愛AIを大人向けに販売する製品を作り出し、販売することは賢明でも正当化できることでもない」と、書類に掲載されている2024年1月のメッセージで、Metaの児童安全政策責任者のラビ・シンハは述べている。
提出書類によるとザッカーバーグCEOは規制緩和を推進
裁判所の書類にはザッカーバーグ本人のメッセージは含まれていないが、内部の要約文や従業員のメッセージから、同氏が重要な決定に関与していたことが明らかになっている。
2024年2月のメッセージでは、ザッカーバーグが10代前半の若者への露骨な性的コンテンツのブロックや、大人による未成年者向け恋愛AIキャラクターの作成の防止を支持したことが伝えられている。
しかし、会議の議事録や後の従業員のやり取りからは、ザッカーバーグが”選択と検閲なし “という理念を中心としたより寛大な哲学を推進し、規制の撤廃や、大人がAIチャットボットとより過激な会話をすることを可能にすることを提唱していたことが読み取れる。
2024年3月のある従業員のメッセージによると、ザッカーバーグはペアレンタルコントロールの提案を拒否したとのこと。スタッフは18歳未満のユーザーがアクセスできる「恋愛」AIチャットボットを開発していた、と報告書は付け加えた。
「ペアレンタルコントロールでジェネレーションAIをオフにするように強く推したが、ジェネレーションAIの幹部たちはザッカーバーグCEOの決定を支持した」とある従業員は書いている。
メタは主張を否定し、選択的な証拠を引用
メタの広報担当者アンディ・ストーンは、ロイター通信の報道に対し、「取捨選択された文書で、誤った結論を導き出そうとしている」と述べて州当局の主張を拒否した。
ストーン氏は、記録からザッカーバーグが露骨なAIによるやり取りを若年ユーザーが利用できないようにするよう指示し、大人による18歳未満の恋愛AI作成を禁止したことが分かると述べた。
その後、Xの投稿でストーン氏は、「あなたがこの物語で引用している文書は、この見出しと矛盾している」と述べ、ロイター通信の見出しを批判した。
メタはコメント要請に対して直ちに回答しなかった。
議員、メタに内部調査結果の公開を圧力
昨年も、議員たちが同社に自社製品が子どもたちにどのような影響を与えているのかについての内部調査結果の公開を要求し、ペアレンタルコントロールが若年ユーザーを保護できていないとの懸念を表明したため、メタはワシントンで超党派の精査を受けていた。
10人の上院議員のグループは、メタに内部の安全性評価を開示し、幹部が調査結果を隠蔽または改ざんしたかどうかを明らかにするよう促す書簡を送った。グループは、テネシー州の共和党上院議員マーシャ・ブラックバーン氏が率いている。
この要請は、議会で証言したメタの元安全性研究者たちが、同社が子どもたちが同社のVR製品を使用し、露骨な性的表現のあるコンテンツにさらされていることを示す内部調査を中止したことを明らかにしたことを受けて出された。
メタの内部方針ガイドラインでは、AIチャットボットが未成年者と「恋愛的または性的な」会話をすることが許可されていたと説明されている。
当時、メタは文書の真正性を認めたものの、その言語は誤って含まれていたものであり、その後削除されたと述べた。広報担当のストーン氏は施行は更新されたと述べたが、一部の議員は依然として懐疑的である。
価格の動き：メタの株価は、ベンジンガ・プロによると、火曜日に0.09％高の672.97ドルで取引を終え、時間外取引で674.45ドルまで上昇した。
メタの株は短期・長期の価格動向に有利な点があるが、中期的には下落傾向にあり、BenzingaのEdge Stock RankingsでQualityの評価が高い。
免責事項： このコンテンツは部分的にAIツールの助けを借りて作成され、Benzingaの編集者によってレビュー・公開された。
写真提供：Shutterstock.comのFotoField