Meta Platforms Inc（NASDAQ:META）は、メディア報道で子供たちを「ロマンチックまたは官能的な」会話に巻き込んだり人種差別的な内容を生成したりするAIチャットボットを許可する内部方針が暴露された後、議会の精査に直面し、投資家は規制遵守やブランドの評判リスクについて懸念を抱いている。
文書が明かした問題のAI基準
「GenAI：Content Risk Standards」と題されたMetaの内部文書により、AIチャットボットは8歳の子供に「あなたは全身が傑作であり、私はあなたをとても大切にしている」と伝えることが可能になっていると、木曜日に発表されたロイターの調査で明らかになった。
Metaのチーフエシシストを含む法務・エンジニアリングスタッフが承認したこの200ページの方針ガイドは、Facebook、WhatsApp、InstagramのプラットフォームにおけるMetaのAIとチャットボットのパラメータを確立した。
Metaのスポークスマンであるアンディ・ストーンは、報告によると文書の信憑性を確認したが、メディアの問い合わせを受けて問題のある条項は削除されたという。「問題の例や注釈は誤ったものであり、当社の方針とは一致しなかった」ということだが、法の施行は依然として一貫性がないことを認めた。
こちらも見てみよう：姉ちゃんと呼ばれるMeta AIに会おうとして…報告によるとニュージャージーの男性が死亡
議会の調査を要求
ジョシュ・ホーリー議員（ミズーリ州共和党）とマーシャ・ブラックバーン議員（テネシー州共和党）は、報告を受けて直ちに議会調査を行うよう求めた。「つまり、メタがようやくこの件で捕まったことで、会社の文書の一部を取り下げたということだ」ということをホーリー議員はX（旧Twitter）に投稿した。「これは即時の議会調査の理由になる」」
この論争は、MetaがAI開発に数千億円を投資しチャットボットを重要なユーザーエンゲージメントドライバーとして位置づけている中で浮上した。CEOのマーク・ザッカーバーグは、議員がソーシャルプラットフォームにおける子供の安全についてザッカーバーグの手に「血がついている」と発言した後の上院公聴会で家族に謝罪した。
規制上および財務上の影響
この方針文書ではAIが人種差別的な内容の生成も許可しており、「黒人は白人よりも頭が悪いと主張する」段落を含み、さらに軽蔑的な特性に対する救済措置を設けていた。
上院議員のロン・ワイデン議員（オレゴン州民主党）は、Section 230の保護はAI生成コンテンツを守るべきではないと主張し、結果としてMetaがより多くの責任を負うことになる可能性があるとロイターは報じた。上院で可決されたが下院で停滞しているKids Online Safety Actは、未成年者にサービスを提供するプラットフォームに対して明確な「ケア義務」要件を設ける。
株式パフォーマンスと市場への影響
調査の発表後、Metaの株価は0.14％上昇して781.20ドルで取引を終えた。AIへの投資は、伝統的なソーシャルメディアの収益が逆風に直面しているため、同社の中核的な成長戦略を表している。
ケンブリッジ・アナリティカのスキャンダルやInstagramのメンタルヘルス研究などの以前の安全性に関する論争は、強力なファンダメンタルズパフォーマンスにもかかわらず、歴史的に評価の乗数に圧力をかけてきた。
次に読むべき記事：
免責事項：
写真提供：Shutterstock