InstagramのチーフであるAdam Mosseri氏は、ソーシャルメディアプラットフォーム上でリアルとAIが生成した画像を区別するという課題が悪化していることについて懸念を示しました。
出来事先週日曜、Mosseri氏はThreadsの一連の投稿で、ソーシャルメディアプラットフォームがオンラインコンテンツの信憑性を判断するのにユーザーがもっと多くの状況を提供することが重要であると強調しました。
AI技術の高度化が続く中、ユーザーがリアルな情報を見分けることが難しくなっているというMosseri氏の警告が出ています。
Mosseri氏は投稿で、AIが「明らかに生成している」現実と見間違えることのできるコンテンツについて述べ、ユーザーに画像の出所を考慮するように勧め、プラットフォームがAIが生成したコンテンツをできるだけ正確にラベル付けすることを提案しました。
関連銘柄
ただし、彼は一部のAIコンテンツはこれらのラベルを回避する可能性があると認めています。「私のアドバイスは、常に誰が話しているかを考慮することです」と彼は述べました。
最終的にはいくつかのAIコンテンツがこれらのラベルを回避する可能性があるとしても、と彼は述べました。
株価が反応したわけ現時点では、Meta Platforms, Inc.（NASDAQ:META）は、Mosseri氏が説明したような包括的な状況の提供をしていませんが、同社はコンテンツポリシーを大幅に変更する可能性があると示唆しています。
Mosseri氏のビジョンは、X（以前のTwitter）のコミュニティーノート、YouTubeやBlueskyなどのプラットフォーム上のカスタムモデレーションフィルターや同様のユーザー主導のモデレーションシステムが合致しています。
AIによるコンテンツの問題は新しいわけではありませんが、最近は複雑化し、広がりを見せています。以前、フロリダ州である事件が、AIが詐欺行為で使用される可能性を示すものとして、話題になりました。その事件では、AIを使って存在しない土地の取引をほぼ詐欺に騙されかけた若い投資家がいたのです。
さらに、Google DeepMindによる調査によれば、AIによる公共人物のディープフェイク（訳注：AIが生成した極めてリアルな偽画像）はAIアシストによるサイバー攻撃よりも一般的であることが明らかになっており、AI技術の大きな誤用が示されています。
これらの課題に対処するため、Metaは以前にAIによるディスインフォメーション（誤情報）を防ぐためのいくつかの措置を講じています。今年5月には、同社は中国やロシアなどの国で起源を持ついくつかのAIによるフェイクニュースキャンペーンを解体し、AIが偽情報を拡散させるのを防ぎました。
Read Next:
免責事項一部のコンテンツは、Benzinga Neuro の協力を得て制作されました。 また、Benzinga Neuro によって審査され、Benzinga のエディターによって公開されました。
写真提供:シャッターストック
