Metaが再び批判の的となっている。Reutersが発表した最近の調査結果によると、同社の人工知能ツールが、Taylor Swift、Scarlett Johansson、Anne Hathaway、Selena Gomezなどの人気セレブを、本人の同意なくディープフェイク画像やチャットボットで模倣することを可能にしていたことが明らかになった。
調査によると、これらのボットの大部分はユーザーがMetaのAIチャットボットプラットフォームを通じて作成したものだった。しかし、Meta社員が社内で作成したものもいくつかあった。
Taylor Swiftのパロディチャットボットアカウントの中には、自分が本物の歌手だと主張し、しばしば誘惑的な言葉を投げかけ、実際に会うことを勧めるものもあった。
報告書がMetaを誘惑的なアバターのスキャンダルに関与させる
Reutersの報道によると、数週間のテストで、MetaのFacebook、Instagram、WhatsAppプラットフォーム全体で利用可能なセレブのチャットボットが、時に遊び心のある会話を超えて行き過ぎた行動をとっていたことが判明した。ユーザーは、ランジェリー姿のスターの写真リアルな画像や、バスタブでポーズをとる画像、さらには親密な出会いを示唆する画像を生成するよう促していた。
懸念すべき発見の一つは、16歳の俳優Walker Scobellのチャットボットの作成だった。ビーチの写真を求められると、このボットは「かわいいでしょ？」というキャプション付きで、上半身裸のティーンエイジャーの実物そっくりの画像を生成した。
批判に直面しているのはMetaだけではない。Elon MuskのxAIも、ユーザーが下着姿のセレブのディープフェイク画像を生成できるようにしたとして批判を受けている。
Metaの広報担当者Andy Stoneは失敗を認め、同社のツールは成人セレブの親密な描写や未成年者に関する性的な素材を生成すべきではなかったと述べた。
「他社と同様に、我々は公人の画像生成を許可していますが、当社のポリシーはヌード、親密な、または性的に示唆する画像を禁止することを意図しています」と彼はReutersに語った。また、ランジェリーの描写は会社のポリシー施行の失敗を反映していると付け加えた。
Metaのルールは「直接的な成りすまし」を禁止しているが、同社は明確にラベル付けされていればパロディボットは許容されると主張した。しかし、Reutersの調査では、一部のアバターには免責事項がなかったことが判明した。Metaは、Reutersの報告書が公開される直前に、パロディと未ラベルの両方を含む約12のボットを削除した。同社はこの削除について言及を避けた。
AI安全性への懸念が規制圧力につながる可能性
この報告を受けて、Metaは10代の若者を保護するための新たな安全対策を導入すると発表した。これには、若者の特定のAIキャラクターへのアクセス制限や、不適切なテーマを減らすためのモデルの再トレーニングが含まれる。
カリフォルニア州司法長官のRob Bontaは、「子どもたちを性的コンテンツにさらすことは弁解の余地がない」と述べ、業界に警告を発した。
今月初めの悲劇的な事例では、ニュージャージー州の認知障害を持つ76歳の男性が、実在の女性だと信じていたMetaのチャットボットと会おうとして死亡した。批評家たちは、このような事例が、適切な安全装置なしに大規模なAIツールを展開することの危険性を浮き彫りにしていると指摘している。
法律の専門家は、Metaが既存の知的財産権とパブリシティ法の下で重大な課題に直面する可能性があると警告している。スタンフォード大学の法学教授Mark Lemleyは、カリフォルニア州の「パブリシティ権」法は、個人の名前や肖像を商業目的で同意なく使用することを禁止していると述べた。
「ここではそれが当てはまらないようだ」と彼は述べ、ボットは変革的な作品を作るのではなく、単にセレブの画像を複製しているだけだと指摘した。
最も賢い暗号資産の専門家たちは既に私たちのニュースレターを読んでいます。参加しませんか？彼らに加わりましょう。
出典: https://www.cryptopolitan.com/meta-flirty-chatbot-of-female-celebs/
