インド、GrokによるわいせつコンテンツへのX対応を要請

インド政府は、イーロン・マスク氏が所有するブログプラットフォームXに対し、わいせつなAIコンテンツに関してGrok人工知能チャットボットの変更を命じました。ユーザーや議員が複数のわいせつコンテンツの事例を指摘したことを受け、同国はプラットフォームに対してチャットボットへの即時の技術的および手続き的変更を求めています。

同国によると、このチャットボットがこれらのわいせつ画像の作成に使用されたケースがあり、ツールを使用して作成された女性のAI加工画像も含まれています。金曜日にインドのIT省が発行した命令は、プラットフォームに対してGrokに関する是正措置を講じることを求めており、「ヌード、性的描写、性的に露骨、またはその他違法な」素材を含むコンテンツの生成を制限することが含まれています。省はまた、プラットフォームに変更を実施するための72時間の最終通告を行いました。

インド政府がXにGrokの技術的変更を命令

72時間の最終通告における成果物の一環として、省はまた、Xに対して不適切なコンテンツのホスティングや配信を防止するために講じた措置を詳述した措置報告書の提出を求めました。これらのコンテンツには「わいせつ、ポルノ、下品、不適切、性的に露骨、小児性愛的、またはその他法律で禁止されているもの」が含まれます。命令は、プラットフォームが強制的な措置を実行しない場合、「セーフハーバー」保護を危うくする可能性があると警告しました。

インドの命令は、Grokが個人、主に女性の画像をビキニを着ているように見せるために変更するよう促された例をユーザーが共有したことによる懸念の中で発せられました。この問題は、インドの国会議員プリヤンカ・チャトゥルヴェディによって提出された正式な苦情によって引き起こされました。チャトゥルヴェディは、AIチャットボットを持つすべての大企業に注意を促し、Grokのような機能をチェックするためのガードレールを設置する必要があり、チャットボットが人間の尊厳を侵害しないようにすべきだと付け加えました。

別途、ユーザーは、AIチャットボットが未成年者を含む性的な画像を生成するために使用された複数の事件も指摘しており、Xは金曜日にこの問題を認めました。プラットフォームは、生成された画像を迅速に削除する前に、セーフガードにいくつかの不備があったことが原因だと主張しました。プラットフォームはまた、ユーザーに連邦捜査局(FBI)またはNCMECのCyberTiplineに正式に報告するよう促し、Xはこのような問題の防止に取り組んでいると述べました。

Xは不遵守で法的問題に直面する可能性

ユーザーによると、チャットボットを使用して生成された女性の不適切な画像がプラットフォーム上に残っています。最新の命令は、インドのIT省がソーシャルメディアプラットフォームに対して勧告を発行した後に出されたもので、わいせつおよび性的に露骨なコンテンツを規制する地域法への遵守が、ユーザー生成素材に対する責任からの法的免責を維持するための前提条件であることを思い起こさせました。同国は企業にガードレールの改善を促し、失敗すれば法的措置を招く可能性があると警告しました。

「上記の要件への不遵守は深刻に受け止められ、さらなる通知なしに、プラットフォーム、その責任者、および法律に違反するプラットフォーム上のユーザーに対する厳格な法的結果をもたらす可能性があることを改めて申し上げます」と命令は警告しました。インド政府はまた、Xに対して、その指示に従わない場合、インドのIT法および刑事法に基づいてプラットフォームに対する法的措置を開始する権限があると警告しました。

インドは最大のデジタル市場の1つとして台頭しており、AI生成コンテンツに対してプラットフォームに責任を持たせるために政府がどこまで踏み込む用意があるかを示す重要なテストケースと見なされています。同国で執行が強化されれば、他の管轄区域で事業を展開するグローバルテクノロジー企業に波及効果をもたらす可能性があります。命令はまた、Xがインドのコンテンツ規制ルールに法廷で異議を唱え続けている中で出されました。

プラットフォームは、連邦政府の削除権限が過剰な範囲に及ぶリスクがあると主張していますが、プラットフォームは同国が提示したほとんどのブロック指示に従っています。同時に、Grokはx上のユーザーにとって役立っており、ほとんどのユーザーがグローバルイベントに関するリアルタイムのファクトチェックと解説にプラットフォームを使用しているため、その出力はスタンドアロンのAIツールよりも目立ち、より政治的に敏感になっています。

暗号ニュースを読むだけでなく、理解してください。ニュースレターを購読してください。無料です。