英国、子どものオンライン保護のためAIチャットボットを規制

英国政府は、有害で違法なコンテンツから子どもたちをより適切に保護するため、人工知能チャットボットの使用に関する規制を強化する動きを見せています。

キア・スターマー首相は、チャットボットプロバイダーが主要なオンライン安全法の適用外で運営できる法的空白を埋めるプロセスを発表しました。これにより、AIチャットボットを製造・運営する企業は、違法コンテンツを積極的に取り締まり、若年ユーザーにとって安全なプラットフォームを確保することが求められます。

現在、政府はオンライン安全法の施行方法を変更し、チャットボットが法律をどのように遵守すべきかを明確にすると主張しています。この規制は以前に設計されたものですが、主にソーシャルメディアプラットフォームや人々がコンテンツを投稿できる公開フォーラムの要求に合わせて調整されました。プライベートAIチャットボットを運営する者も使用する者も同等の扱いを受けず、その責任は不明確なままでした。スターマー首相はこの抜け穴を早急に塞ぐと約束しました。

チャットボット企業は他のオンライン企業と同じ法的義務を遵守する必要があり、さもなければ罰則を受けると同氏は警告しました。政府は、この変更によりチャットボットプロバイダーがシステムを積極的に監視し、違法な素材をブロックすることを確保する必要があると述べています。発表に先立ち、スターマー首相はテクノロジー企業が法律から免除されることはないと述べました。

政府はまた、AIチャットボットをソーシャルメディアプラットフォームとは異なる扱いをすることで、子どもたちが有害または不適切なコンテンツに晒される恐れがあることを懸念しています。当局者は、AIチャットボットが目的のオーディエンス、特に10代や若年ユーザーに到達するためには、より厳格な保護が必要だと考えています。

急速に変化するテクノロジーに対処する新たな権限

法的空白を埋めることに加えて、政府はリスクが発生した際により迅速な対応を可能にする新たな権限を創設します。議会が全く新しい法律を可決するのを待つのではなく、規制当局はテクノロジーに対してより迅速に対応します。

これは、人工知能の急速な進歩に保護が遅れを取らないようにするための方法です。AIツールは急速に改善され、新しい分野に進出しています。その結果、リスクが突然現れる可能性があり、規制当局はそれらに対処するための柔軟性を必要としています。

スターマー首相は最近、有害なAI生成コンテンツのリスクを指摘しました。例えば、テクノロジーが人々の同意なしに性的な画像を作成するために利用されているケースなどです。

同氏はそのような使用は容認できないとし、既存の法律がそれらに対して執行されるべきだと述べました。政府は、より良い執行により企業が最初から安全なシステムを設計することを余儀なくされると述べています。

これには、ユーザーが見る前に違法コンテンツを識別して防止するためにチャットボットソフトウェアに組み込まれた保護機能が含まれる可能性があります。テクノロジー企業はまた、AIシステムの動作に対する責任を負うことになります。

つまり、企業は出力を監視し、セキュリティー機能を強化してシステムをより安全にし、欠陥が検出されたときに迅速に対応する必要があります。

政府が子どもを危害から守るための動き

AIチャットボットの取り締まりは、事実上あらゆるデジタルメディアプラットフォームにおける子どもの安全という大きな課題の一部です。政府はリスクをさらに軽減できる新たな措置を検討しています。

検討中の提案の1つは、ソーシャルメディアにアクセスするためにユーザーが一定の年齢である必要があるという要件です。当局者はまた、無限スクロールなどの機能を制限することで過度なスクリーン時間を助長する可能性や、若者が有害または中毒性のあるコンテンツから離れることを難しくする可能性についても検討しています。

これらの変更は、オンラインでの子どもの健康に関する公開協議の後に実施される可能性があります。保護者、教育者、安全の専門家は、デジタルプラットフォームが若者のメンタルヘルスに与える影響や不適切なコンテンツへの露出量について懸念しています。

政府のより広範な目的は、子どもたちが深刻な危害に晒されることなくテクノロジーの恩恵を受けられる、より安全なオンライン環境を構築することです。