نشرت OpenAI مخططاً سياسياً يحدد تدابير حماية جديدة يمكن لصناعة الذكاء الاصطناعي اتخاذها لمنع استخدام التكنولوجيا في إنشاء مواد الاعتداء الجنسي على الأطفال.
"الاستغلال الجنسي للأطفال هو أحد التحديات الأكثر إلحاحاً في العصر الرقمي"، قالت OpenAI في إعلانها الصادر في 8 أبريل. "يغير الذكاء الاصطناعي بسرعة كيفية ظهور هذه الأضرار عبر الصناعة وكيفية معالجتها على نطاق واسع."
مع أخذ ذلك في الاعتبار، كشفت الشركة عن مخططها السياسي، الذي يحدد "مساراً عملياً للمضي قدماً لتعزيز أطر حماية الأطفال في الولايات المتحدة في عصر الذكاء الاصطناعي."
يعكس المخطط ويدمج ملاحظات من العديد من المنظمات الرائدة والخبراء عبر نظام سلامة الأطفال، بما في ذلك المركز الوطني للأطفال المفقودين والمستغَلين (NCMEC)، وتحالف المدعي العام - وهي مجموعة غير ربحية من المدعين العامين للولايات في الولايات المتحدة - و Thorn، وهي منظمة غير ربحية مكرسة للدفاع عن الأطفال من الاعتداء الجنسي، وفقاً لعملاق الذكاء الاصطناعي.
"لا يمكن لأي تدخل واحد معالجة هذا التحدي بمفرده"، قالت OpenAI. "يجمع هذا الإطار بين النُهج القانونية والتشغيلية والتقنية لتحديد المخاطر بشكل أفضل، وتسريع الاستجابات، ودعم المساءلة، مع ضمان بقاء السلطات التنفيذية قوية مع تطور التكنولوجيا."
تأتي هذه الخطوة في الوقت الذي تتزايد فيه المخاوف حول إساءة استخدام أدوات الذكاء الاصطناعي، وخاصة وظائف توليد الصور، لإنتاج صور فاضحة للنساء والأطفال، بما في ذلك المشاهير والشخصيات العامة.
في وقت سابق من يناير، اضطرت هيئة مراقبة الاتصالات في المملكة المتحدة، Ofcom، إلى الاتصال العاجل بـ X و xAI "لفهم الخطوات التي اتخذوها للامتثال لواجباتهم القانونية لحماية المستخدمين في المملكة المتحدة"، بعد ظهور تقارير تفيد بأن روبوت الدردشة الخاص بالذكاء الاصطناعي Grok التابع لإيلون ماسك كان يُستخدم لإنشاء ونشر صور فاضحة للأطفال والنساء مع إزالة ملابسهم رقمياً.
تم التعبير عن مخاوف مماثلة في الاتحاد الأوروبي، حيث حذرت سلطة حماية البيانات الإيطالية المستخدمين ومقدمي أدوات الذكاء الاصطناعي من المخاطر التي تشكلها التزييف العميق بالذكاء الاصطناعي على "الحقوق والحريات الأساسية".
لمعالجة هذه المخاوف، قالت OpenAI إن لديها ثلاث أولويات رئيسية: تحديث القوانين لمكافحة مواد الاعتداء الجنسي على الأطفال المولدة والمعدلة بالذكاء الاصطناعي، وتحسين الإبلاغ والتنسيق من قبل مقدمي الخدمات لدعم التحقيقات الأكثر فعالية، وبناء تدابير الحماية من خلال التصميم مباشرةً في أنظمة الذكاء الاصطناعي لمنع واكتشاف سوء الاستخدام.
"معاً، تمكّن هذه الخطوات الصناعة من معالجة سلامة الأطفال بشكل أسرع وأكثر فعالية"، قالت الشركة في بيانها الصادر في 8 أبريل. "من خلال مقاطعة محاولات الاستغلال بشكل أسرع، وتحسين جودة الإشارات المرسلة إلى جهات إنفاذ القانون، وتعزيز المساءلة عبر النظام البيئي، يهدف هذا الإطار إلى منع الضرر قبل حدوثه والمساعدة في ضمان حماية أسرع للأطفال عند ظهور المخاطر."
قالت OpenAI إنها ملتزمة أيضاً بالاستمرار في تعزيز الضمانات لمنع إساءة استخدام أنظمتها، بالإضافة إلى العمل بشكل وثيق مع شركاء مثل NCMEC وجهات إنفاذ القانون لتحسين الكشف والإبلاغ.
في بيان مشترك حول مخطط سلامة الأطفال، قال المدعيان العامان للولايتين جيف جاكسون (من ولاية كارولينا الشمالية) وديريك براون (من ولاية يوتا)، الرئيسان المشاركان لفرقة عمل الذكاء الاصطناعي التابعة لتحالف المدعي العام، إنهما "يرحبان بهذا المخطط كخطوة ذات مغزى نحو مواءمة ممارسات سلامة الأطفال في قطاع التكنولوجيا مع واقع الإنفاذ الذي تواجهه مكاتبنا كل يوم."
سلط الزوجان الضوء بشكل خاص على إدراك الإطار بأن ضمانات الذكاء الاصطناعي التوليدي (GenAI) الفعالة تتطلب دفاعات متعددة الطبقات - ليس مجرد تحكم تقني واحد، ولكن مزيج من الكشف وآليات الرفض والإشراف البشري والتكيف المستمر مع اتجاهات سوء الاستخدام الناشئة.
"هذا يعكس ما نراه في الممارسة: التهديد يتطور باستمرار، والحلول الثابتة غير كافية"، قال المدعيان العامان للولايتين.
رحبت ميشيل ديلون، رئيسة ومديرة تنفيذية لـ NCMEC، أيضاً بإعلان OpenAI، محذرة من أن الذكاء الاصطناعي التوليدي "يسرّع جريمة الاستغلال الجنسي للأطفال عبر الإنترنت بطرق مقلقة للغاية - خفض الحواجز، وزيادة النطاق، وتمكين أشكال جديدة من الأذى."
أضافت ديلون أنها "متشجعة لرؤية شركات مثل OpenAI تفكر في كيفية تصميم هذه الأدوات بطريقة أكثر مسؤولية، مع ضمانات مدمجة منذ البداية."
من أجل أن يعمل الذكاء الاصطناعي بشكل صحيح ضمن القانون ويزدهر في مواجهة التحديات المتزايدة، يحتاج إلى دمج نظام بلوكتشين مؤسسي يضمن جودة وملكية إدخال البيانات - مما يسمح له بالحفاظ على أمان البيانات مع ضمان ثبات البيانات أيضاً. تحقق من تغطية CoinGeek حول هذه التقنية الناشئة لمعرفة المزيد عن سبب كون بلوكتشين المؤسسات هو العمود الفقري للذكاء الاصطناعي.
شاهد: إثبات إمكانات اندماج البلوكتشين مع الذكاء الاصطناعي
المصدر: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
