أثارت المخاوف بشأن التطبيقات القائمة على الذكاء الاصطناعي والتي يمكنها إنتاج صور جنسية مزيفة للأطفال دعوات إلى اتخاذ إجراءات.
يدعو مفوض شؤون الأطفال في إنجلترا إلى حظر تطبيقات "التعري" لمنعها من إنتاج صور جنسية للأطفال. ولكن ما هي هذه التطبيقات، وهل يُجدي حظرها نفعًا؟
ما هي تطبيقات "التعري"؟
لقد مهد التقدم في برامج الذكاء الاصطناعي الطريق لظهور أدوات "التعري"، والتي أصبح من السهل العثور عليها على وسائل التواصل الاجتماعي أو محركات البحث.
هذه تطبيقات ومواقع إلكترونية تُنتج صورًا عارية مزيفة لأشخاص حقيقيين باستخدام الذكاء الاصطناعي المُولِّد. قد يشمل ذلك خلع الملابس، أو تحريك الصورة بطريقة مُوحية، أو لصق رأس على جسد عارٍ. غالبًا ما تبدو النتائج واقعية للغاية.
تُنشئ أدوات الذكاء الاصطناعي صورًا بالتعلم من عناصر الصور الموجودة ونسخها. يُعتقد أن تطبيقات التعري تُدرّب على مجموعات بيانات ضخمة من صور نسائية في الغالب، لأنها تميل إلى العمل بفعالية أكبر على أجساد النساء. ونتيجةً لذلك، يُقدّر أن 99% من مقاطع التزييف العميق ذات المحتوى الجنسي الصريح المتاحة على الإنترنت هي لنساء وفتيات.
على الرغم من أن امتلاك محتوى جنسي تم إنشاؤه بواسطة الذكاء الاصطناعي ويظهر فيه أطفال أمر غير قانوني، فإن نماذج الذكاء الاصطناعي التي تنشئ هذه الصور ليست غير قانونية.
كيف سيتم الحظر؟
تطلب مفوضية الأطفال من الحكومة إصدار تشريع لحظر أدوات الذكاء الاصطناعي المصممة أو التي يتم تسويقها على أنها خدمات "تعري".
ويمكن تحقيق ذلك من خلال عدد من الآليات القانونية.
- على سبيل المثال، قد يكون أحد الخيارات هو تعديل مشروع قانون سلامة المنتجات والقياس من شأنه أن يضمن إلزام مزودي أدوات الذكاء الاصطناعي المولدة بإجراء تقييمات المخاطر للأنشطة غير القانونية والضارة، واتخاذ خطوات معقولة لتصميم هذا الخطر بعيدًا عن المنتج.
- هذا يعني أن الأدوات المُطوّرة باستخدام نماذج الذكاء الاصطناعي التوليدي يجب أن تخضع لتقييم مخاطر الأنشطة غير القانونية والضارة قبل إتاحتها في المملكة المتحدة تطبيقات التعري في شكلها الحالي ليست آمنة ضد الأنشطة غير القانونية، ولن تُعتمد لتكون متاحة في المملكة المتحدة.
- الخيار الثاني هو أن تقدم الحكومة مشروع قانون الذكاء الاصطناعي في هذه الدورة البرلمانية والذي من شأنه أن يجعل من مسؤولية مقدمي نماذج الذكاء الاصطناعي منع استخدامها لتعرية الأطفال.
قد يتم إلزام شركات التكنولوجيا قانونيًا باختبار منتجاتها لمعرفة ما إذا كان يمكن استخدامها لتعرية الأطفال قبل إطلاقها في السوق البريطانية، ومحاسبتها إذا تم استخدام نماذجها لهذا الغرض.
مع ذلك، قالت «دانييل ريس-غرينهالغ»، الشريكة في شركة "كوركر بينينغ" للمحاماة في لندن، إن مُنتقدي الحظر قد يطعنون فيه لأسباب تتعلق بحرية الإنترنت. وأضافت أن تطبيقه قد يكون صعبًا مع تطور نماذج الذكاء الاصطناعي، مما يزيد من صعوبة التمييز بين المواد "الحقيقية" والمواد "المُصنّعة بواسطة الذكاء الاصطناعي".
ما هي الصلاحيات التي يحتويها قانون السلامة على الإنترنت؟
لا يعتقد مفوض الأطفال أن قانون السلامة عبر الإنترنت يحتوي على الأحكام المطلوبة لحماية الأطفال بشكل كامل من الأذى.
ومع ذلك، فإنه يشير إلى أنه في غضون ذلك، يمكن التخفيف من المخاطر جزئيا من خلال تنفيذ Ofcom لهذا القانون.
باعتبارها مقدمي مواد جنسية صريحة أو إباحية، تندرج خدمات التعري ضمن نطاقها. ويُطلب منها التحقق من أن عمر المستخدمين يزيد عن 18 عامًا قبل السماح لهم بالوصول إلى المحتوى. إلا أن هذا لا يمنع البالغين من تصوير الأطفال.
ويمكن لـ Ofcom أيضًا تعزيز أحكامها لحماية الأطفال من الأذى من خلال ضمان اتخاذ إجراءات استباقية لتحديد الأضرار الناشئة.
يُطلب من شركات مواقع التواصل الاجتماعي إجراء تقييمات للمخاطر امتثالاً لقانون السلامة على الإنترنت. ويتطلب ذلك منها تحديد وتخفيف مخاطر المحتوى المُنتج باستخدام أدوات التزييف العميق ذات المحتوى الجنسي الصريح على الأطفال، بما في ذلك المحتوى المُستخدم للترويج لها.
يطلب التقرير من الحكومة أيضًا تقديم المزيد من الدعم للأطفال للإبلاغ عن الصور الحميمة - بما في ذلك الصور الزائفة المُنتجة باستخدام الذكاء الاصطناعي - التي تُنشر على مواقع الإنترنت العامة، وإزالتها. وقد يطلب التقرير من هيئة الاتصالات (Ofcom) إلزام شركات التكنولوجيا بتضمين أدوات "الإبلاغ عن الإزالة".
ويقترح التقرير أيضًا إدراج تقنية التزييف العميق ذات المحتوى الجنسي الصريح في المناهج الدراسية الشخصية والاجتماعية والصحية والاقتصادية.
COMMENTS