جدل حول صور إباحية مزيفة لنساء راشدات وقاصرات

نبهت تطورات متسارعة في مجال الذكاء الاصطناعي إلى بروز شكل جديد وخطير من العنف الرقمي، بعد تداول صور إباحية مزيفة لنساء راشدات وقاصرات على منصات رقمية مختلفة.
الصور فجرت موجة غضب واستنكار واسعين على مواقع التواصل الاجتماعي، مما أعاد إلى الواجهة النقاش حول المسؤولية القانونية والأخلاقية لتطبيقات الذكاء الاصطناعي التوليدي، وحدود استعمالها داخل الفضاء الرقمي.

هذه الصور، التي تنتج دون علم أو موافقة الضحايا، اعتبرت شكلا مستحدثا من أشكال التشهير الرقمي والانتهاك الصريح للكرامة الإنسانية، إذ تستهدف سمعة النساء وتلحق بهن أضرارا نفسية واجتماعية جسيمة، في ظل غياب ضوابط تقنية وقانونية فعالة تكبح هذا النوع من الاستعمالات المنحرفة للتكنولوجيا الحديثة.

وفي هذا السياق، دخل البرلمان على خط الجدل، إذ راسل الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب وزيرة الانتقال الرقمي وإصلاح الإدارة، مطالبا بتوضيح تقييم الوزارة لمخاطر تطبيقات الذكاء الاصطناعي التوليدي، والإجراءات الوقائية والتشريعية والتقنية المزمع اتخاذها لحماية النساء والقاصرات من هذه الممارسات، إلى جانب سبل تقنين استعمال الذكاء الاصطناعي داخل المغرب.

وأشارت البرلمانية الاستقلالية خديجة الزومي، إلى تورط بعض تطبيقات الذكاء الاصطناعي التوليدي، وعلى رأسها تطبيق "Grok"، في إنتاج صور إباحية ومسيئة لأشخاص حقيقيين دون علمهم أو موافقتهم، خصوصا النساء والقاصرات، وهو ما أثار موجة استنكار واسعة على الصعيدين الوطني والدولي، ودق ناقوس الخطر بشأن انفلات هذه التكنولوجيا من أي رقابة فعالة.

وأكدت البرلمانية أن خطورة هذه الصور لا تقتصر على بعدها الأخلاقي، بل تمتد إلى آثار نفسية واجتماعية مدمرة، قد تقود إلى التشهير والابتزاز الإلكتروني، بل وحتى تفكك الأسر، معتبرة أن الأمر يتعلق بقضية وطنية ذات أبعاد قانونية وأمنية واجتماعية، تستدعي تدخلا عاجلا من السلطات العمومية.

وتعزز هذه المخاوف، وفق معطيات دولية، لجوء عدد من الدول إلى تقييد أو حظر بعض تطبيقات الذكاء الاصطناعي التوليدي، بعد ثبوت قصور الضوابط التقنية والأخلاقية في منع إنتاج محتوى إباحي مزيف، وهو ما دفع الفريق البرلماني إلى المطالبة بتفعيل آليات وقائية مماثلة على المستوى الوطني، وتحيين الإطار القانوني المنظم للفضاء الرقمي بما يواكب التطورات التكنولوجية المتسارعة.

وشددت الزومي على ضرورة اضطلاع وزارة الانتقال الرقمي بدورها في تقنين تطبيقات الذكاء الاصطناعي، والتنسيق مع مختلف القطاعات المعنية، لضمان حماية الحقوق الرقمية للمواطنات، ووضع حد لأي استغلال للتقنيات الحديثة في انتهاك كرامة الإنسان، خصوصا الفتيات القاصرات، في إطار توجه وطني شامل لمواجهة العنف الرقمي والتشهير الإلكتروني وصون السلم الاجتماعي