حذر المجلس الأعلى للتربية والتكوين والبحث العلمي من مخاطر التقدم والتطور التكنولوجي، على مختلف المستويات التربوية وغير من لاأنشطة البشرية.
وقال رئيس المجلس الأعلى للتربية والتكوين والبحث العلمي، الحبيب المالكي، في افتتاح الندوة الدولية في موضوع: الذكاء الاصطناعي: رافعة من أجل تحويل التربية والتكوين والبحث العلمي، "إذا كان التقدم التكنولوجي الذي أصبح ممكنا اليوم بفضل الذكاء الاصطناعي يمثل اللبنة الأساسية لتسريع التقدم الاقتصادي على مختلف الأصعدة، فإن التطور المذهل لهذه التقنيات ونشرها في جميع مجالات النشاط البشري لا يخلو من مخاطر قد تطال التطبيقات المختلفة للتكنولوجيات الجديدة في عدة ميادين والتي يتحتم استشرافها لتجنب أثرها".
ولفت المتحدث إلى أن "فقدان التحكم في الأنظمة الناتجة عن الذكاء الاصطناعي يحتل مركز الصدارة من بين المخاطر الرئيسية الأكثر تداولا عند المحللين في هذا المجال".
وأشار ذات المصدر إلى أنه "يصبح من الصعب، في مراحل معينة، التنبؤ بسلوك الأنظمة التي يطورها الذكاء الاصطناعي نظرا لحجم هذه الأنظمة وتشابكاتها التقنية وشدة تعقيداتها".
وشدد المالكي على أن "الأخطاء المحتملة في تركيب البرمجيات وتصميم الخوارزميات وحتى في تقدير ردود الفعل غير المتوقعة يمكن أن تشكل تهديدات حقيقية ذات عواقب وخيمة على أمن الأنظمة القائمة".
واعتبر أنه "في حالة انعدام آليات الترقب أو التحكم، لا يمكننا مسبقا استبعاد السيناريوهات التي يتم فيها استخدام التطورات السلبية في الذكاء الاصطناعي لأغراض زعزعة الاستقرار من خلال تعطيب الأنظمة التكنولوجية وتخريب الآليات المرتبطة بها".
وأكد رئيس المجلس أن تطوير أنظمة تكنولوجية، عن طريق تقنيات الذكاء الاصطناعي، قادرة على اتخاذ قرارات مستقلة تماما عن إرادة الإنسان مما يثير دون شك أسئلة جوهرية فيما يخص تحديد المسؤولية وما يترتب عنها من عواقب في حالة حدوث أخطاء أو أفعال ضارة".
وقال الحبيب المالكي إن "الاعتماد المتزايد على الذكاء الاصطناعي يعرض المجتمع لمخاطر جديدة يمكن أن تؤثر على البنية التحتية الحيوية وشبكات الكمبيوتر وحتى الاليات ذاتية القيادة؛ مما يحتم تعزيز الأنظمة الأمنية وترسيخ بروتوكولات الوقاية".
