روبوتات الدردشة وفبركة الصور.. تقرير يرصد استخدام الذكاء الاصطناعي في حملة انتخابات 2026

رصد المجلس الوطني لحقوق الإنسان حضورا متزايدا للذكاء الاصطناعي في الحملة الانتخابية لتشريعيات 23 شتنبر 2026، شمل إنتاج وتعديل الصور والمقاطع الصوتية والفيديوهات، إلى جانب إحداث وكلاء رقميين تفاعليين يمثلون المترشحين، في مقابل تسجيل غياب الإشارة إلى استخدام هذه التقنية في أغلب المحتويات التي رصدها المجلس.

وأوضح المجلس، في تقريره الأولي حول ملاحظة الانتخابات التشريعية، أن تتبعه للصفحات والحسابات الرسمية للأحزاب السياسية أظهر تنامي توظيف الأدوات الرقمية، مع بروز استخدام أدوات الذكاء الاصطناعي التوليدي كأحد مستجدات التواصل الانتخابي.

وشمل هذا الاستخدام إحداث وكلاء رقميين تفاعليين (Avatar)، عبر إنشاء نسخ أو شخصيات رقمية تمثل المترشحين وتتيح التفاعل الفوري، فضلا عن استعمال أدوات الذكاء الاصطناعي لإنتاج أو تعديل محتويات بصرية وصوتية وفيديوهات.

كما سجل المجلس لجوء أحزاب إلى روبوتات الدردشة الذكية (Chatbots) لتقديم البرامج الانتخابية وتبسيطها، بما يسمح للمستخدمين بطرح أسئلة والحصول على أجوبة انطلاقا من مضامين البرامج الحزبية، مع إتاحة بعض هذه الأدوات التفاعل الآلي والفوري بأكثر من لغة، من بينها الأمازيغية.

وفي مقابل هذا الاستخدام، سجل المجلس غياب الإشارة إلى أن المحتويات المرصودة مولدة أو معدلة بواسطة أدوات الذكاء الاصطناعي في الحالات التي توفرت فيها مؤشرات على الاستعانة بهذه التقنية، باستثناء حالة واحدة جرى فيها التنصيص صراحة على أن المحتوى مولد بالذكاء الاصطناعي.

وامتد استعمال هذه التقنية، بحسب التقرير، إلى ممارسات مرتبطة بالتضليل خلال السياق الانتخابي، إذ رصد المجلس فبركة صور ووقائع غير صحيحة باستخدام الذكاء الاصطناعي. كما أشار إلى تعرض نساء ينتمين إلى أحزاب سياسية مختلفة لاستهداف مباشر وعنف رقمي، تضمن فبركة الصور واختلاق أحداث، بما في ذلك بواسطة أنظمة الذكاء الاصطناعي، للنيل منهن والمساس بهن لدواع انتخابية وسياسية.

وخلص المجلس، ضمن استنتاجاته الأولية، إلى أن توسع استعمال الفضاء الرقمي خلال الحملة رافقته تحديات جديدة مرتبطة بظهور محتويات رقمية مفبركة أو معدلة بتقنيات الذكاء الاصطناعي، معتبرا أن ذلك يطرح أسئلة بشأن شفافية المحتوى السياسي وحماية حق المواطنات والمواطنين في الولوج إلى معلومات موثوقة خلال الفترات الانتخابية.

وخصص المجلس الوطني لحقوق الإنسان آلية للتحقق من المحتويات المولدة بالذكاء الاصطناعي في سياق ملاحظته المستقلة والمحايدة للانتخابات، ووضعها رهن إشارة الملاحظات والملاحظين، بهدف فحص الصور ومقاطع الفيديو والتسجيلات الصوتية المتداولة خلال الفترة الانتخابية.

وبحسب التقرير، توصل المجلس بـ421 محتوى للتحقق منه، بين صور ومقاطع فيديو وتسجيلات صوتية، ليتبين، بعد المراجعة البشرية المعمقة أو بواسطة الآلية الرقمية المدعومة بأنظمة الذكاء الاصطناعي، أن 116 محتوى، أي 27.5 في المائة، كان مولدا أو معدلا بأنظمة الذكاء الاصطناعي. وتوزعت هذه المواد بين صور وملصقات انتخابية ومقاطع فيديو قصيرة ومقطع صوتي واحد.

وأظهر تحليل هذه العينة تنوعا في طبيعة المحتويات، إذ شملت مواد ذات طابع ترويجي لفائدة أحزاب أو مترشحين في سياق الحملة الانتخابية، وأخرى غيرت التمثيل البصري للمترشحين أو وضعتهم في سياقات غير أصلية، فضلا عن إضافة أو استبدال مقاطع صوتية داخل فيديوهات مأخوذة من سياقات مختلفة.

كما رصد التقرير ضمن هذه العينة محتويات تدعو إلى مقاطعة حزب أو مترشحين محددين، من بينهم نساء مرشحات، وأخرى تنشر معلومات أو برامج انتخابية، إلى جانب محتويات ساخرة تنتقد برامج أحزاب سياسية، ومواد تناولت موضوع استعمال المال في السياق الانتخابي.

وشملت المحتويات المرصودة أيضا مواد قدمت توقعات أو تصورات مسبقة بشأن فوز بعض المترشحين أو النتائج الانتخابية، وهي مضامين أشار التقرير إلى أنها قد تؤثر، بالنظر إلى طبيعتها وسياق تداولها، على تمثل المتلقين للمترشحين والأحزاب والعملية الانتخابية. وفي المقابل، سجل المجلس وجود محتويات ذات طابع توعوي ساهمت في نشر المعلومة والثقافة الانتخابية.

وفي جانب آخر، أشار التقرير إلى أن خمسة أحزاب سياسية على الأقل أدرجت في برامجها الانتخابية محاور والتزامات مرتبطة بالذكاء الاصطناعي. وشملت المقترحات استخدامه في خدمة الدولة الاجتماعية والكشف المبكر عن الأطفال المهددين بالانقطاع عن الدراسة والخدمات الطبية عن بعد، فضلا عن تطوير تعليم العلوم والبرمجة والذكاء الاصطناعي.

وتضمنت المقترحات الحزبية أيضا بناء منظومة وطنية للذكاء الاصطناعي، وتعزيز البحث العلمي، وإطلاق مشروع وطني لتكوين 5 آلاف إطار في مجال الذكاء الاصطناعي وتكوين 100 ألف متخصص في المهن الرقمية ومهن الذكاء الاصطناعي خلال خمس سنوات، إلى جانب إدراج مبادئ الرقمنة والذكاء الاصطناعي في المنظومة التعليمية المغربية.

وسجل التقرير كذلك مقترحات تتعلق بإقرار ميثاق وطني يضمن استخداما أخلاقيا وشفافا ومسؤولا للذكاء الاصطناعي، وإدماج اللغة الأمازيغية في السياسات الرقمية وسياسات الذكاء الاصطناعي، وتحيين قانون حماية المعطيات الشخصية لملاءمته مع التطورات المرتبطة بالحوسبة السحابية والذكاء الاصطناعي.

وفي المقابل، لاحظ المجلس أن تداول موضوع الذكاء الاصطناعي في البرامج والخطابات الانتخابية والمشاركات الإعلامية والصحفية اقتصر على الفرص الممكنة، دون التطرق إلى المخاطر والتحديات المحتملة التي يطرحها التطور المتسارع في قدرات أنظمة الذكاء الاصطناعي، بما في ذلك آثارها المحتملة على المجتمعات والموارد، من استهلاك الماء والكهرباء إلى المناخ وحقوق الإنسان.