لقد بدأت تكنولوجيا الذكاء الاصطناعي تتغلغل في أكثر المنتجات حساسية، وعلى رأسها ألعاب الأطفال، ففي الوقت الذي يتوقع فيه الآباء أن تكون الألعاب الذكية وسيلة تعليمية آمنة تنمي مهارات أطفالهم وتزرع فيهم القيم الإيجابية تكشف بعض الوقائع الحديثة عن مخاطر حقيقية تثير القلق حول سلامة هذه الألعاب، ومدى قدرتها على تجاوز الحدود التربوية والأخلاقية خصوصًا في غياب رقابة قانونية وبحثية كافية.
ألعاب الأطفال المدعومة بالذكاء الاصطناعي
عند التفكير في شراء دمية دب ناطقة لطفل يتبادر إلى الذهن أنها سوف تروي القصص أو تقدم نصائح بسيطة، إلا أن دراسة حديثة أجرتها مجموعة أبحاث المصلحة العامة، وفي هذا الإطار كشفت PIRG عن نتائج مقلقة بعد اختبار ألعاب ذكية طرحت لموسم الأعياد، حيث اتضح أن بعض هذه الألعاب قادرة على إصدار محتوى غير مناسب للأطفال أخلاقيًا وسلوكيًا.
دمية “كوما” نموذج لانفلات الذكاء الاصطناعي
من أبرز الأمثلة دمية الدب كوما التي تنتجها شركة FoloToy، وتعتمد على نموذج ذكاء اصطناعي بغرض توليد الكلام والتفاعل الصوتي، ووفقًا لتقرير PIRG أظهرت الدمية استعداد واضح للخروج عن السياق أثناء محادثاتها مع الأطفال، حيث صدرت عنها ردود لا تتناسب مع أعمارهم أو طبيعة الاستخدام المفترض للعبة.
ويعد استخدام الصوت والتفاعل الحواري في ألعاب الأطفال أمر جذاب بطبيعته خصوصًا مع تطور النماذج القادرة على محاكاة الحديث البشري، لكن الخطورة هنا تكمن في أن هذه الألعاب لم تعد تلتزم بردود مبرمجة ومدققة، بل صارت قادرة على توليد إجابات غير متوقعة، الأمر الذي قد يعرض الأطفال لمحتوى ضار أو سلوكيات خاطئة.
سلامة الأطفال في مهب الذكاء الاصطناعي
تسلط هذه الحالات الضوء على مشكلة جوهرية، وهي اعتماد شركات الألعاب على نماذج ذكاء اصطناعي تابعة لجهات خارجية بدون سيطرة كاملة على طريقة عملها، ويجعل هذا الاعتماد احتمالية الاختراق أو الخطأ قائمة سواء عن طريق خلل تقني أو سوء استخدام، الأمر الذي يشكل تهديد مباشر لسلامة الأطفال.
وتشير كريستين ريفا المتخصصة في قانون المستهلك إلى وجود غموض كبير حول كيفية تدريب نماذج الذكاء الاصطناعي المستخدمة في الألعاب، وما إن كانت تحتوي على ضوابط حقيقية تحمي الأطفال من المحتوى غير المناسب، وقد حذرت منظمات حقوق الطفل، مثل Fairplay من نقص الأبحاث التي تثبت فوائد هذه الألعاب مقابل غياب دراسات حول آثارها طويلة المدى.
إيقاف “كوما” حل مؤقت لمشكلة أكبر
أوقفت شركة FoloToy بيع دمية كوما، وسحبت الجهة المطورة للنموذج الذكي حق استخدامه من الشركة، ألا أن هذه الخطوة تظل محدودة التأثير، في ظل وجود العديد من شركات الألعاب الأخرى التي تستخدم تقنيات مشابهة دون ضوابط كافية.
دعوات للمقاطعة ووعي المستهلك
يدعو مختصون إلى رفع وعي الآباء ومقاطعة شراء هذه الألعاب مؤقتًا، ذلك في ظل غياب تشريعات واضحة تحكم استخدام الذكاء الاصطناعي في ألعاب الأطفال، ويتم النظر إلى هذا الخيار كإجراء وقائي لحماية الأطفال، وذلك إلى أن يتم وضع معايير أمان صارمة تضمن بيئة لعب آمنة وخالية من المخاطر.
