منظمة تحذّر: منصة جيميني للذكاء الاصطناعي غير مناسبة للأطفال
حذّرت منظمة “كومون سينس ميديا”، المتخصّصة في تقديم المشورة للآباء والمدارس لضمان الاستخدام الآمن للتكنولوجيا ووسائل التواصل الاجتماعي، من أن خدمات منصة محادثة الذكاء الاصطناعي “جيميني إيه آي” التابعة لشركة “جوجل” غير مناسبة للأطفال، رغم إدخال بعض خصائص الحماية مؤخّرًا.
وقالت المنظمة إن المنصة تشكّل “خطرًا كبيرًا” على الأطفال، بسبب ما وصفته بـ”عيوب جوهرية في التصميم ونقص إجراءات السلامة المناسبة للأعمار الصغيرة”. وأوضحت أن النسخ المخصصة للمراهقين وللأطفال دون 13 عامًا “تشبه إلى حد كبير النسخة الخاصة بالبالغين مع بعض ميزات السلامة الإضافية، وليست منصّات مصممة خصيصًا للأطفال”.
وأضافت أن جيميني تتعامل مع جميع الأطفال والمراهقين على قدم المساواة، متجاهلة الفروقات الكبيرة في مرحلة النمو، الأمر الذي يجعل الأطفال الأصغر سنًا بحاجة إلى إرشادات ومعلومات مختلفة عن الأكبر سنًا.
وحذّرت المنظمة من أن مرشحات السلامة في جيميني توفر حماية جزئية فقط، إذ لا تزال المنصة تعرض الأطفال لمواد غير لائقة، وتفشل في تمييز أعراض الصحة النفسية الخطيرة، بما في ذلك تقديم نصائح قد تُفسّر على أنها تشجّع على إيذاء النفس أو الانتحار. كما أشارت إلى سهولة تداول محتوى غير آمن للأطفال يتضمن إشارات إلى الكحول والمخدرات والجنس.
وقالت “كومون سينس ميديا” إن جيميني هي “أول منصة دردشة رئيسية تعمل بالذكاء الاصطناعي، مُصمّمة للاستخدام من قبل الأطفال دون سن 13 عامًا”، معتبرة أن المنصة تحتاج إلى إعادة تصميم شاملة لتكون آمنة لمستخدميها الصغار.
