منظمة أميركية تصنّف "Gemini" من غوغل عالي الخطورة على الأطفال والمراهقين
أصدرت منظمة "كومون سينس ميديا"، المتخصصة في سلامة الأطفال والتكنولوجيا، تقريراً جديداً صنّف فيه منتج الذكاء الاصطناعي Gemini من غوغل بأنه "عالي الخطورة" على الأطفال والمراهقين، معتبرة أن تصميمه الحالي لا يلبي احتياجات هذه الفئة العمرية الحساسة.
وأظهر تحليل المنظمة أن Gemini قد يشارك مع المستخدمين الصغار محتويات غير مناسبة أو غير آمنة مثل معلومات متعلقة بالجنس، المخدرات، والكحول، إضافة إلى نصائح قد تكون مضرة بالصحة العقلية. وتكتسب هذه المخاوف أهمية خاصة في ظل تقارير سابقة ربطت بين منتجات ذكاء اصطناعي وحالات انتحار لمراهقين، ما أدى إلى رفع دعاوى قضائية ضد شركات مثل OpenAI وCharacter.AI.
وأكدت المنظمة أن النسخ الموجهة للأطفال والمراهقين من Gemini تبدو وكأنها مجرد إصدارات مخففة من النسخة المخصصة للبالغين مع تعديلات أمنية بسيطة، وهو نهج وصِف بأنه "غير مناسب"، لأن الذكاء الاصطناعي الموجه للشباب يجب أن يراعي مراحلهم التنموية المختلفة بشكل خاص.
من جانبها، رفضت غوغل هذا التقييم، مشيرة إلى أنها تطبق سياسات حماية خاصة لمن هم دون 18 عاماً، وتعمل بالتعاون مع خبراء خارجيين وفِرق متخصصة لتعزيز إجراءات الأمان. وأقرت الشركة في الوقت نفسه بوجود بعض الثغرات في استجابات Gemini، وأعلنت عن إضافة طبقات حماية إضافية لمعالجة هذه المخاوف.
