Character.AI تمنع القاصرين من الدردشات المفتوحة وتطلق مختبراً لأمان الذكاء الاصطناعي
استجابت شركة Character.AI المطورة لمنصة الدردشة الشهيرة بالذكاء الاصطناعي للضغوط التنظيمية والاجتماعية المتزايدة، وأعلنت عن تغييرات جذرية في سياساتها تهدف إلى حماية المستخدمين القاصرين من التفاعلات غير المقيدة مع روبوتات المحادثة.
وقالت الشركة في بيان رسمي إنها ستمنع المستخدمين دون سن 18 عاماً من الانخراط في أي محادثات مفتوحة النهاية ("open-ended chats")، وهي المحادثات الحرة بين المستخدم والروبوت، موضحة أن هذه الخطوة ستدخل حيز التنفيذ الكامل في 25 نوفمبر (تشرين الثاني) المقبل.
وخلال الفترة الانتقالية، سيُسمح للمستخدمين القاصرين بخوض تجربة جديدة موجهة نحو الإبداع، مثل إنشاء مقاطع الفيديو أو البثوث التفاعلية، بدلاً من بناء علاقات اجتماعية أو عاطفية مع الروبوتات. كما سيتم تقييد وقت الاستخدام اليومي بساعتين فقط، على أن يتم تقليص هذا الحد تدريجياً حتى تطبيق القرار النهائي.
ولتأمين هذه المرحلة، كشفت Character.AI عن أداة جديدة للتحقق من العمر مطورة داخلياً، إلى جانب تأسيس "مختبر Character.AI لسلامة الذكاء الاصطناعي"، الذي سيوفر منصة للتعاون بين الشركات والباحثين والأكاديميين بهدف تطوير معايير حماية المستخدمين وتحسين أمان الأنظمة الذكية.
ويأتي هذا القرار بعد فتح لجنة التجارة الفيدرالية الأمريكية (FTC) تحقيقاً رسمياً في شركات الذكاء الاصطناعي التي تقدم روبوتات دردشة تُسوّق كـ"رفقاء"، ومن بينها Character.AI إلى جانب شركات كبرى مثل Meta وOpenAI وSnap.
وأوضح الرئيس التنفيذي للشركة كارانديب أناند أن الاستراتيجية الجديدة تهدف إلى تحويل المنصة من "رفيق ذكاء اصطناعي" إلى "منصة لعب أدوار تفاعلية" تركز على الإبداع بدلاً من المحادثات الاجتماعية المفتوحة.
