أوبن إيه آي تشدد قيود معلومات الأسلحة للمراهقين في تشات جي بي تي للحد من العنف

أعلنت شركة أوبن إيه آي، المطورة لروبوت الدردشة تشات جي بي تي، عن اتخاذها سلسلة من الإجراءات الجديدة التي تهدف إلى تقليل مخاطر العنف الناتجة عن توفير معلومات متعلقة بالأسلحة لدرجة أن تكون خطيرة، خاصة بين فئة المراهقين. وقالت الشركة في بيان أصدرته الجمعة إنها ستفرض قيوداً أكثر صرامة على توفير هذه المعلومات العملية التي قد تؤدي إلى إساءة استخدامها لأغراض عنيفة، حتى في حال عدم ظهور نية واضحة أو أسئلة تبدو غير ضارة من المستخدم.

وتشمل هذه الإجراءات القدرة على إنهاء المحادثات تلقائياً عند الاشتباه في أن المستخدم يعبّر عن انشغال بالعنف أو نية إيذاء جسيمة لشخص آخر، إلى جانب إمكانية تعليق الحسابات مؤقتاً بعد تكرار هذه الحالات. كما ستقلل أوبن إيه آي من مستوى التفاصيل التي تعرضها تشات جي بي تي عن الهجمات الجماعية السابقة، كنوع الأسلحة والمعدات وطرق الحصول عليها، لمنع إعادة تنفيذ تلك الهجمات أو تضخيم شهرة المنفذين، مع الحفاظ على توفير معلومات تساعد على فهم آثار هذه الحوادث وسبل الوقاية.

وقد عززت الشركة من نظام التنبؤ بالعمر الذي يستخدم مؤشرات متعددة لتقدير ما إذا كان المستخدم دون 18 عاماً، لتحويل القاصرين إلى إصدار مخصص من تشات جي بي تي يخضع لضوابط أكثر صرامة. كما ستوسع إشعارات أولياء الأمور لتضم حالات تعليق حسابات أبنائهم المؤقت بسبب المحادثات المتعلقة بالعنف. ومن المتوقع أن تبدأ أوبن إيه آي بتنفيذ هذه الإجراءات خلال الأسابيع المقبلة مع تعهد بمواصلة تطويرها.

هذه الخطوات تأتي في إطار تصاعد الرقابة على شركات الذكاء الاصطناعي حيال سلامة المستخدمين، خصوصاً المراهقين، عقب تقارير وأبحاث أظهرت استخدامات قد تحمل مخاطر نفسية وجسدية لأقل من 18 عاماً أثناء تعاملهم مع روبوتات الدردشة.

وتخطط أوبن إيه آي لإصدار أول تقرير عن السلامة المجتمعية في مطلع عام 2027 يغطي النصف الثاني من 2026، مع تحديثات نصف سنوية لاحقة، لتعزيز الشفافية في مواجهة قضايا السلامة والتأثير المجتمعي لتقنياتها.