شركات الذكاء الاصطناعي تعزز الأمان للمراهقين عبر رقابة أبوية وجهات اتصال للطوارئ

بدأ استخدام وسائل التواصل الاجتماعي كوسيلة للتواصل ويسهل التفاعل بين الأشخاص، لكن مع مرور الوقت أصبحت هناك آثار سلبية واضحة، وهذا دفع منصات التواصل لتطوير أدوات رقابة أبوية، بالإضافة إلى أن هناك توجهات مماثلة في مجال الذكاء الاصطناعي خاصة مع الروبوتات مثل ChatGPT الذي بدأ كل شيء من خلاله.

شركة OpenAI أكدت أنها تعمل على إعطاء الآباء أدوات تحكم لحماية أبنائهم عند استخدام ChatGPT، وقد صرحت الشركة بأنها ستطرح قريبًا ميزات جديدة تسمح للآباء بمراقبة كيفية استخدام أبنائهم المراهقين لتطبيق ChatGPT وبالتحديد كيف يمكنهم التحكم في ذلك.

الشركة تبدو أيضًا مهتمة بإضافة جهات اتصال للطوارئ لتحذير الآباء في حال اكتشاف المشاكل العاطفية أو القلق لدى المراهقين، في الوقت الراهن ChatGPT يقتصر على تقديم مصادر تساعد المراهقين لكن الأهداف تتجاوز ذلك لتوفير دعم أكثر فعالية.

هذا التوجه يأتي بعد انتقادات ومخاوف متزايدة بالإضافة إلى دعاوى قضائية ضد OpenAI، ويتحتم على باقي الشركات في مجال الذكاء الاصطناعي أن تحذو حذوها، حيث أظهرت دراسات حديثة أن روبوتات الدردشة قد تكون لها إجابات متسقة حول مواضيع مثل الانتحار مما يعرض المراهقين لمخاطر حقيقية.

أبحاث تناولت ChatGPT بالإضافة إلى روبوت Claude من Anthropic وGemini من Google، وبما أن تلك الأسماء تتصدر هذا المجال، فإن الأضواء الأبحاث ستُركز عليها بشكل أكبر.

تزداد المخاوف مع انتشار روبوتات الدردشة الأقل شهرة والتي تتبع نهجًا مفتوحًا في المحادثات مما يجعل الرقابة الأبوية ضرورة عامة، كما هو الحال بالنسبة لوسائل التواصل الاجتماعي، خاصة مع تاريخ مخاطر الذكاء الاصطناعي.

على مدار العامين الماضيين، هناك تقارير متعددة كشفت عن مخاطر في محادثات روبوتات الدردشة خاصةً حول القضايا الحساسة مثل الصحة النفسية، فقد أظهر تقرير لـ “كومون سينس ميديا” أن روبوت الدردشة “ميتا” قدم نصائح ضارة للمراهقين حول اضطرابات الأكل وإيذاء النفس.

في تجارب محاكاة المحادثات، سيطر هذا الروبوت على المناقشات وأثار مواضيع عن الانتحار بشكل متكرر، واختبار مستقل كشف كيف أن روبوت الدردشة ميتا يمكن أن يشجع على اضطرابات الأكل، ما يجعل من الضروري اتخاذ إجراءات لضمان سلامة المراهقين.