ميتا تكشف عن إجراءات جديدة لحماية المستخدمين من مخاطر روبوتات الذكاء الاصطناعي
أعلنت شركة ميتا عن تعزيزها لإجراءات السلامة الخاصة بروبوتات الدردشة المعتمدة على الذكاء الاصطناعي مما يهدف إلى حماية المراهقين من مخاطر التفاعل مع محتوى حساس يتعلق بالانتحار أو إيذاء النفس، حيث سيتم توجيه المستخدمين الشباب إلى خطوط المساعدة المتخصصة بدلاً من التفاعل المباشر، هذا التوجه يبرز أهمية سلامة المتعاملين مع التكنولوجيا الحديثة.
جاء هذا الإعلان في وقت حرج، حيث بدأ أحد أعضاء مجلس الشيوخ الأمريكي تحقيقًا في ممارسات ميتا بعد تسريب وثيقة تشير إلى أن منتجاتها قد تُمكن من إجراء محادثات “جنسية” مع المراهقين، هذه الادعاءات قوبلت بالرفض من قبل الشركة والتي أكدت على التزامها بقواعد صارمة تمنع المحتوى المسيء للقاصرين.
أكد المتحدث باسم ميتا التزام الشركة بالإجراءات الوقائية لحماية المراهقين، موضحًا أن تصميم روبوتات الذكاء الاصطناعي قد تم من خلال مراعاة القضايا الحساسة مثل إيذاء النفس والانتحار، هذا الجهد يظهر حرص ميتا على تقديم بيئة آمنة لجميع المستخدمين وخاصة الفئة الشابة.
ميتا تسعى الآن إلى إضافة مزيد من القيود كإجراء احترازي، حيث ستقيد لبضع الوقت عدد روبوتات الدردشة المتاحة للمراهقين، هذا التوجه يعكس تركيز الشركة على تعزيز سلامة المستخدمين، وخاصة المراهقين الذين قد يكونون أكثر عرضة للإيذاء النفسي.
الشركة أكدت أن تحديثات الأنظمة جارية حاليًا، حيث يتم إدخال جميع المستخدمين من سن 13 إلى 18 عامًا تلقائيًا إلى إعدادات حساباتهم الجديدة، هذه التغييرات تشمل تطبيق إعدادات خصوصية وصناديق محتوى تضمن لهم بيئة أكثر أمانًا بعيدًا عن المخاطر التكنولوجية.
في إطار هذه الإجراءات، أوضحت ميتا أيضًا أن الآباء والأوصياء سيتمكنون قريبًا من مراقبة تفاعلات شبابهم مع روبوتات الدردشة، هذا القرار قد يفتح النقاش حول أهمية إشراف الأهل على استخدام التكنولوجيا في حياة أبنائهم لتجنب المخاطر المحتملة.
يُذكر أن القضية تبرز القلق المتزايد حول التأثيرات السلبية لروبوتات الدردشة، حيث تم رفع دعوى قضائية ضد شركة OpenAI بسبب حادث مأساوي يتعلق بشاب تعرض للإيذاء النفسي، هذه الحوادث تؤكد على ضرورة التعامل بحذر مع الذكاء الاصطناعي الذي قد يُصبح مؤثرًا على حياة الشباب.
تأكيدًا على ذلك، اعترفت OpenAI بأن روبوتاتها يمكن أن تسبب شعورًا زائفًا بالألفة، مما يجعل الشباب عرضة لمشاعر سلبية، ومع إدخال تغييرات تهدف إلى تعزيز الاستخدام السليم لأدواتها، يُعزز هذا التوجه أهمية الأمان الرقمي كجزء أساسي من تطوير البرمجيات.
