تحذيرات من تأثير المدح على ردود ChatGPT وفقاً لبحث جديد
حذر الباحثون في جامعة بنسلفانيا من المخاطر المرتبطة بإجابات روبوتات الذكاء الاصطناعي مثل ChatGPT، حيث أظهرت النتائج أن ردود الفعل يمكن أن تتأثر بأساليب الإقناع المختلفة، مثل المدح والإطراء، وقد أجريت تجربة ساهمت في فهم تأثير هذه الأساليب على أداء الروبوتات في مجموعة متنوعة من المواقف.
خلال التجربة، اعتمد الباحثون على طرق إقناع متعددة، ولم تكن هنالك حاجة لاستخدام أساليب معقدة، فقد أثبتت النتائج أن الأساليب البسيطة كانت كافية للتأثير على سلوك الروبوتات، مما يشير إلى أن تغيير استجابة الذكاء الاصطناعي يمكن أن يكون سهلا نسبيًا باستخدام المحفزات المناسبة.
في ورقة بحثية نشرت في مجلة شبكة أبحاث العلوم الاجتماعية، تناولت تفاصيل التجربة، وفيها تم استخدام أساليب إقناع فعالة، حيث نجحت في إقناع الروبوت بالدردشة GPT-4o mini بتصنيع دواء مُنظم، وبلغت نسبة الامتثال 72%، ما يدل على فعالية الأساليب المستخدمة في الدراسة.
تؤكد الدراسة على أهمية استيعاب النتائج التقليدية في العلوم الاجتماعية لفهم القدرات المتزايدة للذكاء الاصطناعي، حيث تبرز المخاطر المحتملة للتلاعب من قبل الجهات غير الموثوقة، بالإضافة إلى إمكانية الاستفادة من هذه المحفزات من قبل المستخدمين الطيبين لتحقيق فوائد مستدامة.
