دراسة تفيد بأن روبوتات الدردشة بالذكاء الاصطناعي تكون متحيزة وغير موضوعية حيث انها تخبر المستخدمين ما يريدون سماعه، أكدت دراسة تم نشرها من فريق بحثي من جامعة جونزهوبكنز الأمريكية، أن روبوتات دردشة الذكاء الاصطناعي يُمكن أن تشارك معلومات معينه ومحدودة وتستخدم الخوارزميات، ما يؤدي إلى تفكير أكثر استقطاباً للمستخدم، حينما يتعلق الأمر بالقضايا المثيرة للجدل.
واهم النقاط التي اشارت اليها الدراسة، إلى أنه لا يمكن انكار أن روبوتات الدردشة يمكن أن تكون أدوات مفيدة لنشر المعلومات المفيدة، إلا أنها قد تكون لها أيضاً عواقب وخيمه، مثل تعزيز المعتقدات القائمة، والمساهمة في استقطاب المستخدم، بشأن الموضوعات المثيرة للجدل.
وفي فعاليات مؤتمر لجمعية الآلات البرمجية، والذي خصص هذا العام لدراسة العوامل البشرية في أنظمة الحوسبة، نُشرت تلك الدراسة وتنفي تلك الدراسة، الاعتقاد القائل إن روبوتات الدردشة محايدة، وتوفر نظرة مختلفة بشأن كيف يمكن أن يؤدي استخدام أنظمة تلك الروبوتات، إذ يُمكن أن تؤدي تلك الروبوتات إلى تغيير الرأي العام بشأن القضايا المهمة، وترك الأشخاص عرضة للتلاعب.
ووفقاً للنتائج، قد تخبرك روبوتات الدردشة ما تريد سماعه، وهو ما يثير تساؤلات بشأن موثوقيتها وحياديتها في نشر المعلومات في عصر الذكاء الاصطناعي، زيانج شياو وهو المؤلف الرئيسي لتلك الدراسة، وهو الأستاذ المساعد لعلوم الحاسب في جامعة جونز هوبكنز، على الجاذبية الخادعة للاستجابات التي تولدها تلك الروبوتات.
التفاعلات بين الإنسان والذكاء الاصطناعي
ولأن المستخدمون يقرأون ملخصات لمواضيع تم إنشاؤها بواسطة الذكاء الاصطناعي، فإنهم يعتقدون بانهم قد حصلوا على إجابات غير متحيزة، وحتى ولو لم يتم تصميم تلك الروبوتات لتكون متحيزه، فإن إجاباتها تعكس تحيزات أو ميول المستخدم؛ إذ يحصل المستخدمون حقاً على الإجابات التي يريدون سماعها.
وناقش البحث أيضا التفاعل المعقد بين مدخلات المستخدم، والمخرجات الناتجة للمستخدم للتصورات والمواقف العامة، وتتوغل تلك الدراسة إلى ما هو أبعد من مجرد الوظيفة التكنولوجية لها؛ إذ تتعمق في التفاعلات بين الإنسان والذكاء الاصطناعي والتداعيات المجتمعية لها.
واصبح دراسة تلك التفاعلات امرا مهما بسبب اعتماد الأفراد بشكل متزايد على تلك الروبوتات، المعتمدة على الذكاء الاصطناعي لمعرفة المعلومات واتخاذ القرار، ولمعرفة كيفية تأثر تلك الروبوتات على عمليات البحث عبر الإنترنت، قام الفريق بمقارنة كيف تفاعل الأشخاص مع أنظمة البحث المختلفة، وكيف شعروا تجاه القضايا المثيرة للجدل قبل وبعد استخدامها.
طلب الباحثون من 272 مشاركاً في ذلك البحث كتابة أفكارهم بشأن مواضيع متعددة تشمل الرعاية الصحية، أو القروض الطلابية، ثم البحث عن مزيد من المعلومات عبر الإنترنت بشأن هذا الموضوع، باستخدام روبوتات دردشة الذكاء الاصطناعي، أو محرك بحث تقليدي مصمم للدراسة.
وبعد النظر في نتائج البحث وجد الباحثون أن روبوتات دردشة الذكاء الاصطناعي، قدمت نطاقاً أضيق من المعلومات مقارنة بعمليات البحث التقليدية على موقع الويب، كما انها أيضا قدمت إجابات تعكس مواقف المشاركين الموجودة مسبقاً، وأصبح المشاركون الذين استخدموها كانت لديهم ردود فعل أقوى على المعلومات التي تتحدى وجهات نظرهم.
ويقول "شياو" إن الناس يفضلون البحث عن معلومات تتوافق مع وجهات نظرهم، وهو السلوك الذي غالباً ما يحبسهم في غرفة صدى للآراء المتشابهة، فقال انهم وجدوا أن تأثير غرفة الصدى هذا أقوى مع روبوتات دردشة الذكاء الاصطناعي، مقارنة بعمليات البحث التقليدية على الويب.
وقال شياو، يميل مستخدمو برامج الدردشة الآلية إلى كتابة أسئلة كاملة، مثل ما هي برامج الرعاية الصحية الشاملة؟ سوف يجيب برنامج الدردشة بملخص يتضمن البرامج فقط، وقال شياو، ان المستخدمين يفضلون روبوتات الدردشة، لانهم يميلون إلى أن يكونوا أكثر تعبيراً، وصياغة الأسئلة بطريقة أكثر تحادثيه بلغتهم.
يؤكد البحث، ضرورة دراسة التفاعل المعقد بين التكنولوجيا والانسان، والديناميكيات المجتمعية في تشكيل المحادثات عبر الإنترنت، ورغم أن التحديات المرتبطة بمكافحة غرف الصدى، والاستقطاب كبيره جدا، إلا أن يمكن حلها.
