يمكن تطوير الروبوتات منظمة العفو الدولية المساس بمفردها؟

Sep 07, 2018 ترك رسالة

يظهر التحيز تجاه الآخرين لا تتطلب مستوى عاليا من القدرة المعرفية، ويمكن بسهولة أن تعرض بواسطة آلات ذكية اصطناعياً، قد اقترح بحث جديد.

وقد أظهرت خبراء علم النفس وعلوم الكمبيوتر من معهد ماساتشوستس للتكنولوجيا وجامعة كارديف أن مجموعات من آلات ذاتية الحكم يمكن أن تثبت المساس ببساطة تحديد ونسخ وتعلم هذا السلوك من بعضها البعض.

قد يبدو أن التحيز هو ظاهرة خاصة بالإنسان يتطلب الإدراك البشري لتكوين رأي من، أو للصورة النمطية، شخص أو مجموعة معينة.

على الرغم من أن بعض أنواع خوارزميات الكمبيوتر أظهرت الفعل المساس، مثل العنصرية والتحيز الجنسي، تستند إلى التعلم من السجلات العامة وغير ذلك من البيانات التي تم إنشاؤها بواسطة البشر، يوضح هذا العمل الجديد إمكانية منظمة العفو الدولية تتطور مجموعات تضر بنفسها .

النتائج الجديدة التي نشرت في مجلة "تقارير علمية"، تستند على الكمبيوتر المحاكاة من يضار وبالمثل كيف يمكن للأفراد، أو وكلاء الظاهري، تشكيل فريق وتتفاعل مع بعضها البعض.

شارك في تأليف الدراسة البروفيسور روجر ويتاكر، من الجريمة جامعة كارديف ومعهد بحوث الأمن وكلية علوم الحاسوب والمعلوماتية، وقال: "نبدأ بتشغيل المحاكاة هذه الآلاف والآلاف من مرات أكثر، للحصول على فهم كيف تتطور التحيز والظروف التي تعزز أو تعرقل ذلك.

"لدينا المحاكاة تبين أن المساس قوة قوية من الطبيعة ومن خلال التطور، يمكن أن تصبح بسهولة تحفيز السكان الظاهري، مما يضر بتوسيع نطاق الاتصال مع الآخرين. الحماية من مجموعات تضر يمكن أن يؤدي عن غير قصد إلى الأفراد تشكيل كذلك مجموعات الضارة، أسفر عن عدد سكان مكسور. هذا التحيز على نطاق واسع من الصعب عكس اتجاه. "

وكان استنتاج أخرى مثيرة لاهتمام من الدراسة أنه تحت ظروف خاصة، والتي تشمل متميزة أكثر الفئات السكانية الفرعية موجودة ضمن مجموعة من سكان، كان من الصعب أكثر للمساس باتخاذ إجراء.

"مع عدد أكبر من الفئات السكانية الفرعية، يمكن أن تتعاون تحالفات مجموعات غير الضارة دون استغلال. وهذا يقلل أيضا وضعهم كأقلية، والحد من قابلية للمساس باتخاذ إجراء. ومع ذلك، يتطلب هذا أيضا الظروف التي يكون فيها وكلاء التصرف أعلى نحو التفاعل خارج مجموعتهم، "اختتمت ويتيكر الأستاذ.

Could AI robots develop prejudice on their own?