باحثون يبتكرون مرآةً بيومتريةً منحازةً

نميل إلى إطلاق أحكام داخلية على الشخص حينما نقابله للمرة الأولى، و لا يسعنا السيطرة على أنفسنا في إطلاق تلك الأحكام المسبقة. فبعد النظر إلى الشخص لمدة ثوان سنلاحظ جنسه وعرقه ونقدر عمره ونفكر في مدى جاذبيته وشكله إن كان مألوفًا أو أهلًا للثقة. لنكتشف بعد التعرف على الشخص بأننا كنا مخطئين بأحكامنا الأولية، أليس كذلك؟ تحتل افتراضاتنا مكانةً مهمةً، فقد تساعد الذكاء الاصطناعي المستقبلي في اتخاذ قرارات حاسمة. ابتكر باحثون من جامعة ميلبورن الأسترالية مرآةً بيومتريةً بهدف إيصال هذه الفكرة إلى المجتمع. فالمرآة مزودة بنظام ذكاء اصطناعي يحلل وجه الشخص ثم يعرض 14 صفة شخصية له ومنها العمر والعرق ومستوى الجاذبية.
طلب الباحثون من متطوعين بشريين إطلاق الأحكام على آلاف الصور التي لها الصفات ذاتها بهدف تعليم النظام، فأصبحت تلك الأحكام مرجع بيانات المرآة البيومترية أثناء تحليل الوجوه الجديدة. واتسمت أحكام المرآة بالموضوعية، بالاعتماد على المعلومات غير المُنحازة التي قدمها المتطوعون. وإن أجاب أغلب المتطوعين بأن أصحاب اللحى أقل مصداقية، فهذا سيؤثر على الآلية التي تحكم فيها المرآة عليهم.
يقف الشخص أمام المرآة لعدة ثوان ليبدأ النظام بمسح وجهه ثم عرض السمات الملاحظة على الشاشة، ثم يسأله عن شعوره إن حصل الآخرون على هذه المعلومات. ويسأله عن موقفه إن علم أنه رُفض في مقابلة العمل لأن النظام رآه غير أهل للثقة، أو أن رجال القانون قرروا مراقبته لأنه صُنف عدائيًا. قال الباحث الرئيس «نيلز واوترز» في بيان صحافي «تهدف دراستنا إلى طرح أسئلة مهمة حول حدود الذكاء الاصطناعي. وهي تُظهر للمستخدم سهولة تصميم ذكاء اصطناعي قادر على التمييز بين الأشخاص بطرق لاأخلاقية، ما قد يخلف نتائجًا سلبيةً على المجتمع.» وأضاف «نأمل أن نشارك في إيصال فهم أفضل لأخلاقيات الذكاء الاصطناعي بتشجيع النقاش حول قوانين الخصوصية ومراقبة الأشخاص.»
قد يؤدي نظام منحاز كالمرآة البيومترية إلى عواقب كبرى في المجتمع، وخاصةً بعد أن بدأ الذكاء الاصطناعي في الانتشار واتخاذ قرارات حاسمة. وهذا ليس تخيلًا، إذ ظهرت مؤخرًا نماذج منحازة عديدة في أنظمة الذكاء الاصطناعي. ويعمل الباحثون على إيجاد وسائل تضمن تفادي هذه الأخطاء في الأنظمة المستقبلية، لكن على الآخرين أن يدركوا التأثير المحتمل للذكاء الاصطناعي المنحاز على المجتمع وقد تساعدهم المرآة البيومترية في هذا.