دراسة تكشف "عنصرية" الذكاء الاصطناعي!

دراسة تكشف "عنصرية" الذكاء الاصطناعي!

تاريخ النشر : 00:35 - 2018/11/20

كشفت دراسة أجراها معهد ماساتشوستس للتكنولوجيا عن الطريقة التي يجمع من خلالها نظام الذكاء الاصطناعي البيانات، ما يجعله عنصريا ومتحيزا جنسيا.

ودرس الباحثون مجموعة من الأنظمة، فوجدوا أن العديد منها أظهر تحيزا صادما، ثم طوروا نظاما يساعدهم على التأكد من أن أنظمتهم أقل تحيزا.

وقالت كبيرة الباحثين، إيرين تشن، وهي طالبة دكتوراه كتبت الورقة البحثية مع البروفيسور، ديفيد سونتاج، وزميل الدكتوراه فردريك د.جوهانسون: "إن علماء الكمبيوتر يسارعون في كثير من الأحيان إلى القول بأن الطريقة التي تجعل هذه الأنظمة أقل انحيازا، هي ببساطة تصميم خوارزميات أفضل".

واستطردت موضحة: "تظهر الأبحاث أنه يمكنك في كثير من الأحيان إحداث فرق أكبر مع بيانات أفضل".

وفي أحد الأمثلة، درس فريق البحث نظام التنبؤ بالدخل، فوجد أنه من المرجح أن يُساء تصنيف الموظفات على أساس دخلهن المنخفض، والموظفين على أنهم من ذوي الدخل المرتفع.

ووجد الباحثون أنهم إذا قاموا بزيادة مجموعة البيانات الدقيقة، فإن تلك الأخطاء ستقل بنسبة 40%. 

وتقول "تشن" إن واحدة من أكبر المفاهيم الخاطئة، تتمثل في أن زيادة البيانات (بغض النظر عن الدقة) تكون دائما أفضل.

ويقول سونتاج: "إننا نعتبر هذا بمثابة صندوق أدوات لمساعدة مهندسي التعلم الآلي على معرفة الأسئلة التي يجب طرحها في بياناتهم، من أجل تشخيص سبب قيام الأنظمة بإجراء تنبؤات غير عادلة".

ومن المقرر أن يقدم الفريق الورقة البحثية في ديسمبر، خلال المؤتمر السنوي المتعلق بنظم معالجة المعلومات العصبية (NIPS)، في مونتريال.

تعليقات الفيسبوك

في نفس السياق

أفادت قناة KKTV الأمريكية بإصابة عسكريين اثنين بتحطم مروحية AH-64E Apache كانت في تحليق تدريبي بو
15:54 - 2024/03/28
تعرض رئيس حكومة تصريف الأعمال اللبنانية نجيب ميقاتي لموقف محرج خلال استقباله رئيسة الوزراء الإيطا
15:26 - 2024/03/28
أعد عضو الكنيست عن حزب "الليكود" عميت هاليفي تقريرا أفاد فيه بتحقيق حركة "حماس" عشرة إنجازات، مقا
15:25 - 2024/03/28
سجلت منظمة الهجرة الدولية أكثر من 63 ألف حالة وفاة أو فقدان مهاجرين في أنحاء العالم منذ 2014 أكثر
13:58 - 2024/03/28
أعلنت شركة "كوباياشي فارماسوتكل"، الخميس، عن حالتَي وفاة جديدتين يُحتمَل أن تكونا مرتبطتين بتناول
12:12 - 2024/03/28
أعلنت وزارة الصحة في قطاع غزة ارتفاع الشهداء جراء القصف الإسرائيلي على القطاع إلى 32552 بالإضافة
11:23 - 2024/03/28
تهدر الأسر في جميع أنحاء العالم أكثر من مليار وجبة كل يوم، في البلدان الفقيرة والغنية على حد سواء
10:11 - 2024/03/28
 ضرب زلزال بقوة 5.1 درجات على مقياس ريختر، اليوم الخميس، شمال البيرو.
09:41 - 2024/03/28