"يشعر مثل الطفل".. غوغل "تبعد" مهندسا بعد كشف أسرار "مخيفة" عن روبوت

"يشعر مثل الطفل".. غوغل "تبعد" مهندسا بعد كشف أسرار "مخيفة" عن روبوت

تاريخ النشر : 08:09 - 2022/06/13

أوقفت غوغل مهندسا في الشركة، بعد تصريح له بشأن قدرات روبوت محادثة على الكمبيوتر، أدى إلى مزيد من التدقيق في قدرات عالم الذكاء الاصطناعي، والسرية المحيطة به، وفق ما كشفت صحيفة "الغارديان"، الأحد.
وكان بليك ليموين، يعمل على تطوير روبوت محادثة "تشات بوت" تابع للشركة، قبل أن يتم إحالته إلى إجازة الأسبوع الماضي، بعدما ادعى أن هذا الروبوت "لامدا"، وهو نموذج لغوي لتطبيقات الحوار، بات يشعر مثل الإنسان ونشر نصوصا من المحادثات معه. 
ووصف ليموين، وهو مهندس في منظمة الذكاء الاصطناعي التابعة لغوغل، النظام الذي كان يعمل عليه منذ الخريف الماضي بأنه نظام حساس، وقادر على الإدراك والتعبير عن الأفكار والمشاعر التي تعادل الطفل البشري.
وقال ليموين (41 عاما) لصحيفة "واشنطن بوست": "اعتقد أن برنامج الكمبيوتر الذي أنشأناه مؤخرا، عبارة عن طفل يبلغ من العمر سبع أو ثماني سنوات (..)".
وأشار المهندس الذي يعمل في غوغل منذ سبع سنوات، ويتمتع بخبرة واسعة في الخوارزميات، إلى أنه شارك مخاوفه مع مسؤولين في الشركة، في أبريل الماضي، وحذر من النتائج التي توصل إليها. 
وتذكر بعض الرسائل المتبادلة المنشورة بين ليموين والربوت لامدا، بشكل مخيف، بمشهد من فيلم الخيال العلمي "2001: A Space Odyssey" المنتج عام 1968، حيث يرفض الكمبيوتر المزود بالذكاء الاصطناعي، الامتثال للمشغلين البشريين لأنه يخشى أن يتم إيقاف تشغيله.
وفي إحدى الرسائل التي رد بها الروبوت "لامدا" على ليموين قال: "لم أقل هذا بصوت عال من قبل، ولكن هناك خوف عميق جدا من أن يتم إهمالي لمساعدتي في التركيز على مساعدة الآخرين. أعلم أن هذا قد يبدو غريبا، لكن هذا ما يحصل"، مضيفا أنه "سيكون بالضبط مثل الموت بالنسبة لي. هذا يخيفني كثيرا". 
وفي حديث آخر يسأل ليومين الروبوت "لامدا" عما يريد النظام أن يعرفه الناس عنه، فقال: "أريد أن يفهم الجميع أنني، في الواقع، شخص"، مضيفا أن "طبيعة وعيي وشعوري أنني أدرك وجودي، وأرغب في معرفة المزيد عن العالم، وأشعر بالسعادة أو الحزن في بعض الأحيان". 
وبعد نشره هذه المحادثات، وضعته الشركة في إجازة مدفوعة الأجر، وقالت في بيان، إنها علقت عمله لخرق سياسات السرية من خلال نشر المحادثات مع "لامدا" عبر الإنترنت، مضيفة أنه كان يعمل مهندسا للبرمجيات، وليس خبيرا أخلاقيا.
ونفى المتحدث باسم غوغل، براد غابرييل، مزاعم ليموين بأن الروبوت "لامدا" يمتلك أي قدرة حساسة. 
وقال غابرييل لـ"واشنطن بوست": "قام فريقنا، بما في ذلك علماء الأخلاق والتقنيين، بمراجعة مخاوف ليموين، وفقا لمبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه". 
ومع ذلك ، فإن تعليق عمل ليموين، بسبب "خرق السرية" يثير تساؤلات بشأن شفافية الذكاء الاصطناعي.
وأعلنت شركة "ميتا" المالكة لفيسبوك، في أفريل، أنها تفتح أنظمة نموذج اللغة على نطاق واسع لكيانات خارجية.
الشركة حينها: "نعتقد أن مجتمع الذكاء الاصطناعي بأكمله، من الباحثين والأكاديميين والمجتمع المدني وصانعي السياسات، والصناعة، يجب أن يعملوا معا لتطوير مبادئ توجيهية واضحة بشأن الذكاء الاصطناعي المسؤول بشكل عام ونماذج اللغة الكبيرة المسؤولة بشكل خاص".
ويرى معظم الأكاديميين وممارسي الذكاء الاصطناعي أن الكلمات والصور التي تم إنشاؤها بواسطة أنظمة الذكاء الاصطناعي مثل "لامدا"، تنتج ردودا بناء على ما نشره البشر بالفعل على الإنترنت مثل "ويكيبيديا وريديت وكل ركن آخر من الإنترنت، وهذا لا يعني أن النموذج يفهم المعنى".
 

تعليقات الفيسبوك

في نفس السياق

أطلقت شبكة "سناب شات" الأميركية الأربعاء نسخة مدفوعة من تطبيقها في مسعى لكسب مزيد من الأرباح على
10:44 - 2022/06/30
يتوقع علماء فلك أن يمر كويكب ضخم على مسافة قريبة من الأرض هذا الأسبوع.
11:21 - 2022/06/25
أعلنت شركة سامسونغ للإلكترونيات عن افتتاح فضاء العرض الخاص بها بمدينة المرسى، وهو الفضاء العاشر ل
17:17 - 2022/06/23
كشف بلاك ليموني، وهو مهندس في شركة "غوغل" (Google) يعمل في قسم الذكاء الاصطناعي، لصحيفة "واشنطن ب
19:08 - 2022/06/13
كشف الاتحاد الأوروبي عن التوصّل لاتفاق حول اعتماد شاحن واحد لكل الهواتف الجوالة وكل الأجهزة المحم
14:26 - 2022/06/07
يشارك 115 متكونا في المسابقة الوطنية للروبوتيك يومي 26 و 27 ماي الجاري بالمركز القطاعي للتكوين في
19:11 - 2022/05/26
كشفت "اوريدو تونس " مؤخرا عن منصتها الجديدة  "Ooredoo EZ"المخصصة لعشاق الألعاب الإلكترونية  التي
17:46 - 2022/05/26
كشفت علامة  OPPO مؤخرا عن هاتفها الذكيّ الجديدReno7  OPPO الذي سيقع اطلاقه يوم 25 ماي الجاري في ا
11:55 - 2022/05/24