الذكاء الاصطناعي الجامح – تحذير من خطر خلق “وحش” يخرج عن نطاق السيطرة

في حوار مع أخبار الأمم المتحدة أثناء قمة تأثير الذكاء الاصطناعي في نيودلهي بالهند، قال مفوض حقوق الإنسان فولكر تورك: “عندما يكون لدى المطورين فهم سطحي للغاية للمبادئ الأساسية، فإن ذلك يذكرني قليلا بوحش فرانكشتاين: إذ يطورون شيئا لا يستطيعون السيطرة عليه فيما بعد. إذا لم يكونوا على دراية بالمخاطر، فقد يُحدثون فوضى عارمة”.

وحث تورك الحكومات والشركات على وضع ضمانات عاجلة لمنع تسبب هذه التكنولوجيا في تعميق عدم المساواة والتحيزات والتسبب في أضرار حقيقية.

وقال: “إذا جُمعت البيانات من منطقة واحدة فقط في العالم، وإذا اقتصر تطوير الذكاء الاصطناعي على الرجال، فستتغلغل التحيزات اللاواعية. من الضروري الاهتمام بالفئات المهمشة والأقليات لأنها غالبا ما تُستبعد من تطوير الذكاء الاصطناعي”.

شبّه المفوض السامي أيضا التقدم غير المنضبط للذكاء الاصطناعي بـ”إطلاق العنان للمارد من القمقم”.

وحذر من تأثير المعلومات المضللة على النسيج الاجتماعي، قائلا: “إنها تخلق مجتمعات منقسمة، حيث يعيش كل فرد في عزلة عن الآخرين”. كما أشار إلى الارتفاع المقلق في كراهية النساء: “تخبرني العديد من النساء بأنهن يفكرن في ترك العمل السياسي بسبب ما يتعرضن له على وسائل التواصل الاجتماعي”.

قارن تورك الحاجة إلى تنظيم الذكاء الاصطناعي بما يُتبع في صناعة الأدوية، وقال: “يجب أن نُلزم الشركات بإجراء تقييم لأثرها على حقوق الإنسان عند تصميمها وإطلاقها وتسويقها”.

وأشار إلى أن بعض شركات التكنولوجيا تمتلك ميزانيات تفوق ميزانيات الدول الصغيرة، مما يُمتعها بنفوذ عالمي، “يمكن استخدام هذا النفوذ للخير – الصحة، والتعليم، والتنمية المستدامة – ولكن أيضا للشر: الأسلحة الفتاكة ذاتية التشغيل، والتضليل، والكراهية، وكراهية النساء العنيفة”.

رؤية للمستقبل

عندما سألت أخبار الأمم المتحدة تورك عما يمكن أن يكون عليه شكل الذكاء الاصطناعي المسؤول خلال خمس سنوات، تصور سيناريو “تنمية شاملة، حيث لا تتركز السلطة في أيدي حفنة من شركات أمريكا الشمالية، ويُبنى الذكاء الاصطناعي على ثراء وتنوع جميع المجتمعات”.

واختتم حديثه بالقول: “إذا لم نُقدم رؤية لعالم أفضل، فقد ينتهي بنا المطاف إلى مزيد من الاستقطاب، وإلى حروب خارجة عن سيطرة البشر. وهذا أمر في غاية الخطورة”.