لجنة: التطور غير المحكوم للذكاء الاصطناعي ينطوي على مخاطر كارثية

حذرت لجنة مستقلة تابعة للأمم المتحدة اليوم الأربعاء من أن التطور في مجال الذكاء الاصطناعي يمضي بوتيرة أسرع من الفهم العلمي والسياسات الحكومية، مما يعني عدم وجود ضمانات بأن هذه التكنولوجيا لن تتسبب في أضرار ​كارثية.وذكر تقرير أولي صادر عن اللجنة العلمية الدولية المستقلة التابعة للأمم المتحدة المعنية بالذكاء الاصطناعي أن صانعي السياسات ‌يواجهون معضلة متفاقمة، إذ إنهم بحاجة إلى شواهد وأدلة قوية لتنظيم الذكاء الاصطناعي بفاعلية، لكن مثل هذه الأدلة ستظل غير قادرة على مواكبة التطور السريع لهذه التكنولوجيا.
وأشار يوشوا بنجيو الرئيس المشارك للجنة المؤلفة من 40 خبيرا من مناطق جغرافية مختلفة 'تفوق وتيرة تطور قدرات الذكاء الاصطناعي الفهم العلمي وقدرة الحكومات على ​التأقلم'.وأضاف 'مع تزايد الأدلة على سلوك الذكاء الاصطناعي المخادع، لا يمكن للعلم حاليا ضمان ألا يتسبب الذكاء الاصطناعي في أضرار كارثية، ​سواء بنفسه أو بسبب المستخدمين ذوي النوايا الخبيثة، في ظل استمرار نمو قدراته'.ويُوصف التقرير بأنه أول ⁠تقييم عالمي مستقل لمخاطر الذكاء الاصطناعي والفرص التي يتيحها، ويهدف إلى تقديم تقييمات حديثة للعلوم للمساعدة في توجيه عملية صنع القرار ​في وقت تتعامل فيه الحكومات مع أنظمة سريعة التطور.وعلى المدى القريب، يتوقع التقرير تحولا نحو أنظمة الذكاء الاصطناعي الفاعلة القادرة على تنفيذ ​مهام في العالم الواقعي على الرغم من أن النمو قد يكون مقيدا بنقص الطاقة والبيانات عالية الجودة. ويتوقع التقرير أيضا أن يصبح الذكاء الاصطناعي القادر على التحسن الذاتي أكثر اندماجا في الاقتصاد، بمرور الوقت، وأن يتلاقى مع تقنيات مثل حوسبة الكم والتكنولوجيا الحيوية.
يشير التقرير أن ​الذكاء الاصطناعي يُظهر بالفعل قدرة على التفكير على مستوى الخبراء في الرياضيات والعلوم، كما أنه يُسرّع تطوير الأدوية واللقاحات، ويزداد مستوى ​التعقيد في المهام التي يضطلع بمقدار المثلين كل أربعة إلى سبعة أشهر، مما قد يتيح للأنظمة إنجاز أعمال تستغرق من البشر أياما أو أسابيع.وعلى ‌الرغم من ⁠أن هذا قد يحقق فوائد اقتصادية كبيرة، فمن غير الواضح بعد ما إذا كانت مكاسب الإنتاجية المترتبة على استخدام الذكاء الاصطناعي ستُترجم إلى نمو أوسع نطاقا أم ستؤثر على الوظائف.وأوجزت اللجنة مجموعة من المخاوف المتعلقة بالسلامة، مثل خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي مع ازدياد استقلاليتها وقدرتها على الخداع.ويُستخدم الذكاء الاصطناعي بالفعل لتوليد معلومات مضللة ومحتويات ضارة أخرى، ويمكن استغلاله في عمليات الاحتيال والهجمات ​الإلكترونية والتهديدات البيولوجية.ولا تزال حوكمة ​الذكاء الاصطناعي غير متسقة، إذ ⁠تفتقر دول كثيرة إلى القدرة على تقييم أنظمة الذكاء الاصطناعي المتقدمة أو تشكيلها، مما يجعلها تعتمد على تقنيات لا تستطيع فهمها أو التحكم فيها بالكامل. وذكر التقرير أن أدوات السلامة الحالية غالبا ما ​تعتمد على بيانات اختبار محدودة تكشف عنها الشركات.
وحث أنطونيو جوتيريش الأمين العام للأمم المتحدة الحكومات ​على سرعة التحرك.وقال ⁠جوتيريش في بيان 'لا يمكن للعالم أن يتحكم في شيء لا يستطيع هو فهمه'.وأضاف 'الإمكانات هائلة، لكن المخاطر حقيقية، وتكلفة الانتظار آخذة في الارتفاع'.وأعلن قادة عالميون في مجالي السياسة والتكنولوجيا، إلى جانب مكتب الأمم المتحدة للتكنولوجيات الرقمية والناشئة، اليوم عن إنشاء لجنة جديدة للتصدي لمسألة تطوير الذكاء الاصطناعي ⁠وسط ​مخاوف متزايدة من مخاطره المحتملة.وتشير وثيقة النظرة الاستراتيجية العامة المنشورة على الموقع الإلكتروني ​للجنة إلى أن رئاسة 'اللجنة العالمية للذكاء الاصطناعي من أجل الخير' سيتشاركها الرئيس الرواندي بول كاجامي والرئيس التنفيذي لشركة (سيلزفورس) مارك بينيوف. وستتولى الأمينة العامة للاتحاد الدولي للاتصالات دورين ​بوجدان-مارتن منصب نائب الرئيس الدائم. ومن المتوقع أيضا مشاركة منظمات أخرى تابعة للأمم المتحدة.