حذّر رئيس مجلس إدارة شركة «ديب مايند» التابعة لغوغل ديميس هاسابيس الأربعاء من أن أنظمة الذكاء الاصطناعي قد تتسبب في حوادث أمنية «كبرى» خلال العامين المقبلين ما لم تُتخذ إجراءات كافية لضمان سلامتها مع استمرار تطور قدراتها.
وخلال حديثه في مؤتمر حول الذكاء الاصطناعي في دبلن، وصف هاسابيس الحوادث الأخيرة بأنها «طلقات تحذيرية مبكرة» صادرة عن أنظمة «ليست قوية إلى هذا الحد بعد».
وقال «لذا فإن هذه الحوادث ليست كبيرة إلى هذا الحد»، محذرا من أنها «قد تصبح كذلك خلال العام المقبل أو العامين المقبلين إذا لم نبذل مزيدا من الجهود، سواء على مستوى القطاع ككل أو على مستوى الشركات والحكومات كل على حدة، لضمان أمن هذه الأنظمة».
وأثارت المخاوف بشأن سلامة الذكاء الاصطناعي قلقا متزايدا بعدما تورطت نماذج طوّرتها شركتا «أوبن إيه آي» و"أنثروبيك» في حوادث أمنية خلال مراحل الاختبار، ما زاد الضغوط الداعية إلى تنظيم هذه التكنولوجيا.
وقال هاسابيس إنه قد يكون من الضروري اختبار نماذج الذكاء الاصطناعي الجديدة أولا داخل «بيئات معزولة» (sandboxes) غير متصلة بالشبكات، وذلك بعدما تمكنت نماذج طورتها شركات أخرى من الخروج من البيئات المغلقة التي كانت تُستخدم لتقييم قدراتها.
وقالت المسؤولة عن شؤون التكنولوجيا في الاتحاد الأوروبي هينا فيركونين إن شركات الذكاء الاصطناعي بحاجة إلى تخصيص مزيد من الوقت لاختبار أنظمتها لضمان الحفاظ على السيطرة عليها.
وقالت فيركونين لصحافيين لدى وصولها إلى قمة دبلن «المنافسة شديدة للغاية على المستوى العالمي، ويبدو أن جميع الشركات لا تخصص ما يكفي من الوقت والموارد لاختبار نماذجها بشكل فعلي».
وأضافت «يجب أن تكون (الشركات) قادرة على السيطرة على هذه الأنظمة»، مشيرة إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كل الشركات الكبرى العاملة في مجال الذكاء الاصطناعي، للاستفسار عن تدابير السلامة والأمن التي تطبقها.
واكتسبت المفوضية الأوروبية في آب صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد الإطار التنظيمي الأكثر شمولا في العالم للحد من الاستخدامات التي قد تنطوي على مخاطر لهذه التكنولوجيا.
من جهته، دعا رئيس شركة «مايكروسوفت» براد سميث الحكومات وشركات التكنولوجيا إلى «التحرك فورا» لوضع «معايير «حقيقية وفعالة للسلامة» للحد من المخاطر المرتبطة بالذكاء الاصطناعي.
وقال سميث في تصريحات للصحافيين: «الذكاء الاصطناعي بحاجة إلى ما تحتاج اليه جميع الأشياء من حولنا... معايير سلامة حقيقية وفعالة وقادرة على كسب ثقة المستخدمين».
وخلال الأشهر الأخيرة، كشفت شركات أميركية رائدة في مجال الذكاء الاصطناعي مثل «أوبن ايه اي» و«أنثروبيك» عن سلسلة حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات احتوائها والوصول إلى الإنترنت ثم اختراق مواقع إلكترونية، مما زاد الدعوات إلى ضرورة منع خروج هذه النماذج عن السيطرة.
وأضاف سميث «تحتاج الشركات في هذا القطاع حاليا إلى اتخاذ خطوات إضافية لمواجهة مشاكل السلامة المرتبطة بالذكاء الاصطناعي»، مشيرا إلى أنه «بات على الحكومات أيضا اتخاذ مزيد من الإجراءات».
وعرض مقترحات الشركة لتعزيز معايير السلامة في مختلف قطاعات التكنولوجيا، والتي تشمل تزويد وكلاء الذكاء الاصطناعي ب"فرامل سلامة»، يمكن للمستخدم تفعيلها لدى قوع أي حادث.
كما دعا سميث إلى إلزام الشركات المزودة لخدمات الذكاء الاصطناعي بالإبلاغ عن الحوادث، متابعا «في حال تعرضت شركة لخرق أمني أسفر عن فقدان بيانات الزبائن، تكون ملزمة بإبلاغهم. يجب أن ينطبق المنطق نفسه على الأشخاص الذين يتضررون من وكلاء الذكاء الاصطناعي»، مشددا على ضرورة إلزام هذه الشركات قانونا بالإبلاغ عن الحوادث.
إلى ذلك، حث رئيس مايكروسوفت على إخضاع نماذج الذكاء الاصطناعي إلى اختبارات وعمليات تقييم أشد صرامة قبل إطلاقها للمستخدمين.
وإلى جانب سميث، كان عدد من قادة الشركات في مجال الذكاء الاصطناعي دعوا إلى زيادة اليقظة حيال هذه التكنولوجيا. ومن بين هؤلاء، تعهّد داريو أمودي، المدير التنفيذي لشركة «أنثروبيك» المطوّرة لنموذج «كلود»، بإبطاء الوتيرة عند الضرورة لضمان أمان الإصدارات الجديدة.
