مایکروسافت، گوگل و 14 شرکت دیگر توافق کردند که هوش مصنوعی را ایمن نگه دارند

شرکت‌های بزرگ فناوری از جمله مایکروسافت، گوگل و OpenAI اعلام کردند که در اجلاس هوش مصنوعی سئول به توافقی بین‌المللی درباره ایمنی هوش مصنوعی دست یافته‌اند. این توافق که با همکاری مقامات کشورهای مختلف به دست آمده است، تضمین می کند که اقدامات لازم برای حفظ ایمنی در توسعه سریع مدل های پیشرفته انجام شود.

در دومین دور اجلاس بین المللی هوش مصنوعی که به میزبانی بریتانیا و کره جنوبی در سئول برگزار شد، 16 شرکت فناوری اذعان کردند که هوش مصنوعی، علیرغم مزایای فراوان، در صورت استفاده نادرست می تواند مضر باشد. آنها موافقت کردند که گام‌های عملی برای انتشار چارچوب‌های ایمنی، اجتناب از توسعه مدل‌های در معرض خطرات غیرقابل کنترل و همکاری با نهادهای نظارتی در سطح بین‌المللی بردارند.

توافقنامه شرکت های فناوری بین المللی در مورد ایمنی هوش مصنوعی

16 شرکت شرکت کننده در این قرارداد عبارتند از: Amazon، Anthropic، Google، Microsoft، OpenAI، Meta، Cohere، Inflection AI، Mistral AI، xAI و IBM. علاوه بر غربی ها، شرکت هایی از چین و خاورمیانه مانند تنسنت، سامسونگ و شیائومی نیز وجود دارند. محققان و مهندسان قرار است سیستم های هوش مصنوعی را برای شناسایی سوگیری ها و سایر مشکلاتی که ممکن است به گروه های مختلف جامعه آسیب برساند، بررسی کنند.

چارچوب توافق شده شامل “خط قرمز” است که انواع خطرات مرتبط با سیستم های هوش مصنوعی پیشرو را تعریف می کند. این خطرات ممکن است “غیرقابل تحمل” در نظر گرفته شود و می تواند شامل حملات سایبری خودکار و تهدید سلاح های بیولوژیکی باشد. در پاسخ به خطرات حاد، شرکت‌ها اعلام کرده‌اند که سوئیچ‌های kill را اجرا خواهند کرد که می‌توانند فرآیند توسعه مدل‌های هوش مصنوعی را متوقف کنند، در صورتی که پیشگیری از خطرات غیرممکن باشد.

در همین نشست، دولت انگلیس در بیانیه ای اعلام کرد که توافق جدیدی بین 10 کشور و اتحادیه اروپا برای ایجاد شبکه بین المللی مشابه انستیتوی ایمنی هوش مصنوعی بریتانیا منعقد شده است. این شبکه درک بهتری از ایمنی هوش مصنوعی را ارتقا می دهد و کار خود را با تحقیقات، استانداردها و آزمایش در این زمینه هماهنگ می کند. استرالیا، کانادا، اتحادیه اروپا، فرانسه، آلمان، ایتالیا، ژاپن، سنگاپور، کره جنوبی، بریتانیای کبیر و ایالات متحده آمریکا این قرارداد را امضا کرده اند.