پدرخوانده هوش مصنوعی برای جلوگیری از بلایای این فناوری به این پروژه پیوسته است

“جاشوا بنجیویوشوا بنجیو، دانشمند کامپیوتر کانادایی که در سال 2018 برنده جایزه تورینگ شد و یکی از پدرخوانده‌های هوش مصنوعی مدرن محسوب می‌شود، به پروژه‌ای پیوسته است که هدف آن بررسی… امنیت مدل های هوش مصنوعی پیشگیری از بلایا به دلیل این فناوری است.

هدف از پروژه فوق این است که هوش مصنوعی محافظت شده به آن می گویند ساخت یک سیستم هوش مصنوعی که می تواند امنیت سیستم های دیگر را تأیید کند. Bengio به عنوان مدیر علمی برنامه اضافه شده است و توصیه های علمی به آن ارائه خواهد کرد. این پروژه که طی چهار سال آینده 59 میلیون پوند بودجه دریافت خواهد کرد، توسط آژانس تحقیقات و نوآوری پیشرفته بریتانیا (ARIA) تامین می شود که سال گذشته برای سرمایه گذاری در تحقیقات علمی بالقوه تغییر دهنده بازی راه اندازی شد.

مدیر پروژه می‌گوید هدف از هوش مصنوعی ایمن ساخت سیستم‌های هوش مصنوعی است که می‌توانند تضمین‌های کمی، مانند امتیاز ریسک، در مورد تأثیر سایر مدل‌های هوش مصنوعی بر دنیای واقعی ارائه دهند. در این فرآیند از مدل های علمی و اثبات های ریاضی نیز استفاده می شود.

او ادامه می دهد که شرکت های علم و فناوری هیچ راهی برای ارائه ضمانت های ریاضی مبنی بر اینکه سیستم های هوش مصنوعی آنها مطابق برنامه ریزی شده رفتار خواهد کرد، ندارند. او می گوید که غیرقابل اعتماد بودن مدل های هوش مصنوعی در این زمینه می تواند منجر به نتایج فاجعه آمیزی شود.

ارائه راه حل های جدید برای ایمن سازی سیستم های هوش مصنوعی

بنژیو و مدیر پروژه استدلال می‌کنند که تکنیک‌های فعلی که برای کاهش خطرات سیستم‌های هوش مصنوعی پیشرفته در نظر گرفته می‌شوند، مانند «تیم‌سازی قرمز» که در آن افراد نقص‌های یک سیستم هوش مصنوعی را بررسی می‌کنند، محدودیت‌های جدی دارند و نمی‌توان از آنها برای اطمینان از اعتماد به سیستم‌های حیاتی استفاده کرد.

در عوض، آنها امیدوارند که این پروژه راه‌های جدیدی را برای ایمن کردن سیستم‌های هوش مصنوعی که کمتر به تلاش انسان و بیشتر به ثبات ریاضی متکی هستند، ارائه دهد.

ARIA همچنین به سازمان ها و افراد در بخش های پرخطر مانند حمل و نقل، ارتباطات، زنجیره تامین و تحقیقات پزشکی کمک مالی می کند تا برنامه هایی را توسعه دهد که می توانند از مکانیسم های امنیتی هوش مصنوعی بهره مند شوند. ARIA در مجموع 5.4 میلیون پوند در سال اول و 8.2 میلیون پوند دیگر در سال دوم به متقاضیان جایزه می دهد.