توصیه غول های فناوری برای توسعه «هوش مصنوعی مسئولانه»

به گزارش ای بی اس نیوزکنسرسیومی متشکل از 200 شرکت از بزرگترین شرکت های فناوری جهان به تلاش های ایالات متحده برای پیشبرد شیوه های هوش مصنوعی مسئولانه پیوسته است.

کنسرسیوم آمریکایی مؤسسه ایمنی هوش مصنوعی (AISIC) متا، گوگل، مایکروسافت و اپل را از جمله اعضای خود می داند.

به گزارش انگجت، جینا ریموندو، وزیر بازرگانی ایالات متحده ترکیب اعضای جدید و متعدد کنسرسیوم را اعلام کرد و گفت که آنها ملزم به اجرای اقدامات مشخص شده در فرمان اجرایی گسترده رئیس جمهور بایدن در زمینه هوش مصنوعی هستند.

ریموندو در بیانیه ای گفت که دولت ایالات متحده نقش مهمی در تنظیم استانداردها و توسعه ابزارهای مورد نیاز برای کاهش خطرات و مهار پتانسیل عظیم هوش مصنوعی دارد.

فرمان اجرایی بایدن که در اکتبر 2023 صادر شد، شامل مقررات متعددی بود. بنابراین کنسرسیوم بر روی توسعه دستورالعمل‌هایی برای تیم‌سازی قرمز، ارزیابی قابلیت‌ها، مدیریت ریسک، ایمنی و امنیت و واترمارک محتوای تولید شده توسط هوش مصنوعی تمرکز خواهد کرد.

Red teaming یک اصطلاح امنیت سایبری است که به دوران جنگ سرد برمی گردد و به شبیه سازی هایی اشاره دارد که در آن به دشمن «تیم قرمز» می گویند. در شرایط کنونی، دشمن به عنوان یک هوش مصنوعی در نظر گرفته می شود که می تواند رفتار نادرست داشته باشد.

افراد درگیر در این عمل سعی می کنند هوش مصنوعی را فریب دهند تا کارهای بدی انجام دهد، مانند افشای شماره کارت اعتباری از طریق یک هک سریع. اکنون، هنگامی که مردم بدانند چگونه با این مشکل مقابله کنند، می توانند محافظت های بهتری ایجاد کنند.

واترمارک کردن محتوای تولید شده توسط هوش مصنوعی یکی دیگر از جنبه های مهم فرمان جو بایدن است. بنابراین اعضای کنسرسیوم دستورالعمل ها و اقداماتی را برای اطمینان از اینکه کاربران به راحتی می توانند محتوای تولید شده توسط هوش مصنوعی را شناسایی کنند، توسعه خواهند داد.

آنها امیدوارند که با انجام این کار، میزان جعلی های عمیق و اطلاعات غلط تقویت شده با هوش مصنوعی کاهش یابد. واترمارکینگ هنوز به طور گسترده پذیرفته نشده است، اگرچه این برنامه مشخصات فنی زیربنای این عمل را تسهیل و استاندارد می کند.

کار این کنسرسیوم تازه شروع شده است، اگرچه وزارت بازرگانی ایالات متحده می گوید که بیشترین تعداد تیم آزمایش و ارزیابی را در جهان دارد.

فرمان اجرایی بایدن و این کنسرسیوم در مورد همه چیزهایی است که در حال حاضر داریم. این در حالی است که کنگره آمریکا همچنان در تصویب قوانین معنادار در حوزه هوش مصنوعی شکست خورده است.

انتهای پیام