گوگل فناوری SynthID خود را برای متون تولید شده با هوش مصنوعی منبع باز کرده است

SynthID یکی از ویژگی های بخش هوش مصنوعی گوگل است که به توسعه دهندگان این امکان را می دهد تا واترمارک های دیجیتال را به خروجی های تولید شده توسط مدل های تولیدی اضافه کنند. از واترمارک می توان برای تشخیص چنین متون و حتی تشخیص نوع قالب استفاده شده استفاده کرد.

Google SynthID چیست؟

گسترش استفاده از مدل های زبان مولد برای تولید متن، نیاز به ابزارهایی را برای شناخت این نوع محتوا آشکارتر کرده است. برای این منظور، گوگل از فناوری SynthID خود برای واترمارک کردن متن تولید شده با هوش مصنوعی استفاده می کند تا به راحتی قابل تشخیص باشد. گوگل اکنون اعلام کرده است که ابزار مذکور منبع باز برای توسعه دهندگان دیگر خواهد بود تا از آن برای واترمارک کردن خروجی های مدل خود استفاده کنند.

ابزار SynthID گوگل از طریق کیت توسعه هوش مصنوعی Generative Responsible این شرکت در دسترس علاقه مندان قرار گرفته است که ویژگی ها و قابلیت های دیگری را برای توسعه دهندگان فراهم می کند. رئیس بخش DeepMind گوگل خاطرنشان کرد که هدف از چنین اقدامی تسهیل توسعه هوش مصنوعی اخلاقی و مسئولانه است.

اهمیت واترمارک در خروجی مدل زبان به طرز چشمگیری افزایش یافته است و حتی ایالت کالیفرنیا به دنبال اجباری کردن استفاده از واترمارک برای همه مشاغل است. با کمک این قابلیت می توان از انتشار اخبار جعلی به خصوص در حوزه سیاسی یا محتوای غیراخلاقی جلوگیری کرد. از سال گذشته، دولت چین توسعه دهندگان را مجبور به استفاده از واترمارک روی ابزارهای هوش مصنوعی برای تولید متون کرده است. در حال حاضر چت بات Geminai مجهز به SynthID است و متون آن قابل ردیابی و شناسایی هستند.

گوگل برای اولین بار در تابستان امسال از ابزار SynthID خود رونمایی کرد که می تواند متن، تصاویر، ویدئوها و فایل های صوتی را با قرار دادن واترمارک های مخفی بر روی آنها تشخیص دهد. گوگل ادعا می کند که نسخه متنی ویژه این ابزار متن را به گونه ای تغییر می دهد که تشخیص آن را برای رایانه ممکن می کند. اما خوانندگان متوجه چنین تغییراتی در متن نمی شوند. همچنین اشاره شد که استفاده از واترمارک تاثیری بر کیفیت، دقت، سرعت و خلاقیت خروجی ندارد که در گذشته مشکل مهمی برای چنین ابزارهایی به حساب می آمد.