این روزها تصاویر ایجاد شده توسط هوش مصنوعی مانند پاپ فرانسیس با پوشیدن ژاکت پفی فانتزی و یا تصاویری از دستگیری ترامپ و حتی توبه مرد عنکبوتی در حرم امام هشتم (ع) بسیاری از کاربران را فریب داده و جنجال زیادی به پا کرده است. چگونه تصاویر هوش مصنوعی را از تصاویر واقعی تشخیص دهیم؟
ای بی اس نیوزپلاس: با پیشرفت باورنکردنی در فناوریهای هوش مصنوعی (AI)، ایجاد تصاویر جعلی با کیفیت بالا دیگر کار دشواری نیست و امروزه هر کسی با اتصال به اینترنت و دسترسی به ابزارهای تصویربرداری مبتنی بر این فناوری، میتواند در چند ثانیه تصاویر واقعی جعلی ایجاد کند. که می تواند توسط بسیاری از افراد گمراه کننده استفاده شود.
Midjourney که در سال 2022 معرفی شد، یکی از معروفترین تولیدکنندههای تصویر آنلاین مبتنی بر هوش مصنوعی است که تصاویر جعلی با کیفیت بالا تولید میکند. روند کار این ابزار بدین صورت است که کاربران پس از ثبت نام، توضیحات متنی را در مورد موضوعات مورد نظر خود وارد می کنند و در عرض چند ثانیه Midjourney چندین تصویر جعلی با موضوع درخواستی کاربران ایجاد می کند.
ابزارهای هوش مصنوعی دیگری مانند Dall E2، Stable Diffusion نیز وجود دارد که توسط شرکت های دیگر توسعه یافته اند و عملکردی مشابه Midjourney دارند.
تصاویر ایجاد شده توسط این پلتفرم ها به قدری واقعی و با جزئیات به نظر می رسند که میلیون ها نفر را در سراسر جهان گمراه کرده اند و در برخی موارد تشخیص تصاویر جعلی ایجاد شده توسط هوش مصنوعی از تصاویر واقعی دشوار است و همین امر باعث شده تا کارشناسان نسبت به موارد بیشتر هشدار دهند. توسعه این ابزارهای آنلاین مبتنی بر هوش مصنوعی و خطرات بالقوه آن.
به عنوان مثال، در روزهای اخیر، عکسهای جعلی پاپ فرانسیس، رهبر کاتولیکهای جهان، با کت سفید پفی از برند معروف و گردنبند صلیب مزین به جواهرات دور گردنش، در شبکههای اجتماعی ترند شده است. و بسیاری از کاربران فکر می کردند که واقعی است. رسوایی های مربوط به تصویر دروغین پوپ و تصاویر دروغین دستگیری ترامپ باعث شده پلتفرم Midjourney فعلا آزمایش رایگان این ابزار را متوقف کند.
در همین رابطه، کریسی تیگن، مدل و شخصیت تلویزیونی، در توییتی نوشت: «فکر میکردم کت پایین واقعی است و حتی از نگاه کردن دوباره به تصویر تردید نکردم. آیا می توانم با آینده فناوری زنده بمانم؟”
در نمونه های دیگر، هوش مصنوعی تصاویر جعلی از دستگیری ترامپ، دستگیری یا زانو زدن ولادیمیر پوتین در مقابل همتای چینی خود شی جین پینگ، و همچنین تصاویر جعلی ایلان ماسک که دست ماری بارا، مدیرعامل جنرال موتورز را در دست گرفته است، ایجاد کرده است. ، از جمله گرایش های شبکه ها هستند. این چند روز اخیر اجتماعی بوده است.
در توییتر فارسی نیز تصاویری از شخصیت مرد عنکبوتی در حال زیارت امام هشتم (ع) منتشر شده است که با واکنش بسیاری از کاربران مواجه شد. یکی از کاربران از پلتفرم Midjourney که تصاویری مبتنی بر هوش مصنوعی ایجاد می کند درخواست کرد تا مرد عنکبوتی توبه کننده را در حرم امام رضا (ع) به تصویر بکشد. بسیاری از کاربران این تصاویر را جالب و خنده دار توصیف می کنند و برخی دیگر از قدرت هوش مصنوعی تعجب می کنند که توانسته مفاهیمی مانند «زیارت عتبات عالیات» و «توبه» را توسط شخصیتی از فیلم غیرمرتبط با زیارت نمایش دهد. مرد عنکبوتی.
نگرانی در مورد توسعه تصویربرداران مبتنی بر هوش مصنوعی
ایجاد تصاویر جعلی با استفاده از هوش مصنوعی ممکن است در ابتدا جالب و سرگرم کننده به نظر برسد، اما این تصاویر می توانند بسیاری از کاربران را گمراه کنند، تصاویری از رویدادهایی ایجاد کنند که هرگز اتفاق نیفتاده اند یا حتی برای تولید تصاویر مستهجن از عکس های کاربران استفاده شوند. .
هنری آژدر، کارشناس هوش مصنوعی و اجرایی در هیئت مشاوران اروپایی آزمایشگاههای واقعیت متا، میگوید که توسعه پلتفرم Midjourney از زمان آغاز به کار باورنکردنی بوده است و هشدار میدهد که این پلتفرمها میتوانند تصاویر جعلی بسیار قانعکننده ایجاد کنند و به آرامی اعتماد ما را به مردم از بین ببرند. شبکه ها دستیابی به حقیقت را از بین می برند و دشوار می کنند.
آژدر مثالی میزند و میگوید در روزهای اخیر تصاویر بسیار واقعی از زمینلرزهای قوی که در سال 2001 ایالات متحده آمریکا و کانادا را در اقیانوس آرام به لرزه درآورد، منتشر شده است که در میان کاربران شبکههای اجتماعی بسیار محبوب بوده است. آژدر می گوید که این زلزله هرگز اتفاق نیفتاده و تصاویر منتشر شده از این رویداد کاملا جعلی و تولید شده توسط هوش مصنوعی است.
Azder همچنین رقابت توسعه دهندگان ابزارهای مبتنی بر هوش مصنوعی را به یک “مسابقه تسلیحاتی” تشبیه کرد که در آن، با هدف اول دیده شدن و تصاحب سهم بازار و کسب سود بیشتر، می توانند نگرانی ها در مورد اختلال در ایمنی کاربر و همچنین اخلاقیات را نادیده بگیرند. انطباق.
چگونه تصاویر جعلی ایجاد شده توسط هوش مصنوعی را از تصاویر واقعی تشخیص دهیم؟
کارشناسان حوزه هوش مصنوعی تاکنون چندین روش کلی برای شناسایی تصاویر جعلی از تصاویر واقعی ارائه کرده اند. خوشبختانه، ابزارهای هوش مصنوعی همچنان دارای خطا هستند. حتی اگر آنها به سرعت در حال تغییر هستند. این خطاها به ویژه زمانی خود را نشان می دهد که هوش مصنوعی بخواهد تصاویری از افراد و انبوهی از مردم را نشان دهد. به گفته کارشناسان، روش های تشخیص این خطاها فقط در حال حاضر جواب می دهد و به مرور زمان این خطاها به طور طبیعی اصلاح می شوند و تشخیص تصاویر جعلی از تصاویر واقعی دشوارتر می شود.
1. ظاهر “پلاستیک” تصاویر ایجاد شده توسط هوش مصنوعی
هنری آژدر می گوید بسیاری از تصاویر تولید شده توسط Midjourney ظاهر می شوند “شبیه پلاستیک” و “تفننی” دارند. اکثر اشکال و اشیاء لبه های تقریبا نرم و براق و ظاهری پلاستیکی دارند. این جنبه پلاستیکی، تصویری و غریب به ویژه در تصاویری که چهره انسان نشان داده می شود مشهود است. در تصاویر جعلی، چهره ها معمولا بیش از حد زیبا و پوست و مو بدون عیب، اغراق آمیز و مصنوعی هستند.
البته این ویژگی شبیه پلاستیک بیشتر در آثار تولید شده توسط Midjourney دیده می شود و این روش تشخیص ممکن است برای تصاویر تولید شده توسط پلتفرم های دیگر جواب ندهد.
2. بزرگنمایی کنید و به دنبال تضادهای زیبایی شناختی باشید
بسیاری از تصاویر تولید شده توسط هوش مصنوعی ممکن است در نگاه اول واقعی به نظر برسند، اما اگر با دقت بیشتری به آنها نگاه کنید و بزرگنمایی کنید، متوجه خطاها و اشکالات آنها خواهید شد. در بسیاری از موارد، نور در زوایای عجیب و غریب به سوژه ها می تابد، اشکال ظریف درست به نظر نمی رسند، و اگر خطوط کلی برخی از اشکال را دنبال کنید، بسیاری از تصاویر ممکن است در لبه ها یا نامتناسب شوند. در مورد اشکالی که شباهت دارند، معمولاً موارد زیادی را می توانید پیدا کنید که یک طرف اشکال صحیح است، اما شباهت این اشکال دارای خطاهای آشکار است.
3. به برش بدن توجه کنید
دقت کنید و ببینید که افراد داخل عکس ها شرایط جسمانی مناسب و معقولی دارند؟ عدم تناسب بین بدن انسان در تصاویر تولید شده توسط هوش مصنوعی یک عمل غیر معمول نیست. ممکن است دست ها خیلی کوچک یا انگشتان خیلی بلند باشند. برخی از افراد ممکن است به جای پنج انگشت چهار یا شش انگشت داشته باشند و حتی سرشان کمی بزرگ باشد و با بقیه بدن مطابقت نداشته باشد یا حتی ابروها و دندان هایشان اغراق آمیز به نظر برسد.
برای مثال در این عکس گوش های پاپ بزرگتر از حد معمول به نظر می رسد، عینک او نامتقارن است. سایه عینک پاپ روی صورتش منصفانه نیست. زنجیر گردنبند صلیب که پاپ به گردن آویخته است فقط به یک طرف صلیب متصل است. در پایین تصویر، دست راست پاپ بلندتر از دست دیگرش است اما انگشتان کوچکتری دارد. معلوم نیست چه وسیله ای در دست پاپ است. اینها نشانه های واضحی است که نشان می دهد این تصویر توسط ابزارهای مبتنی بر هوش مصنوعی ساخته شده است.
در تصویر بالا که رئیس جمهور روسیه را در حال زانو زدن در برابر شی جین پینگ، همتای چینی خود نشان می دهد، اشتباهات آشکاری مشاهده می شود. در این عکس، کفش سمت راست بوت به طور نامتناسبی بلند و پهن به نظر می رسد. پای او بلند و ناهموار است. گوش های پوتین و گوش های شی جین پینگ نیز طبیعی به نظر نمی رسند.
4. به پس زمینه عکس ها توجه کنید
پس زمینه تصاویر می تواند نشان دهد که این تصاویر واقعی هستند یا توسط هوش مصنوعی ایجاد شده اند. در پسزمینه تصاویر، ممکن است برخی از اشیاء نامتناسب و مخدوش به نظر برسند یا مواردی که با موضوع اصلی مرتبط نیستند در پسزمینه تصاویر ظاهر شوند. در بسیاری از موارد، پس زمینه تصویر تار می شود و به طور مصنوعی تار به نظر می رسد.
در برخی موارد حتی دیده شده است که هوش مصنوعی چندین بار یا دو بار افراد و اشیاء را در پشت صحنه تصویر قرار می دهد.
5. منبع تصاویر را پیدا کنید
اگر مطمئن نیستید که یک تصویر واقعی است یا مصنوعی، سعی کنید منبع تصویر را پیدا کنید. بررسی کنید که آیا این تصویر توسط منابع رسمی منتشر شده است یا به سادگی در شبکه های اجتماعی منتشر شده است یا توسط حساب های غیر قابل اعتماد. با خواندن نظرات ارسال شده توسط سایر کاربران در زیر تصویر مورد نظر، همچنین می توانید اطلاعاتی در مورد جایی که تصویر برای اولین بار ارسال شده است را بیابید.
به عنوان یک جایگزین، می توانید جستجوی عکس معکوس را نیز انجام دهید. برای این کار می توانید تصویر مشکوک را در ابزارهای آنلاینی مانند موتور جستجوی Yandex، Google Image Reverse Search، TinyEye و غیره آپلود کنید. و منبع تصویر را پیدا کنید.
نتیجه
در حال حاضر، بسیاری از تصاویر تولید شده توسط هوش مصنوعی را می توان با کمی تحقیق فاش کرد، اما این فناوری روز به روز در حال پیشرفت است و احتمالاً خطاهای هوش مصنوعی در آینده نادرتر خواهند شد.
روش های ذکر شده در بالا فقط نکات و ردپای فناوری هوش مصنوعی در تولید تصاویر را نشان می دهد و ممکن است این روش ها با خطا نیز همراه باشد.
در صورت شک در واقعی یا جعلی بودن تصویر، علاوه بر آزمایش روش های معرفی شده قبلی، بررسی تصاویر مشکوک با عینک منطق و عقل سلیم، عدم باور به اشتراک گذاری آنلاین، اتکا به رسانه های معتبر و اجتناب از آن بهترین به نظر می رسد. راهی برای جلوگیری از به اشتراک گذاری تصاویر مشکوک
انتهای پیام