نظر از چهره های ساخته شده توسط هوش مصنوعی!

فرارو-یک مطالعه جدید نگران کننده جدید ننده که چهره های جعلی ایجاد شده توسط هوش مصنوعی (AI) قابل اعتماد از افراد واقعی به نظر میرسند.

به گزارش فرارو، این چهره‌ها به‌قدری واقعی هستند که ممکن است مردم بتوانند آن‌ها را از چهره‌های واقعی تشخیص دهند و به راحتی به این چهره‌های جعلی اعتماد کنند. این چهره‌های جعلی به قدری متقاعدکننده هستند که حتی می‌توانند ناظران آموزش دیده را نیز فریب دهند و برای کلاهبرداری بسیار مفید باشند!

این چهره ها را می توانم به راحتی به صورت آنلاین و دانلود کرد و برای کلاهبرداری های و پروفایل های جعلی رسانه های اجتماعی استفاده کنم. سوفی نایتینگل از دانشگاه لینکستر بریتانیا میگوید: “ما باید نگران باشیم، زیرا این چهره های مصنوعی برای طرح پلید، مثلا برای مواردی مانند فیلم های مستهجن انتقامجویانه یا کلاهبرداری، فوقالعاده هستند”. برخی از برنامه های مصنوعی مصنوعی با نام شبکه های متخاصم مولد یا GAN می توانند با قرار دادن دو شبکه عصبی در برابر تصاویر جعلی ایجاد کننده تصاویری که تشخیص آنها از تصاویر واقعی کار بسیار سخت باشد.

نایتینگل و همکارش هانی فرید در دانشگاه برکلی کالیفرنیا، از 315 شرکت کننده که در یک وب سایت جمع اسپاری مورد استفاده قرار گرفته بودند، خواستند که 400 عکس جعلی را از بین تصاویری که به آنها نشان می دهد، تشخیص دهند. هر مجموعه متککل از 100 نفر از هر یک از چهار یک از چهار گروه قومی سفید، سیاه پوست، سیای شرقی و جنوب آسیا بود. این گروه دارای میزان دقت 48.2 درصد بود. به گروه دوم که از 219 شرکت کننده تککیل شده بود، نحوه تشخیص چهره تولید شده توسط کامپیوتر آموزش داده شد. این گروه دارای میزان دقت 59 درصد بود، اما این تفاوت ناچیزی نسبت به دقت گروه اول است.

تشخیص چهره های سفید برای مردم سختر بود، شاید به این دلیل که نرم افزاری است که برای چهره های سفید به طور مناسب آموزش داده نشده است. همچنین از یک گروه دیگر متککل از 223 شرکت کننده خواستند تا به واقعی بودن چهره هایی که به آنها نشان داده می شود، از 1 تا 7 امتیاز داده شود. آنها چهره های جعلی را به طور متوسط ​​8 درصد قابل اعتماد از چهره واقعی ارزیابی کردند. به گفته نایتینگل این یک تفاوت کوچک، اما قابل توجه بود. او میگوید که اشتباه در تشخیص ممکن است به این دلیل باشد که چهره های مصنوعی بیشتر شبیه چهره های انسان های معمولی هستند و مردم بیشتر به چهره هایی با ظاهر معمولی اعتماد می کنند.

چهار چهره بیش از همه غیرقابل اعتماد شده اند، چهره های واقعی بودند; در حالی که سه چهره ای که امتیاز قابل اعتمادترین چهره ها را کسب کردند، در واقع چهره هایی جعلی بودند! نایتینگل میگوید: “در این زمینه به دستورهای اخلاقی سختگیرانه تر و سخت های قانونی بیشتر نیاز داریم، زیرا ناگزیر هستند که میخواهند از این تصاویر برای آسیب استفاده کنند، و این نگران کننده است.” او میگوید: «توسعه دهندگان برای کاهش این خطرات می توانند واترمارکهایی را به تصاویر خود اضافه کنند تا آنها را معرفی کنند. این ایده بدی به نظر نمی‌رسد. اگر کاری برای جلوگیری از انجام آن انجام شود، فقط بدتر خواهد شد.»

منبع: newscientist