فناوری تولید تصویر با هوش مصنوعی با سرعتی بیسابقه در حال پیشرفت است و تشخیص تصاویر واقعی از نمونههای جعلی را روزبهروز دشوارتر میکند. پژوهشی تازه نشان میدهد حتی افراد متخصص در تشخیص چهره نیز در برابر دیپفیکهای پیشرفته با خطا مواجه میشوند. با این حال، محققان از راهکاری ساده و کوتاه برای افزایش دقت تشخیص این تصاویر خبر دادهاند.
يکشنبه ۱۱ مرداد ۱۴۰۵ ساعت ۰۸:۴۷
هوش مصنوعی از انسان جلو زد؛ حتی متخصصان هم در تشخیص دیپفیک دچار خطا شدند
به گزارش ایتنا، بر اساس نتایج این پژوهش که در نشریه Royal Society Open Science منتشر شده، افرادی با توانایی معمولی در تشخیص چهره بیش از دیگران در معرض خطا قرار دارند و در بسیاری از موارد، تصاویر ساختهشده توسط هوش مصنوعی را با تصاویر واقعی اشتباه میگیرند.
با این حال، یافتههای پژوهش نشان میدهد یک دوره آموزشی کوتاه، با زمانی کمتر از ۵ دقیقه، که بر رایجترین خطاهای هوش مصنوعی در تولید چهره تمرکز دارد، میتواند توانایی افراد را در تشخیص تصاویر واقعی از جعلی به شکل قابلتوجهی افزایش دهد.
«کیتی گری»، پژوهشگر ارشد و دانشیار روانشناسی دانشگاه ریدینگ بریتانیا، با اشاره به نتایج این تحقیق اعلام کرد که این آموزش، دقت تشخیص تصاویر جعلی را هم در افراد دارای مهارت بالای تشخیص چهره و هم در افراد عادی به میزان مشابهی افزایش داده است. به گفته او، این موضوع نشان میدهد افراد دارای توانایی بالا علاوه بر شناسایی خطاهای تصویری، از نشانههای دیگری نیز برای تشخیص اصالت تصاویر استفاده میکنند.
فناوری دیپفیک (Deepfake) بر پایه شبکههای مولد رقابتی (GAN) توسعه یافته است. در این روش، یک مدل هوش مصنوعی با استفاده از تصاویر واقعی، نمونههای جعلی تولید میکند و مدل دیگری تلاش میکند میان تصاویر واقعی و جعلی تفاوت قائل شود. این رقابت مداوم باعث میشود کیفیت تصاویر بهتدریج افزایش یابد و خروجیها به سطحی از واقعگرایی برسند که از آن با عنوان «هایپررئالیسم» یاد میشود.
در این مطالعه، پژوهشگران مجموعهای از آزمایشهای آنلاین را با حضور افرادی که در دو درصد برتر آزمونهای تشخیص چهره قرار داشتند و همچنین شرکتکنندگانی با توانایی متوسط برگزار کردند.
نتایج نخستین آزمایش نشان داد افراد دارای توانایی بسیار بالا تنها موفق به شناسایی ۴۱ درصد از چهرههای جعلی شدند، در حالی که این نرخ برای افراد عادی حدود ۳۰ درصد بود؛ آماری که پژوهشگران آن را بسیار نزدیک به سطح حدس و گمان توصیف کردند.
پس از شرکت در دوره آموزشی، دقت تشخیص چهرههای جعلی در گروه افراد دارای توانایی بالا به ۶۴ درصد و در میان شرکتکنندگان عادی به ۵۱ درصد افزایش یافت. همچنین مشخص شد شرکتکنندگان پس از آموزش زمان بیشتری را صرف بررسی تصاویر میکردند و همین موضوع به تصمیمگیری دقیقتر آنها کمک کرده است.
با وجود نتایج امیدوارکننده، پژوهشگران تأکید کردند که ارزیابیها بلافاصله پس از پایان دوره آموزشی انجام شده و هنوز مشخص نیست اثر این آموزش در بلندمدت تا چه اندازه پایدار خواهد بود. همچنین استفاده از دو گروه متفاوت در مراحل آزمایش، امکان سنجش دقیق تأثیر آموزش بر عملکرد هر فرد را محدود کرده است؛ بنابراین برای بررسی ماندگاری این نتایج، انجام مطالعات تکمیلی ضروری به نظر میرسد.
کد مطلب: 90648
(۱ نظر)
