در آستانه فصل خرید تعطیلات، یک موج خطرناک از کلاهبرداریهای پیشرفته مبتنی بر هوش مصنوعی، خردهفروشان و مصرفکنندگان را هدف قرار داده است. گزارشها حاکی از آن است که حدود ۳۰٪ از تقلبها علیه فروشگاههای بزرگ اکنون با استفاده از فناوریهای «دیپفیک» صوتی و رباتها انجام میشود. در این حملات، کلاهبرداران با استفاده از صداهای مصنوعی و ارائه اطلاعات واقعی، کارکنان پشتیبانی را فریب داده و بازپرداخت های غیرقانونی دریافت میکنند. از سوی دیگر، تبلیغات جعلی با استفاده از چهره و صدای افراد مشهور، کاربران را به دام سایتهای تقلبی میکشانند. کارشناسان هشدار میدهند که تشخیص این تقلبها به دلیل کیفیت بسیار بالا، روزبهروز دشوارتر شده است.
جمعه ۷ آذر ۱۴۰۴ ساعت ۱۸:۴۷
موج «دیپفیک» و رباتها کسبوکارها را در فصل خرید تعطیلات هدف قرار داده است
به گزارش ایتنا تحقیقات نشان میدهد حدود ۳۰ درصد از تلاشهای تقلبی علیه فروشگاههای بزرگ اکنون با صدای ساختهشده توسط رباتها یا «دیپفیک» انجام میشود.
تماسهای ساختگی با صدای مصنوعی
مطابق خبر منتشره در اکسیوس، یکی از خردهفروشان بزرگ گزارش داده که روزانه بیش از هزار تماس با صدای مصنوعی دریافت میکند. در نمونهای از این تماسها، ربات با لحنی اندکی رباتیک تماس را با عبارت «بستهام گم شده است، لطفاً مرجوعش کنید» آغاز میکند. اگرچه صدای ربات غیرطبیعی و پاسخدهیاش به پرسشهای پشتیبانی ناصحیح است، اما با ارائه شماره سفارش واقعی و اطلاعات تماس جزئی موفق میشود کارشناس پشتیبانی را متقاعد کند و درخواست بازپرداخت تایید شود.
تهدیدی فراتر از شرکتها
این تهدید تنها به شرکتها محدود نمیشود؛ مصرفکنندگان نیز هدف تبلیغات و پیشنهادات جعلی قرار گرفتهاند. ویدیوها، تبلیغات و پستهایی که با استفاده از هوش مصنوعی و تکنیکهای دیپفیک ساخته شدهاند و با صدای یا تصویر افراد مشهور همراهاند، وعده «تخفیف ویژه» یا «پیشنهاد انحصاری» میدهند و کاربران را به دام سایتهای جعلی هدایت میکنند.
پیشرفت کیفیت تقلید و دشواری تشخیص
متخصصان امنیت سایبری هشدار دادهاند که کیفیت تقلید صدا و تصویر با ابزارهای هوش مصنوعی به حدی رسیده که تشخیص آنها با روشهای سنتی و متداول، دشوار شده است. با افزایش دقت و واقعنمایی در تولیدات صوتی و تصویری مصنوعی، احتمال فریب دادن نیروی انسانی و مشتریان نیز افزایش یافته است.
دلایل اهمیت موضوع
- حملات تقلبی مبتنی بر رباتها و دیپفیک بهصورت خودکار و مداوم اجرا میشوند و در برخی فروشگاهها به بیش از هزار تماس تقلبی در روز رسیدهاند.
- این تماسها اغلب با دادههای واقعی همراهاند که تشخیص تقلب را برای کارکنان پشتیبانی سخت میکند.
- تبلیغات جعلی با ظاهر و کیفیت بالا مصرفکنندگان عادی را نیز هدف قرار میدهد و میتواند به سرقت اطلاعات یا پول منجر شود.
- با نزدیک شدن به فصل تعطیلات و افزایش تراکنشها، فرصت سوءاستفاده برای کلاهبرداران بیشتر میشود و نیاز به هوشیاری بالاتر ضروری است.
توصیههایی برای کاربران و کسبوکارها
- همیشه پیشنهادها و تخفیفهایی را که در شبکههای اجتماعی میبینید از طریق وبسایت رسمی فروشگاه بررسی کنید و از صحت آنها اطمینان حاصل کنید.
- اگر تماس یا ایمیلی درخواست استرداد یا اطلاعات حساس داشت، حتی در صورت مطابقت جزئی دادهها، بدون بررسی اضافی اقدام نکنید.
- کسبوکارها باید سیستمهای تشخیص تقلب را تقویت کرده و پروتکلهای پشتیبانی مشتری را بازنگری کنند تا در مقابل تماسها و درخواستهای خودکار محافظت شوند.
- به کاربران آموزش دهید که نسبت به پیشنهادهای عجیب یا فشارهای زمانی حساس باشند و در صورت تردید، از کانالهای رسمی فروشگاه استعلام کنند.
با افزایش کیفیت ابزارهای تولید صوت و تصویر مصنوعی و رشد حملات هدفمند در فصل خرید، تقویت زیرساختهای مقابله با تقلب و آگاهیبخشی به مشتریان از ضروریات حفاظتی در برابر تهدیدات مبتنی بر هوش مصنوعی است.
کد مطلب: 88053
