محققان دانشگاه صنعتی شریف موفق به طراحی نرم‌افزار تشخیص و فیلترینگ تصاویر با پردازش تصویر و یادگیری ماشین با قابلیت تشخیص بیش از ۹۰ درصد تصاویر غیر اخلاقی متداول شدند.

مهران فتوحی، دانشجوی دكتری دانشگاه صنعتی شریف كه به همراه غلامرضا بخشی دانش‌آموخته مقطع كارشناسی ارشد دانشگاه یزد موفق به طراحی این نرم افزار شده اند،اظهار كرد: در حال حاضر پالایش‌های اولیه در اینترنت بر اساس نشانی اینترنتی و برخی كلمات در متن انجام می‌شود كه دیگر چندان مناسب نیستند زیرا راه‌های زیادی برای عبور از این نوع فیلترینگ وجود دارد.

وی با بیان اینكه روش‌های قدیمی و ناكارآمد منجر به پالایش كور می‌شود، تصریح كرد: در جدیدترین روش‌های پالایش اینترنت، صفحات وب را بر اساس محتوا بررسی می‌كنند.

فتوحی خاطرنشان كرد: روش طراحی شده در این طرح، بدین صورت است كه با استفاده از روش‌های پردازش تصویر و یادگیری ماشین، تصاویر غیر اخلاقی تشخیص داده می‌شود.

فتوحی با بیان اینكه این نرم‌افزار دارای دو مرحله آ‌موزش و تست است، خاطرنشان كرد: در مرحله آ‌موزش، ویژگی‌های استخراج شده از بزرگترین ناحیه پوستی توسط شبكه عصبی آموزش داده می‌شود. همچنین این ویژگی‌ها شامل ویژگی ها شكل و بافت است و تصاویر مورد استفاده برای آموزش از صفحات اینترنتی جمع‌آوری شده است كه خروجی شبكه عصبی میزان غیر اخلاقی بودن تصویر ورودی را نشان می‌دهد.

به گفته فتوحی، دقت این روش بسیار بالاست به نحوی كه با انتخاب مقدار مناسب آستانه بدوی خروجی شبكه عصبی، بیش از ۹۰ د رصد تصاویر غیر اخلاقی متداول به درستی تشخیص داده می‌شوند.

وی در خصوص چگونگی نصب نرم افزاربرای انجام عملیات فیلترینگ گفت: شركت‌هایی كه خدمات اینترنتی می‌دهند می‌توانند از این نرم‌افزار استفاده كنند. همچنین شركت مخابرات از جمله مراكزی است كه می‌توانند از این نرم افزاراستفاده كنند. البته گروه ما پیشنهاد كرده است كه یك جست‌وجوگر ملی مانند «فایرفاكس» یا «اینترنت اكسپلورر» ساخته شده و این نرم افزار بومی فیلترینگ در آن تعبیه شود.