ايتنا - هوش مصنوعی نژاد پرستی را تشدید می‌کند؟

انجلا ویلیامز مدیر سیاست گذاری گوگل در جریان نشستی مجازی در روز جمعه تصریح کرد که هوش مصنوعی ممکن است در آینده به جوامع حاشیه‌ای و کم برخوردار در آمریکا آسیب بزند و علت این مساله آن است که الگوریتم‌های هوش مصنوعی بر مبنای داده‌های به دست آمده از سفیدپوستان طراحی شده و بخش اعظم مبدعان آن نیز سفیدپوست بوده‌اند.

به گزارش ایتنا از مهر، وی تصریح کرده باید تلاش گسترده‌ای به عمل آید تا جلوی این اتفاق گرفته شود، در غیر این صورت جامعه سیاه پوستان آمریکا و دیگر اقلیت‌های ساکن در این کشور از افزایش استفاده از هوش مصنوعی متضرر می‌شوند و می‌توان انتظار داشت که مشکل یادشده به دیگر کشورهای جهان نیز تسری یابد.

این مدیر گوگل همچنین اظهار نگرانی کرد که از هوش مصنوعی برای افزایش دقت سیستم‌های جاسوسی و پلیسی کردن بیشتر جامعه آمریکا سوءاستفاده شود.

وی در این مورد گفت: فناوری نژادپرست نیست، اما ما می‌توانیم کدنویسی آن را به شیوه‌ای متعصبانه و مغرضانه انجام دهیم. در این مورد می‌توان به دستگیری اشتباه یک سیاه پوست اهل دیترویت اشاره کرد که چهره وی به اشتباه با چهره یک دزد اشتباه گرفته شد. علت این است که الگوریتم‌های هوش مصنوعی در زمینه تمایز قائل شدن بین سیاه پوستن با دقت عمل نمی‌کنند.

انجلا ویلیامز در ادامه صحبت‌های خود به ضعف برخی الگوریتم‌های هوش مصنوعی گوگل در زمینه شناسایی و طبقه بندی مطالب و پست‌های نژادپرستانه اشاره کرد و تصریح کرد که آنها گاهی مطالب عادی و مناسب را نژادپرستانه تشخیص می‌دهند و گاهی نیز مطالب نامناسب را شناسایی نمی‌کنند و هنوز برای این نوع مشکلات راه حل قطعی وجود ندارد. ولی باید تلاش شود تا دستورالعمل‌هایی مشخص برای کاهش این مشکلات ابداع شود.