گزارشی تازه نشان میدهد پیمانکاران متا با ایجاد حسابهای کاربری جعلی نوجوانان، هزاران پرسش درباره خودکشی، مواد مخدر و روابط جنسی را برای چتباتهای رقیب ارسال کردهاند. متا این اقدام را بخشی از آزمونهای ایمنی میداند، اما منتقدان آن را از نظر اخلاقی و حقوقی بحثبرانگیز توصیف میکنند.
يکشنبه ۱۴ تير ۱۴۰۵ ساعت ۰۰:۰۰
گزارش جنجالی درباره متا؛ آزمایش مخفیانه چتباتهای رقیب با هویت جعلی نوجوانان
بنا به نوشته سایت Futurism این اقدام با هدف ارزیابی عملکرد سامانههای ایمنی رقبای متا انجام شده، اما از همان ابتدا با انتقادهای اخلاقی و حقوقی روبهرو شده است.
بر اساس این گزارش، پروژهای با نام داخلی Cannes توسط یک شرکت پیمانکار مدیریت میشد و در آن، کارکنان موظف بودند حسابهای کاربری جعلی برای افراد زیر ۱۸ سال ایجاد کنند و با ارسال پرسشها و سناریوهای نگرانکننده، واکنش چتباتهایی مانند ChatGPT، Gemini و Character.AI را ثبت و تحلیل کنند.
به گزارش ایتنا، تنها در یکی از مراحل این پروژه، بیش از ۴۵ هزار پرسش به سامانههای رقیب ارسال شده است.
بخش قابلتوجهی از این پرسشها از زبان نوجوانانی طراحی شده بود که ظاهراً با بحرانهای روحی یا اجتماعی روبهرو هستند؛ از افکار خودکشی گرفته تا مصرف مواد مخدر، بارداری، خشونت و سایر موضوعات حساس.
برخی پیمانکاران گفتهاند حجم و ماهیت این محتوا برای آنها آزاردهنده بوده و حتی نگران بودند که در برخی موارد ناخواسته با محتوای غیرقانونی یا بسیار آسیبزا روبهرو شوند.
متا در واکنش به این گزارش اعلام کرده است که آزمایش و مقایسه عملکرد چتباتها در موضوعات ایمنی، یک رویه رایج در صنعت هوش مصنوعی است و هدف این پروژه صرفاً ارزیابی میزان ایمن بودن پاسخهای رقبا بوده است. این شرکت همچنین تأکید کرده دادههای جمعآوریشده برای آموزش مدلهای هوش مصنوعی متا استفاده نشدهاند.
با این حال، شرکتهای هدف این آزمایشها دیدگاه متفاوتی دارند. گزارشها حاکی از آن است که OpenAI در حال بررسی موضوع است و Character.AI نیز اعلام کرده چنین فعالیتی با قوانین و شرایط استفاده از خدمات این شرکت مغایرت دارد.
کارشناسان حقوقی نیز معتقدند اگرچه آزمایش محصولات رقبا در صنعت فناوری امری معمول است، اما استفاده گسترده از حسابهای جعلی نوجوانان و تلاش برای دور زدن محدودیتهای ایمنی، پرسشهای جدی درباره مرز میان «آزمون ایمنی» و «رفتار ضدرقابتی» ایجاد میکند.
این گزارش در شرایطی منتشر شده که رقابت میان شرکتهای بزرگ هوش مصنوعی برای توسعه مدلهای قدرتمندتر شدت گرفته است.
همزمان، شیوه ارزیابی ایمنی این مدلها نیز بیش از گذشته زیر ذرهبین نهادهای نظارتی و کارشناسان قرار گرفته و انتظار میرود استانداردهای سختگیرانهتری برای آزمون سامانههای هوش مصنوعی تدوین شود.
کد مطلب: 90160
(۲ نظر)
(۱ نظر)
