ايتنا - سواستفاده مرد چینی از ChatGPT برای تولید اخبار جعلی

به نظر می رسد این نخستین مورد از اقدامات اجرایی در چین تحت قانون بی سابقه مرتبط با هوش مصنوعی به حساب می آید.

این پرونده نشان دهنده تلاش مقامات چینی برای قانونمندسازی و کنترل موارد استفاده از هوش مصنوعی است.

پلیس در ایالت گانسو واقع در شمال غربی چین مردی به نام «هونگ» را دستگیر کرده و مدعی است وی اخبار جعلی در خصوص تصادف قطاری ساخته که به کشته شدن ۹ نفر منجر شده است.

مقامات متوجه شدند بیش از ۲۰ حساب کاربری این خبر را در یک بلاگ متعلق به شرکت بایدو منتشر کرده اند. این پست آنها بیش از ۱۵ هزار بار بازدید داشته است.

به نظر می رسد هونگ از چت جی پی تی برای ایجاد نسخه های متفاوت از این خبر جعلی استفاده کرده تا بتواند از کنترل های پلتفرم بایدو گذر کند.

چت جی پی تی که توسط شرکت اوپن آ آی ابداع شده یک نمونه از چت بات مبتنی بر هوش مصنوعی مولد است و به نرم افزار اجازه می دهد به سوالات پاسخ دهد. به عنوان مثال کاربران می توانند از چت جی پی تی بخواهند براساس دستوراتی خاص یک داستان بسازد.

مقامات پلیس گانسو هونگ را طبق قانون ناظر بر «فناوری های ترکیبی عمیق» دستگیر کردند. چین سال گذشته این قانون را تصویب کرده بود. فناوری های ترکیبی عمیق به هوش مصنوعی اشاره دارد که برای تولید متن، تصویر، ویدئو یا محتوای دیگر به کار می رود. طبق قانون، نمی توان از سرویس های ترکیبی برای انتشار اخبار جعلی استفاده کرد.

چین پیش نویس قانون مذکور را در حالی اعلام کرد که چت جی پی تی در حال رشد و گسترش بود. همزمان مقامات سعی داشتند از این فناوری پیشی بگیرند.

در حال حاضر چت جی پی تی در چین فیلتر است اما با استفاده از وی پی ان می توان به آن دسترسی یافت. از سوی دیگر غول های فناوری چینی مشغول آموزش نسخه های رقیب چت جی پی تی هستند که البته به طور گسترده در دسترس نخواهند بود. در عوض شرکت های چینی کاربردهای خاص را در نظر گرفته اندتا دولت و رگولاتورها را بیمناک نکنند.