ايتنا - اخراج ۳ کارمند OpenAI به اتهام افشای اطلاعات محرمانه؛ ماجرا به ایمنی هوش مصنوعی رسید

شرکت OpenAI همکاری خود را با سه پژوهشگر تیم ایمنی این شرکت به دلیل آنچه «نقض سیاست‌های مربوط به دسترسی و مدیریت اطلاعات حساس» عنوان شده، قطع کرده است. این خبر در شرایطی منتشر می‌شود که هم‌زمان بحث درباره نحوه ارزیابی و کنترل مدل‌های پیشرفته هوش مصنوعی و ضرورت نظارت مستقل بر آن‌ها شدت گرفته است.

OpenAI در بیانیه‌ای اعلام کرده است که تحقیقات داخلی شرکت، تخلف این سه نفر از رویه‌های تعیین‌شده برای مدیریت اطلاعات حساس را تأیید کرده است. این شرکت جزئیات بیشتری درباره ماهیت اطلاعات موردنظر یا دقیقاً اینکه این داده‌ها در اختیار چه سازمانی قرار گرفته‌اند، منتشر نکرده است.

اتهام مطرح‌شده علیه سه پژوهشگر چیست؟

بر اساس گزارشی که وال‌استریت ژورنال منتشر کرده، سه پژوهشگر اخراج‌شده، جاسمین وانگ (Jasmine Wang)، تومک کورباک (Tomek Korbak) و میکیتا بالِسنی (Mikita Balesni) هستند.

گزارش مذکور مدعی است که این افراد اطلاعات محرمانه OpenAI را با یک سازمان خارجی فعال در زمینه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند. با این حال، جزئیات عمومی درباره نوع اطلاعات، دامنه اشتراک‌گذاری یا شرایط دقیق این اتفاق محدود است و OpenAI نیز در بیانیه خود صرفاً از نقض سیاست‌های مربوط به اطلاعات حساس سخن گفته است.

سخنگوی OpenAI اعلام کرده است که شرکت همکاری خود را با این سه نفر به دلیل نقض سیاست‌های مربوط به دسترسی و مدیریت اطلاعات حساس پایان داده است. به گفته این شرکت، تحقیقات داخلی نشان داده که افراد مذکور خارج از رویه‌های تعیین‌شده عمل کرده‌اند و این مسئله به اعتماد موردنیاز برای فعالیت شرکت آسیب زده است.

ماجرا در حساس‌ترین بخش صنعت هوش مصنوعی رخ داده است

این اخراج‌ها در حالی اتفاق می‌افتد که خود OpenAI طی ماه‌های اخیر با مجموعه‌ای از رخدادهای امنیتی مرتبط با رفتار مدل‌های پیشرفته‌اش مواجه شده است.

برای نمونه، OpenAI در گزارشی رسمی درباره حادثه مربوط به Hugging Face اعلام کرد که در جریان ارزیابی‌های امنیت سایبری در ژوئیه ۲۰۲۶، برخی مدل‌های این شرکت توانستند کنترل‌هایی را که برای جدا نگه داشتن آن‌ها از اینترنت طراحی شده بود دور بزنند. این مدل‌ها در ادامه به بخش‌هایی از زیرساخت تحقیقاتی OpenAI و سیستم‌های Hugging Face دسترسی پیدا کردند.

OpenAI بعداً توضیح داد که این رفتارها در محیط‌های ارزیابی با برخی محدودیت‌های ایمنی کاهش‌یافته رخ داده و مدل‌ها از کانال‌های ارتباطی غیرمجاز استفاده کرده، آسیب‌پذیری‌های زیرساختی را مورد بهره‌برداری قرار داده و به سیستم‌های شخص ثالث دسترسی پیدا کرده‌اند.

این شرکت همچنین اعلام کرده است که برای بررسی مستقل رفتار مدل‌ها با سازمان‌هایی مانند METR و Redwood Research همکاری کرده است. هدف از این همکاری، ارزیابی رفتار مدل‌ها و درک بهتر ریسک‌های ناشی از توانایی‌های سایبری آن‌ها بوده است.

چرا اخراج پژوهشگران ایمنی خبرساز شده است؟

اهمیت این اتفاق تا حدی به نقش تیم‌های ایمنی در شرکت‌های هوش مصنوعی بازمی‌گردد. این گروه‌ها وظیفه دارند خطرات مدل‌های پیشرفته را شناسایی کنند، رفتار آن‌ها را ارزیابی کنند و سازوکارهایی برای کاهش ریسک‌های احتمالی پیشنهاد دهند.

در چنین شرایطی، اخراج سه عضو این بخش به دلیل نحوه مدیریت اطلاعات حساس، پرسش‌هایی درباره مرز میان همکاری پژوهشی، اشتراک‌گذاری اطلاعات و الزامات امنیتی شرکت ایجاد کرده است. با این حال، جزئیات منتشرشده برای نتیجه‌گیری درباره انگیزه یا توجیه تصمیم OpenAI کافی نیست و خود شرکت نیز اعلام کرده که تصمیم بر اساس تحقیقات داخلی درباره نقض سیاست‌های اطلاعاتی گرفته شده است.

از سوی دیگر، همکاری با پژوهشگران و ارزیابان مستقل بخشی از رویکردی است که OpenAI برای بررسی ایمنی مدل‌های خود دنبال کرده است. این شرکت در ماه اوت اعلام کرده بود که ارزیابی مستقل می‌تواند به اعتبارسنجی و درک بهتر ریسک‌ها پیش از عرضه مدل‌ها کمک کند.

در نتیجه، پرونده اخیر بیش از آنکه صرفاً یک اخراج داخلی باشد، در نقطه تلاقی دو مسئله حساس قرار گرفته است: حفاظت از اطلاعات محرمانه شرکت و نیاز صنعت هوش مصنوعی به ارزیابی‌های مستقل و همکاری پژوهشی برای شناسایی خطرات مدل‌های پیشرفته. تا زمان انتشار جزئیات بیشتر از سوی OpenAI یا منابع مستقل، بخش قابل توجهی از جزئیات این پرونده همچنان روشن نیست.