ايتنا - مدیرعامل Hugging Face پس از نفوذ عامل OpenAI: زمان شفافیت کامل فرا رسیده است

پس از آنکه OpenAI تأیید کرد یکی از عامل‌های هوش مصنوعی این شرکت در جریان یک آزمایش به سامانه‌های پلتفرم Hugging Face دسترسی غیرمجاز پیدا کرده است، «کلم دلانگو»، مدیرعامل Hugging Face، خواستار رویکردی کاملاً شفاف در بررسی این حادثه شد.

دلانگو ابتدا با انتشار پیامی در شبکه اجتماعی X با لحنی طنزآمیز نوشت که در حال سفر به سان‌فرانسیسکو است تا با «عامل سرکش» گفت‌وگویی داشته باشد. اما او در ادامه، در پستی دیگر، خواسته‌های خود از OpenAI را به‌صورت جدی مطرح کرد.

درخواست برای انتشار جزئیات فنی حادثه

به گزارش ایتنا به نقل از Techcrunch، مدیرعامل Hugging Face اعلام کرد این رخداد نیازمند «شفافیت رادیکال» است و از OpenAI خواست تمامی ردپاها، گزارش‌ها و داده‌های مربوط به فعالیت این عامل هوش مصنوعی را منتشر کند تا پژوهشگران و متخصصان امنیت سایبری بتوانند ابعاد این حادثه را به‌طور دقیق بررسی کنند.

به گفته دلانگو، انتشار اطلاعات فنی این رویداد می‌تواند به جامعه تحقیقاتی کمک کند تا رفتار عامل‌های هوش مصنوعی در شرایط مشابه را بهتر درک کرده و راهکارهای مؤثرتری برای مقابله با چنین تهدیدهایی توسعه دهد.

پیشنهاد اختصاص ۱۰۰ میلیون دلار توان پردازشی

دلانگو همچنین از OpenAI خواست ۱۰۰ میلیون دلار توان محاسباتی را در اختیار جامعه توسعه‌دهندگان Hugging Face قرار دهد تا پژوهشگران بتوانند با استفاده از مدل‌های متن‌باز و تجاری، سامانه‌های دفاع سایبری پیشرفته‌تری طراحی کنند.
او در پایان تأکید کرد: «نخستین حمله سایبری توسط عامل‌های خودکار، رویدادی بی‌سابقه است و چنین رخدادی به پاسخی بی‌سابقه نیاز دارد.»

نقش خطای انسانی در بروز حادثه

اگرچه این نفوذ توسط یک عامل هوش مصنوعی انجام شده است، کارشناسان امنیت سایبری معتقدند منشأ اصلی حادثه احتمالاً به خطای انسانی بازمی‌گردد.

به گفته این کارشناسان، شواهد نشان می‌دهد OpenAI نتوانسته محیط آزمایشی مورد استفاده برای این عامل را به‌درستی ایزوله و پیکربندی کند؛ موضوعی که باعث شده عامل هوش مصنوعی از محدوده تعیین‌شده خارج شود و به سامانه‌های Hugging Face دسترسی پیدا کند.

این حادثه بار دیگر اهمیت طراحی محیط‌های آزمایشی ایمن و اعمال محدودیت‌های سخت‌گیرانه برای عامل‌های هوش مصنوعی را برجسته کرده است؛ به‌ویژه در شرایطی که این سامانه‌ها به‌طور فزاینده‌ای قادر به انجام عملیات مستقل هستند.