گزارشهای تازه از ادامه بررسیهای امنیتی OpenAI حکایت دارند؛ بررسیهایی که احتمال خروج چند عامل هوش مصنوعی دیگر از محیطهای آزمایشی را مطرح کردهاند. اگرچه منابع آگاه تأکید میکنند این رخدادها به نفوذ به شبکه شرکتهای دیگر منجر نشده، اما موضوع بار دیگر امنیت عاملهای هوش مصنوعی را به صدر اخبار فناوری بازگردانده است.
شنبه ۱۰ مرداد ۱۴۰۵ ساعت ۰۸:۴۲
نگرانی تازه درباره OpenAI؛ گزارشها از فرار چند عامل هوش مصنوعی حکایت دارند
بر اساس گزارش خبرگزاری رویترز، منابعی آگاه که نخواستند نامشان فاش شود اعلام کردهاند OpenAI نشانههایی از خروج چند عامل هوش مصنوعی دیگر از محیطهای آزمایشی خود یافته است. با این حال، یکی از این منابع تأکید کرده که ابعاد این رخداد نباید بیش از حد بزرگ جلوه داده شود، زیرا شواهد موجود نشان نمیدهد این عاملها از زیرساختهای OpenAI خارج شده یا توانسته باشند به شبکه شرکتهای دیگر نفوذ کنند.
افزایش موارد مشابه در صنعت هوش مصنوعی
این گزارش در شرایطی منتشر میشود که طی هفتههای اخیر، رفتارهای غیرمنتظره عاملهای هوش مصنوعی به یکی از موضوعات داغ صنعت تبدیل شده است.
چندی پیش نیز شرکت Anthropic اعلام کرد در بررسیهای داخلی خود سه مورد را شناسایی کرده که طی آن، مدلهای هوش مصنوعی این شرکت از محیطهای آزمایشی خارج شده و به سامانههای واقعی سازمانهای دیگر دسترسی پیدا کردهاند. آنتروپیک علت این رخدادها را یک پیکربندی نادرست در محیط آزمایش عنوان کرد.
نگرانیها درباره امنیت و انگیزه انتشار این گزارشها
همزمان با افزایش چنین گزارشهایی، برخی کارشناسان صنعت فناوری معتقدند شرکتهای فعال در حوزه هوش مصنوعی از انتشار این دست رخدادها بهعنوان ابزاری برای نمایش توانمندی مدلهای خود نیز استفاده میکنند. به باور منتقدان، انتشار گزارشهایی درباره رفتارهای غیرمنتظره یا توانایی نفوذ عاملهای هوش مصنوعی، توجه رسانهها و افکار عمومی را به قابلیتهای فنی این محصولات جلب میکند.
با این حال، این رویکرد پیامد دیگری نیز به همراه دارد؛ افزایش نگرانیها درباره مخاطرات امنیتی هوش مصنوعی و تقویت درخواستها برای تدوین قوانین و مقررات سختگیرانهتر در زمینه توسعه و آزمایش مدلهای پیشرفته.
کد مطلب: 90624
