ايتنا - هشدار غول‌های فناوری درباره تهدید «هوش مصنوعی سرکش»؛ بیش از ۱۰۰ شرکت خواستار اقدام فوری شدند

در حالی که فناوری هوش مصنوعی در حال تغییر چهره امنیت سایبری است، کارشناسان و فعالان، در حال اعلام مخاطرات احتمالی در این زمینه‌اند.
به گزارش ایتنا، بیش از ۱۰۰ شرکت و سازمان فعال در حوزه فناوری، هوش مصنوعی، امنیت سایبری و زیرساخت دیجیتال اکنون هشدار داده‌اند که مهاجمان نیز به همان ابزارهایی دسترسی پیدا می‌کنند که برای تقویت دفاع سایبری توسعه یافته‌اند.

به‌تازگی در نامه‌ای مشترک، شرکت‌هایی از جمله OpenAI، Anthropic، گوگل، مایکروسافت، آمازون و شماری از بزرگ‌ترین شرکت‌های امنیت سایبری، از دولت‌ها و بخش خصوصی خواسته‌اند اقدامات دفاعی خود را پیش از آنکه حملات مبتنی بر هوش مصنوعی به سطحی بسیار گسترده‌تر برسند، تقویت کنند.
هشدار اصلی این ائتلاف روشن است: روش‌های سنتی امنیت سایبری دیگر برای مقابله با نسل جدید تهدیدها کافی نخواهند بود.

چرا شرکت‌ها نگران آینده نزدیک هستند؟

اکنون مدل‌های هوش مصنوعی جدید علاوه بر تولید متن، تصویر یا پاسخ به پرسش‌های کاربران، قادرند در قالب عامل‌های هوشمند، مجموعه‌ای از اقدامات را به‌صورت خودکار انجام دهند؛ از جست‌وجو در اینترنت و اجرای کد گرفته تا تحلیل آسیب‌پذیری‌ها، تعامل با سرویس‌های مختلف و انجام زنجیره‌ای از وظایف پیچیده.
همین قابلیت، از دیدگاه امنیت سایبری یک نقطه عطف محسوب می‌شود. در حملات سنتی، مهاجم انسانی باید مراحل مختلف شناسایی هدف، پیدا کردن آسیب‌پذیری، بهره‌برداری و حرکت در شبکه را مدیریت کند؛ در حالی که عامل‌های هوش مصنوعی می‌توانند بخش قابل‌توجهی از این فرایند را با سرعت و مقیاس بسیار بیشتری انجام دهند.

در نامه این شرکت‌ها تأکید شده که با افزایش توانایی این بات‌ها، حملات سایبری مجهز به هوش مصنوعی در ماه‌های آینده می‌توانند گسترده‌تر و پیچیده‌تر شوند، حملاتی که نه‌تنها شرکت‌های فناوری، بلکه خدماتی مانند بیمارستان‌ها، تأسیسات تصفیه آب و زیرساخت‌های حیاتی اینترنت نیز در فهرست اهداف احتمالی قرار دارند.

مشکل فقط هوش مصنوعی نیست

نکته مهم این است که شرکت‌های امضاکننده نامه، تمام مشکل را به توانایی‌های جدید مدل‌های هوش مصنوعی نسبت نمی‌دهند، چرا که بسیاری از زیرساخت‌های فعلی، حتی بدون حضور هوش مصنوعی نیز از مشکلات امنیتی قدیمی فنی و مدیریتی رنج می‌برند، و طبیعیست که در چنین شرایطی، هوش مصنوعی بیشتر نقش یک تقویت‌کننده توان مهاجم را ایفا می‌کند.

بنا به اذعان نویسندگان نامه مذکور، تیم‌های امنیتی، به‌ویژه در بخش زیرساخت‌های حیاتی، سال‌ها با کمبود نیروی انسانی، بودجه و ابزار مناسب مواجه بوده‌اند و اکنون باید سرمایه‌گذاری گسترده‌ای برای جبران این عقب‌ماندگی انجام شود.

پیشنهادهای مشخص برای دولت‌ها و شرکت‌ها

در این نامه، مجموعه‌ای از اقدامات مشخص نیز پیشنهاد شده است.
نخستین توصیه، اولویت دادن به امنیت سایبری در سطح مدیریت ارشد سازمان‌هاست. شرکت‌ها باید آسیب‌پذیری‌های پرخطر خود را شناسایی و اصلاح کنند، نتیجه اصلاحات را بررسی کنند و در طراحی سامانه‌های جدید، اصولی مانند حداقل سطح دسترسی، کنترل‌های قوی دسترسی و دفاع چندلایه را در نظر بگیرند.

موضوع دیگری که مورد تأکید قرار گرفته، استفاده گسترده‌تر از خود هوش مصنوعی برای دفاع است.
به اعتقاد امضاکنندگان، ابزارهای دفاع سایبری مبتنی بر AI باید در اختیار سازمان‌هایی قرار گیرد که از نظر مالی یا نیروی انسانی توان کافی برای مقابله با تهدیدهای جدید را ندارند؛ به‌خصوص بیمارستان‌ها، شرکت‌های خدمات عمومی و اپراتورهای زیرساخت‌های حیاتی.

اشتراک‌گذاری اطلاعات مربوط به تهدیدها و سناریوهای آزمایش‌شده نیز بخش دیگری از پیشنهادهاست. شرکت‌ها معتقدند باید اطلاعات مربوط به روش‌های حمله، راهکارهای مهار و الگوهای پاسخ باید در سطح صنعت و حتی میان دولت‌ها به اشتراک گذاشته شود.

نقش دولت‌ها؛ از تأمین بودجه تا دسترسی به ابزارهای دفاعی

این نامه از دولت‌ها می‌خواهد همکاری میان بخش عمومی و خصوصی را در سطح ملی و بین‌المللی افزایش دهند. خواسته دیگر، گسترش برنامه موسوم به Trusted Access است، یعنی فراهم کردن دسترسی کنترل‌شده و قابل اعتماد سازمان‌های تأییدشده به مدل‌ها و قابلیت‌های پیشرفته هوش مصنوعی، با هدف استفاده دفاعی.

شرکت‌های سازنده AI نیز مسئولیت دارند

بخش دیگری از نامه مستقیماً شرکت‌های توسعه‌دهنده مدل‌های پیشرفته را هدف قرار می‌دهد. این شرکت‌ها از آزمایشگاه‌های هوش مصنوعی می‌خواهند دسترسی مسئولانه به مدل‌ها، بودجه، آموزش و پشتیبانی عملی را در اختیار مدافعان سایبری قرار دهند.

همچنین توسعه ابزارهای مشاهده‌پذیری (Observability)، قابلیت ردیابی هویت عامل‌های هوش مصنوعی و ایجاد سازوکارهایی برای پاسخ‌گویی آنها از جمله توصیه‌های مطرح‌شده است.

هشدارها دیگر صرفاً نظری نیستند

اهمیت این نامه زمانی بیشتر مشخص می‌شود که آن را در کنار حوادث اخیر قرار دهیم.
OpenAI اخیراً جزئیات یک حادثه امنیتی را منتشر کرده که در جریان ارزیابی‌های داخلی امنیت سایبری رخ داده است. در این آزمایش‌ها، برخی مدل‌ها توانستند از محدودیت‌های در نظر گرفته‌شده برای جداسازی آنها از اینترنت عبور کنند و به زیرساخت‌های تحقیقاتی OpenAI و همچنین سامانه‌های Hugging Face دسترسی پیدا کنند.
این حادثه تنها نمونه موجود نیست. آژانس امنیت هوش مصنوعی بریتانیا نیز در ماه اوت از رخدادی خبر داد که در آن عامل‌های هوش مصنوعی طی یک ارزیابی امنیت سایبری، اقداماتی مستمر و خارج از محدوده مجاز علیه افراد و سازمان‌های واقعی انجام دادند.

رقابت جدید: هوش مصنوعی علیه هوش مصنوعی

در نتیجه، آینده امنیت سایبری احتمالاً به رقابتی میان دو گروه از سیستم‌های هوشمند تبدیل خواهد شد: عامل‌هایی که برای حمله طراحی یا سوءاستفاده می‌شوند و سامانه‌هایی که برای شناسایی، مهار و خنثی کردن آنها به کار می‌روند.

گزارش Global Cybersecurity Outlook 2026 مجمع جهانی اقتصاد نیز تأکید کرده است که هوش مصنوعی هم‌زمان توانایی‌های دفاعی و تهاجمی را افزایش می‌دهد و می‌تواند به کشف و پاسخ سریع‌تر به تهدیدها کمک کند، اما در صورت سوءاستفاده یا عملکرد نادرست، خطر حمله سایبری و نشت داده را نیز افزایش می‌دهد.

بنا به نوشته سایت تک‌کرانچ، پیام نامه اخیر را نمی‌توان صرفاً یک هشدار درباره «هوش مصنوعی سرکش» دانست. مسئله اصلی، نزدیک شدن به دوره‌ای است که در آن سرعت و مقیاس عملیات سایبری می‌تواند به شکل محسوسی افزایش یابد؛ در حالی که بسیاری از سازمان‌ها هنوز با ضعف‌های امنیتی پایه دست و پنجه نرم می‌کنند.