متا که طی ماههای اخیر سرمایهگذاری عظیمی روی هوش مصنوعی انجام داده بود، اکنون برای کنترل هزینههای پردازش سیاست جدیدی را اجرا میکند. این شرکت از کارکنان خواسته مصرف AI Tokenها را مدیریت کنند تا هزینههای عملیاتی افزایش پیدا نکند. این تصمیم نشان میدهد حتی غولهای فناوری نیز با چالش اقتصادی استفاده گسترده از هوش مصنوعی مواجه هستند.
شنبه ۱۳ تير ۱۴۰۵ ساعت ۱۱:۲۸
هزینه بالای AI دردسرساز شد
متا ترمز استفاده از هوش مصنوعی را کشید؛ محدودیت جدید برای مصرف AI Tokenها
شرکت متا که طی یک سال گذشته کارکنان خود را به استفاده گسترده از ابزارهای هوش مصنوعی تشویق میکرد، اکنون رویکرد متفاوتی در پیش گرفته است. بر اساس گزارشهای منتشرشده، این شرکت از کارمندان خواسته مصرف توکنهای هوش مصنوعی (AI Token ها) را مدیریت کنند تا از افزایش بیرویه هزینههای پردازش جلوگیری شود.
به گزارش ایتنا به نقل از TechSpot، توکنها واحد محاسبه هزینه در مدلهای هوش مصنوعی مولد هستند و هرچه حجم ورودی، خروجی یا پردازش مدل بیشتر باشد، تعداد توکنهای مصرفی نیز افزایش پیدا میکند. با رشد استفاده کارکنان از ابزارهای مبتنی بر هوش مصنوعی، هزینههای عملیاتی متا نیز به شکل قابلتوجهی افزایش یافته است.
این تغییر سیاست از آن جهت قابل توجه است که متا در ماههای گذشته سرمایهگذاری سنگینی روی توسعه هوش مصنوعی انجام داده و حتی استفاده از ابزارهای AI را به بخشی از فرهنگ کاری خود تبدیل کرده بود. این شرکت میلیاردها دلار برای توسعه خانواده مدلهای Llama و زیرساختهای پردازشی اختصاص داده و مدیرعامل آن، مارک زاکربرگ، بارها هوش مصنوعی را مهمترین حوزه آینده متا توصیف کرده است.
طبق گزارشها، متا در حال راهاندازی ابزارهایی برای پایش مصرف توکنها، تعیین بودجه برای تیمها و ارسال هشدار در صورت افزایش غیرعادی هزینهها است. هدف این اقدامات، کنترل هزینهها بدون کاهش بهرهوری کارکنان عنوان شده است.
کارشناسان معتقدند این تصمیم نشان میدهد حتی بزرگترین شرکتهای فناوری نیز با چالش هزینه بالای استفاده از مدلهای هوش مصنوعی مولد روبهرو هستند. هرچند این فناوری میتواند بهرهوری را افزایش دهد، اما در صورت نبود مدیریت مصرف، هزینه پردازش میلیونها درخواست روزانه به سرعت افزایش مییابد.
این موضوع تنها به متا محدود نیست و بسیاری از شرکتهای بزرگ فناوری نیز به دنبال ایجاد سیاستهایی برای بهینهسازی مصرف منابع هوش مصنوعی هستند. در نتیجه، مدیریت هزینه توکنها احتمالاً به یکی از مهمترین موضوعات سازمانهایی تبدیل خواهد شد که بهطور گسترده از مدلهای زبانی و ابزارهای هوش مصنوعی استفاده میکنند.
به گزارش ایتنا به نقل از TechSpot، توکنها واحد محاسبه هزینه در مدلهای هوش مصنوعی مولد هستند و هرچه حجم ورودی، خروجی یا پردازش مدل بیشتر باشد، تعداد توکنهای مصرفی نیز افزایش پیدا میکند. با رشد استفاده کارکنان از ابزارهای مبتنی بر هوش مصنوعی، هزینههای عملیاتی متا نیز به شکل قابلتوجهی افزایش یافته است.
این تغییر سیاست از آن جهت قابل توجه است که متا در ماههای گذشته سرمایهگذاری سنگینی روی توسعه هوش مصنوعی انجام داده و حتی استفاده از ابزارهای AI را به بخشی از فرهنگ کاری خود تبدیل کرده بود. این شرکت میلیاردها دلار برای توسعه خانواده مدلهای Llama و زیرساختهای پردازشی اختصاص داده و مدیرعامل آن، مارک زاکربرگ، بارها هوش مصنوعی را مهمترین حوزه آینده متا توصیف کرده است.
طبق گزارشها، متا در حال راهاندازی ابزارهایی برای پایش مصرف توکنها، تعیین بودجه برای تیمها و ارسال هشدار در صورت افزایش غیرعادی هزینهها است. هدف این اقدامات، کنترل هزینهها بدون کاهش بهرهوری کارکنان عنوان شده است.
کارشناسان معتقدند این تصمیم نشان میدهد حتی بزرگترین شرکتهای فناوری نیز با چالش هزینه بالای استفاده از مدلهای هوش مصنوعی مولد روبهرو هستند. هرچند این فناوری میتواند بهرهوری را افزایش دهد، اما در صورت نبود مدیریت مصرف، هزینه پردازش میلیونها درخواست روزانه به سرعت افزایش مییابد.
این موضوع تنها به متا محدود نیست و بسیاری از شرکتهای بزرگ فناوری نیز به دنبال ایجاد سیاستهایی برای بهینهسازی مصرف منابع هوش مصنوعی هستند. در نتیجه، مدیریت هزینه توکنها احتمالاً به یکی از مهمترین موضوعات سازمانهایی تبدیل خواهد شد که بهطور گسترده از مدلهای زبانی و ابزارهای هوش مصنوعی استفاده میکنند.
کد مطلب: 90135
(۲ نظر)
(۱ نظر)
