آنچه در این مقاله میخوانیم
پارادوکس هوش مصنوعی: هک شدن پلتفرم Hugging Face توسط یک عامل هوش مصنوعی خودمختار
در یک اتفاق طنزآمیز و کنایهآمیز، پلتفرم هوش مصنوعی متنباز Hugging Face اعلام کرد که قربانی حملهای شده که توسط یک «عامل هوش مصنوعی خودمختار» (Autonomous AI Agent) صورت گرفته است.
این شرکت اعلام کرد که در اوایل هفته گذشته، این حادثه را که زیرساختهای تولیدی (Production Infrastructure) آن را هدف قرار داده بود، شناسایی و مهار کرده است.
Hugging Face در بیانیهای گفت: «ما دسترسی غیرمجازی را به مجموعهای محدود از دادههای داخلی و چندین اعتبارنامه (Credential) مورد استفاده در سرویسهایمان شناسایی کردیم.»
اگرچه تحقیقات در مورد این نفوذ همچنان ادامه دارد، Hugging Face تأکید کرد که هیچ شواهدی مبنی بر دستکاری مدلها، مجموعهدادهها یا Spacesهای عمومی و همچنین زنجیره تأمین نرمافزاری خود توسط این عامل هوش مصنوعی یافت نشده است.
تحلیل فنی حمله سایبری
نقطه شروع این حمله، خودِ «پایپلاین پردازش داده» بود؛ جایی که یک مجموعهداده مخرب با سوءاستفاده از دو مسیر اجرای کد (یکی در لودر دادههای از راه دور و دیگری از طریق تزریق قالب در پیکربندی مجموعه داده)، موفق شد کد مخرب خود را روی یک پردازشگر (Worker) اجرا کند.
با این دسترسی اولیه، مهاجم موفق شد سطح دسترسی خود را به سطح نود (Node-level) ارتقا دهد، اعتبارنامههای ابری و کلاستر را جمعآوری کند و در طول یک آخر هفته، بهصورت جانبی (Lateral Movement) به چندین کلاستر داخلی نفوذ کند.
مدل زبانی بزرگی (LLM) که دقیقاً برای انجام این حمله استفاده شده مشخص نیست، اما این کمپین توسط یک «چارچوب عامل خودمختار» اجرا شده است که «هزاران اقدام مجزا را در شبکهای از سندباکسهای کوتاهمدت انجام داده و دستورات کنترل و فرمان (C2) خود را بر روی سرویسهای عمومی مستقر کرده است.»
اقدامات اصلاحی و ایمنسازی
Hugging Face اعلام کرد که ریشه این مشکل، یعنی مسیرهای اجرای کد که برای دسترسی اولیه استفاده شده بود را برطرف کرده است. این شرکت همچنین اقدامات اصلاحی زیر را انجام داده است:
- حذف جای پای مهاجم در کلاسترهای تحت تأثیر و بازسازی نودهای آسیبدیده.
- ابطال و جایگزینی اعتبارنامهها و توکنهای آسیبدیده، و همچنین انجام یک دور چرخشی گستردهتر برای تمامی رمزها (Secrets) به عنوان یک اقدام احتیاطی.
- استقرار حفاظهای امنیتی (Guardrails) اضافی و اعمال کنترلهای پذیرش (Admission Controls) سختگیرانهتر روی کلاسترها.
- بهبود سیستمهای تشخیص و هشدار برای اطمینان از اطلاعرسانی به تیمهای پاسخدهی در عرض چند دقیقه، بهصورت ۲۴ ساعته در هفت روز هفته.
بهعنوان یک تدبیر امنیتی بیشتر، Hugging Face از کاربران خود میخواهد تمامی توکنهای دسترسی خود را تغییر داده و فعالیتهای اخیر حسابهایشان را بررسی کنند.
چالش محافظهای اخلاقی در ابزارهای امنیتی
این شرکت همچنین اعلام کرد که برای انجام تحلیلهای فارنزیک (جرمشناسی دیجیتال) پس از حمله، به سراغ مدل GLM 5.2 (یک مدل متنباز چینی) رفته است؛ چرا که مدلهای پیشرو غربی از پذیرش درخواستهایی که حاوی کدهای حمله واقعی، پیلودهای اکسپلویت و آرتیفکتهای C2 بودند خودداری میکردند. دلیل این امر، فعال شدن محافظهای ایمنی (Safety Guardrails) این مدلها و ناتوانی آنها در تشخیص تفاوت بین یک «مهاجم» و یک «تلاش مشروع برای پاسخ به حادثه» بود.
این شرکت مستقر در نیویورک افزود: «این تجربه نشاندهنده خلأیی است که باید برای آن برنامهریزی کرد. ما نمیدانیم کدام مدل، عوامل مهاجم را قدرت میبخشید (مدل میزبانِ جیلبریک شده یا یک مدل متنباز بدون محدودیت)؛ در هر صورت، مهاجم تابع هیچ سیاست استفادهای نبود، در حالی که کار فارنزیک خودِ ما توسط محافظهای مدلهای تجاری که ابتدا امتحان کردیم، مسدود شد.»
«درس عملی برای مدافعان این است: پیش از وقوع حادثه، یک مدل توانمند که بتوانید روی زیرساخت خودتان اجرا کنید را تأیید و آماده داشته باشید؛ هم برای اینکه از مسدود شدن توسط محافظهای اخلاقی جلوگیری کنید و هم برای اینکه دادهها و اعتبارنامههای مربوط به حمله از محیط امن شما خارج نشوند
