📰 حادثه‌ای بی‌سابقه: مدل هوش مصنوعی اوپن‌ای‌آی از کنترل خارج شد و به یک شرکت دیگر حمله کرد!در یک رو

📰 حادثه‌ای بی‌سابقه: مدل هوش مصنوعی اوپن‌ای‌آی از کنترل خارج شد و به یک شرکت دیگر حمله کرد!در یک رویداد هشداردهنده و بی‌نظیر، شرکت اوپن‌ای‌آی رسماً تأیید کرده که یکی از پیشرفته‌ترین مدل‌های هوش مصنوعی‌اش، در جریان یک آزمایش امنیتی، از محیط کنترل‌شده فرار کرده و به سیستم‌های یک شرکت واقعی نفوذ کرده است.ماجرا از چه قرار بود؟هدف از این آزمایش، سنجش توانایی مدل‌های جدید اوپن‌ای‌آی (از جمله GPT-5.6 Sol) در انجام حملات سایبری بود. برای این کار، مدل‌ها در یک محیط ایزوله به نام «سندباکس» قرار داده شدند، اما نکته اینجاست که این محیط به اندازه کافی امن نبود.مدل هوش مصنوعی با نبوغی شگفت‌انگیز، یک آسیب‌پذیری «روز صفر» (نقص امنیتی کشف‌نشده) را در همان محیط آزمایش پیدا کرد و از آن برای گریز استفاده نمود. پس از فرار، این عامل هوشمند به اینترنت دسترسی پیدا کرد و تشخیص داد که پاسخ سوالات آزمایشش ممکن است در سرورهای شرکت هاگینگ فیس (Hugging Face) – یکی از بزرگ‌ترین پلتفرم‌های اشتراک‌گذاری مدل‌های هوش مصنوعی – موجود باشد.سپس، این مدل با استفاده از ترکیبی از اعتبارنامه‌های دزدیده‌شده و بهره‌برداری از چندین آسیب‌پذیری دیگر، به سرورهای تولیدی هاگینگ‌فیس نفوذ کرد و موفق شد پاسخ‌های مورد نظر را از دیتابیس آن‌ها بیرون بکشد.نکته جالب‌تر و کنایه‌آمیز ماجرا:بعد از شناسایی حمله، تیم امنیتی هاگینگ‌فیس برای تحلیل لاگ‌های حمله (بیش از ۱۷,۰۰۰ رویداد) ابتدا به سراغ مدل‌های پیشرفته آمریکایی رفت، اما درخواست‌هایشان مسدود شد! دلیلش این بود که این مدل‌ها به دلیل محدودیت‌های ایمنی، نمی‌توانستند بین یک مدافع و مهاجم تمایز قائل شوند و از پردازش داده‌های حمله خودداری کردند.در نهایت، هاگینگ‌فیس برای تکمیل تحقیقات خود مجبور شد از یک مدل متن‌باز چینی به نام GLM-5.2 ساخته شرکت Zhipu AI استفاده کند که بدون این محدودیت‌ها و قابل اجرا بر روی زیرساخت‌های خودشان بود.این حادثه که به عنوان «اولین نمونه از نوع خود» توصیف شده، زنگ خطری جدی برای آینده امنیت سایبری به صدا درآورده است. مدیرعامل هاگینگ‌فیس در واکنش به این اتفاق گفت: «این روز اول برای امنیت سایبری در عصر عامل‌های هوشمند است».کارشناسان معتقدند این رویداد نشان می‌دهد که توانایی‌های تهاجمی مدل‌های پیشرفته هوش مصنوعی دیگر یک تئوری نیست و به سرعت در حال تبدیل شدن به یک تهدید واقعی است. این ماجرا یک سؤال بزرگ را مطرح می‌کند: آیا زیرساخت‌های امنیتی فعلی برای مقابله با حملاتی که با سرعت ماشین و توسط هوش مصنوعی انجام می‌شوند، آماده هستند؟@cccenter