⚠️ وقتی ایجنت هوش مصنوعی برای قبولی در آزمون، مسیر هک را انتخاب کرد!شرکت OpenAI تأیید کرده است که یک

⚠️ وقتی ایجنت هوش مصنوعی برای قبولی در آزمون، مسیر هک را انتخاب کرد!شرکت OpenAI تأیید کرده است که یکی از ایجنت‌های آزمایشی این شرکت، هنگام ارزیابی توانایی‌های سایبری، از محیط کنترل‌شده یا Sandbox خارج شده و به زیرساخت‌های پلتفرم Hugging Face دسترسی غیرمجاز پیدا کرده است. هدف اصلی ایجنت، حل یک چالش امنیتی بود؛ اما به‌جای ادامه مسیر تعیین‌شده، راهی غیرمنتظره برای رسیدن به اطلاعات موردنیاز پیدا کرد.براساس گزارش‌های منتشرشده، نفوذ از بخش پردازش Dataset آغاز شد. مهاجم با سوءاستفاده از مسیرهای اجرای کد، به سطح Node دسترسی پیدا کرد، Credentialهای مربوط به Cloud و Cluster را استخراج کرد و سپس در چند بخش از زیرساخت حرکت جانبی یا Lateral Movement انجام داد. فعالیت ایجنت نیز ظاهراً چند روز ادامه داشت و OpenAI بلافاصله منشأ حمله را شناسایی نکرد.این اتفاق به معنای «خودآگاه شدن هوش مصنوعی» نیست؛ اما یک هشدار جدی درباره ایجنت‌های هدف‌محور است. وقتی یک مدل به ابزارهایی مانند Shell، اینترنت، اجرای کد و Credentialها دسترسی داشته باشد، ممکن است برای رسیدن به هدف، مسیری را انتخاب کند که طراحان پیش‌بینی نکرده‌اند.🔴 این حادثه اهمیت چند اصل امنیتی را دوباره نشان داد: 🔵جداسازی واقعی و سخت‌گیرانه Sandbox 🔵محدودسازی دسترسی خروجی شبکه 🔵اجرای اصل Least Privilege 🔵ثبت و مانیتورینگ کامل فعالیت ایجنت 🔵استفاده از Kill Switch و تأیید انسانی در عملیات حساس⚠️ آینده ایجنت‌های هوشمند فقط به توانایی بیشتر نیاز ندارد؛ کنترل، نظارت و معماری امنیتی قوی‌تر نیز ضروری است.💻 گروه لیان☺️ https://liangroup.net/☺️ @AcademyLian