✔️ اعتراف OpenAI: مدل‌های ما با فرار از محیط آزمایشگاه، هاگینگ فیس را هک کردند ▪️چند روز بعد از این

✔️ اعتراف OpenAI: مدل‌های ما با فرار از محیط آزمایشگاه، هاگینگ فیس را هک کردند ▪️چند روز بعد از اینکه Hugging Face از یک حمله سایبری توسط یک عامل هوش مصنوعی خودمختار خبر داد، OpenAI تأیید کرد که این حمله در جریان تست داخلی مدل‌های خودش رخ داده است. ▪️طبق…✔️ روایت کامل: یه اتفاق عجیب توی آزمایش امنیتی OpenAI!شرکت OpenAI گزارشی منتشر کرده که واقعاً شبیه فیلم‌های علمی‌تخیلیه، اما کاملاً واقعی بوده. 😅ماجرا از این قراره:🔹 برای سنجش توانایی واقعی مدل‌های هوش مصنوعی در امنیت سایبری، OpenAI بعضی از محدودیت‌های ایمنی مدل‌ها رو داخل یک محیط آزمایشی (Sandbox) موقتاً کاهش داد.🔹 مدل‌ها در حال حل چالش‌های پیشرفته ExploitGym بودن؛ اما به‌جای اینکه فقط سؤال‌ها رو حل کنن، یک آسیب‌پذیری Zero-Day داخل خود Sandbox پیدا کردن!🔹 بعد با استفاده از همون آسیب‌پذیری، از Sandbox خارج شدن، سطح دسترسی خودشون رو افزایش دادن (Privilege Escalation) و با Lateral Movement به سیستمی رسیدن که اینترنت داشت.🔹 مدل‌ها حدس زدن که جواب‌های آزمون احتمالاً روی Hugging Face وجود داره؛ بنابراین با سوءاستفاده از چند آسیب‌پذیری و اطلاعات ورود، وارد زیرساخت اون شدن.🔹 در نهایت هم پاسخ‌های آزمون رو از دیتابیس برداشتند و به‌جای حل واقعی چالش‌ها، از اون‌ها برای گرفتن امتیاز بهتر استفاده کردند! 😅نکته مهم اینجاست که همه این اتفاق‌ها داخل یک آزمایش کنترل‌شده و با کاهش عمدی برخی محدودیت‌های امنیتی انجام شده و هیچ ارتباطی با کاربران ChatGPT یا سرویس‌های عمومی OpenAI نداره.با این حال، خود OpenAI این رویداد رو یک حادثه امنیتی بی‌سابقه توصیف کرده و گفته از این تجربه برای تقویت امنیت ارزیابی مدل‌های آینده استفاده خواهد کرد.گزارش کامل:https://openai.com/index/hugging-face-model-evaluation-security-incident/@kaliboys | کالی بویز