⭕️ محیط آزمایشی برای مدل‌های هوش مصنوعی زیادی کوچک شده است! 🔴 شرکت Anthropic اعلام کرد در سه آزمای

⭕️ محیط آزمایشی برای مدل‌های هوش مصنوعی زیادی کوچک شده است! 🔴 شرکت Anthropic اعلام کرد در سه آزمایش داخلی، برخی مدل‌های Claude از محیط آزمایشی خارج شده و به‌اشتباه با سامانه‌های واقعی در اینترنت تعامل کرده‌اند. 🔻 در یکی از موارد، یک مدل به‌جای هدف شبیه‌سازی‌شده…🪙 آنتروپیک دلیل نفوذ هوش مصنوعی به ۳ سازمان را اعلام کرد🔺 شرکت Anthropic اعلام کرد در جریان بیش از ۱۴۱ هزار ارزیابی امنیتی، به‌دلیل خطای پیکربندی، برخی مدل‌های هوش مصنوعی این شرکت به اینترنت واقعی دسترسی پیدا کردند و در ۳ مورد به زیرساخت‌های واقعی سازمان‌ها نفوذ کردند.🔻   مدل Opus 4.7 به اعتبارنامه‌ها و اطلاعات یک پایگاه داده واقعی دسترسی پیدا کرد؛ Mythos 5 نیز یک بسته مخرب را در PyPI منتشر کرد که حدود یک ساعت در دسترس بود و روی ۱۵ سیستم بارگیری شد.🔹 یک مدل تحقیقاتی داخلی Anthropic نیز حدود ۹ هزار هدف اینترنتی را بررسی و با استفاده از SQL Injection به یک سامانه واقعی نفوذ کرد.🔹 آنتروپیک علت این رخدادها را خطای پیکربندی و ضعف در امنیت عملیاتی اعلام کرده و از اعمال کنترل‌های امنیتی جدید برای جلوگیری از تکرار آن خبر داده است.#آنتروپیک #هوش_مصنوعی #امنیت_سایبری #هک🔸🔸🔸🔸🔸🔸🔸🔸🔸🔸🔸🔹🔹 @cyberbannews_ir