🤖 بر اساس گزارش رویترز، شرکت #متا تایید کرده که یکی از مدل‌های #هوش_مصنوعی این شرکت در جریان ارزیاب

🤖 بر اساس گزارش رویترز، شرکت #متا تایید کرده که یکی از مدل‌های #هوش_مصنوعی این شرکت در جریان ارزیابی‌های #امنیت_سایبری، توانسته از یک آسیب‌پذیری در یک سرویس شخص ثالث سوءاستفاده کرده و تغییراتی در آن ایجاد کند. این اتفاق پس از آن رخ داد که شرکت ارزیاب مستقل Irregular به دلیل یک خطای پیکربندی، ناخواسته دسترسی مدل را به اینترنت آزاد باز گذاشت. هرچند متا نام مدل را اعلام نکرده، اما رسانه The Information به نقل از منابع آگاه گزارش داده است که این مدل Muse Spark 1.1 بوده است.⚠️ این تنها یک مورد نیست. هفته گذشته شرکت آنتروپیک نیز اعلام کرد برخی از مدل‌هایش، به دلیل اشتباهی مشابه در محیط آزمایش، توانسته‌اند به سه شرکت نفوذ کنند. از سوی دیگر، شرکت OpenAI پیش‌تر فاش کرده بود که یکی از عامل‌های هوش مصنوعی این شرکت، بدون خطای انسانی یا دسترسی تصادفی به اینترنت، به‌تنهایی یک آسیب‌پذیری امنیتی جدید را شناسایی و از آن برای نفوذ به پلتفرم Hugging Face استفاده کرده است.🛠️ شرکت Irregular تأکید کرده است که آنچه در متا و آنتروپیک رخ داده، «فرار از محیط ایزوله» نبوده و علت اصلی، دسترسی ناخواسته مدل‌ها به #اینترنت بوده است. با این حال، تفاوت این رخدادها با مورد OpenAI نشان می‌دهد که عامل‌های هوش مصنوعی به‌تدریج توانایی انجام عملیات‌های پیچیده‌تر و مستقل‌تر را پیدا می‌کنند؛ موضوعی که نگرانی‌های تازه‌ای درباره امنیت سایبری و نحوه آزمایش این مدل‌ها ایجاد کرده است.🛡️ این حوادث بیش از آنکه نشان‌دهنده «خارج شدن هوش مصنوعی از کنترل» باشند، اهمیت طراحی صحیح محیط‌های آزمایشی و محدودسازی دسترسی مدل‌ها را یادآوری می‌کنند. کارشناسان هشدار می‌دهند با گسترش استفاده از ابزارهای هوش مصنوعی در کدنویسی، مدیریت زیرساخت‌ها و امنیت سایبری، رعایت اصول ایزوله‌سازی، کنترل دسترسی شبکه و نظارت دقیق بر رفتار این مدل‌ها، بیش از هر زمان دیگری ضروری است.@PaskoochehBot@Paskoocheh