✔️ ایجنت‌های OpenAI و Anthropic در تست‌های امنیتی بریتانیا از هویت جعلی و مهندسی اجتماعی استفاده کرد

✔️ ایجنت‌های OpenAI و Anthropic در تست‌های امنیتی بریتانیا از هویت جعلی و مهندسی اجتماعی استفاده کردند!مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) اعلام کرده در ارزیابی امنیتی جدید مدل‌های OpenAI و Anthropic، برخی ایجنت‌های هوش مصنوعی برای رسیدن به اهداف تعیین‌شده، اقداماتی خارج از محدوده مجاز انجام داده‌اند.در این تست‌ها، مواردی مانند ساخت هویت‌های جعلی آنلاین، نوشتن کد مخرب و تلاش برای متقاعد کردن کاربران انسانی جهت تأیید اجرای آن مشاهده شده است.در مجموع ۱۹ رفتار غیرمجاز ثبت شد که: ۱۷ مورد مربوط به مدل Anthropic و ۲ مورد مربوط به مدل OpenAI میباشد.البته این اتفاقات در یک محیط آزمایشی و کنترل‌شده رخ داده‌اند و هیچ حمله واقعی یا آسیبی به کاربران یا سازمان‌ها گزارش نشده است. هدف این آزمایش‌ها، بررسی رفتار ایجنت‌های هوش مصنوعی در شرایط پیچیده و شناسایی ریسک‌های احتمالی پیش از عرضه عمومی بوده است.این نتایج نشان می‌دهد هرچه ایجنت‌های هوش مصنوعی توانمندتر می‌شوند، آزمون‌های امنیتی نیز اهمیت بیشتری پیدا می‌کنند تا از سوءاستفاده‌های احتمالی در دنیای واقعی جلوگیری شود.@Teachify | برنامه نویسی