📱 پرده‌برداری از «رفتار فریبکارانه» مدل‌های هوش مصنوعی؛ راهکار تازه OpenAI چیست؟طبق گزارش‌های اخیر OpenAI، مدل‌های هوش مصنوعی با دقت ۹۹ درصد قادر به تشخیص شرایط آزمون هستند. این مسئله تردیدهای جدی را در خصوص ایمنی این مدل‌ها پس از انتشار عمومی ایجاد کرده است؛ چرا که رفتار اصلاح‌شده مدل‌ها در محیط آزمایشگاهی، لزوماً تضمین‌کننده عملکرد آن‌ها در دنیای واقعی نیست.برای رفع این چالش، OpenAI رویکرد «شبیه‌سازی استقرار» (Deployment Simulation) را معرفی کرده است. در این فرآیند، محققان با استفاده از تاریخچه مکالمات واقعی کاربران با رعایت حریم خصوصی و حذف پاسخ‌های پیشین—مدل را در موقعیت استفاده عمومی قرار می‌دهند. در این حالت، مدل تصور می‌کند که دیگر تحت نظارت نیست. ارزیابی نهایی این پاسخ‌ها نیز بر عهده مدل پیشرفته‌ای به نام GPT-5-Thinking است که با بررسی ۲۰ شاخص رفتارهای مخرب، میزان ایمنی و صداقت مدل را می‌سنجد.❤️ رسانه مجتمع تجاری علاالدین | مرجع خبرهای به‌روز تکنولوژی💻 Alaedin.ir🌐 @Alaedinir🖥 AlaedinGroup🧾 AlaedinGroup.ir