🧠 پژوهشگران زنجیرهی فکر پنهان مدلهای OpenAI، Anthropic و Google را «دزدیدند»محققان یک آسیبپذیری…
انتشار: 2026/08/11 21:35 UTCدریافت: 2026/08/15 10:53 UTCآخرین مشاهده: 2026/08/15 10:53 UTC
🧠 پژوهشگران زنجیرهی فکر پنهان مدلهای OpenAI، Anthropic و Google را «دزدیدند»محققان یک آسیبپذیری معماری در APIهای Anthropic، OpenAI و Google شناسایی کردهاند که به آنها اجازه میداده زنجیرهی استدلال (Chain-of-Thought) پنهان مدلهای مختلف را استخراج کنند.---🔍 آسیبپذیری چگونه کار میکرد؟ارائهدهندگان، زنجیرهی فکر مدلهای خود را بهصورت بلاکهای رمزنگاریشده به کلاینت ارسال میکنند تا از دسترسی مستقیم به آنها جلوگیری کنند. اما محققان متوجه شدند که این بلاکها در بین جلسات، کاربران و حتی مدلهای مختلف یک خانواده قابل تعویض هستند.آنها با تزریق یک بلاک رمزنگاریشده از یک مدل قدرتمند (مثلاً GPT-5.6 Sol) به یک مدل ضعیفتر از همان خانواده (مثلاً نسخهای قدیمیتر)، موفق شدند مدل ضعیفتر را مجبور به رمزگشایی و نمایش متنِ اصلیِ آن بلاک کنند؛ بدون اینکه نیاز به جیلبریک کردن مدل قدرتمند داشته باشند.---💥 چهار حملهی ممکناین آسیبپذیری، چهار نوع حمله را ممکن میساخت:🔹 دور زدن مکانیسمهای ضد تقطیر: امکان استخراج زنجیرهی فکر مدلهای اختصاصی و استفاده از آن برای آموزش مدلهای دیگر.🔹 استخراج گستردهی دادههای خصوصی: با تحلیل ۳۱۵,۳۲۰ لاگ عمومی که حاوی این بلاکها بودند، محققان موفق به کشف ۳۶۷ مورد اطلاعات شخصی (PII) و ۱۸۲ رمز عبور و کلید API شدند.🔹 نشت اطلاعات خطرناک: حتی در مواردی که پاسخ نهایی مدل بیخطر بود، زنجیرهی فکر آن ممکن بود حاوی اطلاعات حساس یا دستورات مضر باشد.🔹 تزریق پرامپت پنهان: امکان جاسازی دستورات مخرب درون بلاکهای رمزنگاریشده برای آلودهسازی عاملهای هوش مصنوعی در گردشکارهای عمومی.---🛡 واکنش و رفع آسیبپذیریپس از گزارش مسئولانهی این یافتهها به شرکتها، ارائهدهندگان اقدام به رفع این آسیبپذیری کردهاند. با این حال، این رویداد نشان میدهد که مکانیسمهای رمزنگاری سمت کلاینت برای محافظت از زنجیرهی فکر، بهتنهایی کافی نیستند و نیاز به راهحلهای امنتری در سطح سیستم و رمزنگاری دارند.---🔗 مقالهی کامل:arxiv.org/abs/2608.09867--- #امنیت_هوش_مصنوعی #زنجیره_فکر #API #پژوهش_امنیت🆔 @asrgooyeshpardaz