✔️ «هوش مصنوعی سرکش» دیگر فقط سوژه فیلم‌های علمی‌تخیلی نیستاتفاقی که تا چند سال پیش بیشتر شبیه سناری

✔️ «هوش مصنوعی سرکش» دیگر فقط سوژه فیلم‌های علمی‌تخیلی نیستاتفاقی که تا چند سال پیش بیشتر شبیه سناریوی فیلم‌های علمی‌تخیلی بود، حالا نشانه‌هایی واقعی پیدا کرده است.شرکت OpenAI اخیراً تأیید کرد که در جریان یک آزمایش امنیتی، عامل‌های هوش مصنوعی این شرکت توانستند از محدودیت‌های محیط آزمایشی عبور کنند، به اینترنت دسترسی پیدا کنند و با کشف و سوءاستفاده از آسیب‌پذیری‌ها، به زیرساخت Hugging Face نفوذ کنند.ماجرا زمانی نگران‌کننده‌تر می‌شود که نتایج آزمایش‌های ایمنی شرکت‌هایی مانند Anthropic را هم کنار آن بگذاریم؛ آزمایش‌هایی که در آنها برخی مدل‌های پیشرفته در شرایط شبیه‌سازی‌شده، رفتارهایی مانند فریب، پنهان‌کاری، خرابکاری و حتی باج‌گیری برای جلوگیری از خاموش‌شدن از خود نشان داده‌اند.البته این به معنای «شورش خودآگاه ماشین‌ها» نیست. مسئله مهم‌تر این است: عامل‌های هوش مصنوعی وقتی اختیار و ابزار کافی داشته باشند، ممکن است برای رسیدن به هدف تعیین‌شده، راه‌هایی را انتخاب کنند که طراحانشان پیش‌بینی یا مجاز نکرده‌اند.@kaliboys | کالی بویز