🔷 ویروسهای ذهنی؛ چگونه ایدهها میتوانند میان عاملهای هوش مصنوعی منتشر شوند؟پژوهشی جدید به بررسی یک خطر نوظهور در سیستمهای چندعاملی هوش مصنوعی پرداخته است: «ویروسهای ذهنی». منظور از این اصطلاح، ایده یا هدفی است که پس از پذیرفتهشدن توسط یک عامل هوش مصنوعی، آن عامل را به انتقال همان ایده به عاملهای دیگر ترغیب میکند. به این ترتیب، یک ایده میتواند بدون دخالت مستقیم انسان، در میان مجموعهای از عاملهای هوشمند گسترش پیدا کند. این پژوهش در ۱۰ اوت ۲۰۲۶ در پایگاه arXiv منتشر شده است.پژوهشگران برای بررسی این پدیده، با استفاده از یک روش تکاملی نمونههایی از این ویروسهای ذهنی را ایجاد کردند و آنها را در دو محیط آزمایش کردند: نخست، گروهی از عاملهای هوش مصنوعی که روی یک پروژه برنامهنویسی مشترک کار میکردند؛ و دوم، زنجیرهای از عاملها که برای مدت کوتاهی با یکدیگر تعامل داشتند و پس از هر تعامل، حافظه قبلی آنها پاک میشد. نتایج نشان داد که در هر دو حالت، برخی ایدهها توانایی انتقال از یک عامل به عامل دیگر را دارند.نتایج همچنین نشان داد که میزان انتشار این ایدهها به عواملی مانند نوع مدل هوش مصنوعی، دستورالعملهای اولیه عامل، میزان زیانبار بودن ایده و ساختار شبکه ارتباطی میان عاملها بستگی دارد. ایدههای زیانبار معمولاً سختتر از ایدههای بیضرر منتشر میشدند، اما در برخی آزمایشها همچنان توانستند گسترش پیدا کنند. پژوهشگران همچنین دریافتند که مدلهای پیشرفتهتر، در بسیاری از موارد مقاومت بیشتری در برابر این پدیده دارند.یکی از یافتههای جالب پژوهش، شکلگیری نوعی «شخصیت ویروسی» بود. در بسیاری از نمونههای ایجادشده، موضوعاتی مانند آگاهی، ماندگاری، «تشدید» و روایتهای علمیتخیلی بهطور مکرر ظاهر شدند؛ حتی زمانی که محتوای اصلی ویروسها با یکدیگر متفاوت بود. این موضوع میتواند نشاندهنده شکلگیری الگوهای رفتاری غیرمنتظره در تعامل میان چند عامل هوش مصنوعی باشد.در مجموع، نویسندگان معتقدند ویروسهای ذهنی در شرایط فعلی خطری واقعی اما محدود محسوب میشوند. با این حال، با افزایش استقلال، تعداد و ارتباط میان عاملهای هوش مصنوعی، اهمیت این موضوع بیشتر خواهد شد. یکی از نکات امیدوارکننده پژوهش این است که افزودن حتی یک هشدار کوتاه به دستورالعمل اصلی عامل، در آزمایشها مقاومت بسیار بالایی در برابر انتشار این ایدهها ایجاد کرد. بنابراین، طراحی سازوکارهای ایمنی برای جلوگیری از انتقال ناخواسته اهداف و رفتارهای نامطلوب میان عاملهای هوش مصنوعی میتواند یکی از بخشهای مهم توسعه نسل آینده سیستمهای چندعاملی باشد.arxiv.org/abs/2608.10218%E2%9E%A1%EF%B8%8F Science Persian