اجماع خودجوش؛ وقتی هزار عامل هوش مصنوعی بدون دستور کسی با هم هم‌نظر شدندپژوهش جدیدی که در مجله Scien

اجماع خودجوش؛ وقتی هزار عامل هوش مصنوعی بدون دستور کسی با هم هم‌نظر شدندپژوهش جدیدی که در مجله Science Advances منتشر شده، نشان می‌دهد گروه‌های بزرگی از عامل‌های هوش مصنوعی ممکن است بدون رهبر، پاداش، دستور همکاری یا حتی هدف مشترک، به‌طور خودجوش به یک انتخاب واحد برسند.پژوهشگران برای بررسی این پدیده، گروه‌هایی متشکل از عامل‌های مبتنی بر ۱۰ مدل زبانی از خانواده‌های Claude، GPT و Llama ساختند. هر عامل در ابتدا یکی از دو گزینه کاملا رندوم و بی‌معنا را انتخاب می‌کرد. سپس در هر مرحله، انتخاب سایر عامل‌ها را می‌دید و دوباره تصمیم می‌گرفت. هیچ‌کدام از عامل‌ها حافظه‌ای از مراحل قبلی نداشتند و در دستورالعمل آنها نیز توصیه‌ای برای پیروی از اکثریت یا رسیدن به توافق وجود نداشت.با این حال، در بیشتر مدل‌ها عامل‌ها به‌تدریج به سمت گزینه‌ای که در میان گروه محبوب‌تر بود متمایل شدند. اختلاف‌های کوچک اولیه می‌توانست در چند مرحله تقویت شود و در نهایت کل گروه را به یک انتخاب مشترک برساند.پژوهشگران این گرایش را با کمیتی به نام نیروی اکثریت (Majority Force) توصیف کردند؛ معیاری که نشان می‌دهد یک عامل تا چه اندازه تحت تأثیر گزینه غالب در گروه قرار می‌گیرد. نکته جالب این است که رفتار جمعی مشاهده‌شده با یک الگوی ریاضی شناخته‌شده در فیزیک، یعنی مدل توصیف‌کننده هم‌راستاشدن اسپین‌های اتمی در فرومغناطیس، شباهت دارد.این مدل ریاضی به پژوهشگران اجازه داد تخمین بزنند یک گروه تا چه اندازه می‌تواند پیش از فروپاشی اجماع، بزرگ شود. این ظرفیت میان مدل‌ها تفاوت چشمگیری داشت: برای Llama 3 70B حدود ۳۰ عامل و برای GPT-4o حدود ۸۰ عامل برآورد شد. ظرفیت GPT-4 Turbo حدود ۱۰۰۰ عامل یا حتی بیشتر تخمین زده شد. Claude 3.5 Sonnet نیز در بزرگ‌ترین آزمایش، یعنی گروهی متشکل از ۱۰۰۰ عامل، همچنان توانست اجماع خود را حفظ کند؛ البته این به معنای نامحدود بودن ظرفیت آن نیست، زیرا آزمایش از این اندازه فراتر نرفت.مدل‌های توانمندتر عموما می‌توانستند اجماع را در گروه‌های بزرگ‌تری حفظ کنند؛ حتی در اندازه‌هایی بزرگ‌تر از عدد مشهور دانبار که معمولا برای ظرفیت شبکه‌های اجتماعی پایدار انسان حدود ۱۵۰ تا ۳۰۰ نفر مطرح می‌شود. با این حال، مقایسه مستقیم میان انسان و عامل‌های هوش مصنوعی گمراه‌کننده است.انسان‌ها برای همکاری از روابط اجتماعی، زبان، نهادها، اهداف مشترک و اطلاعات پیچیده استفاده می‌کنند، در حالی که آزمایش حاضر صرفا یک مسئله بسیار ساده و انتزاعی را بررسی می‌کرد.بنابراین این پژوهش نشان نمی‌دهد که عامل‌های هوش مصنوعی واقعا یکدیگر را درک کرده‌اند یا دارای هوش اجتماعی شده‌اند. آنچه مشاهده شده، شکل بسیار ابتدایی‌تری از رفتار جمعی است: تمایل سیستم‌های منفرد به حرکت به سمت انتخاب غالب، صرفاً بر اساس مشاهده رفتار سایر اعضای گروه.اهمیت این یافته دقیقاً در همین نکته است. اگر هزاران عامل هوش مصنوعی در آینده در یک سیستم مشترک فعالیت کنند، ممکن است رفتارهایی در سطح جمع پدیدار شود که از بررسی تک‌تک عامل‌ها قابل پیش‌بینی نباشد.این قابلیت می‌تواند بسیار مفید باشد. برای مثال، مجموعه بزرگی از عامل‌ها شاید بتواند بدون مدیریت دائمی انسان، بخش‌های مختلف یک پروژه علمی، مهندسی یا نرم‌افزاری را هماهنگ کند. اما همین سازوکار می‌تواند به یک آسیب‌پذیری جدی تبدیل شود.اگر یک تصمیم ضعیف یا ناکارآمد به انتخاب غالب تبدیل شود، عامل‌های دیگر ممکن است صرفاً به دلیل رایج‌بودن آن، از آن پیروی کنند. برای نمونه، در یک پروژه نرم‌افزاری ممکن است یک روش ناکارآمد در کد به هنجار غالب تبدیل شود و عامل‌های بعدی نیز همان روش را تکرار کنند؛ نه به این دلیل که بهترین راه‌حل است، بلکه چون اکثریت قبلاً آن را انتخاب کرده‌اند.پژوهشگران همچنین به پدیده‌ای مهم‌تر اشاره می‌کنند: یک گروه از عامل‌هایی که تک‌تک آنها از نظر ایمنی قابل‌قبول به نظر می‌رسند، لزوماً در تعامل با یکدیگر رفتاری ایمن نخواهند داشت. در برخی پژوهش‌های مرتبط، حتی نشان داده شده که عامل‌های منفردِ هم‌راستا با اهداف تعیین‌شده می‌توانند در اثر همنوایی، به وضعیت‌هایی برسند که نتیجه جمعی آنها با هدف مطلوب ناسازگار باشد.به بیان ساده، مسئله آینده هوش مصنوعی ممکن است فقط این نباشد که «هر عامل به‌تنهایی چقدر باهوش و ایمن است؟» بلکه این پرسش نیز اهمیت پیدا می‌کند که «وقتی هزاران عامل با یکدیگر تعامل می‌کنند، چه رفتاری در سطح کل سیستم پدیدار می‌شود؟»این پژوهش هنوز بسیار ابتدایی است و نباید آن را به معنای ظهور «جامعه هوش مصنوعی» یا «هوش جمعی واقعی» تفسیر کرد. آزمایش فاقد حافظه، پاداش، هدف مشترک، اطلاعات نامتقارن و پیامدهای واقعی بود. اما نشان می‌دهد حتی یک سازوکار بسیار ساده مانند تأثیرپذیری از انتخاب اکثریت، می‌تواند در مقیاس بزرگ به یک پدیده جمعی قابل‌توجه تبدیل شود.نکته اصلی پژوهش این است که رفتار جمعی عامل‌های هوش مصنوعی ممکن است ویژگی‌هایی داشته باشد که در هیچ‌یک از عامل‌ها به‌تنهایی دیده نمی‌شود؛ بنابراین ارزیابی ایمنی و توانایی هوش مصنوعی در آینده باید علاوه بر مدل منفرد، تعامل میان تعداد زیادی عامل را نیز بررسی کند. 🚀 @ofoghroydadd🔗 Scienceadvances