شما هم متوجه آن شده‌اید؟ ChatGPT احمق‌تر از قبل به نظر می‌رسد. پرامپت‌هایی که ۶ ماه پیش کار می‌کردن…

شما هم متوجه آن شده‌اید؟ ChatGPT احمق‌تر از قبل به نظر می‌رسد. پرامپت‌هایی که ۶ ماه پیش کار می‌کردند، حالا نتایج بدتری تولید می‌کنند. نوشتاری که تولید می‌شود، صاف‌تر و بی‌روح‌تر شده و ایده‌ها محافظه‌کارانه‌تر به نظر می‌رسند. خود اینترنت هم انگار در حال کوچک شدن است. هر مقاله‌ای شبیه دیگری است. هر ایمیلی شبیه دیگری است. هر پاسخی انگار با صدای یکسان نوشته شده است.شما فکر کردید مشکل از خودتان است. اما نیست.پژوهشگران دانشگاه آکسفورد و کمبریج مقاله‌ای در مجله Nature منتشر کردند که دقیقاً ثابت می‌کند چه اتفاقی در حال رخ دادن است. آن‌ها به این پدیده می‌گویند Model Collapse (فروپاشی مدل).مکانیسم آن در یک جمله: هوش مصنوعی که روی داده‌های تولیدشده توسط هوش مصنوعی آموزش ببیند، در هر نسل احمق‌تر می‌شود تا جایی که ظاهر واقعی داده‌های انسانی را فراموش کند.اینترنت در حال پر شدن از محتوای تولیدشده توسط هوش مصنوعی است: پست‌های وبلاگ، مقالات، بررسی‌ها، کامنت‌ها، شبکه‌های اجتماعی. شرکت‌های هوش مصنوعی اینترنت را scrape می‌کنند تا نسل بعدی مدل‌ها را آموزش دهند. یعنی نسل بعدی هوش مصنوعی روی خروجی نسل فعلی آموزش می‌بیند.هر چرخه، مقداری از اطلاعات را از دست می‌دهد. نه به صورت تصادفی، بلکه ابتدا نادرترین، غیرمعمول‌ترین و خلاقانه‌ترین بخش‌ها را از دست می‌دهد. پژوهشگران به این بخش‌ها می‌گویند «دم توزیع» (tails of the distribution). ایده‌های عجیب، دیدگاه‌های غیرمنتظره، چیزهایی که اینترنت را انسانی جلوه می‌دادند. این‌ها اول محو می‌شوند.آنچه باقی می‌ماند، میانگین است. امن، مورد انتظار و بی‌مزه.سپس نسل بعدی روی همان آموزش می‌بیند و بیشتر از دست می‌دهد و نسل بعدتر هم همین‌طور. پژوهشگران ثابت کردند این یک افول آهسته نیست. تخریب عمده فقط در چند تکرار رخ می‌دهد، حتی وقتی بخشی از داده‌های انسانی اصلی حفظ شود.آن‌ها این را روی مدل‌های زبانی بزرگ، مولدهای تصویر و مدل‌های آماری آزمایش کردند. الگو همیشه یکسان بود. خروجی به سمت نسخه‌ای باریک، صاف و مسطح از واقعیت همگرا می‌شود که هیچ شباهتی به داده اصلی ندارد.محقق ارشد به صراحت گفت: «مدل‌های زبانی بزرگ مثل آتش هستند. ابزاری مفید، اما چیزی که محیط را آلوده می‌کند.»این آلودگی نامرئی است. شما نمی‌توانید بگویید کدام جمله در اینترنت توسط انسان نوشته شده و کدام توسط هوش مصنوعی. هوش مصنوعی بعدی که قرار است روی آن آموزش ببیند هم نمی‌تواند. و وقتی دم‌های توزیع از بین رفتند، دیگر برنمی‌گردند. آسیب غیرقابل بازگشت است.این دیگر یک پیش‌بینی نیست. یک تشخیص است.اینترنتی که شما با آن بزرگ شدید، توسط انسان‌هایی ساخته شد که چیزهایی می‌نوشتند که هیچ الگوریتمی نمی‌نوشت. عجیب، شخصی، ناکامل، زنده. آن اینترنت در حال رقیق شدن است. نسل به نسل هوش مصنوعی. و مدل‌هایی که روی آنچه باقی مانده آموزش می‌بینند، در حال یادگیری نسخه‌ای کوچک‌تر و کوچک‌تر از جهان هستند.فروپاشی مدل، فقط یک مشکل فنی نیست. یک مشکل فرهنگی است. چیزی که اینترنت را ارزش خواندن می‌کرد، دقیقاً همان چیزی است که اول محو می‌شود.