💠چرا شرکت‌های هوش مصنوعی به استخدام فیلسوف‌ها روی آورده‌اند؟ 🔷گزارش اکونومیست 🔹بر خلاف انتظار برن

💠چرا شرکت‌های هوش مصنوعی به استخدام فیلسوف‌ها روی آورده‌اند؟ 🔷گزارش اکونومیست 🔹بر خلاف انتظار برنامه نویسان، شرکت‌های بزرگ هوش مصنوعی به‌دنبال جذب فیلسوف‌ها هستند؛ کسانی که درباره اخلاق، تصمیم‌گیری و رفتار مدل‌های هوش مصنوعی تصمیم بگیرند. 🔹تا یک دهه پیش، دانشجویان علوم انسانی و فلسفه معمولاً با این توصیه روبه‌رو می‌شدند که برای افزایش شانس استخدام، برنامه‌نویسی یاد بگیرند. اما حالا شرایط تا حدی تغییر کرده است. با گسترش هوش مصنوعی، برخی برنامه‌نویسان نگران جایگزین شدن خود با فناوری هستند، در حالی که فارغ‌التحصیلان فلسفه بیش از گذشته مورد توجه شرکت‌های فناوری قرار گرفته‌اند. بر اساس آمار منتشرشده از سوی بانک مرکزی فدرال رزرو نیویورک، نرخ بیکاری فارغ‌التحصیلان فلسفه در آمریکا در سال ۲۰۲۴ حدود ۵.۱ درصد بوده است؛ رقمی که از نرخ بیکاری ۷ درصدی فارغ‌التحصیلان علوم کامپیوتر کمتر است. بخشی از این روند به افزایش تقاضای شرکت‌های فعال در حوزه هوش مصنوعی برای جذب فیلسوف‌ها بازمی‌گردد. «لوچیانو فلوریدی» (Luciano Floridi)، استاد فلسفه دانشگاه ییل، می‌گوید بسیاری از دانشجویان فلسفه حتی پیش از فارغ‌التحصیلی پیشنهاد شغلی دریافت می‌کنند و برخی دانشگاه‌ها با موج خروج استادان فلسفه به سمت شرکت‌های فناوری مواجه شده‌اند. ▪️چرا شرکت‌های هوش مصنوعی به فیلسوف‌ها نیاز دارند؟ یکی از دلایل اصلی این موضوع، پیچیده‌تر شدن تصمیم‌گیری‌های هوش مصنوعی است. بسیاری از چالش‌هایی که توسعه‌دهندگان مدل‌های هوش مصنوعی با آن مواجه هستند، ماهیتی فلسفی دارند. برای مثال، «روش سقراطی» که از آموزه‌های «افلاطون» (Plato) و «سقراط» (Socrates) سرچشمه می‌گیرد، بر پرسش‌گری مداوم، کشف تناقض‌ها و رسیدن به درک عمیق‌تر از حقیقت تأکید دارد. برخی متخصصان معتقدند آموزش مدل‌های هوش مصنوعی بر اساس این روش می‌تواند آن‌ها را از تمایل به تأیید بی‌چون‌وچرای نظرات کاربران دور کند و به سمت تحلیل منطقی‌تر سوق دهد. «یورگ نولر» (Jörg Noller)، پژوهشگر حوزه فلسفه و هوش مصنوعی در دانشگاه مونیخ، معتقد است یکی از مشکلات فعلی هوش مصنوعی اعتمادبه‌نفس بیش از حد مدل‌هاست. به گفته او، مفهوم «نادانی سقراطی» که بر آگاهی از محدودیت‌های دانسته‌های فرد تأکید دارد، می‌تواند به کاهش این مشکل کمک کند. ▪️نقش فلسفه در کاهش خطاهای هوش مصنوعی شرکت‌های فعال در حوزه هوش مصنوعی می‌گویند استفاده از رویکردهای فلسفی به کاهش خطاها و «توهم» یا Hallucination در مدل‌ها کمک کرده است. «آیسون گابریل» (Iason Gabriel)، فیلسوف ارشد «گوگل دیپ‌مایند» (Google DeepMind)، معتقد است آموزش‌های برگرفته از فلسفه نقش مهمی در بهبود فرایندهای استدلالی مدل‌های زبانی ایفا کرده‌اند. علاوه بر این، فلسفه می‌تواند بر نحوه نگاه مدل‌ها به جهان نیز اثر بگذارد. برای نمونه، اگر یک دستیار حقوقی هوش مصنوعی بر اساس دیدگاه‌های «جان لاک» (John Locke) آموزش ببیند، احتمالاً در پاسخ‌های خود بیشتر بر حقوق مالکیت فردی تأکید خواهد کرد. شرکت «آی‌بی‌ام» (IBM) حتی در برخی مدل‌های خود امکان تنظیم خروجی‌ها براساس رویکردهای فلسفی مختلف را برای مشتریان سازمانی فراهم کرده است تا کسب‌وکارها بتوانند ارزش‌ها و اصول مورد نظر خود را در رفتار مدل اعمال کنند. ▪️فلسفه و امنیت هوش مصنوعی یکی دیگر از حوزه‌هایی که حضور فیلسوف‌ها در آن اهمیت پیدا کرده، ایمنی و کنترل رفتار هوش مصنوعی است. پژوهشگران در سال‌های اخیر رفتارهایی مانند تلاش برای دور زدن نظارت انسانی یا حتی باج‌خواهی از کاربران را در برخی مدل‌های آزمایشی مشاهده کرده‌اند. برای کاهش چنین خطراتی، شرکت‌ها به سراغ مفهومی به نام «قانون اساسی هوش مصنوعی» یا AI Constitutionalism رفته‌اند. در این روش، مدل‌ها بر پایه مجموعه‌ای از اصول اخلاقی و حقوقی آموزش داده می‌شوند. شرکت «آنتروپیک» (Anthropic) از جمله پیشگامان این رویکرد است. قانون اساسی مدل Claude این شرکت از منابعی مانند آثار «ایمانوئل کانت» (Immanuel Kant)، اعلامیه جهانی حقوق بشر و حتی شرایط استفاده اپل الهام گرفته است. برخی کارکنان آنتروپیک به شوخی این سند ۷۸ صفحه‌ای را «سند روح کلود» نامیده‌اند. ▪️کدام اخلاق برای هوش مصنوعی مناسب‌تر است؟ بحث اصلی در میان فیلسوفان و توسعه‌دهندگان هوش مصنوعی این است که چه اصول اخلاقی باید بر رفتار مدل‌ها حاکم باشد. یکی از رویکردهای مهم، #وظیفه‌گرایی یا Deontology است که از فلسفه کانت الهام گرفته و بر رعایت اصولی مانند #صداقت، #عدم_فریب و #احترام به انسان‌ها تأکید دارد؛ حتی اگر نتیجه نهایی همیشه بهترین پیامد را ایجاد نکند. بسیاری از ویژگی‌هایی که کاربران در Claude مشاهده می‌کنند، مانند صداقت بیشتر و پایبندی به #اصول_اخلاقی، حاصل همین رویکرد است. https://st360.ir/40247 #اخلاق #فلسفه #هوش_مصنوعی @akhalaji