🧠 آیا می‌تونیم چیزی رو بفهمیم، بدون اینکه بتونیم توضیحش بدیم؟ AI چطور؟ می‌تونه؟یه گفته‌ای هست از ان

🧠 آیا می‌تونیم چیزی رو بفهمیم، بدون اینکه بتونیم توضیحش بدیم؟ AI چطور؟ می‌تونه؟یه گفته‌ای هست از انیشتین که می‌گه:اگر نمی‌تونی یه مفهومی رو به مادربزرگت به طور خیلی ساده توضیح بدی، یعنی اون مفهوم رو عمیقا نفهمیدی.یه نوع دانشی هست به نام: tacit knowledgeچندتا مثال:- یه شطرنج باز حرفه‌‎ای ممکنه یهو بگه فلان حرکت حس خوبی نداره.- یه پزشک باتجربه، با دیدن بیمار بگه یه چیزی اینجا مشکوکه.اولا دقت کنین که قیدهای "حرفه‌ای" و "با تجربه" رو داریم اینجا به کار می‌بریم؛و دوما امکان داره در اون لحظه، این افراد نتونن واقعا بگن برای چی همچین حسی دارن.اما در بسیاری از این موارد، نتیجه رو که می‌بینیم؛ می‌تونیم بفهمیم که واقعا اون حرف درست بوده.به این می‌گن دانش ضمنی.دانشی که در رفتار و مهارت تو وجود دارد، اما الزاماً در قالب جملات قابل دسترسی نیست.می‌خوام این مورد رو ربطش بدم به AI.سوال اینطور پرسیده می‌شه که:اگر یک سیستم بتواند درست تصمیم بگیرد، اما نتواند توضیح دهد چرا، آیا می‌گوییم آن سیستم واقعاً مسئله را فهمیده؟در اصل داستان اینجاست که AI امروزه خیلی تصمیمات زیادی رو داره می‌گیره اما اینکه واقعا کدوم نورون درونی‌ش به این تصمیم منتج شده یا بر اساس اتصال کدوم نورون‌هاش به این نتیجه رسیده، دقیقا برای خود کسی که اون مدل رو طراحی کرده هم مشخص نیست به طور دقیق.فقط می‌دونیم و می‌تونیم بگیم که ارتباط همه‌ی نورون‌ها به این نتیجه رسیده. - کدوما بیشتر موثر بودن و چرا؟؟؟+ دقیق نمی‌دونیم.- وقتی می‌گیم مثلا چیز MoE (Mixture of Experts) هست، می‌تونیم بگیم کدوم بخشش مربوط به کدوم دانشه؟+ خیر اینم نمی‌تونیم بگیم. مثل مغز که دقیق نمی‌تونیم بگیم کدوم بخشش داره کدوم دانش و آگاهی و عضلات رو کنترل می‌کنه.در نهایت هم می‌تونیم بگیم برای فهمیدن با تعریف انسانی سه تا سطح داریم:1. انجام دادن کاری2. دونستن اینکه چه کاری داره انجام می‌شه3. توضیح دادن اینکه چرا و چطور این کار داره انجام می‌شهپ.ن: در این مورد صحبت زیاده؛ مخصوصا وقتی وارد vibe coding و اینطور داستانا می‌شیم. همین که توانایی توضیح دادن، فقط یکی از نشانه‌های فهمه و معیار مطلق آن نیست و موارد دیگری که می‌شه بسط داد این موضوع رو. بقیه‌ش با خودتون 😉#quote@RyanHeida#eyes_open@RyanHeida