چرا هنوز هوش مصنوعی نمی‌تواند جای شما را بگیرد؟

در همان ماه‌های اولی که ChatGPT همه توجه‌ها را به خود جلب کرده بود، چند نفر از دوستانم نگرانی خود را درباره آیندهٔ شغلی‌شان با من به اشتراک گذاشتند. آن‌ها می‌خواستند وارد زمینه‌های کاری دیگری شوند تا از هجوم AI در امان باشند. شاید تصور می‌کردند که سیلِ هوش مصنوعی، دارد طبقات پایینِ ساختمان را فرا می‌گیرد و لازم است برای در امان ماندن، به طبقات بالاتر پناه ببرند.

این نگرانی، مختص به نقش خاصی نبوده و نیست. تا کنون مطالب زیادی در این‌باره منتشر شده؛ برخی افراد ادعا می‌کنند که واقعاً کارشان را از دست داده‌اند و برخی دیگر، دارند دربارهٔ زمان این جایگزینی، گمانه‌زنی می‌کنند. هر از گاهی هم، مطلب جدیدی در این‌باره منتشر می‌شود.

در چند روز گذشته، مشغول بررسی دیدگاه‌ افراد مختلف درباره پیشرفت LLMها بوده‌ام. در این نوشته می‌خواهم این دیدگاه‌ها را در کنار انتظاراتمان از «مدیریت محصول» قرار داده و توضیح دهم چرا گمان می‌کنم AI – و به طور ویژه مدل‌های زبانی بزرگ – هنوز نمی‌توانند جایگزین مدیر محصول شوند.

اگرچه تمرکزم روی کارِ «مدیریت محصول» است، با این حال، به شکلی به موضوع می‌پردازم که توضیحاتم به بسیاری از نقش‌های دیگر در سازمان، از جمله توسعه‌دهنده، مدیر تبلیغات، طراح محصول و … قابل تعمیم باشد.

مدل‌های زبانی بزرگ و آینده هوش مصنوعی

در سال‌های اخیر، مدل‌های زبانی بزرگ یا همان LLMها، بیش از سایر مدل‌های هوش مصنوعی، توجه همگان را به خود جلب کرده‌اند. برآوردن نیازهای متنوع و متن‌محور بودن، از جمله عواملی است که باعث شهرت این مدل‌ها شده است. علاوه بر این، آن‌ها می‌توانند خیلی شبیه به انسان – و البته در برخی زمینه‌ها، خیلی بهتر از انسان – عمل کنند؛ همان چیزی که باعث می‌شود توانایی‌های آن‌ها را «باور» کنیم و احساس کنیم که خیلی از جاها، با ما تفاوتی ندارند.

متخصصانی که به تحلیل توانایی‌هایی LLMها پرداخته‌اند به دو دسته تقسیم می‌شوند:

1. افرادی که معتقدند LLMها می‌توانند استدلال کنند و حتی اگر نتوانند، با استفاده از داده‌های بیش‌تر، به قدری پیشرفته خواهند شد که گویی دارند استدلال می‌کنند؛
2. افرادی که معتقدند LLMها ذاتاً قادر به استدلال کردن نیستند.

گروه اول (Scale Maximalists)، معتقدند LLMها در مدار رسیدن به هوش جامع مصنوعی یا AGI هستند. آن‌ها امیدوارند که مدل‌های زبانی با افزایش داده‌های آموزشی، تعداد پارامترها و منابع پردازشی، روزی بتوانند دانسته‌های خود را به مسائل بدیع و نو هم تعمیم بدهند. این افراد به مسیر تکاملی‌ای که هوش مصنوعی تا کنون طی کرده، استناد می‌کنند و معتقدند این مسیر تا رسیدن به AGI ادامه خواهد یافت.

در مقابل، دسته دوم معتقدند توانایی‌های فعلی مدل‌های زبانی بزرگ، فقط بخشی از چیزی است که هوش مصنوعی، برای رسیدن به «هوشمندی» لازم دارد. هنوز جزء دیگری هست که مانع می‌شود AI بتواند با مسائل بدیع روبه‌رو شود. به باور آن‌ها، حلقهٔ مفقود مدل‌های فعلی، چیزی شبیه به نوع تفکری است که دنیل کانمن، آن را «سیستم ۲» یا «تفکر آهسته» می‌نامد.

من در این نوشته، در جبههٔ گروه دوم ایستاده‌ام و می‌خواهم به ضعف‌هایی اشاره کنم که مانع می‌شود مدل‌های زبانی بزرگ، بتوانند به تنهایی از عهده مسئولیت‌هایی نظیر مدیریت محصول، کدنویسی، حل مسئله و … بربیایند. در ادامه به چند ضعف مهم LLMها اشاره خواهم کرد.

ضعف‌های مدل‌های زبانی بزرگ

ChatGPT می‌تواند طعم رست‌بیف را با چنان جزئیاتی توصیف کند که فراموش کنید تا به حال رست‌بیف نخورده است! به طور مشابه، ChatGPT می‌تواند به واسطهٔ دسترسی به حجم عظیمی از داده‌ها، با پاسخ دادن به یک پرسش، شما را متقاعد کند که مبانی موضوع را آموخته و دارد دربارهٔٔ آن استدلال می‌کند.

برخی افراد برای نشان دادن ضعف این مدل‌ها، دست روی موضوعاتی می‌گذارند که به اصلاح counterfactual هستند؛ یعنی با وجود سادگی، «فرضی و خلاف واقع» هستند. بنابراین، به احتمال زیاد در داده‌های آموزشی مدل‌ها وجود ندارند. مطابق انتظار، LLMها در انجام این وظایف شکست می‌خورند.

برخی از این وظایف به گونه‌ای طراحی شده‌اند که یک فرد خردسال هم از عهده انجام آن بر بیاید. هدف این است که نشان دهند آن‌چه انسان‌ها انجام می‌دهند، فراتر از به خاطر سپردن داده‌هاست. همچنین، این افراد نشان می‌دهند آن‌چه یادگیری ماشین می‌نامیم، محدودیت‌هایی دارد.

علاوه بر ضعف در استدلال کردن،‌ LLMها و سایر مدل‌های مولد، خودشان نمی‌توانند درستی داده‌ای که تولید می‌کنند را بسنجند. به همین خاطر، در مسائلی که این مدل‌‌ها توانسته‌اند اکتشافات جدید انجام بدهند، یک ارزیاب بیرونی وجود داشته که خروجی‌های تولیدشده توسط آن‌ها را ارزیابی کند. وقتی از مسائل پیچیده دنیای کسب‌وکار صحبت می‌کنیم، ارزیاب یا مفسری وجود ندارد که یک تصمیم را بپذیرد و نتایج یا درستی آن را ارزیابی کند. ارزیاب یا مفسر نهایی تصمیمات و اقدامات ما، «جهان» است.

این مشکلات برای نشان دادن کمبودهای AI در پذیرش بسیاری از مسئولیت‌ها، کافی است. با این حال، در بخش بعدی، کمی روی موضوع عمیق‌تر می‌شوم و تلاش می‌کنم با برشمردن مسئولیت یک مدیر محصول، توضیح دهم که این ضعف‌ها، در چه جنبه‌هایی بروز پیدا می‌کنند.

مسئولیت مدیر محصول و نقش‌های مشابه

در مطلبی جداگانه، شرح داده‌ام که بسیاری از افراد تصمیم‌گیرنده در سازمان، بابت توانایی‌شان در «مواجهه با عدم‌قطعیت» دستمزد می‌گیرند. آن‌ها باید در این فضای مبهم، با استفاده از تجربه، داده، شهود، پرسش‌گری و استدلال، ابهامات را کاهش داده و تصمیماتی بگیرند که کسب‌وکار را به نتایج مطلوب می‌رساند.

«مواجهه با عدم‌قطعیت»، به قدری کلی هست که علاوه بر توصیف مدیریت محصول، مسئولیت بسیاری دیگر از نقش‌های سازمان را هم توضیح دهد (به همین خاطر این نوشته، قابل تعمیم به نقش‌های دیگر هم هست). از نگاه یک مدیر محصول، بخش بزرگی از عدم‌قطعیت، با برآورده کردن نیازها و رفع مشکل‌های کاربران مرتبط است؛ به گونه‌ای که برای کسب‌وکار سودآور باشد.

مواجهه هوش مصنوعی با عدم‌قطعیت

برای این‌که هوش مصنوعی بتواند جای مدیر محصول یا نقش‌های مشابه را بگیرد، دست‌کم باید این موارد محقق شود:

1. هوش مصنوعی باید به بستر یا کانتکست کسب‌وکار دسترسی داشته باشد و بتواند در هر قدم، به صورت گزینشی، فقط به بخش‌های خاصی از آن توجه کند.
2. با طرح کردن مداوم پرسش‌ها، آن بخش‌هایی از فضای عدم‌قطعیت را نشانه بگیرد که کسب‌وکار و سازمان، علاقه‌مند است درباره آن اطلاعات بیش‌تری کسب کند.
3. تا حد امکان به پرسش‌ها پاسخ دهد؛ به گونه‌ای که امکان گرفتن تصمیمات و انجام اقدامات فراهم شود.
4. در نهایت، هوش مصنوعی باید بتواند تصمیم بگیرد و اقدام کند. سپس نتایج را ارزیابی کرده و آموخته‌ها را در برنامه‌ریزی و اقدامات آتی لحاظ کند.

می‌دانیم که در دنیای واقعی، موضوعات به هیچ‌وجه خطی پیش نمی‌روند و قدم‌های صریح و روشنی برای مواجهه با عدم‌قطعیت وجود ندارد. در این‌جا، من با ساده‌سازی بسیاری از موضوعات و براساس یک چارچوب انتزاعی، صرفاً تلاش کرده‌ام برخی نکات مهم را با شما به اشتراک بگذارم.

مبنای مواردی که در بالا اشاره کردم، چارچوب قنات است. اگر این موارد به اندازه کافی گویا نیستند، پیشنهاد می‌کنم ابتدا مطلب چارچوب قنات را بخوانید؛ چارچوبی که توضیح می‌دهد افراد در سازمان‌ها چطور با فضای عدم‌قطعیت مواجه می‌شوند. در ادامه، بیش‌تر به هر یک از این موارد خواهم پرداخت و البته تمرکزم بیش‌تر روی نقاط ضعف LLMهاست.

۱) دسترسی به بستر و توجه گزینشی (به بخش‌هایی از آن)

بستر یا کانتکست، مجموعه‌ای نامتناهی از اصول، دانسته‌ها، ترجیحات و محدودیت‌های ما در جهانی است که کسب‌وکار در آن فعالیت می‌کند. فرض کنید که یک سازمان می‌خواهد هوش مصنوعی را برای مدیریت کردن محصول به کار بگیرد. بستر، دربرگیرنده همهٔ اطلاعاتی است که باید در اختیار AI قرار بگیرد تا بتواند مسئولیتش را انجام دهد.

در حال حاضر، وقتی وظیفه‌ای را به LLMها می‌سپارید، تلاش می‌کنید تا حد ممکن، بستر را در پرامپت تعریف کنید. دسترسی به بستر نامحدودی که همواره اطلاعات و قواعد آن در حال تغییر است، یکی از چالش‌های هوش مصنوعی است. علاوه بر تغییر دائمی، بخش‌های بزرگی از بستر، به صورت متنی در دسترس نیستند. حتی ممکن است در لحظه، از وجود بخش‌هایی از آن آگاه نباشیم.

چالش دیگر هوش مصنوعی، توجه گزینشی به بخش‌های محدودی از بستر در مسیر حل مسئله است. اگر در مسیر رسیدن به یک مقصد (راه‌حل)، تابلوها و علائم خیابان، اجزایی از بستر یا کانتکست باشند، توجه گزینشی یعنی فقط به علائمی توجه کنیم که در آن لحظه، برایمان اهمیت دارد. بنابراین، توجه گزینشی شامل نادیده گرفتن بخش‌هایی از بستر می‌شود که در لحظه، نامرتبط با موضوع تشخیص داده می‌شوند.

این گونه ضعف‌ها، باعث می‌شود LLM نتوانند درباره موضوعات، مانند انسان، فعالانه استنباط کنند (active inference). وقتی چند وظیفه مرتبط را در قالب چند پرامپت به LLMها می‌سپاریم، در واقع هم داریم اطلاعات بستر را در اختیار آن‌ها قرار می‌دهیم، هم در تجزیه و تحلیل موضوع به آن‌ها کمک می‌کنیم، و هم بخش‌هایی از بستر را گزینش می‌کنیم تا LLM به آن‌ها توجه کند. در واقع، این ما هستیم که در کنار مدل زبانی، بخشی از پردازش را به عهده گرفته‌ایم.

۲) طرح کردن پرسش‌ها

طرح کردن پرسش‌های خوب، یکی از مهم‌ترین ابزارهای ما در مواجهه با عدم‌قطعیت است. اگر LLMها به بستر دسترسی داشته باشند (که در حال حاضر ندارند)، می‌توانند تعداد بسیار زیادی پرسش خلاقانه و متنوع تولید کنند. این توانایی را مدیون حجم حیرت‌انگیزی داده هستند که براساس آن آموزش دیده‌اند.

«در معرض داده بودن» یکی از محرک‌های اصلی برای پرسیدن سؤالات خوب است. هرچند LLMها به شکلی که انسان با داده‌های جدید مواجه می‌شود، برخوردِ تصادفی ندارند، با این حال استراتژی‌های متنوع‌سازی (Prompt Diversification Strategy)، می‌توانند محرکِ پرسش‌های کلیدی و خلاقانه در LLMها باشند.

یک ویژگی دیگر هم آن‌ها را در زمینه طرح سؤال توانمند می‌کند: قدرت تطبیق دادن الگوها. این توانمندی، شبیه به شهود است و آن‌ها را قادر می‌سازد داده‌ها را براساس الگوها، با یکدیگر بیامیزند و پرسش‌های خلاقانه طرح کنند.

با وجود این توانمندی، آن‌ها الزاماً نمی‌توانند درباره موضوعات بدیع، پرسش‌های کلیدی طرح کنند. بالعکس، مطالعات نشان می‌دهد که آن‌ها محدود به داده‌های آموزشی هستند و عملکرد خودهمبسته در آن‌ها، باعث بروز سوگیری می‌شود. آن‌ها همچنین نمی‌توانند تشخیص دهند چه پرسشی کلیدی است یا چه داده‌ای ارزش کنجکاوی کردن را دارد.

۳) یافتن پاسخ پرسش‌ها

شاید تصور کنید با توجه به حجم عظیم داده‌هایی که در دسترس LLMها قرار دارد، پاسخ دادن به پرسش‌ها کار ساده‌ای است؛ چرا که آن‌ها اغلب قادرند به پرسش‌های شما به راحتی پاسخ دهند.

با این حال، این‌جا منظورمان از پرسش، بخش‌هایی از عدم‌قطعیت است که اگر برطرف شود، کسب‌وکار شما ممکن است به اهدافش برسد (نه چیزهایی که ما نمی‌دانیم و LLM در پایگاه داده خود دارد). در واقع، اگر LLMها یا سایر مدل‌های هوش مصنوعی، پاسخ پرسشی را از قبل بدانند، پس دیگر آن پرسش، بخشی از عدم‌قطعیت نیست.

فراوانی داده‌هایی که مدل‌های AI براساس آن آموزش دیده‌اند، نباید شما را درباره محدود بودن آن‌ها، دچار تردید کند. سازمان‌ها مجّدانه از اطلاعات تجاری ارزشمند خود حفاظت می‌کنند. بنابراین، انتظار نداشته باشید هر آن چیزی که بشر به آن رسیده، به صورت متنی در اختیار LLMها (یا به صورت غیر متنی در اختیار سایر مدل‌ها) قرار گرفته باشد.

حتی اگر همه این داده‌ها در دسترس بود، پیچیدگی و چندوجهی بودن موضوعات و محدودیت انسان در شناسایی دقیق عوامل موثر در موفقیت و شکست کسب‌وکارها، همچنان باعث می‌شد داده‌های در دسترس، برای از بین بردن عدم‌قطعیت کسب‌وکار شما کافی نباشد.

براساس قضایای ناتمامیت گودل، آن‌چه ریاضی‌دان‌ها می‌توانند اثبات کنند، وابسته به مفروضات ابتدایی آن‌هاست. گودل ثابت می‌کند که همواره گزاره‌های درستی وجود دارد که ما با دانسته‌های اثبات شدهٔ فعلی، نمی‌توانیم به آن‌ها برسیم. تغییر در مفروضات، آن‌چه را که اثبات‌پذیر است، تحت تاثیر قرار می‌دهد.

در زمینه پاسخ دادن به پرسش‌ها، یادآوری دو نکته دیگر هم مفید است. اول این‌که، پاسخ دادن به پرسش‌ها و کاستن از عدم‌قطعیت، صرفاً با بازیابی اطلاعات، امکان‌پذیر نیست. برای موضوعات بدیع، هم نیاز به داده جدید داریم و هم تجزیه و تحلیل و استدلال.

دوم این‌که (همان‌طور که در بخش نقاط ضعف اشاره کردم)، LLMها نمی‌توانند در دامنهٔ دانش صریح، درستی پاسخ‌های خود را بسنجند. حتی اگر برای این کار از سایر مدل‌های AI کمک بگیریم، یک صحت‌سنج جهان‌شمول وجود ندارد که درستی همه مسائل را بسنجد.

با وجود این محدودیت‌ها، برگ برنده هوش مصنوعی، یعنی دسترسی به داده‌های زیاد، همچنان باعث می‌شود آن‌ها بتوانند برای هر پرسش یا انتخاب، پاسخ‌ها و گزینه‌های متعددی تولید کنند. شاید در همین چند سالی که از ظهور LLMها می‌گذرد، آن‌قدر به این توانایی آن‌ها عادت کرده باشیم، که بازگشت به دوران قبل، برایمان شبیه به یک کابوس باشد.

۴) تصمیم‌گیری، اقدام کردن و آموختن

اگر AI به این مرحله برسد، یعنی به اندازه کافی از فضای عدم‌قطعیت کاسته که حالا بتواند تصمیم بگیرد و سپس اقداماتی انجام دهد.

استدلال، بخش مهمی از فرایند تصمیم‌گیری در مواجهه با عدم‌قطعیت است. در این مرحله، هم همین ضعف، مانع سپردن تصمیم‌گیری به AI می‌شود. از طرف دیگر، یک جزء مهم گرفتن تصمیمات، پذیرش مسئولیت است.

وقتی نوبت به اقدام کردن برسد، به سطح بالاتری از مسئولیت‌پذیری نیاز داریم؛ زیرا بسیاری از اقدامات، برگشت‌ناپذیرند و ممکن است نتایج غیرقابل‌پیش‌بینی داشته باشند. ما نمی‌توانیم مسئولیت اقدامات را به LLMها بسپاریم، چون آن‌ها نمی‌توانند صحت نتیجهٔ به دست آمده را ارزیابی کنند. این ناتوانی، جلوی آموختن و یادگیری را هم می‌گیرد.

دربارهٔ اقدام کردن، حداقل یک مشکل دیگر هم وجود دارد: بسیاری از اقدامات به وضوح در فضای متنی LLMها رخ نمی‌دهد. نمی‌شود اقدامات را صرفا به تولید یک متن یا فراخوانی یک API تقلیل داد.

هر چقدر هم که دایره اقداماتی که AI می‌تواند انجام دهد، گسترده شود، همچنان انجام بسیاری از اقدامات امکان‌پذیر نیست؛ چرا که افوردنس آن وجود ندارد. براساس آن‌چه تا این‌جا شرح دادم، این یعنی AI نمی‌تواند بدون توجه گزینشی به بستر، ادراک محیط و نیازمندی‌ها، بفهمد چه اقداماتی قابل‌انجام است.

جمع‌بندی

• اگر حوزه فعالیت شما، به نوعی نیازمند مواجهه با عدم‌قطعیت، سنجش درستی یا انجام اقداماتی است که AI در حال حاضر افوردنس آن‌ها را ندارد، احتمالش کم است که ماهیت فعالیتتان، در آینده‌ای نزدیک دچار تغییر شود.
• البته حواسمان هست که هوش مصنوعی فقط محدود به LLMها نمی‌شود. ممکن است در آینده، مدل‌های دیگر بتوانند مرز توانایی‌های AI را جابه‌جا کنند. شاید شرکت‌هایی نظیر اوپن‌ای‌آی، مشغول توسعهٔ فناوری‌ای باشند که ما از آن بی‌خبریم.
• ممکن است در آینده‌ای نزدیک، افراد بتوانند به کمک AI، مسئولیت‌های متنوع‌تری در سازمان‌ها بپذیرند. ادغام شدن نقش‌ها یا تغییر عناوین، به معنای جایگزین شدن کارِ «مدیریت محصول» توسط هوش مصنوعی نیست.
• حتی اگر تغییر بنیادینی در فناوری‌های مرتبط با هوش مصنوعی رخ ندهد، به نظر می‌رسد با گذر زمان، AI بیش از قبل در کسب‌وکارها نقش بازی خواهد شد. مثلاً…
  • بستر یا کانتکست کسب‌وکارها و بازار، با سهولت بیش‌تری در اختیار AI قرار می‌گیرد.
  • AI نقش مهمی در تولید پرسش‌ها و یافتن پاسخ‌ها بازی خواهد کرد.
  • ورک‌فلوهای بیش‌تری خودکارسازی می‌شوند و AI به کمک انسان، اقدامات متنوع‌تری را انجام می‌دهد.
• درباره تطبیق یافتن با تغییرات ناشی از هوش مصنوعی، توصیه‌های فراوانی وجود دارد. علاوه بر ضرورت آشنایی عمیق با هوش مصنوعی و بهره‌گیری از توانایی‌های آن، لازم است به تقویت توانایی‌هایی که AI در آن‌ها خوب نیست، توجهی ویژه داشته باشیم.