تله‌ی ندانستن

قسمتِ قبل با توصیه‌ای تمام شد که ظاهرش ساده بود: اول تشخیصِ خودتان را بنویسید، واقعاً بنویسید، بعد بروید سراغِ مدل. توصیه‌ی درستی است و بیشترِ روزهای کاری‌تان را پوشش می‌دهد. ولی یک فرضِ خاموش دارد، و آن فرض این است که شما تشخیصی برای نوشتن دارید.

کمی فکر کنید و به خاطر بیارید آخرین بار کی کیسی رو با هوش مصنوعی در میون گذاشتید، کیسِ روتین را با مدل چک نمی‌کنید. مولرِ سومی که صد بار کشیده‌اید، پالپیتِ برگشت‌ناپذیری که علائمش کتابی است، بیمارِ سالمی که فقط اسکیلینگ می‌خواهد — این‌ها را کسی نمی‌برد جلوی مدل. سراغِ مدل وقتی می‌روید که چیزی سرِ جایش نیست. یک خطِ اضافه در پرونده، یک تصویری که شبیهِ هیچ‌کدام از چیزهایی که دیده‌اید نیست، یک دارویی که اسمش را می‌شناسید ولی نمی‌دانید که چه تداخلی با کار امروزتان دارد.

یعنی جایی مدل و ابزار رو برمی‌دارید که آگاهی کمتری دارید و خب این طبیعیه.

وقتی «نمی‌دانم» تبدیل می‌شود به «می‌دانم»

بیمارِ سالمندی روی صندلی نشسته، سابقه‌ی مصرفِ دارو برای استئوپروز دارد، و یک مولرِ غیرقابلِ نگهداری که باید کشیده شود. حالا سؤال‌هایی جلوی شماست که جوابشان را با اطمینان نمی‌دانید: آیا دارو باید قطع شود، چه مدت قبل، اصلاً قطع‌کردنش فایده‌ای دارد یا نه، و تصمیمش با کیست.

سؤال را تایپ می‌کنید. جوابی که برمی‌گردد مرتب است، دسته‌بندی‌شده، با فاکتورهای خطر و یک عددِ مشخص برای مدتِ قطعِ دارو. متن هیچ جای لنگی ندارد.

حالا مهم‌ترین نکته‌ی این قسمت: بحث سرِ این نیست که آن جواب غلط است. ممکن است بخشِ زیادش درست باشد. اتفاقی که افتاد جای دیگری افتاد — پنج دقیقه پیش یک سؤالِ باز جلوی شما بود و حالا نیست. حسِ ندانستن رفته، ولی خودِ ندانستن هنوز سرِ جایش است.

و همان حسِ ندانستن بود که کار می‌کرد. ناراحت‌کننده بود، و چون ناراحت‌کننده بود شما را وامی‌داشت به همکار زنگ بزنید، به پزشکِ بیمار نامه بنویسید، دو ساعت وقت بگذارید و یک ریویو بخوانید، یا اصلاً بیمار را ارجاع بدهید. مدل آن جواب را به شما داد و در همان حرکت، زنگِ خطر را هم خاموش کرد. شکاف پر نشد؛ فقط چراغش خاموش شد.

فصل ۱ این را به‌عنوانِ یک قید گفته بود: مدل فقط در محدوده‌ای که خودتان واردید ابزار است، بیرونش دام. آنجا این جمله یک هشدار بود. اینجا مکانیزمش را می‌بینید — نیازِ شما به مدل و توانِ سنجشتان در دو جهتِ مخالف حرکت می‌کنند.

هرچه بیشتر بدانید کمتر لازمش دارید و راحت‌تر مچش را می‌گیرید؛ هرچه کمتر بدانید بیشتر لازمش دارید و کمتر می‌توانید مطالبی که می‌گوید را صحت سنجی کنید و دام دقیقاً همین جاست.

چرا هیچ علامتی به شما نمی‌رسد

وقتی همان سؤال را از یک همکار می‌پرسید، فقط جوابش را نمی‌گیرید. مکثش را هم می‌گیرید. اینکه بگوید «والا من دو تا کیس بیشتر ندیدم»، یا ابرو بالا بیندازد، یا وسطِ حرفش برگردد و بگوید بگذار یک جا چکش کنم — این‌ها بخشی از جواب‌اند و شما ناخودآگاه دارید رویشان حساب می‌کنید. تردیدِ آدم‌ها نشت می‌کند.

وقتی تردید را می‌بینید به ندانستن و ناآگاهی طرف مقابل آگاه میشید و همین در مسیر درمان و پیدا کردن راه درست به شما کمک می‌کند.

تردیدِ مدل نشت نمی‌کند. فصل ۲ سرِ همین بود: لحنِ مطمئن از درستی جدا است، چون روانی کلمات و درستی هر دو از یک فرایند بیرون می‌آیند. جمله‌ای که پشتش سه هزار مقاله ایستاده و جمله‌ای که پشتش هیچ چیز نیست، با یک لحن نوشته می‌شوند. پس تنها علامتی که در دنیای واقعی رویش حساب می‌کردید، اینجا صاف است و هیچ اطلاعاتی به شما نمی‌دهد.

یک چیز را هم اضافه کنید که راحت از قلم می‌افتد: مدل نمی‌داند شما چقدر می‌دانید. همان جوابِ استئونکروز را به یک جراحِ فک با بیست سال کار و به دانشجوی سالِ آخر با یک لحن و یک عمق تحویل می‌دهد. هیچ دربانی وسط نیست که بگوید این سؤال از حیطه‌ی تو بیرون است. تنها دربان خودتان هستید، و درست همان لحظه کمترین اطلاعات را برای دربانی دارید.

نسخه‌ی کُندترِ همین ماجرا

تا اینجا حرف بر سرِ یک گفت‌وگو بود. یک بیمار، یک سؤال، یک تصمیم. ولی این ماجرا یک نسخه‌ی ماه‌به‌ماه هم دارد که سر و صدا ندارد و برای همین دیرتر دیده می‌شود.

در یک مطالعه‌ روی کولونوسکوپی، نرخِ کشفِ آدنوم در کولونوسکوپی‌های معمولی — یعنی آن‌هایی که بدونِ کمکِ هوش مصنوعی انجام می‌شدند — بعد از دوره‌ای که همان اندوسکوپیست‌ها مدتی با سیستمِ کمکی کار کرده بودند، و بعد ابزار را ازشان گرفتند، از حدود ۲۸ درصد به حدود ۲۲ درصد افت کرده بود. یعنی وقتی ابزار را از دستشان گرفتند، از قبل از آشنایی با ابزار هم ضعیف‌تر بودند.

دو قید را باید همین‌جا کنارش گذاشت، چون بدونشان این عدد بیشتر از آنچه هست ادعا می‌کند. اول اینکه مطالعه مشاهده‌ای است، نه کارآزمایی؛ یک مطالعه هم به‌تنهایی چیزی را قطعی نمی‌کند. دوم و مهم‌تر: آن سیستم هوش مصنوعی اصلاً از خانواده‌ی چیزی که ما در این کتاب درباره‌اش حرف می‌زنیم نبود. آن هوش مصنوعیِ تشخیصی و تخصصی بود، همان نژادِ فصلِ اول، آموزش‌دیده روی درستی، و در کارش هم خوب بود.

و همین دومی است که استدلال را قوی‌تر می‌کند نه ضعیف‌تر. فرسایش از غلط‌گفتنِ ابزار نیامده بود؛ ابزار درست می‌گفت. فرسایش از این آمد که آدم بخشی از کار را که داشت او را می‌ساخت و ورزیده میکرد، واگذار کرد. اگر این با ابزارِ دقیق اتفاق می‌افتد، هیچ دلیلی ندارد فکر کنیم با ابزاری که دقیق نیست اتفاق نمی‌افتد.

نکته این نیست که استفاده نکنید. نکته این است که ترتیبِ قسمتِ قبل این یکی را حل نمی‌کند.

آنجا حرف سرِ یک گفت‌وگو بود و راه‌حلش این بود که جوابِ خودتان را زودتر بنویسید. اینجا حرف سرِ ماه‌هاست، و چیزی که آرام‌آرام کوچک می‌شود همان چیزی است که قرار بود اول بنویسیدش، یعنی با استفاده‌ی مداوم توانایی و آگاهی شما تحلیل میرود.

پس در قلمروِ ندانستن چه کار می‌شود کرد

جوابِ صادقانه این نیست که مدل را کنار بگذارید. جواب این است که در این قلمرو نقشش را عوض کنید: از کسی که حکم می‌دهد، به کسی که نقشه می‌دهد.

اسم‌ها را بخواهید، نه حکم را. بزرگ‌ترین مانع در جایی که وارد نیستید این است که نمی‌دانید اصلاً دنبالِ چه بگردید. ضایعه‌ی سفیدی در مخاط می‌بینید که شبیهِ هیچ‌کدام از چیزهای آشنا نیست؛ پرسیدنِ «این چیست» بدترین سؤالِ ممکن است، چون جوابش دقیقاً همان چیزی است که نمی‌توانید بسنجید. ولی اگر بپرسید دسته‌بندیِ ضایعات سفید چیست، هر کدام با چه ویژگی‌ای از بقیه جدا می‌شود، و برای افتراقشان چه چیزی را باید ببینم — چیزی می‌گیرید که ارزشش با ارزشِ حکم فرق دارد.

این نقشه ارائه شده توسط هوش مصنوعی ارزان و سریع راستی‌آزمایی می‌شود و شما را از چت‌باکس می‌برد بیرون، سمتِ کتاب و مقاله و آدم.

اگر جوابِ محتوایی می‌خواهید، حداقل قابلِ ردیابی‌اش کنید. قسمتِ قبل نشان داد که بستنِ مدل به منبع، دقتِ بالینی را معجزه‌آسا بالا نمی‌برد. ولی همان مطالعه یک چیزِ دیگر را نشان داد که اینجا دقیقاً به کار می‌آید: استناد و ردیابی بهتر شد. یعنی وقتی نمی‌توانید بپرسید «این درست است؟»، هنوز می‌توانید بپرسید «این جمله در آن مقاله هست؟» — و سؤالِ دوم را، برخلافِ اولی، بلدید جواب بدهید. مقاله را باز کنید و نگاه کنید. این سنجشِ درستی نیست، سنجشِ صداقتِ ارجاع است، ولی در قلمروی که هیچ سنجشِ دیگری ندارید، همین یکی هم غنیمت است.

و یک خط که هیچ تکنیکی آن را به چالش نمیکشد: وقتی سؤال درباره‌ی همین بیمارِ روی صندلی است و جوابش را نمی‌دانید، جوابِ درست یک آدم است، نه یک مدل. ارجاع، مشاوره، تلفن به پزشکِ معالج. هیچ پرامپتی این را جایگزین نمی‌کند و کلِ این فصل عملاً برای رسیدن به همین جمله نوشته شد.

و از اینجا به بعد

پنج فصل گذشت و بیشترِ حرفشان درباره‌ی مرز بود: مدل چیست، چرا مطمئن حرف می‌زند، چطور باهاش حرف بزنید، و کجای کارِ بالینی نباید بنشیند. اگر تا اینجا حس کرده‌اید کتاب بیشتر دارد جلویتان را می‌گیرد تا راه باز کند، حق دارید.

ولی همه‌ی این محدودیت‌ها یک چیزِ مشترک داشتند: در قلمرویی بودند که ماده‌ی خام دستِ شما نبود و توانِ سنجش نداشتید. حالا برویم سراغِ جایی که هر دو را دارید — تولیدِ محتوای علمی و آموزشی. متن مالِ خودتان است، منبع جلوی دستتان، و هر ادعا قابلِ برگرداندن به اصلش. اینجا همان جایی است که مدل واقعاً چیزی به شما اضافه می‌کند، و اتفاقاً همان جایی است که تکنیک‌های جدی‌ترش زندگی می‌کنند.

یک تذکر برای شروعِ فصلِ بعد: تا اینجا هرجا «مدل» گفتیم، انگار یک چیزِ واحد بود. نیست. ابزارها با هم فرق دارند، بعضی‌شان برای کاری ساخته شده‌اند که بقیه در آن ضعیف‌اند، و بخشی از مهارت همین است که بدانید کدام مدل هوش مصنوعی را کجا ببرید. فصل ۶ از همان‌جا شروع می‌شود.