توهم دانایی در عصر هوش‌مصنوعی؛ پرتگاهی پنهان در مسیر دانایی
شروین محمدپور – در آستانه زیست دیجیتالی انسان معاصر، جایی در امتداد سرزمینی که نه کاملا واقعیت است و نه صرفا رویا، ما با موجودی روبه‌رو هستیم که بیش از آنکه دیده شود، احساس می‌شود و آن چیزی نیست جز «هوش‌مصنوعی». در همین روزهایی که بی‌تکلف با یک اپلیکیشن گفت‌وگو یا از یک ابزار متنی استفاده می‌کنیم، اتفاقی آرام اما شگرف در حال رخ دادن است و ما کم‌کم باور می‌کنیم که «می‌دانیم»؛ آن‌هم نه از مسیر یادگیری بلکه از مسیر میان‌بُرهای مصنوعی که ذهن ما را از زحمت کندوکاو، از رنجِ شک و از مسیر خطاپذیر رشد رها می‌کند و این، تولد «توهم دانایی» است؛ خطری نرم، شیرین و به‌شدت مخرب.
دانایی واقعی یا تصویری از دانایی؟
آنچه ما به‌عنوان دانایی تا به امروز می‌شناسیم، تنها برآمده از فرآیندهای پیچیده تجربه، تفکر و بازاندیشی است اما در دوران حاضر، با یک پیام ساده، یک پاسخ سریع یا حتی یک خلاصه دقیق، احساس می‌کنیم که «می‌دانیم». حال آنکه دانستنِ بدون درگیری شناختی، بیشتر به دریافت بسته‌های بسته‌بندی‌شده اطلاعات شبیه است، نه فهم عمیق. هوش‌مصنوعی، به‌ویژه در مدل‌های زبانیِ پیشرفته، می‌تواند با ساختار روان‌زبان‌شناختیِ شبیه به انسان، چنین تصوری را به‌طرز خطرناکی تقویت کند. در روانشناسی شناختی معاصر، این پدیده مشابه «اثر دانینگ-کروگر» است، جایی که افراد کم‌تجربه، دچار اعتمادبه‌نفس کاذب در حوزه‌ای می‌شوند که درک محدودی از آن دارند و هوش‌مصنوعی، این اثر را بیش از پیش تشدید می‌کند، به‌طوری‌که دیگر لازم نیست سال‌ها برای درک یک مفهوم تلاش کنی و فقط کافی ست بپرسی. اما آیا واقعا پاسخ را فهمیده‌ای؟
روانشناسی توهم دانایی و دانشِ بی‌ریشه
مغز انسان برای بقا، اغلب به میان‌برهای شناختی متوسل می‌شود. اصطلاحا به این میان‌برها «هیوریستیک» می‌گویند. وقتی فردی پاسخی دقیق، منسجم و با اعتمادبه‌نفس از یک ابزار هوش‌مصنوعی دریافت می‌کند، مغز او تمایل دارد که آن را نه‌فقط درست بلکه کامل و قطعی بداند. این اتکای روانی، نه از محل شناخت منطقی بلکه از دل احساس آرامشی می‌آید که داناییِ بدون زحمت در ذهن فرد ایجاد می‌کند. این فرآیند، به مرور زمان، ساختار مغز را به‌گونه‌ای بازآرایی می‌کند که توانایی تفکر انتقادی تضعیف می‌شود. توهم دانایی می‌تواند به شکل اعتیاد فکری نیز بروز کند. وقتی هر پرسشی، هرقدر هم عمیق، بلافاصله پاسخی سریع دریافت کند، ذهن برای کندوکاو، بررسی منابع، مقایسه دیدگاه‌ها و ساختن مدل ذهنی مقاومت می‌کند و این دقیقا آغازِ افولِ فهم است، نه صعود آن.
از دیدگاه علوم رایانه- ماشین، نه معلم
در حوزه هوش‌مصنوعی، به‌ویژه مدل‌های مولد Generative AI)، آنچه رخ می‌دهد تولیدات «پیش‌بینی‌محور» است، نه استخراج حقیقت. یک مدل زبانی، همچون ChatGPT، پاسخ‌ها را نه براساس دانش یقینی بلکه براساس احتمالات آماریِ کلمات و ساختارها تولید می‌کند. به بیان ساده‌تر، وقتی از یک مدل می‌پرسید «چرا آسمان آبی است؟»، پاسخ آن برآمده از بسامد استفاده عبارت‌ها و مفاهیم در متون آموزش‌دیده است، نه الزاما درک علمی از پراکندگی نور. اینجا دقیقا همان‌جایی است که خطا رخ می‌دهد. در چنین شرایطی فرد بدون درک دقیق از ماهیت ابزار، آن را به‌عنوان مرجع نهایی و بی‌خطا تلقی می‌کند. این همان جایی است که استفاده بی‌دانش و ناآگاهانه از ابزار، نه‌تنها دانایی نمی‌آفریند بلکه لایه‌ای از اطلاعات مخدوش را در ذهن تثبیت می‌کند؛ اطلاعاتی که چون با بیان مطمئن ارائه شده‌اند، به‌سختی از ذهن پاک می‌شوند.
دقیقا مشابه سیستم آموزشی حافظه‌محور کشورمان که ناآگاهی اساتید به‌عنوان مرجعی بی‌خطا به واسطه ارائه اطلاعات مبهم و مخدوش، ذهن جویندگان علم را مشوش کرده و باعث آثار مخرب در تمامی حوزه‌های علمی از جمله حوزه‌های مدیریتی امروز کشور می‌شود. به بیان دیگر آفات ناشی از القای اطلاعات مخدوش به واسطه مدرک‌گرایی افراطی در نظام آموزشی باعث شده تا کشور دچار رکود خلق تحولات فکری در سال‌های نوزایی هوش‌های مصنوعی شوند و با رشد و پیشرفت هوش‌های مصنوعی این رکود تبدیل به شکوفایی کاذب خلق تحولات فکری در سال‌های آتی خواهد شد.
ابعاد جامعه‌شناختی- فروپاشی تفکر جمعی
وقتی جامعه‌ای دچار توهم دانایی شود، نتیجه چیزی جز فروپاشی تدریجی گفت‌وگوی واقعی نخواهد بود. به شکلی که افراد به‌جای تعامل با نظرات متکثر، با اطمینان پاسخ‌هایی را بازتولید می‌کنند که نه از تفکر بلکه برآمده از «کپی‌کاری» هستند. بدین‌ترتیب، فضای فکری جامعه، از یک زیست‌بوم زنده و پویای دانایی، به عرصه‌ای از پژواک‌های بی‌ریشه و پیش‌ساخته بدل می‌شود. از منظر جامعه‌شناسی انتقادی، این پدیده می‌تواند طبقه جدیدی از «نیمه‌دانایان دیجیتال» بسازد؛ افرادی که تصور می‌کنند متخصصند اما در واقع حامل دانشی تقلیدی و سطحی‌اند. آنچه خطرناک‌تر است، آن است که این افراد می‌توانند وارد ساختار تصمیم‌گیری شوند، بی‌آنکه بنیان‌های معرفتی لازم را داشته باشند.
مسوولیت حاکمیت‌ها در میانه علم و سیاست
در مواجهه با پدیده توهم دانایی ناشی از به‌کارگیری ابزارهای هوش‌مصنوعی، دولت‌ها و سیاستگذاران باید نقشی فعال، آگاهانه و حتی پیش‌دستانه ایفا کنند. باید توجه داشت که مواجهه با هوش‌مصنوعی، صرفا یک مساله فناورانه نیست بلکه یک بحران معرفتی و فرهنگی است.
اگر ساختارهای آموزشی، رسانه‌ای و حکمرانی نتوانند از اکنون وارد میدان شوند، آینده‌ای نه‌چندان دور شاهد نسلی خواهیم بود که «نمی‌دانند که نمی‌دانند». پرواضح است که چنین جامعه‌ای، آماده فریب، آسیب‌پذیر در برابر شایعات و ناکارآمد در مواجهه با بحران‌ها خواهد بود.
پس توجه به این موارد برای مسوولان و تصمیم‌سازان امری بسیار ضروری است: ترویج آموزش‌های عمومی درباره ماهیت و محدودیت‌های هوش‌مصنوعی به زبان ساده، ادغام سواد رسانه‌ای و سواد الگوریتمی در نظام آموزشی رسمی کشور، ایجاد نهادهای نظارتی برای جلوگیری از سوء‌استفاده اطلاعاتی از مدل‌های زبانی، ترویج فرهنگ شک‌ورزی و تفکر انتقادی، حتی نسبت‌به هوش‌مصنوعی، توجه و اهتمام ویژه به متخصصان چند‌تخصص‌گرا و میان‌رشته‌ای با هدف کشف و حل خطاهای احتمالی و مهاجرت از ساختار آموزشی حافظه‌محور به ساختارهای آموزشی مهارت‌محور چابک.
راه برون‌رفت- بازگشت به تفکر نه بازگشت به گذشته
چاره موارد بیان‌شده در عقب‌نشینی از فناوری نیست بلکه در آگاه شدن از چگونگی استفاده کردن از آنهاست. همان‌گونه که انسانِ ابتدایی آتش را ابتدا سوزاننده دید اما بعدها آن را به ابزار پخت و گرما بدل کرد، امروز نیز وظیفه ما فهم عمیق‌تری از ماهیت این ابزارهاست. ما باید به‌جای «مصرف‌کننده پاسخ»، به «پرسشگری آگاه» تبدیل شویم. در این مسیر، به‌کارگیری متخصصان چندرشته‌ای و میان‌رشته‌ای- ترکیبی از فلسفه، روانشناسیِ شناختی، علوم رایانه، علوم تربیتی و جامعه‌شناسی- امری قطعی و ضروری برای تصمیمات کلان کشوری است چرا که تنها از این رهگذر است که می‌توان به فهمی چندوجهی از یک مساله به‌ظاهر فنی اما در واقع انسانی رسید.
دانایی واقعی همیشه سخت به دست می‌آید
در نهایت در عصری که همه‌چیز سریع است، پاسخ‌ها آماده‌اند و ابزارها هوشمند شده‌اند و ارزش واقعی دانایی در همان چیزی است که ماشین نمی‌تواند تقلیدش کند و درگیری اصلی انسانی با پرسش، با تردید، با مسیر پرخطر اما اصیل تفکر خواهد بود. به‌کارگیری هوش‌مصنوعی، تنها یک فرصت است اما اگر بدون آموزش، بدون خودآگاهی و بدون پرسشگری استفاده شود، به‌سرعت به دام توهم دانایی بدل می‌شود و این توهم، از هر نادانی‌ای خطرناک‌تر است.
ایران و دیگر کشورها، در مسیر مواجهه با آینده، باید تصمیم بگیرند: آیا می‌خواهند صرفا کاربران منفعل ابزارها باشند، یا خالقان مسیرهای نو در زیست‌فناوری؟ پاسخ به این پرسش، خود نقطه آغازِ دانایی است. ایران و بسیاری از کشورهایی که در حال عبور از مرحله توسعه به مرحله بلوغ فناورانه‌اند، در آستانه تصمیمی بنیادین قرار دارند یا به دام توهم دانایی در عصر هوش‌مصنوعی افتند، یا با ایجاد زیرساخت‌های دانایی محور واقعی، به بلوغی تازه در حکمرانی و فرهنگ برسند. در جهانی که در آن اطلاعات از دیوارها عبور می‌کند اما درهای فهم هنوز به کلید تامل و پرسشگری نیاز دارد، آنکه تنها پاسخ می‌گیرد، هنوز نپرسیده است و آنکه نپرسد، دیر یا زود، اسیر پاسخ‌هایی می‌شود که نه از خِرد بلکه از تکرار آمده است. در چنین جهانی، آینده نه در سرعتِ بیشتر بلکه در درنگی عمیق‌تر شکل خواهد گرفت.
شروین محمدپور، چند تخصص‌گرا و کارشناس خبره مهندسی نرم‌افزار
