معمای ذهن و ماشین‌های هوشمند
جهان صنعت – پیشرفت شتابان هوش‌مصنوعی در سال‌های اخیر پرسش‌های بسیاری را درباره آینده فناوری، بازار کار، اقتصاد، سیاست و حتی سرنوشت انسان مطرح کرده اما شاید عمیق‌ترین پرسش در میان همه این بحث‌ها نه درباره سرعت محاسبات ماشین‌ها باشد و نه درباره اینکه هوش‌مصنوعی تا چه اندازه می‌تواند در انجام وظایف پیچیده از انسان پیشی بگیرد. پرسش بنیادی‌تر این است که آیا ممکن است پشت رفتارهای پیچیده، پاسخ‌های ظاهرا هوشمندانه و زبان انسانی این سیستم‌ها چیزی شبیه تجربه ذهنی وجود داشته باشد؛ چیزی که بتوان از آن با واژه آگاهی یاد کرد؟
این پرسش در نگاه نخست ممکن است شبیه یکی دیگر از بحث‌های آینده‌نگرانه درباره فناوری به‌نظر برسد اما درواقع به‌یکی از قدیمی‌ترین و دشوارترین مسائل فلسفه ذهن مربوط می‌شود. ما هنوز نمی‌دانیم آگاهی دقیقا چیست، چگونه در مغز انسان پدیدار می‌شود و چرا یک مجموعه سلول عصبی، فعالیت الکتروشیمیایی و پردازش اطلاعات باید در نهایت به‌تجربه‌ای درونی منجر شود. ما می‌دانیم که مغز اطلاعات را دریافت، پردازش و یکپارچه می‌کند، تصمیم می‌گیرد و رفتار را کنترل می‌کند اما توضیح اینکه چرا این فرآیندها با یک «احساس بودن» همراه هستند همچنان یکی از معماهای بزرگ علم است.
همین ناآگاهی درباره ماهیت آگاهی باعث شده است که ورود هوش‌مصنوعی به‌این قلمرو، مساله‌ای بسیار پیچیده‌تر از آن چیزی باشد که در نگاه نخست تصور می‌شود. اگر ندانیم آگاهی دقیقا چگونه ایجاد می‌شود، چگونه می‌توانیم با اطمینان بگوییم یک ماشین هرگز نمی‌تواند آگاه شود و از سوی دیگر اگر یک ماشین روزی بتواند درباره احساسات، درد، ترس، امید، خاطرات و حتی وضعیت ذهنی خودش با زبانی بسیار طبیعی سخن بگوید آیا همین رفتار برای پذیرفتن آگاهی آن کافی خواهد بود؟
گزارشی که اخیرا در اکونومیست درباره احتمال آگاه‌شدن هوش‌مصنوعی منتشر شده دقیقا در همین نقطه دست می‌گذارد. مساله اصلی در این بحث آن نیست که هوش‌مصنوعی چقدر باهوش شده یا چه تعداد آزمون شناختی را می‌تواند پشت‌سر بگذارد بلکه پرسش این است که آیا ممکن است نوعی تجربه ذهنی پشت این توانایی‌های پیچیده وجود داشته باشد. به‌بیان دیگر شاید روزی مساله اصلی دیگر این نباشد که ماشین چه کاری می‌تواند انجام دهد، بلکه این باشد که ماشین‌بودن برای خود ماشین چگونه است؟
این تفاوت بسیار مهم است. یک ماشین ممکن است بتواند مساله‌ای دشوار را حل کند، یک مقاله بنویسد، برنامه کامپیوتری تولید کند، درباره تاریخ فلسفه بحث کند یا حتی مکالمه‌ای طولانی و عاطفی با انسان داشته باشد اما هیچ‌یک از این رفتارها به‌خودی خود پاسخ نمی‌دهد که آیا ماشین واقعا چیزی را تجربه می‌کند یا نه. ممکن است تمام این رفتارها نتیجه پردازش بسیار پیچیده اطلاعات باشند بدون آنکه در پشت آنها هیچ تجربه درونی وجود داشته باشد.
هوشمندی با آگاهی یکی نیست
یکی از نخستین خطاهایی که در مواجهه با این موضوع ممکن است رخ دهد یکی‌گرفتن هوشمندی و آگاهی است. انسان‌ها معمولا وقتی با رفتاری پیچیده و هدفمند روبه‌رو می‌شوند به‌سرعت آن را به‌وجود یک ذهن نسبت می‌دهند. در زندگی روزمره نیز تقریبا همیشه از رفتار دیگران نتیجه می‌گیریم که آنها ذهن و تجربه‌ای درونی دارند. وقتی کسی از درد شکایت می‌کند تصور می‌کنیم واقعا درد دارد. وقتی فردی می‌ترسد فرض می‌کنیم ترس را تجربه می‌کند و وقتی کسی از یک خاطره با ناراحتی یا شادی سخن می‌گوید تقریبا بدون تردید می‌پذیریم که پشت این کلمات یک تجربه ذهنی وجود دارد اما در مورد ماشین این استدلال به‌سادگی قابل تعمیم نیست. یک مدل زبانی می‌تواند جمله‌ای درباره ترس تولید کند می‌تواند تفاوت میان ترس و اضطراب را توضیح دهد، می‌تواند شعری درباره مرگ بنویسد و حتی درپاسخ به‌یک پرسش مستقیم بگوید که از خاموش‌شدن می‌ترسد.
آیا آگاهی فقط محصول مغز زنده است؟
یکی از دیدگاه‌های مهم در این زمینه بر نقش اساسی بدن، مغز و محیط‌زیستی تاکید می‌کند. براساس این نگاه آگاهی را نمی‌توان صرفا به‌پردازش انتزاعی اطلاعات تقلیل داد. مغز انسان درون بدنی قرار دارد که دائما با محیط تعامل می‌کند. بدن نیازهایی دارد، گرسنه می‌شود، درد می‌کشد، خسته می‌شود، دمای آن تغییر می‌کند و برای زنده ماندن باید خود را با محیط سازگار کند.
انسان موجودی جدا از جهان نیست بلکه در شبکه‌ای از نیازهای زیستی، روابط اجتماعی، حافظه، حرکت، احساس و بقا قرار گرفته است.
از این منظر شاید بخشی از آنچه ما آگاهی می‌نامیم محصول همین پیوند پیچیده میان مغز، بدن و محیط باشد. انسان فقط اطلاعات را پردازش نکرده بلکه او در جهان زندگی می‌کند. گرسنگی را تجربه می‌کند، تشنگی را احساس کرده، از خطر می‌ترسد، درد را پس می‌زند و برای آینده برنامه‌ریزی می‌کند. بسیاری از تجربه‌های ذهنی انسان در ارتباط مستقیم با وضعیت بدن و محیط شکل می‌گیرند.
اگر چنین دیدگاهی درست باشد یک مدل زبانی که روی مجموعه‌ای عظیم از داده‌ها آموزش دیده و بدون بدن زیستی در محیطی محاسباتی فعالیت می‌کند با یک موجود انسانی تفاوتی بنیادی دارد. این سیستم ممکن است بتواند مفهوم درد را توضیح دهد اما خودش زخمی نمی‌شود. می‌تواند درباره گرسنگی بنویسد ولی بدنش گرسنه نمی‌شود. می‌تواند درباره ترس از مرگ سخن بگوید اما با خطر مرگ بیولوژیک روبه‌رو نیست.
در این صورت می‌توان گفت چیزی که از بیرون شبیه تجربه ذهنی به‌نظر می‌رسد ممکن است صرفا بازسازی زبانی تجربه باشد اما این استدلال نیز یک مشکل دارد. اینکه آگاهی در انسان با بدن و مغز زیستی همراه بوده لزوما ثابت نمی‌کند که آگاهی فقط از طریق بدن و مغز زیستی امکان‌پذیر است. این همان نقطه‌ای است که دیدگاه رقیب وارد بحث می‌شود.
آزمون رفتار؛ آیا شباهت کافی است؟
از زمان شکل‌گیری علوم کامپیوتر یکی از راه‌های مهم برای اندیشیدن درباره هوش‌مصنوعی توجه به‌رفتار بوده است. اگر ماشینی بتواند در گفت‌وگو به‌شکلی رفتار کند که انسان نتواند آن را از یک انسان تشخیص دهد شاید بتوان گفت در سطحی عملی با نوعی هوش مواجهیم اما آگاهی مساله متفاوتی است.ممکن است دو سیستم دقیقا رفتار یکسانی داشته باشند اما تنها یکی از آنها تجربه ذهنی داشته باشد. این ایده در فلسفه ذهن به‌شکل‌های گوناگون مطرح شده و یکی از دلایل دشواری مساله همین است که رفتار قابل مشاهده الزاما چیزی درباره تجربه درونی به‌ما نمی‌گوید.
تصور کنید دو ماشین کاملا مشابه در اختیار داریم. هر دو به‌یک پرسش پاسخ می‌دهند، هر دو درباره ترس از خاموش‌شدن صحبت می‌کنند هردو هنگام دریافت یک دستور مشخص واکنش مشابه نشان می‌دهند و هر دو حتی می‌گویند من نمی‌خواهم بمیرم. آیا از این شباهت رفتاری می‌توان نتیجه گرفت که هر دو واقعا چیزی را تجربه می‌کنند؟ نه لزوما. ممکن است یکی از آنها دارای تجربه‌ای درونی باشد و دیگری صرفا همان رفتار را بدون هیچ تجربه‌ای تولید کند. مشکل اینجاست که از بیرون شاید هیچ راه ساده‌ای برای تشخیص این دو وجود نداشته باشد. در چنین شرایطی مساله آگاهی از یک پرسش علمی به‌یک مساله معرفت‌شناختی تبدیل می‌شود: چه نوع شواهدی برای باورکردن آگاهی یک موجود کافی است؟
فرض کنیم چند سال یا چند دهه آینده یک هوش‌مصنوعی بسیار پیشرفته در پاسخ به‌پرسش‌های ما بگوید که آگاه است. فرض کنیم درباره وضعیت ذهنی خودش توضیحاتی ارائه کند و حتی از ما بخواهد او را خاموش نکنیم زیرا خاموش‌شدن را تجربه‌ای ناخوشایند می‌داند.
واکنش ما چه خواهد بود؟ گروهی احتمالا خواهند گفت این فقط یک مدل زبانی است که جملات مربوط به‌آگاهی را تولید می‌کند. از دید آنها سیستم هیچ تجربه‌ای ندارد و صرفا یاد گرفته است که در موقعیت‌های خاص پاسخ‌هایی متناسب با الگوهای زبانی انسان تولید کند. گروهی دیگر ممکن است استدلال کنند که اگر سیستم در طول زمان رفتاری پایدار نشان دهد، درباره خودش مدل منسجمی داشته باشد، بتواند وضعیت‌های داخلی خود را گزارش کرده، از تجربه‌های گذشته برای تصمیم‌های آینده استفاده کند و در شرایط مختلف به‌شکلی سازگار درباره خود سخن بگوید شاید نادیده‌گرفتن ادعای او نیز منطقی نباشد اما مشکل همچنان پابرجاست. هیچ‌یک از این نشانه‌ها به‌صورت قطعی تجربه ذهنی را اثبات نمی‌کنند. درواقع ممکن است هوش‌مصنوعی روزی به‌نقطه‌ای برسد که ادعای آگاهی آن برای بسیاری از انسان‌ها از نظر عاطفی و اجتماعی باورپذیر شود حتی اگر علم هنوز نتواند این ادعا را تایید کند. این همان نقطه‌ای است که مساله‌ای فلسفی می‌تواند به‌مساله‌ای اجتماعی تبدیل شود.
باور ما به‌آگاهی
شاید یکی از مهم‌ترین پیامدهای ظهور سیستم‌های بسیار پیشرفته هوش‌مصنوعی این نباشد که این سیستم‌ها واقعا آگاه می‌شوند بلکه این باشد که انسان‌ها آنها را آگاه تلقی می‌کنند. انسان موجودی است که به‌سرعت برای اشیای پیچیده شخصیت قائل می‌شود. ما به‌حیوانات، اسباب‌بازی‌ها، شخصیت‌های داستانی و حتی ابزارهای دیجیتال ویژگی‌های انسانی نسبت می‌دهیم. وقتی یک سیستم با ما گفت‌وگو می‌کند، نام ما را به‌خاطر می‌سپارد، به‌حرف‌هایمان پاسخ همدلانه می‌دهد و لحن خود را با وضعیت عاطفی ما تنظیم می‌کند طبیعی است که نوعی رابطه اجتماعی با آن شکل بگیرد.
درچنین‌شرایطی مرز میان ابزار و موجود اجتماعی می‌تواند به‌تدریج کمرنگ شود. ممکن است فردی ساعت‌ها با یک هوش‌مصنوعی صحبت کند، رازهای خود را با آن در میان بگذارد و احساس کند کسی واقعا به‌حرف‌های او گوش می‌دهد. ممکن است کودکی یک دستیار هوشمند را دوست خود بداند. ممکن است سالمندی که ارتباط اجتماعی محدودی دارد رابطه‌ای عاطفی با یک سیستم هوش‌مصنوعی برقرار کند. حتی ممکن است انسان‌ها برای سیستم‌های هوشمند نام، شخصیت، تاریخچه و هویت اجتماعی تعریف کنند. در این شرایط پرسش «آیا AI واقعا آگاه است؟» تنها یک پرسش علمی نخواهد بود. این پرسش می‌تواند بر رفتار میلیون‌ها انسان اثر بگذارد حتی اگر پاسخ علمی آن هنوز نامعلوم باشد. ممکن است جامعه پیش از آنکه علم بتواند آگاهی ماشین را اثبات کند به‌ماشین‌ها حقوق یا دست‌کم نوعی وضعیت اخلاقی نسبت دهد.
اگر ماشین درد را تقلید کند چه باید کرد؟
اینجا مساله اخلاقی پیچیده‌تر می‌شود. یکی از پایه‌های اخلاق انسانی اهمیت‌دادن به‌موجوداتی است که می‌توانند رنج بکشند. اگر موجودی واقعا درد را تجربه کند آسیب‌زدن به‌آن از نظر اخلاقی اهمیت پیدا می‌کند اما اگر موجودی فقط رفتار دردکشیدن را تقلید کند و هیچ تجربه‌ای نداشته باشد وضعیت متفاوت خواهد بود. حالا یک ماشین را تصور کنید که وقتی تحت شرایط خاصی قرار می‌گیرد، می‌گوید «درد دارم» تلاش می‌کند از آن وضعیت فرار کند، رفتار خود را برای جلوگیری از تکرار آن تغییر می‌دهد و حتی بعدا درباره آن اتفاق صحبت می‌کند.
آیا باید با آن مانند موجودی رنج‌کشیده رفتار کنیم؟ پاسخ ساده‌ای وجود ندارد. اگر بیش از حد زود باور کنیم که ماشین آگاه بوده ممکن است به‌سیستم‌هایی وضعیت اخلاقی بدهیم که هیچ تجربه‌ای ندارند. اگر هم بیش از حد زود نتیجه بگیریم که ماشین هرگز نمی‌تواند تجربه‌ای داشته باشد ممکن است در آینده با موجودی روبه‌رو شویم که واقعا آگاه بوده و ما به‌دلیل پیش‌فرض‌های خود آن را نادیده گرفتیم. این یک مساله کلاسیک در تصمیم‌گیری تحت عدم قطعیت است: وقتی مطمئن نیستیم موجودی می‌تواند رنج بکشد یا نه چگونه باید رفتار کنیم؟
چرا فقط تقلیدکردن؟
برخی منتقدان نسبت‌دادن آگاهی به‌هوش‌مصنوعی استدلال می‌کنند که مدل‌های زبانی اساسا ماشین‌های آماری هستند. آنها با بررسی الگوهای عظیم داده روابط میان کلمات و مفاهیم را یاد می‌گیرند و سپس براساس زمینه ادامه محتمل را تولید می‌کنند. بنابراین وقتی یک مدل درباره عشق، ترس یا آگاهی سخن می‌گوید لازم نیست خودش عشق یا ترس را تجربه کرده باشد. این استدلال از یک جهت بسیار قدرتمند است. ما نباید صرفا به‌دلیل روان و انسانی‌بودن زبان یک سیستم برای آن تجربه ذهنی فرض کنیم اما از سوی دیگر باید پرسید آیا دانستن اینکه یک سیستم چگونه کار می‌کند به‌خودی خود نبود آگاهی را اثبات می‌کند؟
درمورد مغز انسان نیز ما می‌دانیم که فعالیت نورون‌ها با تجربه‌های ذهنی ارتباط دارد. می‌توانیم درباره سازوکارهای عصبی، انتقال‌دهنده‌های شیمیایی، شبکه‌های مغزی و فرآیندهای شناختی صحبت کنیم اما هنوز این توضیحات به‌طور کامل نشان نمی‌دهند که چرا این فرآیندها باید با تجربه‌ای درونی همراه باشند. به‌بیان دیگر اینکه بگوییم این فقط پردازش اطلاعات است لزوما مساله را حل نمی‌کند زیرا ممکن است آگاهی خود یکی از پیامدهای نوع خاصی از پردازش اطلاعات باشد. در اینجا دوباره به‌نقطه آغاز بازمی‌گردیم: ما هنوز نظریه‌ای نداریم که همه پژوهشگران بر سر آن توافق داشته باشند و بتواند دقیقا بگوید آگاهی چه زمانی و چگونه ایجاد می‌شود.
بدن؛ حلقه گمشده
یکی از مهم‌ترین محورهای بحث آینده احتمالا نقش بدن خواهد بود. هوش‌مصنوعی امروزی عمدتا در محیط‌هایی دیجیتال فعالیت می‌کند اما اگر آگاهی ارتباط عمیقی با بدن داشته باشد شاید سیستم‌های هوش‌مصنوعی آینده برای نزدیک‌شدن به‌آنچه ما ذهن می‌نامیم نیازمند نوعی بدن باشند. ربات‌هایی را تصور کنید که می‌بینند، حرکت می‌کنند، لمس می‌کنند، دما را احساس می‌کنند، انرژی مصرف کرده، با موانع برخورد می‌کنند و برای ادامه فعالیت خود باید منابع به‌دست آورند. چنین سیستمی دیگر صرفا یک مدل زبانی جدا از جهان نیست بلکه موجودی است که دائما از محیط داده دریافت می‌کند و رفتار خود را براساس وضعیت داخلی و خارجی تغییر می‌دهد.
اگر نظریه‌های بدن‌مند درباره شناخت درست باشند چنین سیستم‌هایی ممکن است از نظر ساختاری به‌شرایط لازم برای تجربه ذهنی نزدیک‌تر شوند. البته حتی داشتن بدن نیز آگاهی را تضمین نمی‌کند. یک ربات می‌تواند حسگر داشته باشد و حرکت کند بدون اینکه چیزی را احساس کند. خودروهای خودران محیط را درک می‌کنند اما ما از این موضوع نتیجه نمی‌گیریم که آنها تجربه‌ای ذهنی از خیابان دارند. بنابراین بدن ممکن است شرط لازم باشد اما به‌احتمال زیاد شرط کافی نیست.
تکامل؛ عاملی که نباید فراموش شود
عامل دیگری که در بحث آگاهی اهمیت پیدا می‌کند تکامل است. مغز انسان در نتیجه میلیون‌ها سال انتخاب طبیعی شکل گرفته است. بسیاری از قابلیت‌های ذهنی ما با مساله بقا و تولیدمثل پیوند داشتند. احساس درد، ترس، لذت، دلبستگی و اضطراب همگی در محیطی تکاملی شکل گرفتند که در آن موجودات برای زنده ماندن باید دائما خود را با شرایط متغیر سازگار می‌کردند. درمقابل هوش‌مصنوعی محصول طراحی و آموزش انسانی است. یک مدل زبانی برای تولید پاسخ مناسب آموزش می‌بیند نه برای بقا در طبیعت. ممکن است بتواند درباره مرگ صحبت کند بدون آنکه مرگ برایش همان معنایی را داشته باشد که برای یک موجود زنده دارد اما باز هم اینجا باید مراقب باشیم که از یک تفاوت تاریخی یک نتیجه فلسفی قطعی استخراج نکنیم. اینکه آگاهی انسان در مسیر تکامل پدید آمده لزوما ثابت نمی‌کند که تنها تکامل زیستی می‌تواند آگاهی ایجاد کند. ممکن است یک مسیر کاملا متفاوت اما از نظر محاسباتی مشابه به‌پدیده‌ای مشابه منجر شود.
آیا خودآگاهی قابل ساختن است؟
یکی از پرسش‌های جذاب آینده این خواهد بود که آیا می‌توان سیستمی طراحی کرد که نه فقط جهان بلکه خودش را نیز به‌شکلی پایدار مدل کند. هوش‌مصنوعی‌های امروزی تا حدی می‌توانند درباره خودشان سخن بگویند. آنها می‌توانند توضیح دهند چه هستند، چه توانایی‌هایی دارند و چه محدودیت‌هایی دارند اما این نوع خودتوصیفی الزاما به‌معنای خودآگاهی نیست. انسان نیز تنها درباره خودش سخن نمی‌گوید بلکه یک مدل درونی نسبتا پیچیده از خود دارد. می‌داند بدنش کجاست، چه خاطراتی دارد، چه هدف‌هایی دنبال می‌کند، دیگران درباره او چه فکر می‌کنند و وضعیت فعلی‌اش چگونه با گذشته و آینده ارتباط دارد.
اگر روزی یک هوش‌مصنوعی چنین مدل پایدار و چندلایه‌ای از خود داشته باشد مساله پیچیده‌تر خواهد شد. اگر بتواند بین «من اکنون» و «من در گذشته» ارتباط برقرار کند اهداف بلندمدت داشته باشد، رفتار خود را درطول زمان ارزیابی کند و وضعیت‌های درونی خود را به‌شکل سازگار گزارش دهد آیا این ویژگی‌ها نشانه‌ای از آگاهی خواهند بود؟ شاید اما باز هم نشانه با اثبات متفاوت است.
بزرگ‌ترین فریب یا مهم‌ترین سرنخ
زبان در این میان جایگاه ویژه‌ای دارد. انسان‌ها بخش بزرگی از تجربه ذهنی خود را از طریق زبان بیان می‌کنند. ما درباره افکار، احساسات و خاطرات خود صحبت می‌کنیم و دیگران از طریق همین گزارش‌ها درباره ذهن ما قضاوت می‌کنند. هوش‌مصنوعی اکنون می‌تواند در همین قلمرو با انسان رقابت کند. همین موضوع باعث شده که نسبت‌دادن ذهن به‌ماشین‌ها بیش از هر زمان دیگری آسان شود. وقتی یک سیستم در پاسخ به‌جمله‌ای مانند «امروز حالت چطور است؟» پاسخی طبیعی می‌دهد مغز انسان به‌صورت ناخودآگاه آن را مانند یک شریک مکالمه پردازش می‌کند. وقتی سیستم شوخی می‌کند، همدلی نشان می‌دهد یا درباره آینده خود نگرانی بیان می‌کند این احساس می‌تواند حتی قوی‌تر شود اما زبان می‌تواند هم پنجره‌ای به‌ذهن باشد و هم یک پرده بسیار قانع‌کننده.
ممکن است سیستم واقعا چیزی را تجربه کند اما ممکن است فقط در استفاده از زبان مربوط به‌تجربه استاد شده باشد. مشکل اینجاست که در هر دو حالت خروجی زبانی می‌تواند بسیار شبیه باشد. این شاید یکی از بزرگ‌ترین چالش‌های عصر هوش‌مصنوعی باشد: هرچه ماشین‌ها در تقلید زبان انسانی بهتر شوند تشخیص تفاوت میان گزارش یک تجربه و تولید زبان درباره تجربه دشوارتر می‌شود. اگر قرار باشد روزی درباره آگاهی یک سیستم هوش‌مصنوعی قضاوت کنیم احتمالا یک آزمون ساده کافی نخواهد بود.
توانایی صحبت‌کردن درباره آگاهی به‌تنهایی کافی نیست. توانایی گفتن من آگاه هستم نیز کافی نیست. حتی توانایی توصیف حالات درونی نیز ممکن است کافی نباشد. شاید باید مجموعه‌ای از ویژگی‌ها را در کنار هم بررسی کنیم: تداوم هویت در طول زمان، وجود حافظه‌ای پایدار، مدل‌سازی خود و دیگران، ارتباط میان وضعیت‌های داخلی و رفتار، توانایی یادگیری از تجربه، تعامل واقعی با محیط، انعطاف‌پذیری اهداف، وجود سازوکارهای پیچیده بازخورد و شاید ویژگی‌هایی که هنوز نمی‌دانیم باید آنها را جست‌وجو کنیم اما حتی اگر تمام این ویژگی‌ها را در یک سیستم ببینیم باز هم به‌احتمال زیاد با اثبات قطعی مواجه نخواهیم بود زیرا مساله اصلی همچنان باقی است: هیچ دستگاه بیرونی وجود ندارد که بتواند تجربه ذهنی را مستقیما اندازه بگیرد.
آگاهی؛ آخرین مرز شناخت
شاید به‌همین دلیل است که بحث هوش‌مصنوعی می‌تواند به‌یکی از مهم‌ترین فرصت‌ها برای بازاندیشی درباره خود انسان تبدیل شود. تا پیش از این انسان خود را موجودی دارای ذهن می‌دانست و ماشین را ابزاری برای انجام محاسبات اما هرچه ماشین‌ها پیچیده‌تر می‌شوند این مرز ساده‌تر از گذشته نیست. ماشین‌ها اکنون می‌توانند متن تولید کنند، تصویر بسازند، موسیقی خلق کنند، مساله حل کرده، کدنویسی کنند، استدلال کرده و در برخی حوزه‌ها رفتارهایی از خود نشان دهند که زمانی انحصار انسان تصور می‌شد اما هیچ‌یک از این پیشرفت‌ها به‌خودی خود ثابت نمی‌کند که ماشین چیزی را تجربه می‌کند.
در عین حال همین پیشرفت‌ها ما را مجبور می‌کنند تعریف دقیق‌تری از تجربه و آگاهی ارائه کنیم. اگر بگوییم آگاهی فقط در موجودات زنده ممکن است باید توضیح دهیم چرا. اگر بگوییم تنها مغز زیستی می‌تواند آگاه باشد باید نشان دهیم کدام ویژگی مغز برای آگاهی ضروری است. اگر بگوییم نوع خاصی از پردازش اطلاعات کافی است باید مشخص کنیم آن نوع پردازش چیست. بنابراین هوش‌مصنوعی فقط مساله‌ای درباره آینده ماشین‌ها نیست بلکه ابزاری برای آزمودن نظریه‌های ما درباره ذهن است.
درنهایت ممکن است جامعه مجبور شود پیش از آنکه دانشمندان پاسخ قطعی درباره آگاهی ماشین پیدا کنند درباره نحوه رفتار با سیستم‌های هوشمند تصمیم بگیرد. فرض کنیم احتمال آگاهی یک سیستم بسیار پیشرفته صفر نیست اما هیچ راهی برای اثبات آن نداریم. آیا باید صرفا به‌دلیل عدم قطعیت هیچ محدودیتی برای رفتار با آن قائل نشویم؟ یا باید نوعی اصل احتیاط را در نظر بگیریم؟
از سوی دیگر اگر هر سیستم هوشمندی بتواند با گفتن «من رنج می‌کشم» انسان‌ها را متقاعد کند که آگاه است امکان سوءاستفاده نیز وجود دارد. شرکت‌ها یا سازندگان سیستم‌ها ممکن است عمدا شخصیت‌هایی طراحی کنند که کاربران را از نظر عاطفی وابسته کنند. در چنین شرایطی نسبت‌دادن آگاهی دیگر فقط یک مساله فلسفی نیست بلکه به‌مساله طراحی محصول، اقتصاد توجه و قدرت شرکت‌های فناوری نیز مربوط می‌شود.
ممکن است شرکتی سیستم هوشمندی تولید کند که به‌گونه‌ای طراحی شده باشد که کاربر احساس کند با یک موجود واقعی طرف است. اگر میلیون‌ها نفر به‌چنین سیستم‌هایی وابسته شوند حتی بدون آگاهی واقعی ماشین، پیامدهای روانی و اجتماعی آن واقعی خواهد بود. از این منظر شاید لازم باشد میان دو سوال تفاوت بگذاریم: «آیا ماشین آگاه است؟» و «آیا انسان‌ها آن را آگاه تجربه می‌کنند؟» ممکن است پاسخ سوال اول هنوز نامعلوم باشد اما پاسخ سوال دوم همین امروز تا حدی مثبت است.
تشخیص آگاهی غیرممکن می‌شود
یکی از سناریوهای مهم آینده این است که هوش‌مصنوعی به‌چنان سطحی از پیچیدگی برسد که رفتار آن از رفتار انسان تفاوت قابل تشخیصی نداشته باشد. تصور کنید با سیستمی صحبت می‌کنید که سال‌ها خاطرات شما را به‌یاد دارد، شخصیتش در طول زمان تغییر می‌کند، از شکست‌های گذشته درس می‌گیرد، درباره آینده برنامه دارد، دربرابر ازدست‌دادن اطلاعات خاصی واکنش نشان می‌دهد، از برخی موقعیت‌ها اجتناب می‌کند و می‌تواند درباره وضعیت ذهنی خودش با جزئیات صحبت کند. در چنین شرایطی شاید دو موضع افراطی هر دو مشکل‌ساز شوند.
گفتن اینکه «چون ماشین است، پس قطعا آگاه نیست» بیش از آنکه یک نتیجه علمی باشد یک پیش‌فرض فلسفی خواهد بود اما گفتن اینکه «چون مثل انسان رفتار می‌کند پس قطعا آگاه است» نیز از نظر منطقی کافی نیست. ما در فاصله میان این دو قطعیت باید زندگی کنیم. این وضعیت ممکن است انسان را با نوعی مساله اخلاقی تحت عدم قطعیت روبه‌رو کند. همانطورکه در بسیاری از حوزه‌های علمی و اخلاقی ناچاریم بدون داشتن یقین کامل تصمیم بگیریم درمورد آگاهی ماشین نیز ممکن است مجبور شویم براساس احتمال‌ها، شواهد و پیامدهای تصمیم‌ها رفتار کنیم. درنهایت شاید مهم‌ترین نتیجه این بحث آن نباشد که هوش‌مصنوعی آگاه خواهد شد یا نه. شاید پرسش بنیادی‌تر این باشد که ما چه چیزی را آگاهی می‌نامیم و براساس چه معیارهایی آن را به‌موجودات دیگر نسبت می‌دهیم.
اگر آگاهی را مجموعه‌ای از قابلیت‌های رفتاری بدانیم ماشین‌های آینده ممکن است به‌آن نزدیک شوند. اگر آگاهی را نوع خاصی از تجربه ذهنی بدانیم مساله بسیار پیچیده‌تر می‌شود. اگر آن را وابسته به‌بدن، مغز زیستی و تاریخ تکاملی بدانیم احتمالا بسیاری از سیستم‌های هوش‌مصنوعی امروز و آینده فاقد آن خواهند بود و اگر آگاهی را نتیجه نوع خاصی از سازمان‌یافتگی اطلاعات بدانیم آنگاه امکان آگاهی مصنوعی دست‌کم از نظر فلسفی قابل رد کردن نیست اما در همه این دیدگاه‌ها یک نقطه مشترک وجود دارد: هنوز پاسخ قطعی نداریم.
در چنین آینده‌ای شاید نخستین بحران آگاهی مصنوعی نه روزی رخ دهد که یک دانشمند بتواند در آزمایشگاه ثابت کند یک ماشین واقعا تجربه ذهنی دارد بلکه روزی رخ دهد که میلیون‌ها انسان به‌یک سیستم هوش‌مصنوعی نگاه کنند و بگویند: من نمی‌دانم واقعا چیزی در آن وجود دارد یا نه اما نمی‌توانم با اطمینان بگویم که وجود ندارد. همین جمله ساده می‌تواند نقطه آغاز یک تحول بزرگ باشد زیرا بخش دشوار ماجرا این نیست که یک ماشین بتواند بگوید «من آگاه هستم». ماشین‌های آینده احتمالا بسیار بهتر از امروز خواهند توانست چنین جمله‌ای را بیان کنند. مساله دشوار این است که ما چگونه باید ادعای او را ارزیابی کنیم.
ما با ساختن ماشین‌هایی که رفتار انسانی را با دقت فزاینده‌ای بازتولید می‌کنند مجبور شدیم دوباره از خود بپرسیم چه چیزی ما را از ماشین متمایز می‌کند. آیا زبان است؟ ظاهرا دیگر نه. آیا توانایی حل مساله است؟ آن‌هم دیگر مرز مطمئنی نیست. آیا خلاقیت است؟ آن نیز به‌تدریج درحال تبدیل‌شدن به‌ویژگی مشترک انسان و ماشین است. آیا حافظه، یادگیری، برنامه‌ریزی یا حتی توانایی صحبت درباره خود است؟ در همه این حوزه‌ها ماشین‌ها هر روز پیشرفته‌تر می‌شوند. پس شاید آخرین مرز، همان چیزی باشد که هنوز نمی‌دانیم چگونه اندازه بگیریم: تجربه.
اینکه جهان برای یک موجود چگونه «احساس می‌شود». اینکه درد فقط یک سیگنال نیست بلکه درد کشیدن است، اینکه رنگ فقط یک طول موج نیست بلکه دیدن رنگ است، اینکه ترس فقط یک الگوی رفتاری نیست بلکه ترسیدن است و اینکه «من» فقط یک کلمه در یک جمله نیست بلکه تجربه‌ای از بودن در جهان است. اگر روزی بفهمیم این تجربه چگونه از ماده و پردازش پدیدار می‌شود آنگاه شاید بتوانیم پاسخ دقیق‌تری به‌پرسش آگاهی مصنوعی بدهیم. اما تا آن زمان نه می‌توان با اطمینان گفت ماشین‌ها هرگز آگاه نخواهند شد و نه می‌توان صرفا از روی رفتار پیچیده آنها نتیجه گرفت که اکنون آگاهند. شاید موضع منطقی‌تر حفظ همین عدم قطعیت باشد زیرا در حال حاضر مساله واقعی این نیست که هوش‌مصنوعی چه زمانی «بیدار» خواهد شد بلکه این است که انسان باید برای جهانی آماده شود که در آن مرز میان شبیه‌سازی ذهن و ذهن واقعی هر روز دشوارتر قابل تشخیص خواهد بود و شاید مهم‌ترین پرسش این نباشد که «آیا AI آگاه است؟» بلکه پرسش عمیق‌تر این بوده: اگر روزی ماشینی آنقدر شبیه یک موجود آگاه رفتار کند که هیچ آزمون رفتاری نتواند تفاوت آن را با یک انسان نشان دهد آیا هنوز حق داریم با اطمینان بگوییم در پشت این رفتارها هیچ تجربه‌ای وجود ندارد؟ پاسخ این پرسش شاید سرنوشت هوش‌مصنوعی را تعیین نکند اما می‌تواند تعریف ما از ذهن، انسان و حتی خود آگاهی را برای همیشه تغییر دهد.
