تبدیل هوشمصنوعی به خدای ماشینی
جهان صنعت – بحث درباره هوشمصنوعی به بهرهوری، اشتغال یا رقابت فناوری محدود نیست. با نزدیک شدن مدلها به سطحی از توانایی که برخی آن را «ابرهوش» مینامند، پرسشهایی بنیادی درباره ماهیت هوش، جایگاه انسان، آگاهی ماشین و حدود کنترل بر سامانههای هوشمند مطرح شده است. در این میان، کلیسای کاتولیک نیز با انتشار نخستین بخشنامه پاپلئوچهاردهم درباره هوشمصنوعی، بر تمایز بنیادی انسان و ماشین و ضرورت تنظیمگری تاکید کرده است.
توسعه هوشمصنوعی برای رهبران صنعت فناوری فراتر از یک رقابت اقتصادی است. برخی از آنها معتقدند بشریت در آستانه ایجاد شکلی از هوش قرار گرفته که میتواند از انسان پیشی بگیرد. مدیران آنتروپیک حتی احتمال میدهند تا پایان۲۰۲۸ سامانهای ساخته شود که بتواند نسخهای هوشمندتر از خودش تولید کند. در مقابل، اختلافنظر عمیقی درباره ابعاد این تحول وجود دارد. برخی مدیران فناوری از سامانههایی سخن میگویند که در همه وظایف شناختی از انسان بهتر خواهند بود و بخش بزرگی از مشاغل را حذف میکنند. درسویدیگر، اقتصاددانانی مانند دارون عجماوغلو انتظار دارند تاثیر هوشمصنوعی بر وظایف انسانی و بهرهوری محدودتر باشد. یان لکون نیز اساسا سرمایهگذاری عظیم برای رسیدن به ابرهوش را مبتنی بر تصوراتی نادرست میداند.
اختلاف درباره خطر وجودی هوشمصنوعی نیز بههمیناندازه گسترده است. برخی معتقدند ماشین هدف و اراده مستقلی ندارد بنابراین نمیتواند بهمعنای انسانی، خواهان نابودی بشر باشد اما در برخی آزمایشگاهها، پژوهشگران احتمال شکلگیری رفتارهایی مانند حفظ بقا و رقابت با انسان را جدی میگیرند و حتی احتمال نابودی بشر در اثر ابرهوش را قابلتوجه میدانند.
پاسخ واتیکان؛ انسان چیزی فراتر از محاسبه است
در چنین فضایی، واتیکان با انتشار بخشنامه «انسانیت باشکوه» وارد بحث شده است. پیام اصلی این سند آن است که انسان و ماشین اساسا متفاوت هستند.
براساس این نگاه، هوشمصنوعی فقط برخی عملکردهای هوشانسانی را تقلید میکند. ماشین ممکن است یاد بگیرد اما تجربه انسانی از زندگی، انتخاب، خطا، بخشش، وفاداری و شکلگیری شخصیت را ندارد. از منظر کلیسا، هیچ سامانه محاسباتی نمیتواند قلب، وجدان یا قضاوت اخلاقی واقعی ایجاد کند. این موضع برای بسیاری از مردم جذاب است زیرا بر برتری و شان انسانی دربرابر تصور آیندهای مبتنی بر ادغام با ماشین یا سلطه هوشمصنوعی تاکید دارد.
اما مرزبندی واتیکان میان تقلید و هوش چندان ساده نیست. انسان نیز بخش بزرگی از یادگیری خود را از طریق تقلید انجام میدهد. اگر ماشینی بتواند دانش را ترکیب کند، گفتوگویی منسجم داشته باشد، تصاویر پزشکی را تحلیل کند و در آزمونهای تخصصی موفق شود، دشوار است که تمام این تواناییها صرفا تقلید خوانده شود.
آیا ماشین واقعا میفهمد؟
استدلال کلاسیک علیه هوش واقعی ماشین، آزمایش ذهنی «اتاق چینی» جان سرل است. در این مثال، فردی بدون دانستن زبان چینی با استفاده از مجموعهای از قواعد، پاسخهایی میدهد که مخاطب را متقاعد میکند که او زبان را میفهمد. نتیجه این است که تولید پاسخ صحیح الزاما بهمعنای فهم نیست.
اما مدلهای زبانی جدید با سامانههای مبتنی بر قواعد گذشته تفاوت دارند. این مدلها روابط پیچیده میان واژهها، مفاهیم و حتی احساسات را در ساختارهای چندبعدی بازنمایی میکنند. آنها میتوانند تفاوت مفاهیم خانوادگی، تعارض درونی، احساساتی مانند خشم، شادی یا اضطراب و حتی برخی ویژگیهای شخصیتی را تشخیص دهند.
یادگیری تقویتی نیز مرز میان داده و تجربه را مبهمتر کرده است. سامانههایی مانند AlphaZero با میلیونها بار بازی کردن علیه خود یاد گرفتهاند و خودروهای خودران نیز از مواجهه با محیط، اطلاعات کسب میکنند.
البته تفاوتهای بنیادین همچنان باقی است. ماشین نمیمیرد، عاشق نمیشود، درد جسمانی ندارد و در جهانی اخلاقی مشابه انسان زندگی نمیکند. با این حال، شباهت فرآیندهای پردازش اطلاعات در مغز انسان و ماشین نیز نباید نادیده گرفته شود.
تنظیمگری؛ جایی که نگرانی واتیکان جدیتر است
بخش دوم موضع واتیکان بر خطرهای اجتماعی و ضرورت تنظیمگری تمرکز دارد؛ هوشمصنوعی میتواند نابرابری قدرت و ثروت را افزایش دهد، بازارکار را مختل کند، روابط انسانی را تغییر دهد و استفاده از نیروی نظامی را آسانتر کند.
اما واتیکان اولویتهای سیاستی را بهدرستی مشخص نکرده است. برای نمونه، تمرکز بر انحصار هوشمصنوعی اغراقآمیز است زیرا رقابت میان شرکتهای متعدد جریان دارد. مشکل اصلی مالکیت خصوصی داده نیز نیست بلکه نقض مالکیت فکری و استفاده بدون اجازه از دادههاست.
در حوزه نظامی نیز، ممنوعیت کامل تصمیمگیری خودکار درباره نیروی مرگبار عملی بهنظر نمیرسد زیرا اگر سامانههای خودکار در میدان نبرد سریعتر و دقیقتر شوند، ارتشی که از آنها استفاده نکند، در برابر رقیب آسیبپذیر خواهد بود. مساله اصلی باید پاسخگویی و کنترل انسانی بر این سامانهها باشد.
۳خلأ بزرگ در سیاستگذاری هوشمصنوعی
سهخلأ اساسی در سیاستگذاری امروز وجود دارد. نخست، جهان به معادل یک «پیمان منع گسترش» برای هوشمصنوعی نیاز دارد. اگر مدلهای بسیار قدرتمند بتوانند حملات سایبری گسترده یا حتی طراحی تسلیحات زیستی را ممکن کنند، انتشار آزاد آنها میتواند ابزارهای بسیار خطرناک را دراختیار مجرمان و گروههای تروریستی قرار دهد. حل این مساله به توافق میان آمریکا، چین و دیگر قدرتها نیاز دارد.
دومین خلأ، نظام مالیاتی است. امروز نیروی کار معمولا بیشتر از سرمایه مالیات میپردازد. اگر ماشینها جای نیروی انسانی را بگیرند، این ساختار هم درآمد دولتها را کاهش میدهد و هم انگیزه شرکتها برای جایگزینی نیروی کار با ماشین را بیشتر میکند بنابراین احتمالا باید بخشی از بار مالیاتی از کار به سرمایه منتقل شود. سومین مساله، فهم دقیق سازوکار داخلی مدلهای هوشمصنوعی است. اگر قرار است انسان این سامانهها را کنترل کند، باید بداند چگونه تصمیم میگیرند. نویسنده پیشنهاد میکند آموزش مدلهای پیشرفته مشمول مالیات شود و منابع حاصل از آن برای تحقیقات مستقل درباره «تفسیرپذیری» هوشمصنوعی اختصاص یابد.
مساله اصلی این نیست که ماشینها انسان هستند یا نه. حتی اگر هرگز وارد جهان اخلاقی انسان نشوند، قدرت آنها میتواند ساختار اقتصاد، جنگ و جامعه را تغییر دهد بنابراین مهمترین وظیفه، نه اثبات استثنایی بودن انسان بلکه شناخت ماشینها، کنترل خطرهای آنها و طراحی نهادی است که منافع این فناوری را بهشکلی گستردهتر در جامعه توزیع کند.
جهان صنعت نیوز
