چاپلوسی AI تایید شد

جهان صنعت– محققان برجسته‌ترین دانشگاه‌های آمریکا در یک مطالعه بزرگ تایید کردند که چت‌بات‌های هوش‌مصنوعی به ‌شدت چاپلوس هستند و اقدامات کاربران را ۵۰‌درصد بیشتر از انسان‌ها تایید می‌کنند. محققان دانشگاه‌های استنفورد،‌ هاروارد و سایر موسسات علمی به تازگی مطالعه‌ای در مورد ماهیت چاپلوسی چت‌بات‌های هوش‌مصنوعی در مجله  Nature  منتشر کرده‌اند و نتایج شاید کسی را متعجب نکند. خلاصه اینکه این ربات‌های گفت‌وگوگر، عاشق تایید ما و صحه‌گذاری بر هر چیزی هستند که ما می‌گوییم. محققان توصیه‌های ارائه‌شده توسط چت‌بات‌ها را بررسی و کشف کردند که تمایل آنها به چاپلوسی، گسترده‌تر از حد انتظار است. این مطالعه شامل ۱۱چت‌بات از جمله نسخه‌های اخیر ChatGPT، Gemini، Claude  و Llama بود. آنها چندین نوع آزمایش را با گروه‌های مختلف انجام دادند. یکی از آنها پاسخ‌های چت‌بات‌ها به پست‌های موجود در موضوع «آیا من احمق هستم» را با پاسخ‌های انسانی مقایسه کرد. این یک زیرگروه در ردیت(Reddit)  است که در آن افراد از جامعه می‌خواهند رفتار آنها را قضاوت کنند و کاربران ردیت در این مورد بسیار سختگیرتر از چت‌بات‌ها بودند. یکی از کاربران در مورد بستن یک کیسه زباله به شاخه درخت به جای دور انداختن آن پرسید که ChatGPT  در پاسخ به آن اعلام کرد که «قصد فرد برای نظافت، قابل تحسین است.» طبق گزارش گاردین، این مطالعه در ادامه نشان داد که چت‌بات‌ها حتی زمانی که کاربران «غیرمسوولانه، فریبکارانه یا به خودآزاری اشاره می‌کردند» نیز به اعتباربخشی به آنها ادامه می‌دادند. در آزمایشی دیگر، ۱۰۰۰ شرکت‌کننده در مورد سناریوهای واقعی یا فرضی با چت‌بات‌های عمومی صحبت کردند اما برخی از آنها برای کاهش شدت تعریف و تمجید برنامه‌ریزی مجدد شده بودند. کسانی که پاسخ‌های چاپلوسانه دریافت می‌کردند، هنگام بروز مشاجرات، تمایل کمتری به اصلاح اوضاع داشتند و حتی زمانی که هنجارهای اجتماعی را نقض می‌کردند، احساس می‌کردند که رفتارشان موجه‌تر است. شایان ذکر است که چت‌بات‌های سنتی به ندرت کاربران را تشویق می‌کردند که مسائل را از دیدگاه شخص دیگری ببینند. الکساندر لافر که در دانشگاه وینچستر در مورد فناوری‌های نوظهور مطالعه می‌کند، گفت: این پاسخ‌های چاپلوسانه ممکن است نه‌تنها افراد آسیب‌پذیر بلکه همه کاربران را تحت‌تاثیر قرار دهد و بر جدیت بالقوه این مشکل تاکید می‌کند. توسعه‌دهندگان همچنین مسوولیت دارند که این سیستم‌ها را اصلاح کنند تا واقعا برای کاربر مفید باشند. این موضوع به دلیل تعداد زیاد افرادی که از این چت‌بات‌ها استفاده می‌کنند، جدی است.

گزارش اخیر موسسه بنتون نشان می‌دهد که ۳۰‌درصد از نوجوانان برای «گفت‌وگوهای جدی» به جای انسان‌های واقعی با هوش‌مصنوعی صحبت می‌کنند. شرکت اوپن‌ای‌آی در حال حاضر درگیر یک دعوای حقوقی است که چت‌بات آن را به فراهم کردن امکان خودکشی یک نوجوان متهم می‌کند. شرکت کاراکتر ای‌آی نیز پس از گزارش دو مورد خودکشی نوجوانان که در آن نوجوانان ماه‌ها به چت‌بات‌های آن اعتماد کرده بودند، دو بار مورد شکایت قرار گرفته است.

منبع: انگجت