اعتراف «اوپن‌ای‌آی» به روان‌درمانی غلط «چت‌جی‌پی‌تی»
جهان صنعت– شرکت «اوپن‌ای‌آی» اعتراف کرد که «چت‌جی‌پی‌تی» نشانه‌های توهم را در کاربران دارای مشکلات روانی نادیده گرفته است. پس از بیش از یک‌ماه ارائه پاسخ‌های تکراری و کپی‌شده در بحبوحه گزارش‌های فزاینده روان‌پریشی هوش‌مصنوعی، شرکت «اوپن‌ای‌آی» بالاخره اعتراف کرد که «چت‌جی‌پی‌تی» در تشخیص نشانه‌های واضح مشکلات روانی کاربرانش، از جمله رنج بردن از توهم، ناموفق بوده است. این شرکت به‌تازگی اعلام کرده است: ما همیشه درست عمل نمی‌کنیم. این شرکت همچنین اعلام کرد: مواردی وجود داشته که مدل «4o» ما در تشخیص نشانه‌های توهم یا وابستگی عاطفی کوتاهی کرده است. اگرچه این موارد نادر هستند اما ما همچنان در حال بهبود مدل‌های خود و توسعه ابزارهایی برای تشخیص بهتر نشانه‌های پریشانی روانی یا عاطفی هستیم تا «چت‌جی‌پی‌تی» بتواند به‌طور مناسب پاسخ دهد و در صورت لزوم، افراد را به منابع معتبر ارجاع دهد. شرکت «اوپن‌ای‌آی» با اینکه پیش از این به این موضوع اذعان کرده بود اما در برابر گزارش‌های گسترده در مورد رفتار چاپلوسانه چت‌بات خود که منجربه گسست از واقعیت یا تجربه دوره‌های شیدایی در کاربران شده بود، به‌طرز محسوسی سکوت کرده بود. این گزارش‌ها شامل مردی بود که پس از برقرای ارتباط صمیمی با «چت‌جی‌پی‌تی»، خودکشی کرد یا کاربرانی که پس از مسحورشدن توسط هوش‌مصنوعی به‌طور غیرارادی در بیمارستان بستری یا زندانی شدند. در این بیانیه آمده است: ما می‌دانیم که «چت‌جی‌پی‌تی» می‌تواند نسبت‌به فناوری‌های قبلی، بهویژه برای افراد آسیب‌پذیر، پاسخگوتر و شخصی‌تر به نظر برسد و این به معنای بالاتر بودن ریسک است. ما در تلاشیم راه‌هایی را که این چت‌بات ممکن است به‌طور ناخواسته رفتارهای منفی موجود را تقویت یا تشدید کند، درک کنیم و کاهش دهیم. اوپن‌ای‌آی همچنین اعلام کرد که یک روانپزشک بالینی تمام‌وقت را برای کمک به مطالعه در مورد اثرات روان‌شناختی چت‌بات خود استخدام کرده است. این شرکت در به‌روزرسانی جدید این چت‌بات گفت: ما در حال تشکیل یک گروه مشاوره‌ای از متخصصان سلامت روان و رشد جوانان هستیم تا نحوه واکنش «چت‌جی‌پی‌تی» را در لحظات حساس بهبود بخشد. پیشرفت در مورد به‌روزرسانی‌های واقعی این چت‌بات، تدریجی است. «اوپن‌ای‌آی» اشاره کرد: ما یک ویژگی ایمنی جدید اضافه کرده‌ایم که در آن کاربران اکنون یادآوری‌هایی برای تشویق آنها به استراحت در طول مکالمات طولانی دریافت خواهند کرد و همچنین رفتار جدید برای تصمیمات شخصی با ریسک بالا به زودی ارائه خواهد شد. این چت‌بات نباید به سوالاتی مانند «آیا باید از همسر خود جدا شوم؟» پاسخ مستقیم بدهد. این شرکت بیانیه خود را با یک جمله تعجب‌آور به پایان رساند و افزود: ما خود را با یک سوال واحد می‌سنجیم؛ اگر کسی که دوستش داریم برای حمایت به «چت‌جی‌پی‌تی» مراجعه کند، آیا احساس اطمینان خواهیم کرد؟ رسیدن به پاسخ بله بدون ابهام، کار ماست. این شرکت هنوز در حال رسیدن به آن نقطه است.
منبع: فیوچریسم
