هشدار! این کاربر می‌خواهد خودکشی کند
جهان صنعت– مدیرعامل شرکت «اوپن‌ای‌آی» گفت که اگر کاربران «چت‌جی‌پی‌تی» افکار خودکشی داشته باشند، این چت‌بات می‌تواند به پلیس هشدار دهد. پس از پرونده خودکشی آدام رین» ۱۶ساله، سم آلتمن گفت: شرکتش در حال بررسی امکان هشدار دادن به مقامات درباره کاربران جوانی است که پیرامون خودکشی صحبت می‌کنند. این تصمیم در حالی گرفته شده است که تعداد بیشتری از جامعه کاربران «چت‌جی‌پی‌تی» نگرانی‌های فزاینده خود را درباره نقش هوش‌مصنوعی در بحران سلامت روان ابراز می‌کنند.
آلتمن در یک مصاحبه جدید اظهار کرد که اوپن‌ای‌آی می‌تواند در چنین موقعیت‌هایی مداخله فعال‌تری داشته باشد. آلتمن گفت که ممکن است تا ۱۵۰۰نفر در هفته پیش از خودکشی با چت‌بات گفت‌وگو کنند. اگر این موضوع بدون مراقبت رها شود، می‌تواند چت‌بات را به یکی از عوامل اصلی موثر در چنین مواردی تبدیل کند و در نتیجه نقش چت‌بات‌های هوش‌مصنوعی هوشمندتر را زیر سوال ببرد. اگرچه اوپن‌ای‌آی هنوز تصمیم نهایی خود را برای آموزش چت‌بات به‌منظور ارتباط با مقامات نگرفته اما آلتمن گفت: بسیار منطقی است بگوییم در مواردی که جوانان درباره خودکشی صحبت می‌کنند، اگر نتوانیم با والدین آنها تماس بگیریم، با مقامات تماس می‌گیریم. بحث پیرامون در پیش گرفتن یک سیاست جدید، پس از آن مطرح شده است که به‌دنبال پرونده خودکشی آدام رین – نوجوان ۱۶ ساله‌ای که گفته می‌شود ماه‌ها از سوی چت‌جی‌پی‌تی تشویق شده بود – علیه اوپن‌ای‌آی طرح دعوی شد. در این دادخواست ادعا شده که این چت‌بات هوش‌مصنوعی درباره روش‌های خودکشی راهنمایی ارائه کرده و حتی برای نوشتن یادداشت خودکشی پیشنهاد کمک داده است. آلتمن گفت: حدود ۱۰درصد از مردم جهان با چت‌جی‌پی‌تی صحبت می‌کنند. با فرض درست بودن این موضوع، این بدان معناست که حدود ۱۵۰۰ نفر در هفته به گفت‌وگو با چت‌جی‌پی‌تی می‌پردازند و خودکشی می‌کنند. آنها احتمالا درباره خودکشی با چت‌جی‌پی‌تی صحبت کرده‌اند و ما جان آنها را نجات نداده‌ایم. شاید می‌توانستیم چیز بهتری بگوییم. شاید می‌توانستیم فعال‌تر باشیم. شاید می‌توانستیم کمی توصیه‌های بهتری ارائه دهیم؛ از جمله اینکه «شما باید این کمک را دریافت کنید» یا «باید درباره این مشکل طور دیگری فکر کنید» یا «واقعا ارزش ادامه دادن را دارد و ما به شما کمک می‌کنیم کسی را پیدا کنید که بتوانید با او صحبت کنید.» آلتمن درباره متعادل‌سازی این عمل یعنی تصمیم‌گیری درباره اینکه چه اطلاعاتی در اختیار کدام مقامات قرار بگیرد نیز توضیحاتی را ارائه داد.
به گفته آلتمن، اوپن‌ای‌آی هنوز در حال کار کردن روی این موضوع است که آیا چت‌جی‌پی‌تی باید نام و شماره تلفن کاربر را در اختیار پلیس بگذارد یا جزئیات موقعیت مکانی او را به ارائه‌دهندگان خدمات درمانی ارائه دهد. آلتمن گفت که اوپن‌ای‌آی علاوه‌بر سیستم بالقوه هشدار خودکشی، محافظ‌های قوی‌تری را برای کاربران زیر ۱۸ سال پیاده‌سازی خواهد کرد. این کار می‌تواند شامل محدودکردن آزادی کاربران آسیب‌پذیر باشد تا از بازی دادن سیستم توسط آنها با این ادعا که درخواست‌های‌شان برای اطلاعات مربوط به خودکشی برای نوشتن داستان تخیلی یا تحقیقات پزشکی است، جلوگیری شود. آلتمن گفت: باید بگوییم «حتی اگر سعی داری داستان بنویسی یا تحقیقات پزشکی انجام بدهی، ما قرار نیست جواب بدهیم.»
