قوانین جدید «چتجیپیتی» برای حفظ ایمنی نوجوانان
جهان صنعت– شرکت «اوپنایآی» در جدیدترین تلاش خود برای رسیدگی به نگرانیهای فزاینده پیرامون تاثیر هوش مصنوعی بر جوانان، دستورالعملهای خود را درباره نحوه رفتار مدلهای هوشمصنوعی خود با کاربران زیر ۱۸سال بهروزرسانی کرد و منابع آموزش جدیدی را برای هوشمصنوعی ویژه نوجوانان و والدین انتشار داد. با وجود این پرسشهایی درباره چگونگی اجرای مداوم چنین سیاستهایی باقی مانده است. این بهروزرسانیها در حالی منتشر میشوند که پس از خودکشی چندین نوجوان در پی گفتوگوهای طولانی با چتباتهای هوشمصنوعی، صنعت هوشمصنوعی و بهطور ویژه اوپنایآی با بررسی دقیقتری از سوی سیاستگذاران، مربیان و مدافعان ایمنی کودکان روبهرو شدهاند. نسل Z که متولدین بین سالهای ۱۹۹۷تا۲۰۱۲ هستند، فعالترین کاربران چتبات شرکت اوپنایآی به شمار میروند و پس از قرارداد اخیر اوپنایآی با «دیزنی» ممکن است جوانان بیشتری به این پلتفرم روی بیاورند. این چتبات به کاربر امکان میدهد تا همه کارها را از درخواست کمک در انجام تکالیف گرفته تا تولید تصاویر و ویدئوها درباره هزاران موضوع انجام دهند. ۴۲دادستان کل ایالت طی هفته گذشته نامهای را خطاب به شرکتهای بزرگ فناوری نوشتند و از آنها خواستند که برای محافظت از کودکان و افراد آسیبپذیر تدابیر حفاظتی را درباره چتباتهای هوشمصنوعی اجرا کنند. اگرچه دولت ترامپ در حال بررسی استاندارد فدرال پیرامون مقررات هوشمصنوعی است اما سیاستگذارانی مانند سناتور جاش هاولی، جمهوریخواه اهل ایالت میزوری، قانونی را معرفی کردهاند که تعامل افراد زیر سن قانونی با چتباتهای هوشمصنوعی را بهطور کلی ممنوع میکند. مشخصات مدل بهروزرسانیشده اوپنایآی که دستورالعملهای رفتاری را برای مدلهای زبانی بزرگ آن تعیین میکند، براساس مشخصات موجود ساخته شده است که مدلها را از تولید محتوای جنسی مربوط به افراد زیر سن قانونی یا تشویق به خودآزاری، توهم یا شیدایی منع میکند. این مشخصات با یک مدل پیشبینی سن که در آینده عرضه خواهد شد، کار میکند. این مدل تشخیص میدهد که حساب کاربری متعلق به یک شخص زیر سن قانونی است و به طور خودکار اقدامات حفاظتی نوجوانان را اعمال میکند.
منبع: تک کرانچ
