«اوپن‌ای‌آی» با کلاهبرداران «چت جی‌پی‌تی» مقابله می‌کند

دیجیتال‌ترندز- شرکت توسعه‌دهنده هوش مصنوعی چت جی‌پی‌تی مشخص کرده که سرویس هوش مصنوعی پرچمدار آن برای استفاده‌های مخرب و نامناسب ساخته نشده است. این شرکت گزارشی منتشر کرده است که در آن جزئیاتی از مشاهده و بررسی روند نحوه استفاده کاربران مخرب از این پلتفرم دیده می‌شود. اوپن‌ای‌آی مشخص کرد که ده‌ها حساب کاربری را به ظن استفاده از چت جی‌پی‌تی به روش‌های غیرمجاز، مانند اشکال‌زدایی کد برای تولید محتوا برای انتشار در پلتفرم‌های توزیع مختلف حذف کرده است. این شرکت همچنین به تازگی اعلام کرده که به ۴۰۰‌میلیون کاربر فعال هفتگی رسیده است. این شرکت توضیح داد که در کمتر از سه ماه بیش از ۱۰۰‌میلیون کاربر افزایش یافته است زیرا شرکت‌ها و توسعه‌دهندگان بیشتری از ابزارهای آن استفاده می‌کنند. با این حال، چت جی‌پی‌تی همچنان یک سرویس رایگان بوده که در سطح جهانی قابل دسترس است. از آنجایی که جنبه‌های اخلاقی و عملکردهای آن مدت‌ها مورد سوال بوده است، اوپن‌ای‌آی‌ باید با این واقعیت کنار بیاید که نهادهایی وجود دارند که انگیزه‌های پنهانی برای این پلتفرم دارند. سیاست‌های اوپن‌ای‌آی به شدت استفاده از خروجی ابزارهای این شرکت را برای کلاهبرداری ممنوع می‌کند. این شرکت در گزارش خود گفت: ده‌ها حساب کاربری را شناسایی و مسدود کردیم. اوپن‌ای‌آی در گزارش خود توضیح داد که باید اقدامات شرورانه‌ای که در چت جی‌پی‌تی انجام می‌شود را به چالش بکشد. این شرکت چندین مطالعه موردی را مورد توجه قرار داده و در آنها با ممنوع کردن حساب‌هایی که از این ابزار برای اهداف مخرب استفاده می‌کنند، بررسی و اقدام کرده است. در یک نمونه، این شرکت حسابی را شرح داد که در آن مقالات خبری تحقیرآمیز در مورد ایالات متحده نوشته می‌شد و منبع خبری در آمریکای لاتین تحت پوشش یک نشریه چینی منتشر می‌شد. مورد دیگری که در کره‌شمالی بومی‌سازی شده، ایجاد رزومه و مشخصات شغلی برای متقاضیان کار غیرواقعی بود. این حساب ممکن است برای درخواست شغل در شرکت‌های غربی استفاده شده باشد. مطالعه دیگری نشان داد حساب‌هایی که گمان می‌رود از کامبوج سرچشمه بگیرند، از چت جی‌پی‌تی برای ترجمه و ایجاد نظرات در چندین پلتفرم رسانه‌های اجتماعی از جمله ایکس، فیس‌بوک و اینستاگرام استفاده می‌کنند. اوپن‌ای‌آی تایید کرده که یافته‌های خود را با هم‌عصران صنعت خود، مانند متا، به اشتراک گذاشته زیرا ممکن است آنها نیز به طور ناخواسته تحت تاثیر اقدامات انجام شده در چت جی‌پی‌تی قرار گیرند.