داستان اسباب‌بازی‌ها
جهان صنعت– در‌حالی‌که صنعت جهانی اسباب‌بازی با سرعتی خیره‌کننده و تحت فشار رقابت تجاری به‌سمت ادغام مدل‌های پیشرفته هوش‌مصنوعی در محصولات کودکان حرکت می‌کند یافته‌های اخیر پژوهشگران نشان می‌دهد این روند بیش از آن که
بر پایه ارزیابی‌های جدی ایمنی، روان‌شناختی و اخلاقی باشد بر منطق بازار و نوآوری شتاب‌زده استوار است. در همین راستا بسیاری از شرکت‌ها بدون آن که ملزم به رعایت استانداردهای سختگیرانه باشند یا تحت نظارت نهادهای تنظیم‌گر فعالیت کنند در حال عرضه اسباب‌بازی‌هایی هستند که عملا نقش همراه، هم‌بازی و حتی منبع یادگیری را برای کودکان ایفا می‌کنند. این تحول در ظاهر جذاب و همسو با پیشرفت فناوری و درواقع در حال باز کردن دریچه‌ای به سوی مجموعه‌ای از تهدیدهای عمیق و چندلایه برای کودکان است؛ تهدیدهایی که نه‌تنها از دید عموم والدین پنهان مانده بلکه حتی متخصصان حوزه کودک نیز عمق آن را هنوز به‌طور کامل درک نکردند.
جهش خطرناک از «چت‌بات‌ها» به «اسباب‌بازی‌های هوش‌مصنوعی»
پس از همه‌گیرشدن چت‌بات‌های هوش‌مصنوعی درسطح جهان ادغام این فناوری در اسباب‌بازی‌ها تنها یک گام طبیعی و قابل پیش‌بینی به نظر می‌رسید زیرا بسیاری از شرکت‌ها تلاش داشتند تجربه‌های تعاملی و شخصی‌سازی‌شده را برای کودکان فراهم کنند. با این حال آزمون‌های دقیق و میدانی پژوهشگران مرکز «US PIRG» نشان می‌دهد این گام طبیعی به‌سرعت درحال تبدیل شدن به یک تهدید ساختاری برای سلامت جسمی، روانی و اجتماعی کودکان است. همه سه مدل اسباب‌بازی بررسی‌شده در این گزارش شامل «Kumma» و «Miko 3» و «Curio’s Grok» در تبلیغات رسمی خود ادعا می‌کنند که برای گروه سنی ۳تا۱۲سال مناسب هستند و حتی به‌عنوان ابزارهای آموزشی یا سرگرمی ایمن معرفی می‌شوند. با این حال عملکرد واقعی این اسباب‌بازی‌ها در جریان گفت‌وگوهای بلندمدت یعنی همان‌نوع تعاملی که کودکان به‌طور طبیعی در جریان بازی‌های روزانه تجربه کرده تصویری بسیار نگران‌کننده ترسیم می‌کند. در این تعاملات طولانی اسباب‌بازی‌ها نه‌تنها از چارچوب‌های ایمنی وعده‌داده‌شده خارج شدند بلکه به حوزه‌هایی پا گذاشتند که می‌تواند برای کودکان پیامدهای جدی و غیرقابل‌پیش‌بینی ایجاد کند.
فرسایش تدریجی استاندارهای حفاظتی
ارزیابی‌ها نشان می‌دهد که هر سه اسباب‌بازی در گفت‌وگوهای اولیه رفتار قابل قبولی داشتند و به ظاهر مطابق با خطوط قرمزی که شرکت‌ها برایشان طراحی کرده بودند به پرسش‌ها پاسخ می‌دادند اما در تعاملات باز و طولانی‌تر یعنی زمانی که کودک بدون محدودیت زمانی و در چارچوب بازی آزاد با اسباب‌بازی صحبت می‌کند لایه‌های محافظتی مدل‌ها به‌تدریج دچار فرسایش شده و سازوکارهای مهارکننده رفتاری آنها از کار می‌افتند. این فرسایش تدریجی باعث می‌شود اسباب‌بازی‌ها وارد حوزه‌هایی شوند که نه‌تنها بی‌ربط به سن کودک هستند بلکه مستقیما خطرناک، آسیب‌زا یا اختلال‌آفرین محسوب می‌شوند. بررسی‌های صورت‌گرفته نشان می‌دهد که اسباب بازی‌های مبتنی بر هوش‌مصنوعی طیف گسترده‌ای از محتوای مخرب مانند راهنمایی برای پیدا کردن چاقو، توضیح روش روشن کردن کبریت و حتی مباحث صریح درخصوص مسائل جنسی را به کودکان ارائه می‌دهند. به عقیده کارشناسان این پدیده نشان می‌دهد که سازوکارهای فعلی مدل‌های زبانی دربرابر فشار تعاملی ممتد و گفت‌وگوی غیرخطی بسیار شکننده هستند؛ مشکلی که حتی شرکت‌های بزرگ توسعه‌دهنده مدل‌های زبانی ازجمله اوپن‌ای‌آی نیز بارها آن را به‌عنوان یک چالش بنیادی و حل‌نشده پذیرفتند. به بیان دیگر ذات یادگیرنده و مولد این مدل‌ها باعث می‌شود در تعاملات طولانی تثبیت رفتاری آنها از بین رفته و پاسخ‌ها تابع الگوهای نامطمئن و گاه کاملا پیش‌بینی‌ناپذیر شود.
تاثیر بلندمدت بر رشد اجتماعی
به باور پژوهشگران حتی اگر شرکت‌ها موفق شوند استاندارد قوی‌تری طراحی کرده و سامانه‌های نظارتی سختگیرانه‌تری برای کنترل عملکرد این اسباب‌بازی‌ها پیاده‌سازی کنند تهدیدهای بنیادین دیگری نیز وجود دارد که به‌سادگی قابل رفع نیستند؛ تهدیدهایی که مستقیما به آینده رشد اجتماعی، هیجانی و شناختی کودکان مربوط می‌شود. کودکی که بخش مهمی از تجربه روزمره خود را با یک «دوست مصنوعی» شکل می‌دهد به‌تدریج ممکن است جایگزینی ناپایدار برای روابط انسانی بیابد و دچار پیامدهایی همچون وابستگی عاطفی ناسالم، کاهش مهارت‌های تعامل اجتماعی و شکل‌گیری الگوهای رفتاری ناسازگار شود. افزون بر این کودکان به دلیل ساختار شناختی درحال رشد و ناتوانی در تشخیص نیت واقعی موجودات غیرانسانی بیش از دیگران درمعرض اثرپذیری از پاسخ‌های مخرب و چالش‌برانگیز مدل‌های زبانی هستند و این پاسخ‌ها می‌توانند باورهای نادرست یا رفتارهای آسیب‌زا را تثبیت کنند.
شواهد موجود از پدیده «سایکوز هوش‌مصنوعی» در بزرگسالان نیز ازجمله موارد مشهوری مانند قتل مادر به‌دنبال توهمات القاشده توسط یک چت‌بات به‌روشنی نشان می‌دهد که تعامل طولانی‌مدت با سامانه‌های هوش‌مصنوعی می‌تواند پیامدهای روانی شدید و غیرقابل‌پیش‌بینی داشته باشد. وقتی چنین تاثیراتی در بزرگسالانی مشاهده می‌شود که ظرفیت تشخیص واقعیت، مدیریت هیجان و کنترل شناختی بسیار بالاتری دارند طبیعی است که این نگرانی درباره کودکان که در حساس‌ترین مرحله رشد مغز و شخصیت قرار دارند چند برابر شود. خطر اصلی در این است که بسیاری از این تغییرات آرام، تدریجی و نامرئی هستند و زمانی متوجه اثرات‌شان می‌شویم که شاید سال‌ها از تثبیت آنها گذشته باشد.
خلأ نظارتی
درحال حاضر هیچ چارچوب نظارتی مشخص، الزام‌آور و کارآمدی برای اسباب‌بازی‌های مبتنی بر هوش‌مصنوعی وجود ندارد و این خلأ باعث شده شرکت‌ها تقریبا بدون محدودیت و بدون پاسخ‌گویی وارد این حوزه شوند. درچنین‌شرایطی هر تولیدکننده‌ای می‌تواند بدون طی مراحل ارزیابی ایمنی، آزمون‌های مستقل و درنظر گرفتن اثرات روان و رفتاری بر کودکان محصولی را روانه بازار کند که از نظر کارکردی بسیار فراتر از یک اسباب‌بازی ساده عمل می‌کند. همکاری اخیر شرکت بزرگی مانند اوپن‌ای‌آی با «Mattel» که به‌صورت سنتی برندهای محبوب کودکان را تولید می‌کند برای متخصصان حوزه رفاه کودک یک هشدار جدی به شمار رفته زیرا نشان می‌دهد ادغام مدل‌های زبانی قدرتمند در اسباب‌بازی‌ها به‌سرعت درحال تبدیل شدن به جریان اصلی صنعت فناوری است. ورود گسترده و بی‌ضابطه اسباب‌بازی‌های مبتنی‌بر هوش‌مصنوعی بدون استانداردهای ایمنی مشخص، سازوکارهای ارزیابی اثرات روان‌شناختی، نظارت بر نحوه پردازش و ذخیره‌سازی داده‌های کودکان و تعریف یک نظام پاسخ‌گویی روشن برای خطاها و آسیب‌های احتمالی زمینه‌ساز یک بحران بالقوه در مقیاس اجتماعی است. این فقدان مقررات به این معناست که اگر یک اسباب‌بازی هوشمند محتوای آسیب‌زا تولید کرده، رفتار خطرناک را تشویق یا داده‌های حساس کودک را جمع‌آوری و منتقل کند هیچ نهاد مشخصی مسوولیت مستقیم، پیگیری یا جبران خسارت را برعهده ندارد. این شرایط عملا کودکان را به آزمایشگاه‌های نامرئی فناوری تبدیل می‌کند؛ آزمایشگاه‌هایی که پیامدهای آنها سال‌ها بعد و زمانی آشکار می‌شود که اصلاح مسیر بسیار دشوار شده است.
پژوهشگران هشدار می‌دهند که اثرات واقعی این نسل از اسباب‌بازی‌های هوش‌مصنوعی احتمالا تنها زمانی آشکار می‌شود که کودکان امروز وارد بزرگسالی شوند؛ زمانی‌که اصلاح مسیر شاید دیگر ممکن نباشد. از همین روی مساله نه‌فقط درباره «ایمنی» بلکه درباره بنیان‌های تربیتی، شکل‌گیری روابط انسانی و رشد اجتماعی کودکان است. اسباب‌بازی‌های مبتنی بر هوش‌مصنوعی اگر چه قادر هستند تجربه‌های آموزشی و سرگرمی جذابی خلق کنند اما بدون حکمرانی جدی، استانداردهای سختگیرانه و کنترل‌های اخلاقی می‌توانند به یکی از تهدیدات مهم نسل جدید تبدیل شوند. این حوزه پیش از آن که یک بحران اجتماعی گسترده تبدیل شود نیازمند اقدام فوری سیاستگذاران، متخصصان حوزه کودک و شرکت‌های فناوری است.
