هیات ایمنی مستقل «OpenAI» بدون حضور «سم آلتمن» تشکیل شد

«جهان‌صنعت»- کمیته امنیت و نظارت بر هوش‌مصنوعی OpenAI، به‌طور مستقل از این شرکت فعالیت خواهد داشت. طبق اعلام وبلاگ OpenAI، کمیته امنیت و ایمنی این سازمان در حال تبدیل‌شدن به واحد نظارتی مستقلی است که به‌دلیل نگرانی‌های ایمنی، اختیار توقف انتشار مدل‌های هوش‌مصنوعی را دارد. کمیته مذکور پس‌ از بررسی ۹۰ روزه فرآیندها و تدابیر امنیتی و ایمنی OpenAI، توصیه کرد هیات‌مدیره جدیدی برای واحد مذکور تشکیل شود. کمیته امنیت و ایمنی را زیکو کولتر مدیریت می‌کند و افرادی مانند آدام دآنجلو، پاول ناکاسونه و نیکول سلیگمن نیز در آن حضور دارند. مدیران ارشد OpenAI، این کمیته را درمورد ارزیابی‌های ایمنی برای انتشار مدل‌های اصلی توجیه خواهند کرد و به همراه هیات‌مدیره اصلی OpenAI، بر راه‌اندازی مدل‌ها نظارت خواهد داشت. به تعویق انداختن انتشار مدل‌های هوش‌مصنوعی تا زمانی که نگرانی‌های ایمنی برطرف شود، از جمله اختیارات کمیته جدید به‌شمار می‌رود و بدین ترتیب، هیات‌مدیره OpenAI نیز درمورد مسائل امنیت و ایمنی اطلاعات دوره‌ای دریافت خواهند کرد. از آنجا که اعضای کمیته ایمنی OpenAI در هیات‌مدیره این شرکت نیز حضور دارند، نمی‌دانیم چقدر مستقل خواهد بود یا استقلالش چه ساختاری دارد. نکته مهم دیگر اینکه سم آلتمن در کمیته مذکور حضور ندارد. همچنین به نظر می‌رسد OpenAI با تاسیس هیات ایمنی مستقل، رویکردی شبیه هیات نظارت متا را در پیش گرفته است که برخی تصمیمات مربوط به خط مشی محتوای غول رسانه‌های اجتماعی جهان را بررسی می‌کند. هیات نظارت متا همچنین می‌تواند احکامی صادر کند که این شرکت موظف به رعایت آنها باشد. هیچ‌یک از اعضای هیات نظارت در هیات‌مدیره متا حضور ندارند. بررسی‌های کمیته امنیت و ایمنی OpenAI به ایجاد فرصت‌های بیشتر برای همکاری و تبادل اطلاعات در صنعت هوش‌مصنوعی و بهبود امنیت کمک کرد. این شرکت می‌گوید به دنبال روش‌های بیشتر برای اشتراک‌گذاری و توضیح اقدامات ایمنی خود و فرصت‌های بیشتر برای آزمایش مستقل سیستم‌هاست.