بررسی مخاطرات مبتنی بر هوش مصنوعی
علی جوانمردی، مبتکر، ایده‌پرداز و موسس گروه فنی مهندسی ایتوک
هوش‌مصنوعی صنایع متعددی را متحول کرده و بهره‌وری و نوآوری را با سرعتی بی‌سابقه افزایش داده است؛ از افزایش دسترسی به مراقبت‌های بهداشتی گرفته تا مدل‌سازی‌های آب‌وهوایی که به کاهش تاثیر رویدادها وتاثیرات آب‌وهوایی کمک می‌کند و بهبود کارایی و امنیت در محل‌های کار و اجتماع و کمک به تسهیل امور همه بخش‌هایی از مزایای حضور هوش‌مصنوعی در زندگی ماست. به‌علاوه اینکه هوش‌مصنوعی نتایج بهتر و پایدارتری را ممکن می‌سازد. با این حال همین فناوری متحول‌کننده برای اهداف جنایی نیز مورد استفاده قرار می‌گیرد و تهدیدات قابل‌توجهی را برای امنیت جهانی و ثبات اجتماعی ایجاد می‌کند. بازیگران بدخواه به‌طور قابل‌توجهی از هوش‌مصنوعی برای انجام هک و کلاهبرداری، ایجاد جعل اسناد، برای اخاذی و انتشار اطلاعات نادرست و انجام حملات سایبری در مقیاس وسیع استفاده می‌کنند.
با پیچیده‌تر شدن فناوری هوش‌مصنوعی، روش‌های سوءاستفاده مجرمان از آن نیز افزایش می‌یابد. این گزارش مراحل بلوغ جرائم مبتنی بر هوش‌مصنوعی افق، ظهور و بلوغ را بررسی می‌کند و نشان می‌دهد که چگونه هوش‌مصنوعی با حذف تنگناهای سنتی انسانی، قابلیت‌های مجرمانه را تقویت می‌کند.
نگاهی به نمونه‌های دنیای واقعی و موارد مستند هوش‌مصنوعی در فعالیت‌های مجرمانه خواهیم انداخت و شدت این چالش‌ها را بررسی کرده و با تاکید بر اهمیت راه‌حل‌های فنی، مقررات، آموزش و همکاری، استراتژی‌هایی را برای پیشگیری و کاهش جرائم مبتنی بر هوش‌مصنوعی بررسی خواهیم کرد. هوش‌مصنوعی با حذف تنگناهای انسانی، رشد مجرمانه را ممکن می‌سازد. هوش مصنوعی در دنیای تجارت نفوذ کرده، صنایع را متحول و قوانین کارایی و مقیاس کسب‌و‌کارها را بازنویسی کرده است. شرکت‌ها هوش‌مصنوعی را در مراحل مختلف به کار گرفته‌اند – با ابزارهای آماده‌ای مانند ChatGPT برای کمک به کارهایی مانند تهیه پیش‌نویس پاسخ‌ها، ترجمه اسناد یا خلاصه‌سازی داده‌ها روی آورده‌اند.
با گذشت زمان، سازمان‌ها شروع به توسعه سیستم‌های هوش‌مصنوعی اختصاصی برای خودکارسازی کل گردش‌های کاری کسب‌و‌کار خود کرده‌اند اما این پیشرفت‌ها محدود به دنیای قانونی نیست. در سراسر جهان شرکت‌هایی با اهداف منفی و مخالف قوانین صلح بشر در حال رقابت برای مهار پتانسیل هوش‌مصنوعی به همان شیوه هستند. در ابتدا، این سازمان‌ها برای کمک به تلاش‌های مجرمانه خود که توسط انسان هدایت می‌شوند، به هوش‌مصنوعی روی آوردند، اسکریپت‌های فیشینگ را به زبان‌های مختلف ترجمه یا پایگاه‌های کد گسترده‌ای را برای یافتن آسیب‌پذیری‌های قابل سواستفاده اسکن کردند. این برنامه‌های اولیه، کاربردهای مشروع هوش‌مصنوعی را منعکس می‌کنند اما به سلاحی با اثرات مخرب تبدیل شده‌اند. مرز بعدی برای مجرمان، خودمختاری است. همانطور که شرکت‌ها برای خودکارسازی وظایف تلاش می‌کنند، مجرمان سایبری می‌توانند عوامل هوش‌مصنوعی را توسعه دهند که قادر به عملکرد کاملا مستقل هستند. این عوامل می‌توانند آسیب‌پذیری‌ها را بدون نظارت انسانی شناسایی و بهره‌برداری و اهداف پیچیده‌ای مانند هک کردن زیرساخت‌های حیاتی (مانند تصفیه‌خانه‌های آب) را اجرا کنند. این تکامل نه‌تنها مقیاس عملیات مجرمانه را تغییر می‌دهد بلکه اساسا آنها را تغییر شکل می‌دهد و آنها را سریع‌تر و زودبازده‌تر خواهد کرد و شناسایی یا مقابله با آنها را به طرز نگران‌کننده‌ای دشوار می‌کند. مجرمان سایبری از هوش‌مصنوعی به روش‌های جدیدی استفاده می‌کنند مجرمان سایبری، کلاهبرداران و بازیگران مختلف در این زمینه عامدانه از هوش‌مصنوعی برای تقویت فعالیت‌های مخرب خود استفاده می‌کنند. برخی کاربردهای اصلی که آنها یافته‌اند عبارتند از: خودکارسازی حملات ابزارهای مبتنی بر هوش‌مصنوعی، خودکارسازی کمپین‌های فیشینگ را امکان‌پذیر و پیام‌های بسیار قانع‌کننده‌ای را در مقیاس بالا ایجاد می‌کنند. هوش‌مصنوعی همچنین به بدافزارها اجازه می‌دهد به صورت پویا سازگار شوند تا از تشخیص در زمان واقعی فرار کنند.
در مارس۲۰۲۴، وزارت خزانه‌داری ایالات‌متحده گزارشی در مورد وضعیت فعلی هوش‌مصنوعی مرتبط با امنیت سایبری و خطرات کلاهبرداری در خدمات مالی منتشر کرد. این گزارش که مصاحبه‌هایی با ۴۲ موسسه مالی را ترتیب داد، به طور خاص به استفاده از هوش‌مصنوعی مولد توسط عوامل تهدید موجود برای توسعه و هدایت بدافزارهای پیچیده‌تر اشاره می‌کند که به آنها قابلیت‌های حمله پیچیده‌ای می‌دهد که قبلا فقط در دسترس عاملان اصلی با منابع بیشتر و دسترسی کامل‌تر بود و به عاملان تهدید کم‌مهارت‌تر کمک می‌کند تا حملات ساده اما موثری را توسعه دهند. جعل اسناد و رسانه‌های مصنوعی مجرمان از فناوری برای جعل هویت مدیران یا چهره‌های عمومی و تصاویر و صداهای تولید شده توسط هوش‌مصنوعی استفاده می‌کنند که تشخیص کلاهبرداری‌ها را دشوارتر می‌کند و آنها را قادر می‌سازد کلاهبرداری‌های با ارزش بالا مانند هک ایمیل‌های تجاریBEC، اخاذی و دستکاری اجتماعی را تسهیل کنند. در نوامبر۲۰۲۴، FinCEN خزانه‌داری ایالات‌متحده «هشدار در مورد طرح‌های کلاهبرداری شامل رسانه‌های جعلی که موسسات مالی را هدف قرار می‌دهند» را منتشر کرد و «افزایش گزارش‌های فعالیت‌های مشکوک توسط موسسات مالی را که استفاده مشکوک از رسانه‌های جعلی را در طرح‌های کلاهبرداری که موسسات و مشتریان آنها را هدف قرار می‌دهند» برجسته کرد. مرحله بلوغ هوش‌مصنوعی فرا رسیده است و هوش‌مصنوعی جایگزین فعالیت‌های انسانی می‌شود. مرحله بلوغ نشان‌دهنده نقطه‌ای است که فعالیت‌های مبتنی بر هوش‌مصنوعی بر حوزه‌های مربوطه خود تسلط پیدا می‌کنند و مجرمان بیشتر از اینکه به وسیله انسان‌ها دچار جرم شوند، به سیستم‌های هوش مصنوعی متکی هستند. سیستم‌های هوش‌مصنوعی به ابزارهای ضروری مانند مرورگرها، پایگاه‌های داده، پلتفرم‌های ایمیل و کیف‌پول‌های ارز دیجیتال دسترسی پیدا می‌کنند. مدل‌های مختلف هوش‌مصنوعی برای بهینه‌سازی اهداف خاص مانند به حداکثر رساندن سود یا نفوذ در ابزارهای مالی نیز برنامه‌ریزی می‌شوند.
به عنوان مثال در یک اکوسیستم ارز دیجیتال شرکت کرده و از طریق تعامل با عوامل انسانی و ربات، ثروت را در دارایی‌های دیجیتال جمع‌آوری می‌کند. این امر پتانسیل عوامل هوش‌مصنوعی را برای تعامل با اقتصادهای دیجیتال به روش‌هایی که به کلاهبرداری مداوم و در مقیاس بزرگ دامن می‌زند، برجسته می‌کند.
و با افزایش توانایی این سیستم‌ها می‌توانند فعالیت‌های مجرمانه پیچیده‌تر و با تاثیر بالا مانند دستکاری‌های گسترده بازار یا سوءاستفاده از آسیب‌پذیری‌ها در زیرساخت‌های حیاتی را انجام دهند. نیاز به اقدامات پیشگیرانه برای نظارت و کاهش سوءاستفاده از هوش‌مصنوعی در این اشکال پیشرفته ضروری است.
پیشگیری و کاهش جرائم مبتنی بر هوش‌مصنوعی امری کاملا اجتناب‌ناپذیر است بنابراین مهم این است که چگونه می‌توانیم بین پذیرش فرصت و نوآوری ارائه شده توسط هوش‌مصنوعی و تضمین امنیت شهروندان و سیستم‌های جهانی خود تعادل برقرار کنیم؟
رسیدگی به سوءاستفاده از هوش‌مصنوعی نیاز به یک رویکرد چندوجهی دارد که ترکیبی از راه‌حل‌های فنی، اقدامات سیاستی و نظارتی، آموزش عمومی و همکاری است.
سیستم‌های تشخیص مبتنی بر هوش‌مصنوعی به‌عنوان یک دفاع حیاتی در برابر جرائم مبتنی بر هوش‌مصنوعی عمل می‌کنند. به عنوان مثال ابزارهایی که جعل اسناد را شناسایی می‌کنند یا ناهنجاری‌ها را در تراکنش‌های مالی تشخیص می‌دهند در حال حاضر موثر بوده‌اند. چارچوب‌های امنیت سایبری پیشرفته که تشخیص تهدید مبتنی‌بر هوش‌مصنوعی را ادغام می‌کنند، می‌توانند خطرات مرتبط با حملات در مقیاس بزرگ را نیز بیشتر کاهش دهند.
بهترین عامل شناسایی عوامل مخرب در حیات اجتماعی استفاده از همان هوش‌مصنوعی خواهد بود، امید است به بهترین نحو بتوانیم این ابزار شگفت‌انگیز فناوری را به خدمت انسان درآوریم.
