11 - 06 - 2024
دستاورد جدید پژوهشگران شاید «انویدیا» را به دردسر بیندازد
«جهانصنعت»- یافتههای جدید پژوهشگران در یک مقاله تحقیقاتی ممکن است به پادشاهی انویدیا در دنیای پردازندههای هوش مصنوعی پایان دهد. تعدادی از پژوهشگران در یک مقاله تحقیقاتی مدلی جدید پیشنهاد دادهاند که برای تعلیم مدلهای زبانی بزرگ از محاسبات ضریب ماتریس بینیاز است. اگر یافته جدید پژوهشگران رنگ حقیقت به خود بگیرد، میتواند بهسلطه انویدیا بر بازار تراشههای هوش مصنوعی پایان دهد. ضریب ماتریس در حوزه هوش مصنوعی اهمیت بسیار بالایی دارد؛ محاسباتی پیچیده، طولانی و سنگین که تنها تراشههای گرافیکی از عهده پردازش آنها برمیآیند. محققان در مقاله خود به پردازنده گرافیکی بهینهشدهای اشاره کردهاند که بدون نیاز به محاسبات ضریب ماتریس، ۶۱درصد حافظه کمتری در پردازش مدلهای زبانی بزرگ نسبت به پردازنده گرافیکی معمولی اشغال میکند. ادعا میشود پردازنده گرافیکی بهینهشده در آزمایش پژوهشگران، بهطور کلی ۱۰برابر حافظه کمتری نسبت به پردازنده گرافیکی معمولی مصرف میکند. محققان برای آزمایش از یک مدار مجتمع دیجیتال برنامهپذیر (FPGA) سفارشی استفاده کردهاند. این FPGA سفارشی، مدلهای چندمیلیارد پارامتری را با توان ۱۳وات پردازش میکند. نتایج تجربی نشان میدهند که مدلهای زبانی بزرگ بدون استفاده از ضریب ماتریس عملکردی همسطح با مدلهای پایه ++Transformer در وظایف سبک دارند و با افزایش ابعاد مدل، اختلاف عملکرد افزایش مییابد. مدلهای زبانی بزرگ بینیاز از ضریب ماتریس میتوانند از نظر کارایی و احتمالا از نظر خطا، عملکرد بهتری نسبت به ++Transformer داشته باشند.
لطفاً براي ارسال دیدگاه، ابتدا وارد حساب كاربري خود بشويد