انویدیا برای اتصال مستقیم پردازندهی گرافیکی به SSD با آیبیام همکاری میکند
رابط نرمافزاری DirectStorage مایکروسافت برای اجرای بازیها در محیط ویندوز، وعدهی بهبود کارایی انتقال داده از پردازندهی گرافیکی به SSD را میدهد، اما به گزارش Tomshardware، انویدیا و شرکای آن راهی پیدا کردهاند که پردازندههای گرافیکی را بدون نیاز به رابط نرمافزاری به SSDها متصل کنند. این راهکار Big Accelerator Memory یا BaM نام دارد و طبق ادعای انویدیا برای انجام کارهای محاسباتی مختلف بخصوص کارهایی که با مجموعه دادههای حجیم سروکار دارند، مفید خواهد بود. قابلیت برنامهریزی پردازندههای گرافیکی به مرور زمان به پردازندهها شباهت بیشتری پیدا میکند و نیاز به دسترسی مستقیم به فضاهای ذخیرهسازی بزرگ نیز بیشتر میشود؛ بنابراین ایجاد چنین معماریای، میتواند با افزایش عملکرد پردازش گرافیکی، بسیار مفید واقع شود.
واحدهای پردازش گرافیکی مدرن تنها برای کارهای گرافیکی استفاده نمیشوند، بلکه در زمینههایی مانند هوش مصنوعی، تجزیه و تحلیل و یادگیری ماشینی و محاسبات با عملکرد بالا (HPC) نیز، کاربردهای فراوانی خواهند داشت. درواقع پردازندههای گرافیکی برای پردازش کارآمد مجموعه دادههای بزرگ یا به مقدار زیادی حافظههای گرانقیمت برای اهداف خاص (مانند HBM2 یا GDDR6) به صورت محلی نیاز دارند یا باید به SSD دسترسی داشته باشند. پردازندههای گرافیکی محاسباتی مدرن درحالحاضر بین ۸۰ تا ۱۲۸ گیگابایت حافظه با پهنای باند بالا (HBM2E) دارند و قرار است پردازندههای گرافیکی محاسباتی نسل بعدی نیز ظرفیت حافظهی محلی را افزایش دهند؛ اما همزمان حجم دادهها نیز به سرعت در حال افزایش است، بنابراین با گذشت زمان بهینهسازی قابلیت همکاری بین پردازندهی گرافیکی و فضای ذخیرهسازی اهمیت بالایی پیدا خواهد کرد.
چندین دلیل کلیدی برای اهمیت اتصال مستقیم بین پردازندهی گرافیکی و SSD وجود دارد:
اول: ارتباطهای NVMe و انتقال دادهها بار زیادی روی پردازنده وارد میکنند و این حجم پردازش عملکرد و کارایی کلی را کاهش میدهد؛ NVMe اینترفیس ارتباطی برای حافظههای SSD است که در حقیقت استفاده از مسیرهای PCIe را برای حافظههای SSD ممکن میسازد.دوم: همگامسازی پردازنده با پردازندهی گرافیکی عملی هزینهبر است و تقویت ترافیک ورودی/خروجی بهطور قابلتوجهی پهنای باند مورد نیاز برنامههایی با دادههای حجیم را محدود میکند.
انویدیا، آیبیام و دانشگاه کورنل هدف از ایجاد BaM را اینگونه توضیح دادند:
هدف از ایجاد BaM، علاوه بر افزایش ظرفیت حافظهی پردازندهی گرافیکی و افزایش پهنای باند برای دسترسی مؤثر، فراهم کردن دسترسی سطح بالا برای رشتههای پردازندهی گرافیکی است تا بهراحتی بتوانند در لحظه و به صورت راهبردی به ساختارهای دادههای حجیم دسترسی داشته باشند.
فناوری BaM پردازندهی گرافیکی را قادر میسازد تا بدون استفاده از پردازنده، دادهها را مستقیماً از حافظه فراخوانی کند؛ این فناوری باعث خواهد شد تا پردازندههای گرافیکی خودکفاتر شوند. در واقع BaM تلاشی برای کاهش وابستگی پردازندههای گرافیکی به پردازنده و بهبود عملکرد و ظرفیت آن است. البته پردازندههای گرافیکی محاسباتی همچنان از حافظهی محلی بهعنوان حافظهی پنهان مدیریتشده توسط نرمافزار استفاده میکنند، اما دادهها را با استفاده از یک رابط PCIe یا RDMA و یک درایور سفارشی هستهی لینوکس منتقل میکنند و بدینترتیب SSDها میتوانند در صورت نیاز مستقیماً به حافظهی پردازندهی گرافیکی دسترسی داشته باشند. درصورتیکه دادههای مورد نیاز به صورت محلی دردسترس نباشد، دستورهای SSD توسط رشتههای پردازندهی گرافیکی در صف قرار میگیرند و دیگر خطای TLB رخ نمیدهد.
تیالبی (TLB) حافظهای میانجی در پردازنده است و خطای TLB زمانی رخ میدهد که فراخوانی داده از این مسیر به درستی انجام نشود.
انویدیا و شرکای آن قصد دارند فناوری BaM را به صورت متنباز دراختیار توسعهدهندگان قرار دهند.
انویدیا دربارهی عملکرد BaM گفت:
فناوری BaM تقویت ترافیک ورودی/خروجی را با فعال کردن رشتههای پردازنده گرافیکی برای خواندن یا نوشتن دادههای تعیینشده کاهش میدهد. ما معتقدیم که نرمافزار زیرساخت BaM که روی پردازندههای گرافیکی اجرا میشود، برای استفادهی حداکثری از هر فضای ذخیرهسازی، حتی SSDهای معمولی، میتواند دسترسیهایی راهبردی را با سرعت کافی شناسایی کرده و با آنها ارتباط برقرار کند. سیستمی مبتنی بر BaM میتواند با حافظهی گرانقیمتی مانند DRAM رقابت کند و کاهش ترافیک ورودی/خروجی مزایای عملکردی قابلتوجه را ارائه کند.
فناوری BaM انویدیا فضای ذخیرهسازی زیادی را برای پردازندههای گرافیکی فراهم کرده و باعث میشود تا این واحد پردازشی بتواند مستقل از پردازنده عمل کند؛ بدینترتیب شتابدهندههای محاسباتی نیز میتوانند بسیار مستقلتر از قبل عمل کنند.
ایامدی چند سال پیش، در اقدامی مشابه تلاش کرد با کارت گرافیک Radeon Pro SSG خود، پردازندههای گرافیکی را به SSD متصل کند. البته کارت گرافیک Radeon Pro SSG صرفاً بهعنوان راهحلی گرافیکی طراحی شده بود و برای انجام کارهای محاسباتی مناسب نبود. حالا به نظر میرسد که انویدیا، آیبیام و شرکای آنها با معرفی فناوری BaM قدمی فراتر گذاشتهاند.
انویدیا و آیبیام قصد دارند با همکاری یکدیگر معماری جدیدی معرفی کنند که پردازندهی گرافیکی بتواند مستقل از پردازنده به SSD متصل شود.