پلتفرم نرم‌افزاری برای هوش مصنوعی مولد سازمانی

NVIDIA AI Enterprise یک پلتفرم نرم‌افزاری جامع است که برای توسعه و استقرار مدل‌های هوش مصنوعی استفاده می‌شود. و باعث تسریع  افزایش سرعت و کارایی فرآیند تحلیل داده میباشد  و توسعه و استقرار همیاران تولید و سایر برنامه‌های هوش مصنوعی تولیدکننده را ساده‌سازی می‌کند. میکروسرویس‌های آسان برای استفاده، عملکرد مدل بهینه شده را با امنیت، پشتیبانی و پایداری در سطح سازمانی ارائه می‌دهند تا انتقال روان از نمونه اولیه به تولید برای سازمان‌هایی که کسب‌وکار خود را بر روی هوش مصنوعی اجرا می‌کنند، تضمین کنند.

ویژگی‌ها و مزایا ( Features and Benefits)

در سطح سازمانی

این محصول یا خدمت به سازمان‌ها کمک می‌کند تا پروژه‌های نرم‌افزاری خود را به صورت منظم و با کیفیت بالا اجرا کنند. با استفاده از شاخه‌های تولید قابل پیش‌بینی، سازمان‌ها می‌توانند تغییرات جدید را به صورت ایمن و کنترل شده در سیستم اصلی ادغام کنند. همچنین، پایداری API و نرم‌افزار مدیریت به همراه پشتیبانی NVIDIA Enterprise، به سازمان‌ها کمک می‌کند تا از بروز مشکلات و اختلالات در سیستم خود جلوگیری کنند.

اجرا در هر کجا

نرم‌افزار مورد نظر به گونه‌ای طراحی شده است که بتوان آن را در انواع مختلف محیط‌های محاسباتی اجرا کرد. این نرم‌افزار از استانداردهای صنعتی پیروی می‌کند و در محیط‌های ایزوله (کانتینر) بسته‌بندی شده است. علاوه بر این، این نرم‌افزار توسط سازمان‌های معتبر تایید شده است که نشان می‌دهد از کیفیت و قابلیت اطمینان بالایی برخوردار است.

استقرار با اطمینان

پلتفرم نرم‌افزاری مورد نظر، اقدامات لازم را برای محافظت از داده‌های شرکت و دارایی‌های معنوی آن انجام می‌دهد. این اقدامات شامل نظارت مداوم بر سیستم برای شناسایی آسیب‌پذیری‌های امنیتی و همچنین حفظ مالکیت کامل بر تغییرات انجام شده روی مدل‌های هوش مصنوعی است

بهینه سازی عملکرد

ابزارها و کتابخانه‌های نرم‌افزاری NVIDIA، یعنی NIM و CUDA-X، به توسعه‌دهندگان کمک می‌کنند تا برنامه‌های هوش مصنوعی مولد را سریع‌تر و با کارایی بیشتری توسعه دهند. این ابزارها با فراهم کردن یک محیط اجرایی بهینه و اجزای آماده، فرآیند توسعه را ساده‌تر کرده و به توسعه‌دهندگان اجازه می‌دهند تا روی جنبه‌های خلاقانه‌تر توسعه تمرکز کنند.

کاتالوگ API انویدیا

انویدیا یک کاتالوگ از مدل‌های هوش مصنوعی از پیش آموزش‌داده شده را ارائه می‌دهد که توسعه‌دهندگان می‌توانند از آن‌ها برای ساخت برنامه‌های خود استفاده کنند. این مدل‌ها بر روی پلتفرم NIM اجرا می‌شوند و می‌توان آن‌ها را به صورت رایگان آزمایش کرد. همچنین، توسعه‌دهندگان می‌توانند این مدل‌ها را در سرورهای خود استقرار دهند و از آن‌ها برای کاربردهای مختلف مانند پردازش زبان طبیعی، بینایی کامپیوتری، و سایر حوزه‌ها استفاده کنند.

تشخیص آسیب‌پذیری با استفاده از RAG

انویدیا از تکنیک‌های هوش مصنوعی برای بهبود تشخیص آسیب‌پذیری‌های امنیتی در کتابخانه‌های نرم‌افزاری خود استفاده می‌کند. این تکنیک‌ها شامل RAG، NVIDIA Morpheus و NIM می‌شوند. با استفاده از این تکنیک‌ها، انویدیا می‌تواند آسیب‌پذیری‌های امنیتی را سریع‌تر و دقیق‌تر شناسایی کند و به این ترتیب امنیت محصولات خود را افزایش دهد.

نسل تقویت‌شده توسط بازیابی در سطح سازمانی

NVIDIA یک ابزار نرم‌افزاری ارائه داده است که به شما کمک می‌کند تا برنامه‌های RAG خود را به سرعت و به سادگی در محیط تولید مستقر کنید. این ابزار از روش‌های پیشرفته‌ای استفاده می‌کند که به شما اجازه می‌دهد بدون تغییر در کد برنامه‌های خود، آن‌ها را در محیط تولید اجرا کنید.

به طور خلاصه، این ابزار می‌تواند به سازمان‌ها کمک کند تا به سرعت و به راحتی از مدل‌های RAG در محیط‌های تولید خود استفاده کنند.

استقرار در هر مکان

محصولات و خدمات انویدیا به شما این امکان را می‌دهند که برنامه‌های هوش مصنوعی خود را به صورت یکپارچه در محیط‌های مختلفی (ابر، مرکز داده و ایستگاه‌های کاری) اجرا کنید. این کار باعث می‌شود که شما بتوانید از انعطاف‌پذیری و مقیاس‌پذیری بالایی در توسعه و استقرار برنامه‌های خود بهره‌مند شوید.

ابر

NVIDIA AI Enterprise یک پلتفرم نرم‌افزاری است که در بازارهای ابری اصلی در دسترس است و به سازمان‌ها اجازه می‌دهد تا برنامه‌های هوش مصنوعی خود را به راحتی در محیط‌های ابری مختلف مستقر کنند. این پلتفرم از استانداردهای صنعت پیروی می‌کند و با ارائه دهندگان خدمات ابری مختلف سازگار است.

 

سیستم‌های تأیید شده توسط NVIDIA

انویدیا لیستی از سیستم‌های سخت‌افزاری (سرورها، ایستگاه‌های کاری و لپ‌تاپ‌های ) را منتشر کرده است که به عنوان سیستم‌های تأیید شده توسط NVIDIA (بیش از ۴۰۰ سیستم) شناخته می‌شوند. این سیستم‌ها به گونه‌ای طراحی و ساخته شده‌اند که به بهترین نحو با نرم‌افزارهای NVIDIA کار می‌کنند و برای انجام وظایف مرتبط با هوش مصنوعی بسیار مناسب هستند.

پلتفرم نرم‌افزاری انتها به انتها (End-to-End) برای هوش مصنوعی تولیدی

NVIDIA AI Enterprise یک پلتفرم نرم‌افزاری کامل و جامع است که همه چیزهایی را که برای توسعه و استقرار برنامه‌های هوش مصنوعی نیاز دارید، ارائه می‌دهد. این پلتفرم شامل ابزارهای توسعه، فریم‌ورک‌ها، مدل‌های از پیش آموزش‌داده شده و همچنین ابزارهای مدیریت و هماهنگی است که به شما کمک می‌کنند تا برنامه‌های هوش مصنوعی خود را به طور مؤثر و کارآمد اجرا کنید.

با استفاده از مجموعه‌ای کامل از نرم‌افزارهای هوش مصنوعی که توسط شرکت انویدیا ارائه شده است، می‌توانید مراحل مختلف خط لوله هوش مصنوعی خود را سریع‌تر انجام دهید. این نرم‌افزارها به شما امکان می‌دهند تا داده‌های خود را سریع‌تر پردازش کنید، مدل‌های هوش مصنوعی خود را سریع‌تر آموزش دهید و نتایج را سریع‌تر به دست آورید.

  • NVIDIA RAPIDS™ Accelerator for Apache Spark: یک کتابخانه نرم‌افزاری است که به شما کمک می‌کند تا عملیات پردازش داده‌ها را بر روی پلتفرم Apache Spark با سرعت بیشتری انجام دهید.
  • NVIDIA NeMo: یک پلتفرم نرم‌افزاری است که برای توسعه و استقرار مدل‌های هوش مصنوعی استفاده می‌شود.
  • RAG: مخفف Retrieval-Augmented Generation است و به تکنیکی اشاره دارد که در آن مدل‌های هوش مصنوعی از اطلاعات موجود در دنیای واقعی برای تولید خروجی‌های بهتر استفاده می‌کنند.
  • NVIDIA TensorRT™: یک کتابخانه نرم‌افزاری است که به شما کمک می‌کند تا مدل‌های هوش مصنوعی را بهینه کنید و سرعت اجرای آن‌ها را افزایش دهید.
  • NVIDIA Triton™ Inference Server: یک سرور استنتاج برای مدل‌های هوش مصنوعی است که به شما کمک می‌کند تا مدل‌های خود را به صورت مقیاس‌پذیر و کارآمد استقرار دهید.
  • NVIDIA Base Command™ Manager Essentials: یک ابزار مدیریت خوشه‌های هوش مصنوعی است که به شما کمک می‌کند تا خوشه‌های خود را به صورت کارآمد مدیریت کنید.

GPUs پیشنهادی برای vCS

nviDiA t4nviDiA rtXtM
۸۰۰۰/۶۰۰۰
nviDiA A10nviDiA A40 nviDiA v100 nviDiA A30nviDiA A100
(Turing)1(Turing)1(Ampere)1(Ampere)1(Volta)1(Ampere)1(Ampere)1GPU/Boards
Architecture
YesYesYesYesRT Cores
۱۶GB GDDR6۴۸GB/24 GB
GDDR6
۲۴GB GDDR6 ۴۸GB GDDR6۳۲GB/16 GB
HBM2
۲۴GB HBM2۴۰GB/80 GB
HBM2
Memory Size
YesYesYesNVLink
PCIe 3.0 Single
Slot
PCIe Gen4 Dual
Slot
PCIe Gen4
Single Slot
PCIe 4.0 Dual
Slot
PCIe 3.0 Dual
Slot/SXM2
PCIe Gen4 Dual
Slot
PCIe 4.0 Dual
Slot/SXM4
Form Factor
۷۰W۲۵۰W۱۵۰W۳۰۰W۲۵۰W/300W۱۶۵W۲۵۰W/400WPower

لیست ویژگی‌های vCS انویدیا

vCS ProFileS

۸۰GBMaximum Frame
Buffer Supported
۴GBMinimum Frame
Buffer Supported
۲۰:۱Maximum
Multi-tenancy
۴C, 5C8, 6C, 8C,
۱۰C8, 12C, 16C,
۲۰C8, 24C4, 32C5,
۴۰C8, 48C6, 80C
Available Profiles

Data Center Management

YesHost-, Guest-, and
Application-Level Monitoring
YesLive Migration

Support

YesNVIDIA Direct Enterprise-Level
Technical Support
YesMaintenance Releases, Defect
Resolutions, and Security Patches
YesNGC Support Services

Configuration and Deployment

YesGPU Sharing (fractional)
YesGPU Aggregation (Multi-vGPU)
YesPeer-to-Peer over NVLink
YesECC & Dynamic Page Retirement
YesLinux OS Support
Windows OS Support
YesNVIDIA Compute Driver
NVIDIA Graphics Driver
NVIDIA RTX Enterprise Driver
YesQuality-of-Service Scheduling
YesGPUDirect RDMA
YesMulti-Instance GPU (MIG)
YesGPU Operator