انویدیا Snapshot را معرفی کرد؛ راه‌اندازی سریع‌تر سرویس‌های هوش مصنوعی روی سرور

انویدیا در ۱۰ نوامبر ۲۰۲۶ و هم‌زمان با KubeCon از ابزارهای متن‌باز تازه‌ای برای زیرساخت هوش مصنوعی خبر داد. یکی از آن‌ها NVIDIA Snapshot است که با بازیابی نسخه‌های ذخیره‌شده از سرویس، نیاز به بارگذاری مجدد مدل و مرحله گرم‌کردن آن را در مسیر بازیابی کاهش می‌دهد.

چه ابزارهایی معرفی شدند؟

NVIDIA Kubernetes Engine و NVIDIA Kubernetes Recipes در پیش‌نمایش عمومی قرار گرفته‌اند تا ساخت و مدیریت زیرساخت GPU بر بستر Kubernetes را ساده‌تر کنند. انویدیا همچنین از واگذاری OpenShell به CNCF و همکاری در پروژه Agent Substrate برای اجرای عامل‌های هوش مصنوعی خبر داده است.

نتیجه آزمایش اعلام‌شده چه بود؟

طبق گزارش انویدیا، Crusoe روی سیستم HGX B300 و مدل GLM-5.3، زمان آماده شدن بار کاری را با Snapshot از حدود هشت دقیقه به ۳۱ ثانیه رسانده است. این عدد نتیجه سناریوی مشخص شریک تجاری انویدیاست و به‌تنهایی نتیجه یک آزمون مستقل روی همه سرورها محسوب نمی‌شود.

برداشت استوک‌لند برای خرید سرور GPU

اگر هدف شما ارائه سرویس مدل زبانی به چند کاربر است، در جلسه ارزیابی فقط سرعت تولید پاسخ را نپرسید. زمان شروع سرویس پس از توقف، زمان برگشت پس از خطا و رفتار سیستم هنگام افزایش درخواست‌ها را هم در فهرست آزمون قرار دهید. این‌ها معیارهایی هستند که می‌توانید در سناریوی واقعی کسب‌وکار خودتان اندازه بگیرید.

برای یک سیستم شخصی که مدلی را دستی اجرا می‌کند، اولویت‌ها ممکن است متفاوت باشد. پیشنهاد تحریریه این است که پیش از انتخاب ابزار، شیوه بهره‌برداری را روشن کنید: سرویس دائمی سازمانی می‌خواهید یا محیط آزمایش؟ خبر Snapshot بیش از همه به گروه اول و تیم‌های مدیریت زیرساخت مربوط است.