מהפכת הקירור הנוזלי של Nvidia לשרת AI
צריכת החשמל של שבבי בינה מלאכותית מתקדמת גדלה כל הזמן, מה שהפך לזרז עבור הדור הבא של שרתי AI DGX לעבור לכיוון קירור נוזלי. ה-TDP הנוכחי (כוח עיצוב תרמי) של ספינת הדגל H100 GPU של Nvidia הוא 700W, שחרג מהמגבלה של קירור אוויר מסורתי. צפוי כי Nvidia תשיק את ה-B100 GPU של ארכיטקטורת Blackwell עם TDP של כ-1000W בהמשך השנה, ובהחלט יהיה צורך בקירור נוזלי באותו זמן.
עבור מערכות מחשוב בעלות ביצועים גבוהים, לקירור נוזלי יש מספר יתרונות מרכזיים על פני קירור אוויר:
יעילות העברת חום מצוינת מאפשרת לקירור מלא של רכיבים בעלי TDP גבוה יותר
בשל ביקוש מופחת למאווררים מהירים, הפעולה שקטה יותר
עיצוב המערכת צפוף יותר, גופי קירור ומאווררים מגושמים תופסים פחות מקום
פוטנציאל ללכידה ושימוש חוזר בחום הפסולת במחלפי חום נוזלים-נוזליים
באמצעות קירור נוזלי, Nvidia יכולה להמשיך לחרוג ממגבלות הביצועים של מאיצי AI מבלי להיות מוגבלת על ידי מערכת הקירור. ככל שהמורכבות של עומס האימון בבינה מלאכותית ממשיכה לעלות וצריכת החשמל התואמת לחומרה עולה, הדבר חיוני. שרת DGX AI של Nvidia אורז מספר GPUs למערכת אופטימלית לעומסי עבודה של AI, שאומצה במהירות על ידי ארגונים בקנה מידה גדול. ספקי שירותי ענן גדולים כמו Google Cloud, Meta ו-Microsoft פרסו מערכות DGX במרכזי הנתונים שלהם. בשנים האחרונות, ככל שיותר ויותר ארגונים מבקשים למנף את כוחה הטרנספורמטיבי של בינה מלאכותית, האימוץ של מערכות בינה מלאכותית Nvidia DGX גדל באופן אקספוננציאלי.
מערכת Nvidia DGX עשויה להשתמש בעיצובי קירור טבילה מתקדמים המשתמשים בנוזלים דיאלקטריים. קירור שבב ישיר שואב נוזלים דיאלקטריים ישירות אל שבבי GPU ורכיבים תרמיים אחרים, ללא צורך בפלטות קרות, ומשיג העברת חום ישירה יותר. זה יכול לתמוך ברמות TDP גבוהות מאוד (500W+) על שבב בודד, ולהשיג מערכות צפופות יותר.
מכיוון שהבינה המלאכותית ממשיכה להתפתח במהירות מדהימה, תשתית החומרה הנתמכת חייבת להתפתח באופן סינכרוני. קירור נוזלי הוא טכנולוגיה המאפשרת מפתח שתאפשר למאיצים להתרחב לרמות ביצועים חסרות תקדים. השינוי הזה אינו חף מאתגרים. מכיוון שמרכזי נתונים דורשים שינוי של תשתית קירור נוזלי ופיתוח תוכניות תחזוקה חדשות, היתרונות של יעילות אנרגטית, צפיפות וביצועים הם משמעותיים ואי אפשר להתעלם מהם.
