ניהול תרמי של שבב AI
נכון לעכשיו, ענקיות טכנולוגיה אחרות כמו מיקרוסופט, גוגל ומטה מרחיבות את מרכזי הנתונים שלהן כדי לאמן ולהפעיל את מודל הבינה המלאכותית שלהן. לפי הדיווחים, מיקרוסופט ו-OpenAI מתכננות לבנות פרויקט מרכז נתונים שיכלול מחשב-על עם מיליוני שבבי שרתים ייעודיים, והפרויקט הנוכחי עשוי לעלות 115 מיליארד דולר, כולל מחשב-על של בינה מלאכותית בשם Stargate, שצפוי להשיק ב-2028. גם מנכ"ל Meta, מארק צוקרברג, הצהיר בינואר השנה שתשתית המחשוב של החברה תכלול 30000 כרטיסי גרפיקה H100 עד סוף 2024. הוא גם הוסיף, 'אם נכללים GPUs אחרים, יש כ-600000 חישובים שווים H100.'
AIGC מבוססת על מודלים גדולים וביג דאטה. מודל גדול מתייחס למודל שיכול להסתגל למשימות במורד הזרם לאחר אימון על נתונים בקנה מידה גדול ורחב. לאחר הופעתו של מודל גדול, (1) פרמטרי המודל גדלים בגודלם; (2) דרישה מגוונת מאיץ שדרוג מגוון של כוח מחשוב: ניתן לחלק את כוח המחשוב לכוח מחשוב בסיסי, כוח מחשוב אינטליגנטי וכוח מחשוב על לפי התאמת דרישה. בשנת 2021, עוצמת המחשוב הכוללת של התקני מחשוב גלובליים הגיעה ל-615 EFlops, עם קצב צמיחה של 44%. עד 2030, הוא צפוי לעלות ל-56ZFlops, עם CAGR של 65%. כוח המחשוב החכם יגדל מ-232EFlops ל-52.5ZFlops, עם CAGR העולה על 80%; לאחר הופעת המודל הגדול, הוא הביא מגמה חדשה של גידול בכוח המחשוב, עם זמן הכפלה ממוצע של 9.9 חודשים לכוח המחשוב.
מאחורי השיפור של כוח המחשוב, שבבים חייבים להיות בעלי יעילות מחשוב גבוהה יותר ולהשלים יותר חישובים בזמן קצר יותר, מה שמוביל בהכרח לעלייה בצריכת האנרגיה של השבבים. מאפייני הצפיפות הגבוהה וצריכת החשמל הגבוהה של מרכזי נתונים במרכזי מחשוב-על הופכים את בעיות פיזור החום לבולטות יותר ויותר. מרכזי נתונים מודרניים, במיוחד מרכזי מחשוב-על, מכילים בדרך כלל מספר רב של התקנים בעלי הספק גבוה המייצרים כמות משמעותית של חום במהלך הפעולה. אם לא ניתן לפזר את החום בזמן ויעיל, זה לא רק ישפיע על ביצועי המכשיר, אלא גם עלול להוביל לתקלות חומרה. על פי הדוח של IDC, כ-40% מצריכת האנרגיה במרכזי הנתונים משמשים למערכות קירור, מה שמעיד על כך שפתרונות קירור יעילים הם חיוניים לתפעול של מרכזי נתונים.
מערכות קירור אוויר מסורתיות אינן מסוגלות עוד לענות על צורכי הקירור של מחשבי העל הנוכחיים, ולכן טכנולוגיית קירור נוזלי הפכה בהדרגה לבחירה המרכזית בתעשייה. היישום של טכנולוגיית קירור נוזלי מאפשר למרכזי נתונים להכיל יותר התקני מחשוב באותו חלל, תוך הפחתת צריכת האנרגיה של מערכת הקירור. היישום של טכנולוגיית קירור נוזלי לא רק משפר את היעילות החישובית, אלא גם מפחית משמעותית את צריכת האנרגיה ועלויות התפעול. טכנולוגיית קירור נוזלים יכולה להתמודד עם יותר משימות מחשוב עם אותה צריכת אנרגיה באמצעות הולכת חום יעילה יותר.
עם הביקוש הגובר לאימון בינה מלאכותית ולמחשוב בעל ביצועים גבוהים, טכנולוגיית קירור נוזלי תמלא תפקיד חשוב יותר במרכזי מחשוב-על עתידיים. צפוי כי טכנולוגיית קירור נוזלי תהפוך לתצורה סטנדרטית במרכזי מחשוב-על ובמרכזי נתונים גדולים בשנים הקרובות כדי לעמוד בדרישות המחשוב הגדלות ובאתגרי פיזור החום.
