❗️ OpenAI בונה מערכת אחסון בקנה מידה עצום עבור מיליארד המשתמשים הבאים שלה OpenAI's תשתיות להכות צוואר בקבוק חדש: שטח פיזי. החברה בונה מערכת אחסון מסיבית משלה כדי לשמור על ChatGPT פועל ככל שהשימוש ממשיך לגדול. הפלטפורמה הקיימת שלה, Habitat, כבר משרתת יותר מ-500 מ"ח של נתונים על פני 40 אזורים, בתמיכה של יותר ממיליארד משתמשים ולטפל ביותר מ-70 מיליון בקשות לשנייה. חשבון Azure Cosmos DB לבדו מעבד יותר מ-20 מיליון שאילתות לשנייה, אומר ש- OpenAI הוא חסר תקדים עבור השירות. אבל למרכזי הנתונים יש מרחב מוגבל, כוח וקירור. OpenAI פונה יותר ויותר לסחר-off: השתמש ביכולת זו לאחסן נתונים קרוב יותר למשתמשים לקבלת תשובות מהירות יותר, או להקדיש אותו כדי להפעיל יותר מודלים AI. המערכת החדשה משלבת את ענן RocksDB של Rockset עם שכפול מבוסס רפאט כדי להפחית את דרישות אחסון הבזק, להקריב כמה שאילתה שיא דרך ספוט בתמורה. המונחים: