بناء مركز بيانات LLM: متطلبات GPU والشبكات وأنظمة الطاقة

لنكن صادقين-لن يتباطأ الذكاء الاصطناعي في أي وقت قريب. وبينما تتعمق الشركات في نماذج اللغات الكبيرة، يدرك الكثير منها أن مراكز البيانات الحالية الخاصة بها ليست مناسبة لهذا النوع من العمل. ليس من المستغرب حقا. LLMs هم وحوش جائعة. هل يحتاجون إلى قوة حسابية جادة ونوع البنية التحتية التي تتعامل مع أعباء العمل المنتظمة للمؤسسات؟ نعم، هذا لن يقطعها.

في قلب كل ذلك يجلسخادم GPU لـ LLM-هذا هو المكان الذي تتم فيه عملية رفع الأحمال الثقيلة فعليًا. ولكن هذا هو الأمر: بدون وجود أنظمة الشبكات والطاقة والتبريد المناسبة التي تدعمها، حتى أفضل وحدات معالجة الرسومات سيكون أداؤها ضعيفًا. لذلك دعونا نتعرف على ما يجري فعليًا في بناء إحدى هذه المرافق التي تركز على الذكاء الاصطناعي-.

إن تدريب وتشغيل LLMs لا يشبه استضافة موقع ويب أو تشغيل قاعدة بيانات. نحن نتحدث عن مليارات المعلمات، ومجموعات البيانات الضخمة، والدردشة المستمرة بين الأجهزة. هل هو إعداد يعتمد على وحدة المعالجة المركزية (CPU) التقليدية-؟ إنه لا يحتوي على العصير.

يتم بناء مراكز بيانات الذكاء الاصطناعي بشكل مختلف. لقد تم تصميمها حول مجموعات GPU التي تقدم:

 قوة معالجة متوازية خطيرة

 عرض النطاق الترددي العالي للذاكرة

 اتصال بزمن استجابة منخفض- بين وحدات معالجة الرسومات

 دعم لكل من التدريب والاستدلال

 مجال للنمو مع زيادة حجم النماذج

إن البنية الأساسية لا تقل أهمية عن النماذج نفسها-وأحيانًا أكثر أهمية، بصراحة.

A خادم GPU لـ LLMتعمل أحمال العمل عادةً على تجميع وحدات معالجة رسومات متعددة في هيكل واحد، مع -وصلات بينية عالية السرعة تسمح لها بالتحدث مع بعضها البعض دون اختناقات. إليك ما ستجده عادةً بالداخل:

وحدات معالجة الرسومات الشائعة لعمل LLM

نادرًا ما يكون خادم واحد كافيًا. تتسع معظم عمليات النشر-الحقيقية إلى رفوف متعددة-أو حتى مجموعات كاملة.

الجميع مهووسون بوحدات معالجة الرسومات، وأنا أفهم أنها-الجزء المبهرج. لكن التواصل؟ هذا هو المكان الذي يمكن أن تسير فيه الأمور بشكل جانبي بسرعة. في التدريب الموزع، تقوم الخوادم بتبديل التدرجات والمعلمات ومزامنة البيانات باستمرار. إذا لم تكن شبكتك على أعلى مستوى من السرعة، فسينتهي الأمر بوحدات معالجة الرسومات الخاصة بك بالانتظار. والانتظار مكلف.

ولهذا السبب تعتمد مراكز بيانات LLM بشكل كبير على تصميمات الشبكات عالية الأداء.

بنية شبكة الذكاء الاصطناعي النموذجية

خادم GPU تبديل الأوراق تبديل العمود الفقري شبكة الكتلة

التقنيات الرئيسية

تستخدم معظم مجموعات الذكاء الاصطناعي الحديثة بنية ورقية-عمودية-تحافظ على توقع الأداء وتجعل التوسع أسهل بكثير.

لا ترغب كل شركة في بناء مركز بيانات الذكاء الاصطناعي الخاص بها من الصفر. بصراحة، الكثير منهم لا ينبغي لهم ذلك. هذا هو المكانGPU كخدمةيدخل حيز التنفيذ.

بدلاً من شراء الأجهزة بشكل كامل، تقوم الشركات بتأجير سعة وحدة معالجة الرسومات من أحد المزودين. يمكنك الوصول إلى إمكانات حوسبة جادة دون الحاجة إلى تكلفة أولية هائلة أو عناء إدارة البنية الأساسية.

لماذا تنطلق GPUaaS؟

 انخفاض التكاليف الأولية-أنت لا تخسر الملايين على الخوادم

 النشر السريع-البدء خلال أيام، وليس أشهر

 سهولة القياس-هل تحتاج إلى المزيد من السعة؟ فقط اطلب ذلك

 العبء التشغيلي أقل-يتولى الموفر التعامل مع الأمور المهمة

 وصول مرن-رائع للاختبار والإصدارات التجريبية والإنتاج

بالنسبة للشركات الناشئة وفرق البحث والمؤسسات التي لا تزال تكتشف استراتيجية الذكاء الاصطناعي الخاصة بها، يعد هذا خيارًا مقنعًا للغاية.

إليك شيء لا يفكر فيه الأشخاص دائمًا: خوادم وحدة معالجة الرسومات (GPU) متعطشة للطاقة-. مثل، جائع حقا. يمكن لحامل الذكاء الاصطناعي الحديث أن يستهلك طاقة أكبر بعدة مرات من حامل الخادم التقليدي. وهذا يغير كل شيء يتعلق بكيفية تصميم أنظمتك الكهربائية.

الطلب النموذجي على الطاقة

هذا النوع من الحمل يعني أنك بحاجة إلى التفكير في:

 ترقيات قوة المرافق

 محولات

 أنظمة UPS

 وحدات توزيع الطاقة (PDUs)

 توليد النسخ الاحتياطية

 القدرة على التوسع في المستقبل

تمثل المحولات أهمية كبيرة هنا-فهي تحول طاقة المرافق الواردة إلى ما تحتاجه منشأتك بالفعل. ومع استمرار ارتفاع أحمال الذكاء الاصطناعي، أصبح حجم المحولات أحد الاعتبارات الرئيسية في التصميم، وليس مجرد فكرة لاحقة.

كان تبريد الهواء يعمل بشكل جيد في -مراكز البيانات المدرسية القديمة. لكن أجهزة الذكاء الاصطناعي؟ إنه ساخن. حار حقا. ومع مرور كثافات الحامل عبر السقف، لم يعد الهواء قادرًا على الاستمرار.

ولهذا السبب تتجه المزيد من المرافق إلى أنظمة التبريد السائلة لنشر وحدات معالجة الرسومات الخاصة بها.

طرق التبريد السائل الشائعة

لماذا يعتبر التبريد السائل منطقيًا؟

 يدعم كثافة الرف الأعلى

 تحكم حراري أفضل

 يقلل من استهلاك طاقة التبريد

 يحافظ على استقرار أداء وحدة معالجة الرسومات

 أدلة مستقبلية-لأجهزة أكثر قوة

بالنسبة للأجيال الجديدة من أجهزة الذكاء الاصطناعي، أصبح التبريد السائل سريعًا ممارسة قياسية-وليس خيارًا إضافيًا.

لا يعد مركز بيانات LLM الحديث مجرد مجموعة من الخوادم في الغرفة.إنه نظام بيئي متوازن بعناية:

 مجموعات خادم GPU

 شبكة-عالية السرعة

 توصيل الطاقة والحماية

 قدرة المحولات والمحطات الفرعية

 البنية التحتية للتبريد السائل

 طبقات التخزين والتنسيق

 أنظمة النسخ الاحتياطي والموثوقية

الكلمة الأساسية هنا هيتوازن. إذا كان هناك نقص في جزء واحد، فإن النظام بأكمله يعاني. يمكنك الحصول على أفضل وحدات معالجة الرسومات في العالم، ولكن إذا لم تتمكن شبكتك أو قوتك من مواكبة ذلك، فإنك تترك الأداء على الطاولة.

لا يقتصر إنشاء مركز بيانات LLM على مجرد إلقاء المزيد من الحوسبة على المشكلة. يتعلق الأمر بجمع المزيج الصحيح من وحدات معالجة الرسومات والشبكات والطاقة والتبريد حتى تتمكن البيئة بأكملها من التعامل مع أعباء عمل الذكاء الاصطناعي بشكل موثوق وفعال.

الخادم GPU لـ LLMهو قلب النظام، ولا شك. ولكنه يعمل فقط عندما يكون مدعومًا بشبكات قوية وتخطيط دقيق للطاقة ونظام التبريد السائل لوحدة معالجة الرسوماتعمليات النشر. في الوقت نفسه،GPU كخدمةيمنح الشركات طريقًا آخر-خاصة عندما تريد الوصول بسرعة إلى قدرات الذكاء الاصطناعي دون تحمل عبء بناء كل شيء بنفسها.

مع استمرار نمو حاملي شهادة الماجستير في القانون، سيتعين على مراكز البيانات التي تقف خلفهم أن تصبح أكثر ذكاءً أيضًا. وبصراحة؟ هذا بالضبط ما يحدث.

اتصل الآن