كيف يختلف مركز بيانات الذكاء الاصطناعي عن مركز البيانات التقليدي؟

لا يعد مركز بيانات الذكاء الاصطناعي نوعًا مختلفًا من البناء بقدر ما هو نوع مختلف من التحميل. المرافق المصممة للحوسبة المتسارعة، حيث تعمل الخوادم المزودة بوحدات معالجة الرسومات أو المسرعات المماثلة معًا، عادةً ما تركز قدرًا أكبر من الطاقة والحرارة في كل حامل، وتعتمد بشكل أكبر على الشبكة بين الخوادم، وتعمل بالقرب من التحميل الكامل لفترات طويلة. وتمتد هذه الاختلافات الثلاثة من خلال التوزيع الكهربائي والتبريد والتخطيط والعمليات.

ومع ذلك، لا يوجد تكوين واحد للذكاء الاصطناعي. يمكن لمجموعة من خوادم الاستدلال التي تجيب على أسئلة برنامج الدردشة الآلية أن تبدو مثل تكنولوجيا المعلومات التقليدية إلى حد كبير، في حين أن مجموعة تدريب نموذج كبير يمكن أن تكون مختلفة عن أي شيء تم تصميم الغرفة الحالية من أجله. يجب أن يعتمد القرار على المعدات الفعلية وعبء العمل، مهما كان ما يقوله الملصق.

حيث تظهر الاختلافات

الكثافة هي العنوان

يشير دليل تصميم مركز البيانات لعام 2024 الصادر عن وزارة الطاقة الأمريكية إلى أن مرافق الحوسبة عالية الأداء شهدت كثافة رفوف تبلغ 60 كيلووات لكل حامل حوسبة في عام 2013، مع تجاوز الأرقام الحديثة 125 كيلووات. كما أنه يضع متوسط ​​استخدام الخادم في إعدادات المؤسسة بشكل عام بنسبة 20-40%. تدفع مجموعات تدريب الذكاء الاصطناعي في الاتجاه المعاكس في كلتا الحالتين: كثيفة ومشغولة.

الرقم الخاص بأي رف معين يجب أن يأتي من التكوين الموثق للمعدات التي يتم شراؤها، وليس من القاعدة العامة، وينطبق الشيء نفسه على طريقة التبريد. لاحظت لجنة مركز بيانات ASHRAE، TC 9.9، في تقريرها الأبيض لعام 2021 أن شرائح المعالجات المتوفرة فقط مع التبريد السائل موجودة بالفعل في السوق، وهناك المزيد في الطريق.

ما يهم أكثر هو أين يهبط الطلب. يمكن أن يكون لدى المنشأة سعة احتياطية إجمالاً ولا تزال غير قادرة على توصيلها إلى رفوف معينة، لذا يجب فحص توزيع الطاقة وتوصيل التبريد والتحميل الأرضي في مواضع الحامل التي تنوي استخدامها فعليًا.

تصبح الشبكة جزءًا من المبنى

يعتمد التدريب الموزع على الاتصال السريع بين الخوادم. تفصل التصميمات المرجعية المنشورة لمجموعات وحدات معالجة الرسومات الكبيرة بين شبكات الحوسبة والتخزين والإدارة، وتحدد أقمشتها عالية السرعة الحد الأقصى لأطوال الكابلات. حدود مثل هذه تقيد المكان الذي يمكن أن تذهب إليه الرفوف. قد يؤدي نشر الرفوف لحل مشكلة الطاقة أو التبريد إلى تعطيل تصميم الشبكة.

الفشل يتصرف بشكل مختلف

في تكنولوجيا المعلومات التقليدية، عادةً ما يؤثر فقدان خادم واحد على خدمة واحدة. في مجموعة التدريب، يحذر توجيه البائع من أن فشل نظام واحد في مهمة متعددة العقد يمكن أن يوقف المهمة عليهم جميعًا. وهذا يحول الانتباه إلى ترتيبات إمدادات الطاقة، واستمرارية التبريد، ونقاط الحفظ في البرمجيات، ويعني أن متطلبات مرونة المنشأة تعتمد على ما إذا كان يمكن استئناف العمل من الحالة المحفوظة.

أربعة أشياء يجب أن تكون في متناول يدك

يجب أن تكون هناك أربعة أشياء على الطاولة قبل أن يبدأ التصميم. يجب أن يوفر المورد تكوينًا موثقًا للمعدات مع متطلبات الطاقة والتبريد والشبكة لكل حامل. يجب أن يكون هناك سيناريو للنمو يوضح عدد الرفوف، ونوعها، ومتى. يجب توضيح متطلبات المرونة الخاصة بعبء العمل، بما في ذلك ما إذا كان من الممكن استئناف المهام بعد انقطاعها. ويجب أن تكون هناك خطة مراقبة تربط أداء تكنولوجيا المعلومات بظروف المنشأة، بحيث تظهر قيود التبريد التي تؤدي إلى إبطاء المجموعة.