مراكز البيانات وبنية الذكاء الاصطناعي
كيف يختلف مركز بيانات الذكاء الاصطناعي عن مركز البيانات التقليدي؟
كيف تختلف مرافق الحوسبة المتسارعة عن مراكز البيانات التقليدية من حيث الكثافة والشبكة والتخطيط وسلوك الفشل.
مراكز البيانات وبنية الذكاء الاصطناعي
حدد التطبيق وإدارة التشغيل الخاصة به قبل اختيار الأجهزة.

بالنسبة لمعظم مجالس الإدارة، تعني "البنية التحتية للذكاء الاصطناعي" غرفة مليئة بوحدات معالجة الرسومات. هذه إحدى الإجابات المحتملة لنوع واحد من عبء العمل. البنية التحتية للذكاء الاصطناعي هي في الحقيقة كل ما يحتاجه تطبيق الذكاء الاصطناعي ليعمل بشكل موثوق: الحوسبة والتخزين والشبكات؛ البرنامج الذي يدير النماذج والبيانات؛ وخطوط البيانات التي تغذيهم؛ والحوكمة التي تقرر كيفية استخدام مخرجاتها. بالنسبة للمباني والعقارات، قد يشمل ذلك أيضًا أجهزة محلية في الموقع واتصالات آمنة بالأنظمة التشغيلية للمبنى، مثل BMS (BMS).
تحتاج العديد من المنظمات التي تطرح هذا السؤال إلى شيء أصغر بكثير من غرفة GPU، والبعض الآخر لا يحتاج إلى أي شيء في الموقع على الإطلاق. المكان الصحيح للبدء هو التطبيق، وليس الأجهزة.
الأول هو ما إذا كنت تدرب نموذجًا أم تستخدم واحدًا. يحتاج تدريب نموذج كبير من الصفر إلى حوسبة مركزة وشبكات سريعة جدًا لأسابيع. عادةً ما يكون تشغيل نموذج موجود للإجابة على الأسئلة أو تقييم البيانات، والمعروف باسم الاستدلال، أسهل بكثير.
يأتي بعد ذلك مدى السرعة التي يجب أن يستجيب بها التطبيق، وأين. يمكن تشغيل التقرير الذي يتم إنتاجه بين عشية وضحاها في أي مكان، ولكن الوظيفة التي يجب أن تستمر في العمل عندما يكون رابط الإنترنت معطلاً يجب تشغيلها في الموقع. حيث يقع هذا الخط يغير البنية التحتية.
ثم هناك البيانات التي يحتاجها التطبيق، ومكان وجوده. يعد نقل مجموعات البيانات الأولية الكبيرة أمرًا مكلفًا وغير مسموح به في بعض الأحيان، لذلك قد يكون من الأفضل جلب المعالجة إلى البيانات. وفيما بينها، تشكل هذه الإجابات الثلاثة كل شيء آخر تقريبًا.
| طبقة | ما يتضمنه | سؤال نموذجي |
|---|---|---|
| الحوسبة | وحدات المعالجة المركزية (CPUs) أو وحدات معالجة الرسومات (GPU) أو المسرعات الأخرى، الموجودة في الموقع أو المستضافة | ما حجم النموذج ووقت الاستجابة الذي تحتاجه حالة الاستخدام؟ |
| التخزين والبيانات | مخازن البيانات وخطوط الأنابيب والإعداد وفحوصات الجودة | أين مصدر البيانات ومن يحافظ عليها؟ |
| الشبكة | الاتصالات بين الحوسبة والتخزين والمستخدمين وأنظمة البناء | ما هو النطاق الترددي وزمن الوصول والفصل المطلوب؟ |
| برنامج المنصة | استضافة النماذج، النشر، المراقبة، الهوية، النسخ الاحتياطي | كيف يتم تحديث النماذج وإعادتها؟ |
| منشأة | الطاقة، أو التبريد، أو المساحة، أو الأمان المادي - أو مزود الخدمة | هل هذه خزانة أم غرفة أم عقد؟ |
| الحوكمة | الموافقة والرقابة والتقييم والتعامل مع الحوادث | ومن المسؤول عن المخرجات؟ |
غالبًا ما تقلل المشاريع المبكرة من أهمية الصفين الثاني والأخير وتبالغ في تقدير الصف الأول.
ينظم إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني الأمريكي للمعايير والتكنولوجيا (AI RMF 1.0، الذي تم إصداره في يناير 2023 ويتم تنقيحه الآن كجزء من خطة عمل الذكاء الاصطناعي بالبيت الأبيض) إدارة مخاطر الذكاء الاصطناعي في أربع وظائف: الحوكمة، والتخطيط السياقي (Map)، والقياس، والإدارة. ويصف الذكاء الاصطناعي الجدير بالثقة بأنه صالح وموثوق وآمن ومرن ومسؤول وشفاف وقابل للشرح وقابل للتفسير ومعزز للخصوصية وعادل مع إدارة التحيز الضار. هذا الإطار طوعي، لكنه يمنح الموجز بنية مفيدة: من يوافق على التطبيق، وكيف يتم قياس أدائه وماذا يحدث عندما يتدهور.
عندما تؤثر المخرجات على كيفية تشغيل المبنى، يجب أن تكون الحدود بين النصيحة والسيطرة واضحة، ويجب أن تحدد نتيجة الإجابة الخاطئة مستوى الإشراف.
تتغير جميع النماذج ومصادر البيانات والبرامج، لذلك يجب أن تغطي الميزانية مراقبة الأداء، وإعادة التقييم بعد التغييرات، والاحتفاظ بنسخة عمل معروفة يمكن الرجوع إليها، ووقت الموظفين، كل ذلك يستغرق. لا توجد منصة حوسبة، مهما كانت قادرة، تجعل بيانات البناء التي يتعذر الوصول إليها أو سيئة التصنيف مفيدة.
عندما يصل اقتراح الذكاء الاصطناعي إلى مكتبك، اسأل أولاً عن بيانات البناء والاتصال والبنية التحتية في الموقع التي يحتاجها بالفعل. غالباً ما تكون الإجابة أقل مما يفترضه الاقتراح، وأحياناً أكثر.
يرتبط هذا المقال بعملنا في خدماتنا.
يمكننا مناقشة كيف يدخل هذا الموضوع في موجز المشروع.
تواصل مع Pagin Consulting