Рішення SuperCluster для генеративного ШІ, інтегровані з NVIDIA AI Enterprise та мікрослужбами NIM, забезпечують миттєве прискорення окупності інвестицій та більше роботи ШІ на долар завдяки чудово масштабованому обчислювальному блоку, що спрощує ШІ для швидкого розгортання
САН-ХОСЕ, Каліфорнія, та ТАЙБЕЙ, Тайвань, 4 червня 2024 р. — Компанія Supermicro, Inc. (NASDAQ: SMCI), постачальник комплексних ІТ-рішень для ШІ, хмари, зберігання даних та 5G/Edge, представляє готовий до розгортання центр обробки даних з рідинним охолодженням для ШІ, розрахований на хмарні рішення, які разом з обчислювальними блоками SuperCluster компанії, оптимізованими під програмну платформу NVIDIA AI Enterprise для розробки та розгортання генеративного ШІ, прискорюють впровадження генеративного ШІ підприємствами різних галузей. Разом з системами Supermicro висотою 4U з рідинним охолодженням нещодавно представлені NVIDIA графічні процесори Blackwells можуть повністю використовувати продуктивність кожного процесора 20 петафлопс при виконанні робочих навантажень ШІ і демонструють в 4 рази більш високу продуктивність при навчанні ШІ і в 30 разів більш високу , Чим попередні графічні процесори, з додатковим зниженням витрат. Відповідно до своєї стратегії «перший на ринку», Supermicro нещодавно анонсувала повну лінійку продуктів на основі архітектури NVIDIA Blackwell для нових систем NVIDIA HGXTM B100, B200 та GB200 Grace Blackwell Superchip.
«Supermicro зберігає галузеве лідерство в галузі створення та розгортання рішень для ШІ з рідинним охолодженням масштабу стійок, – сказав Чарльз Лян (Charles Liang), президент та генеральний директор Supermicro. — Центри обробки даних з рідинним охолодженням можуть бути практично безкоштовними та приносити клієнтам додатковий зиск за рахунок постійного зниження споживання електроенергії. За допомогою програмного забезпечення NVIDIA AI Enterprise, наші рішення оптимізуються для клієнтів у різних галузях, і ми пропонуємо глобальні виробничі потужності, що мають ефективність світового класу. В результаті ми можемо скоротити час поставки готових кластерів з рідинним або повітряним охолодженням із системами NVIDIA HGX H100 та H200, а також рішеннями B100, B200 та GB200, які незабаром з’являться. Наші рішення рідинного охолодження масштабу стійок від холодних пластин до розподільчих блоків (CDU) та градирень можуть забезпечити зниження поточного енергоспоживання центру обробки даних до 40 %».
На виставці COMPUTEX 2024 компанія Supermicro представляє свої майбутні системи, оптимізовані під графічні процесори NVIDIA Blackwell, включаючи систему з повітряним охолодженням заввишки 10U та систему з рідинним охолодженням заввишки 4U на основі NVIDIA HGX B200. Крім того, Supermicro запропонує систему висотою 8U з повітряним охолодженням на основі NVIDIA HGX B100 і стійку Supermicro NVIDIA GB200 NVL72, що містить 72 взаємопов’язаних графічних процесора, об’єднаних комутаторами NVIDIA NVLink SwitchID, 200 NVL PCIe та нещодавно анонсовану архітектуру NVIDIA GB200 NVL2.
«Генеративний ІШ призводить до оновлення всього обчислювального стека – нові центри обробки даних будуть використовувати для прискорення графічні процесори та будуть оптимізовані під ШІ, – сказав Дженсен Хуанг (Jensen Huang), засновник та генеральний директор NVIDIA. — Компанія Supermicro розробила передові рішення для прискорених обчислювальних та мережевих рішень NVIDIA, які дають змогу оптимізувати глобальні центри обробки даних вартістю трильйон доларів для епохи ШІ».
Швидкий розвиток великих мовних моделей та безперервна поява нових моделей з відкритим вихідним кодом, таких як Llama-3 компанії Meta та Mixtral 8x22B компанії Mistral, роблять сучасні моделі ШІ більш доступними для підприємств. Необхідність спростити інфраструктуру ШІ та забезпечити доступність найбільш економічним способом має першорядне значення для підтримки нинішньої запаморочливої швидкості революційної зміни ШІ. Створена спеціально для хмарного ШІ платформа SuperCluster компанії Supermicro усуває розрив між властивою хмарою зручністю миттєвого доступу та портативністю, використовуючи ПЗ NVIDIA AI Enterprise, що дозволяє безперешкодно переміщати проекти ШІ з пілотного середовища у виробниче середовище будь-якого масштабу. Це забезпечує гнучкість виконання будь-де з безпечно керованими даними, включаючи автономні системи або локальні великі центри обробки даних.
При тому що підприємства різних галузей швидко експериментують з варіантами застосування генеративного ШІ, Supermicro тісно співпрацює з NVIDIA для забезпечення плавності та гнучкості переходу від експериментів та пробного використання додатків ШІ до розгортання у виробничому середовищі та великомасштабному ШІ в центрі обробки даних. Цей результат досягається за рахунок оптимізації на рівні стійок та кластерів за допомогою програмної платформи NVIDIA AI Enterprise, що забезпечує плавний перехід від початкового дослідження до масштабованої реалізації ШІ.
Керовані служби вимагають компромісу при виборі інфраструктури, обміні даними та керуванні стратегією генеративного ШІ. Мікрослужби NVIDIA NIM, що входять до складу NVIDIA AI Enterprise, дозволяють використовувати керований генеративний ШІ та переваги розгортання моделей з відкритим вихідним кодом без недоліків. Універсальне середовище виконання аналізу цього ПЗ з мікросервісами прискорює розгортання генеративного ШІ на основі різних моделей, від моделей з відкритим вихідним кодом до базових моделей NVIDIA. Крім того, NVIDIA NeMo™ дозволяє розробляти користувацькі моделі з курируванням даних, розширеним налаштуванням і генерацією з розширеними можливостями пошуку (RAG) для корпоративних рішень. У поєднанні з системами SuperCluster від Supermicro, готовими для використання програмного забезпечення NVIDIA AI Enterprise, набір засобів NVIDIA NIM забезпечує найшвидший шлях до масштабованого, прискореного розгортання генеративного ШІ у виробничому середовищі.
В даний час компанія Supermicro пропонує такі системи SuperCluster для генеративного ШІ:
- Supermicro SuperCluster на основі NVIDIA HGX H100/H200 з рідинним охолодженням з 256 графічними процесорами H100/H200 у вигляді масштабованого обчислювального блоку з 5 стійок (включаючи 1 спеціальну мережеву стійку)
- Supermicro SuperCluster на основі NVIDIA HGX H100/H200 з повітряним охолодженням з 256 графічними процесорами HGX H100/H200 у вигляді обчислювального блоку, що масштабується, з 9 стійок (включаючи 1 спеціальну мережеву стійку)
- Supermicro SuperCluster на основі NVIDIA MGX GH200 з 256 системами GH200 Grace™ Hopper Superchip у вигляді масштабованого обчислювального блоку з 9 стійок (включаючи 1 спеціальну мережеву стійку)
Обчислювальні блоки Supermicro SuperCluster готові для використання з ПЗ NVIDIA AI Enterprise з мікрослужбами NIM NVIDIA та платформою NVIDIA NeMo для повного індивідуального налаштування генеративного ШІ та оптимізовані під NVIDIA Quantum-2 InfiniBand, а також нову платформу NVIDIA Spectrum-X Ether /з кожного графічного процесора, що дозволяє будувати великі кластери з десятками тисяч графічних процесорів шляхом горизонтального масштабування.
Компанія Supermicro незабаром представить такі системи SuperCluster:
- Supermicro SuperCluster на основі NVIDIA HGX B200, з рідинним охолодженням
- Supermicro SuperCluster на основі NVIDIA HGX B100/B200, з повітряним охолодженням
- Supermicro SuperCluster на основі NVIDIA GB200 NVL72 або NVL36, з рідинним охолодженням
Рішення Supermicro SuperCluster оптимізовано для навчання великих мовних моделей, глибокого навчання, а також аналізу великих обсягів та пакетів даних. Послуги компанії Supermicro з тестування рівнів L11 та L12 та розгортання на об’єкті замовника позбавляють будь-яких складнощів. Клієнти отримують готові до підключення модулі, що масштабуються, для простого розгортання в центрі обробки даних і більш швидкого отримання результатів.
Про компанію Super Micro Computer, Inc.
Supermicro (NASDAQ: SMCI) є світовим лідером у галузі комплексних IT-рішень, оптимізованих для додатків. Компанія Supermicro, заснована та здійснює свою діяльність у Сан-Хосе, Каліфорнія, прагне постачати першу на ринку інноваційну продукцію ІТ-інфраструктур корпоративного класу, хмарних обчислень, штучного інтелекту та 5G телекомунікацій/периферійних обчислень. Ми перетворюємося на постачальника комплексних IT-рішень, надаючи сервери, AI, сховища, IoT та комутаційні системи, програмне забезпечення та послуги з одночасним забезпеченням сучасних високооб’ємних материнських плат, електроживлення та шасі. Ці продукти розроблені та виготовлені власними силами (у США, Тайвані та Нідерландах), з використанням глобальних операцій для масштабування та ефективності, та оптимізовані для підвищення сукупної вартості володіння та зниження впливу на навколишнє середовище (Green Computing). Удостоєний нагород портфель рішень Server Building Block Solutions® дозволяє замовникам оптимізувати свої робочі навантаження та сфери застосування, вибираючи з широкої лінійки систем, побудованих з наших гнучких та багаторазових будівельних блоків, де підтримується повний набір форм-факторів, процесори, пам’ять, графічні процесори, система зберігання даних, мережеві рішення, системи живлення та охолодження (з кондиціонерами, природним повітряним охолодженням або рідким охолодженням).
Supermicro, Server Building Block Solutions та We Keep IT Green є товарними знаками та/або зареєстрованими товарними знаками Super Micro Computer, Inc.
Усі інші марки, найменування та товарні знаки належать відповідним власникам.