Нові системи з 8 графічними процесорами на базі прискорювачів AMD Instinct™ MI300X тепер доступні з революційною продуктивністю штучного інтелекту та високопродуктивних обчислень для великомасштабного навчання штучному інтелекту та розгортань LLM
Сан-Хосе, Каліфорнія – 6 грудня 2023 р. – Supermicro, Inc. (NASDAQ: SMCI), виробник комплексних ІТ-рішень для штучного інтелекту, хмарних обчислень, систем зберігання даних та 5G/Edge, оголошує про три нові доповнення до своєї продукції на базі процесорів AMD. Покоління графічних серверів H13, оптимізоване для забезпечення високої продуктивності та ефективності, базується на нових прискорювачах AMD Instinct серії MI300. Потужні стійкові рішення Supermicro із серверами з 8 графічними процесорами та конфігурацією AMD Instinct MI300X OAM ідеально підходять для навчання великих моделей.
Доступні нові сервери заввишки 2U з рідинним охолодженням і сервери заввишки 4U з повітряним охолодженням з прискорювачами AMD Instinct MI300A Accelerated Processing Units (APU), які підвищують ефективність центрів обробки даних і відповідають швидкозростаючим складним вимогам в області штучного. Нові системи містять чотири APU для додатків, що масштабуються. Supermicro може постачати повноцінні стійки з рідинним охолодженням для великомасштабних середовищ із продуктивністю до 1728 терафлопс FP64 на стійку. Виробничі потужності Supermicro по всьому світу оптимізують постачання цих нових серверів для конвергенції штучного інтелекту та високопродуктивних обчислень.
«Ми дуже раді розширити наші стійкові комплексні ІТ-рішення для навчання штучному інтелекту за допомогою прискорювачів AMD Instinct останнього покоління, які забезпечують підвищення продуктивності до 3,4 рази порівняно з попередніми поколіннями», — сказав Чарльз Лян, президент та генеральний директор Supermicro. «Завдяки нашій здатності постачати 4000 стійок з рідинним охолодженням на місяць з наших виробничих підприємств по всьому світу, ми можемо поставляти новітні графічні рішення H13 з прискорювачем AMD Instinct MI300X або AMD Instinct MI300A APU. Наша перевірена архітектура дозволяє створити мережу 400G 1:1, виділену для кожного графічного процесора, призначеного для великомасштабних кластерів штучного інтелекту та суперкомп’ютерів, здатних використовувати повністю інтегровані рішення для рідинного охолодження, що дає клієнтам конкурентну перевагу у продуктивності та чудовій ефективності при простоті».
Оптимізована для LLM система AS-8125GS-TNMR2 побудована на блоковій архітектурі Supermicro, перевіреної конструкції для високопродуктивних систем штучного інтелекту зі стійковими конструкціями з повітряним та рідинним охолодженням. Збалансована конструкція системи об’єднує графічний процесор з мережею 1:1, забезпечуючи великий пул пам’яті з високою пропускною здатністю між вузлами та стійками, що підходить для найбільших на сьогоднішній день мовних моделей з числом до трильйонів параметрів, максимізуючи паралельні обчислення та мінімізуючи час навчання та затримку. . Система висотою 8U з прискорювачем MI300X OAM забезпечує неймовірну потужність прискорення 8-GPU з AMD Infinity Fabric™ Links, забезпечуючи пікову теоретичну пропускну здатність вводу-виводу P2P до 896 ГБ/с на платформі відкритого стандарту з провідним в галузі обсягом 1. Пам’ять графічного процесора HBM3 в одній системі, а також вбудована підтримка розрідженої матриці, призначена для економії енергії, скорочення обчислювальних циклів та зменшення використання пам’яті робочих навантажень ІІ. Кожен сервер оснащений двопроцесорними процесорами AMD EPYC™ серії 9004 з числом ядер до 256. У масштабі стійки доступно понад 1000 ядер ЦП, 24 ТБ пам’яті DDR5, 6,144 ТБ пам’яті HBM3 та 9728 обчислювальних блоків для найскладніших середовищ штучного інтелекту. Використання модуля OCP Accelerator Module (OAM), з яким Supermicro має значний досвід у конфігураціях 8U, дозволяє вивести на ринок повністю налаштований сервер швидше, ніж індивідуальний проект, скорочуючи витрати та час доставки.
Supermicro також представляє оптимізований за щільністю сервер AS-2145GH-TNMR з рідинним охолодженням висотою 2U та сервер AS-4145GH-TNMR з повітряним охолодженням висотою 4U, кожен з яких оснащений чотирма прискорювачами AMD Instinct™ MI300. Нові сервери призначені для програм HPC і AI, що вимагають надзвичайно швидкого зв’язку між процесором та графічним процесором. APU усуває надмірні копії пам’яті, поєднуючи найпродуктивніші процесори AMD, графічні процесори та пам’ять HBM3 на одному чіпі. Кожен сервер містить провідні процесорні ядра x86 Zen4 для масштабування додатків. Крім того, кожен сервер містить 512 ГБ пам’яті HBM3. У повностоєчному рішенні (48U), що складається з 21 системи висотою 2U, доступно більше 10 ТБ пам’яті HBM3, а також 19152 обчислювальних блоків. Пропускна здатність пам’яті HBM3 для процесора становить 5,3 ТБ/с.
Обидві системи оснащені двома модулями AIOM з підтримкою 400G Ethernet та розширеними мережевими можливостями, призначеними для збільшення простору, масштабованості та ефективності високопродуктивних обчислень. Система рідинного охолодження висотою 2U з прямим підключенням до кристала забезпечує чудову сукупну вартість володіння та економію енергоспоживання більш ніж на 35% завдяки використанню 21 системної стійки висотою 2U, які виробляють 61 780 Вт на стійку порівняно зі стійкою з повітряним охолодженням5 а також зниження на 70%. у кількості вентиляторів у порівнянні з системою з повітряним охолодженням.
«Прискорювачі AMD Instinct серії MI300 забезпечують лідерську продуктивність як для давніх прискорених високопродуктивних обчислювальних додатків, так і для попиту, що швидко зростає, на генеративний штучний інтелект», — сказав Форрест Норрод, виконавчий віце-президент і генеральний менеджер бізнес-групи рішень для центрів обробки даних AMD . «Ми продовжуємо тісно співпрацювати з Supermicro, щоб вивести на ринок передові комплексні рішення для штучного інтелекту та високопродуктивних обчислень на основі прискорювачів серії MI300 та використовувати досвід Supermicro у проектуванні систем та центрів обробки даних».
Про компанію Super Micro Computer, Inc.
Supermicro (NASDAQ: SMCI) є світовим лідером у галузі комплексних IT-рішень, оптимізованих для додатків. Компанія Supermicro, заснована та здійснює свою діяльність у Сан-Хосе, Каліфорнія, прагне постачати першу на ринку інноваційну продукцію ІТ-інфраструктур корпоративного класу, хмарних обчислень, штучного інтелекту та 5G телекомунікацій/периферійних обчислень. Ми перетворюємося на постачальника комплексних IT-рішень, надаючи сервери, AI, сховища, IoT та комутаційні системи, програмне забезпечення та послуги з одночасним забезпеченням сучасних високооб’ємних материнських плат, електроживлення та шасі. Ці продукти розроблені та виготовлені власними силами (у США, Тайвані та Нідерландах), з використанням глобальних операцій для масштабування та ефективності, та оптимізовані для підвищення сукупної вартості володіння та зниження впливу на навколишнє середовище (Green Computing). Удостоєний нагород портфель рішень Server Building Block Solutions® дозволяє замовникам оптимізувати свої робочі навантаження та сфери застосування, вибираючи з широкої лінійки систем, побудованих з наших гнучких та багаторазових будівельних блоків, де підтримується повний набір форм-факторів, процесори, пам’ять, графічні процесори, система зберігання даних, мережеві рішення, системи живлення та охолодження (з кондиціонерами, природним повітряним охолодженням або рідким охолодженням).
Supermicro, Server Building Block Solutions та We Keep IT Green є товарними знаками та/або зареєстрованими товарними знаками Super Micro Computer, Inc.
Усі інші марки, найменування та товарні знаки належать відповідним власникам.