Дев’ять суперкомп’ютерів запропонували поєднати в єдину мережу

Компанії Cerebras Systems та G42 представили масштабний проект під назвою Condor Galaxy. За словами їхніх представників, він здійснить революцію у галузі навчання штучного інтелекту.

У рамках проекту буде об’єднано дев’ять суперкомп’ютерів, що дасть сумарну продуктивність 36 ExaFLOPs. Першим суперкомп’ютером, який, мабуть, став дебютом програми, стала модель Condor Galaxy 1 (CG-1) з продуктивністю 4 ExaFLOPs у задачах FP16. Він розташований у Каліфорнії (США) та розрахований на об’ємні мовні ШІ-моделі. Комп’ютер об’єднує 64 системи Cerebras CS-2, що базуються на 2,6-трильйонних транзисторних процесорах другого покоління. Вже зараз Condor Galaxy 1 здатний працювати з 600 млрд. параметрів для навчання нейронних мереж, але цей показник може бути збільшений до 100 трлн параметрів. Завдяки орієнтації на великі мовні моделі та генеративний ШІ відпадає необхідність у складних мовах розподіленого програмування, що робить навчання ШІ простіше.

Наступного року до запуску повинні будуть підготовлені ще два суперкомп’ютери: CG-2 та CG-3. Шість, що залишилися, введуть в експлуатацію пізніше. Вони будуть розташовані у різних країнах по всьому світу.

Генеральний директор Cerebras Systems Ендрю Фельдман (Andrew Feldman) заявив, що за допомогою їхнього проекту на навчання ШІ-моделей йдуть не місяці, а хвилини.