Проект DIGITS: прыжок NVIDIA в область персональных суперкомпьютеров с искусственным интеллектом

Когда вы владеете платформой, вы владеете опытом. Вот почему Apple так много инвестирует в iPhone. Вот к чему стремится NVIDIA с Проект ЦИФРЫ , представленный на выставке CES 2025.

Проект DIGITS демократизирует доступ к передовым вычислениям ИИ, представляя компактный и мощный персональный суперкомпьютер ИИ. Он разработан, чтобы позволить исследователям ИИ, ученым по данным, студентам и даже любителям разрабатывать, прототипировать и настраивать модели ИИ прямо со своих рабочих столов. Хотя раньше профессионалы могли настраивать модели локально, они часто были ограничены аппаратными ограничениями, высокими затратами или проблемами масштабируемости. Проект DIGITS устраняет эти барьеры, предоставляя вычислительную мощность в форм-факторе настольного компьютера.

Как сказал Дженсен Хуан, основатель и генеральный директор NVIDIA, говорится в пресс-релизе , «ИИ станет мейнстримом в каждом приложении для каждой отрасли. С проектом DIGITS суперчип Грейс Блэквелл станет доступен миллионам разработчиков. Размещение суперкомпьютера ИИ на столах каждого специалиста по данным, исследователя ИИ и студента дает им возможность участвовать и формировать эпоху ИИ».

Проект DIGITS также является предвестником того, как персональные компьютеры могут способствовать внедрению ИИ в повседневную жизнь потребителей таким образом, который, по всей видимости, недоступен устройствам виртуальной реальности — возможно, не сегодня, но раньше, чем мы думаем.

Как проект DIGITS меняет разработку искусственного интеллекта

Сегодня профессионалы могут разрабатывать модели ИИ, используя рабочие станции, оснащенные высокопроизводительными графическими процессорами, или обращаясь к облачным платформам, таким как AWS, Google Cloud или Azure. Но Project DIGITS сочетает масштабируемость облачных платформ с удобством локальных рабочих станций. Project DIGITS, сопоставимый по размеру с Mac Mini, позволяет пользователям выполнять высокопроизводительные задачи ИИ без необходимости в обширной инфраструктуре. Он предлагает огромную вычислительную мощность для таких задач, как среды моделирования или запуск больших языковых моделей. Единовременные инвестиции в размере 3000 долларов заменяют текущие расходы на облако, обеспечивая при этом мощные возможности ИИ.

Целевая аудитория и приложения

Проект DIGITS не предназначен для повседневного использования. Он направлен на:

• Разработчики и исследователи ИИ: предоставляет платформу для обучения и тестирования моделей ИИ без использования общих серверных ресурсов.
• Академические курсы: цена (от 3000 долларов США) делает курс доступным для учебных заведений и (состоятельных) индивидуальных учащихся.
• Предприятия и разработчики игр: он предлагает огромную вычислительную мощность для таких задач, как моделирование сред или запуск больших языковых моделей.

Вот несколько реальных примеров использования, демонстрирующих практическое применение:

Прототипирование и тонкая настройка больших языковых моделей

Стартап, разрабатывающий специализированного чат-бота для юридической помощи, может использовать Project DIGITS для обучения и тонкой настройки большой языковой модели (LLM) с 200 миллиардами параметров. Команда может создать прототип модели локально, проверить ее на точность ответов на сложные юридические запросы, а затем развернуть ее в облачной инфраструктуре для масштабирования. Это устраняет необходимость в дорогостоящих облачных ресурсах на этапе разработки, ускоряя инновации и сокращая расходы.

Роботизированные и автономные системы

Компания по робототехнике, проектирующая системы автоматизации склада, может использовать DIGITS для моделирования и оптимизации поведения парков роботов. Запуская физические модели ИИ локально, они могут тестировать алгоритмы навигации, распознавания объектов и координации задач в реальном времени. Более быстрые циклы итераций позволяют компании повысить эффективность и сократить количество ошибок перед развертыванием роботов в реальных условиях.

Медицинские исследования и геномика

Медицинский исследователь, работающий над персонализированными методами лечения рака, может использовать DIGITS для анализа геномных данных и обучения моделей ИИ, которые предсказывают, как пациенты будут реагировать на определенные методы лечения. Система обрабатывает огромные наборы данных локально, что позволяет проводить быстрые эксперименты. Это ускоряет прорывы в персонализированной медицине, сохраняя конфиденциальные данные в безопасности локально.

Разработка игр с использованием генеративного ИИ

Игровая студия могла бы использовать DIGITS для создания реалистичных неигровых персонажей (NPC) с генеративными моделями ИИ. Система могла бы обучать модели, способные генерировать динамические диалоги и реалистичные анимации на основе взаимодействия с игроком. Разработчики могли бы быстро переходить к дизайну и поведению персонажей, не полагаясь на внешние вычислительные ресурсы, что повышало бы креативность и эффективность.

Академические исследования и образование

Университетская лаборатория ИИ могла бы спроектировать DIGITS, чтобы научить студентов создавать и развертывать передовые модели машинного обучения. Студенты могли бы экспериментировать с такими фреймворками, как PyTorch или TensorFlow, непосредственно в системе, получая практический опыт работы с технологией ИИ. Доступный доступ к высокопроизводительным вычислениям демократизирует образование в области ИИ, готовя следующее поколение новаторов.

Мониторинг окружающей среды

Ученые-экологи могли бы использовать DIGITS для анализа спутниковых снимков и обучения моделей ИИ для обнаружения вырубки лесов или отслеживания популяций диких животных. Система могла бы обрабатывать данные изображений локально, позволяя полевым исследователям работать в отдаленных районах без подключения к Интернету. Информация в реальном времени помогает усилиям по охране природы, быстрее и точнее определяя угрозы.

Основные характеристики и возможности

Если углубиться в ключевые функции и возможности Project DIGIT, то можно понять, как NVIDIA хочет завладеть этим опытом посредством платформы — и не просто платформы, а такой, которая будет достаточно мощной, чтобы вырвать контроль над разработкой ИИ у серверов.

В основе Project DIGITS лежит чип NVIDIA GB10 Grace Blackwell Superchip, который объединяет 20-ядерный центральный процессор Grace с графическим процессором Blackwell. Эта архитектура обеспечивает до 1 петафлоп вычислительной производительности ИИ с точностью FP4, что позволяет обрабатывать крупномасштабные модели ИИ с 200 миллиардами параметров. Когда два блока связаны вместе, они могут поддерживать модели с 405 миллиардами параметров.

Каждое устройство включает 128 ГБ унифицированной памяти и до 4 ТБ флэш-памяти NVMe, что обеспечивает бесперебойную обработку сложных вычислений и больших наборов данных.

Система работает под управлением ОС DGX на базе Linux от NVIDIA и поставляется с предустановленным полным программным стеком NVIDIA AI Enterprise. Он включает библиотеки, фреймворки и инструменты оркестровки для бесшовной интеграции с инфраструктурами облачных вычислений или центров обработки данных. Пользователи могут создавать прототипы локально и масштабировать свои решения по мере необходимости.

Может ли проект DIGITS стать широко распространенным?

Проект DIGITS не ориентирован на обычных потребителей. Его возможности, такие как управление моделями с 200 миллиардами параметров, избыточны для повседневных или каждодневных задач, таких как просмотр веб-страниц или базовая производительность. Это еще не прямой признак того, что такая технология скоро станет доступна обычным потребителям. Однако это шаг в этом направлении, поскольку ИИ продолжает проникать во все большее количество аспектов повседневной жизни. Вот почему:

Технологическая траектория

Исторически высокопроизводительные технологии, такие как GPS, когда-то зарезервированные для специализированных случаев использования, просочились в потребительские продукты. Аналогичным образом, уменьшенные или упрощенные версии Project DIGITS могли бы сделать передовые вычисления ИИ доступными для повседневных задач по мере роста спроса на потребительские устройства с поддержкой ИИ.

Эволюция периферийных вычислений

По мере того, как ИИ все больше интегрируется в потребительские устройства, такие как умные помощники, автономные транспортные средства и персонализированные развлекательные системы, спрос на мощные локальные периферийные вычисления будет расти. Такие устройства, как Project DIGITS, демонстрируют возможность переноса высокопроизводительных возможностей ИИ в меньшие, доступные форматы.

Потенциальные варианты использования для потребителей

Особенно с развитием экономики создателей и общей децентрализацией труда более распространенные варианты использования в повседневной жизни не кажутся чем-то нереальным.

Например, любительский кинорежиссер может использовать DIGITS для обработки высококачественных видеоэффектов и анимаций с использованием генеративного ИИ. Такие задачи, как омоложение актеров, создание виртуальных фонов или редактирование отснятого материала в реальном времени, могут стать возможными без использования облачных сервисов, что значительно сократит расходы и обеспечит большую творческую свободу.

Любитель фитнеса может использовать DIGITS для персонализации своего пути к здоровью и благополучию. Анализируя биометрические данные с носимых устройств, ИИ может генерировать индивидуальные программы тренировок, прогнозировать риски травм и предлагать планы питания — все это обрабатывается локально для скорости и безопасности данных.

Начинающий гейм-дизайнер может создавать персонализированные игровые возможности для друзей и семьи. Используя DIGITS, они могут обучать модели ИИ генерировать уникальные сюжетные линии, реалистичное поведение персонажей или динамичные игровые среды, которые адаптируются к предпочтениям игроков, и все это будет работать гладко с настольной системы.

Предприниматели могли бы использовать возможности этих систем для разработки инструментов на основе ИИ. Например, владелец малого бизнеса мог бы обучить и протестировать чат-бота для обслуживания клиентов на своем рабочем столе, убедившись в его работоспособности, прежде чем масштабировать его для более широкого развертывания. Такой подход снизил бы зависимость от внешних ресурсов и ускорил бы инновации.

Итог: NVIDIA дает нам возможность заглянуть в будущее. Потенциально, когда потребители перейдут на более продвинутые варианты использования ИИ, NVIDIA будет там.