Project DIGITS: NVIDIA의 개인 AI 슈퍼컴퓨팅으로의 도약

플랫폼을 소유하면 경험도 소유하게 됩니다. 그래서 Apple이 iPhone에 많은 투자를 하는 것입니다. NVIDIA가 목표로 하는 것도 바로 그것입니다. 프로젝트 DIGITS CES 2025에서 공개될 예정이다.

Project DIGITS는 소형이고 강력한 개인용 AI 슈퍼컴퓨터를 도입하여 고급 AI 컴퓨팅에 대한 액세스를 민주화합니다. AI 연구자, 데이터 과학자, 학생, 심지어 취미인조차도 책상에서 직접 AI 모델을 개발, 프로토타입화, 미세 조정할 수 있도록 설계되었습니다. 전문가는 이전에 모델을 로컬에서 미세 조정할 수 있었지만 종종 하드웨어 제한, 높은 비용 또는 확장성 문제로 제약을 받았습니다. Project DIGITS는 데스크톱 폼 팩터에서 컴퓨팅 성능을 제공함으로써 이러한 장벽을 제거합니다.

NVIDIA의 설립자이자 CEO인 Jensen Huang은 다음과 같이 말했습니다. 보도자료에서 말했다 , “AI는 모든 산업의 모든 애플리케이션에서 주류가 될 것입니다. Project DIGITS를 통해 Grace Blackwell Superchip이 수백만 명의 개발자에게 제공됩니다. 모든 데이터 과학자, AI 연구자 및 학생의 책상에 AI 슈퍼컴퓨터를 놓으면 그들이 참여하고 AI 시대를 형성할 수 있는 힘을 얻게 됩니다.”

DIGITS 프로젝트는 개인용 컴퓨팅이 VR 기기로는 불가능할 방식으로 소비자의 일상 생활에 AI를 도입하는 데 어떻게 기여할 수 있는지 보여주는 선구자이기도 합니다. 아마도 지금은 불가능하더라도 우리가 아는 것보다 빨리 이루어질 것입니다.

Project DIGITS가 AI 개발을 어떻게 변화시키는가

오늘날 전문가들은 고성능 GPU가 장착된 워크스테이션을 사용하거나 AWS, Google Cloud 또는 Azure와 같은 클라우드 기반 플랫폼에 액세스하여 AI 모델을 개발할 수 있습니다. 그러나 Project DIGITS는 클라우드 플랫폼의 확장성과 로컬 워크스테이션의 편의성을 결합합니다. Mac Mini와 비슷한 크기의 Project DIGITS를 사용하면 광범위한 인프라 없이도 고성능 AI 작업을 실행할 수 있습니다. 시뮬레이션 환경이나 대규모 언어 모델 실행과 같은 작업에 엄청난 처리 능력을 제공합니다. 일회성 3,000달러 투자로 지속적인 클라우드 비용을 대체하는 동시에 강력한 AI 기능을 제공합니다.

대상 청중 및 응용 프로그램

Project DIGITS는 일상적인 사용을 목적으로 하지 않습니다. 다음을 목표로 합니다.

• AI 개발자 및 연구자: 공유 서버 리소스에 의존하지 않고 AI 모델을 훈련하고 테스트할 수 있는 플랫폼을 제공합니다.
• 학술: 가격(3,000달러부터 시작)이 저렴하므로 학술 기관과 (부유한) 개인 학습자가 이용할 수 있습니다.
• 기업과 게임 개발자: 시뮬레이션 환경이나 대규모 언어 모델 실행과 같은 작업에 엄청난 처리 능력을 제공합니다.

다음은 그 실용적인 적용 사례를 보여주는 몇 가지 실제 사용 사례입니다.

대규모 언어 모델 프로토타입 제작 및 미세 조정

법률 지원을 위한 전문 챗봇을 개발하는 스타트업은 Project DIGITS를 사용하여 2,000억 개의 매개변수가 있는 대규모 언어 모델(LLM)을 훈련하고 미세 조정할 수 있습니다. 팀은 로컬에서 모델을 프로토타입화하고 복잡한 법률 질문에 대한 답변의 정확성을 테스트한 다음 확장을 위해 클라우드 인프라에 배포할 수 있습니다. 이를 통해 개발 단계에서 비용이 많이 드는 클라우드 리소스가 필요 없어지고 혁신이 가속화되고 비용은 줄어듭니다.

로봇 및 자율 시스템

창고 자동화 시스템을 설계하는 로봇 회사는 DIGITS를 사용하여 로봇 함대의 동작을 시뮬레이션하고 최적화할 수 있습니다. 물리적 AI 모델을 로컬에서 실행하여 실시간으로 내비게이션 알고리즘, 객체 인식 및 작업 조정을 테스트할 수 있습니다. 더 빠른 반복 주기를 통해 회사는 라이브 환경에 로봇을 배치하기 전에 효율성을 개선하고 오류를 줄일 수 있습니다.

의학 연구 및 유전체학

개인화된 암 치료를 연구하는 의료 연구자는 DIGITS를 사용하여 게놈 데이터를 분석하고 환자가 특정 치료에 어떻게 반응할지 예측하는 AI 모델을 훈련할 수 있습니다. 이 시스템은 방대한 데이터 세트를 로컬에서 처리하여 신속한 실험을 가능하게 합니다. 이를 통해 개인화된 의학의 획기적인 진전을 가속화하는 동시에 민감한 데이터를 사내에서 안전하게 보호합니다.

생성 AI를 활용한 게임 개발

게임 스튜디오는 DIGITS를 사용하여 생성 AI 모델을 사용하여 현실적인 비플레이어 캐릭터(NPC)를 만들 수 있습니다. 이 시스템은 플레이어 상호 작용을 기반으로 동적 대화와 생생한 애니메이션을 생성할 수 있는 모델을 훈련할 수 있습니다. 개발자는 외부 컴퓨팅 리소스에 의존하지 않고도 캐릭터 디자인과 행동을 빠르게 반복하여 창의성과 효율성을 향상시킬 수 있습니다.

학술 연구 및 교육

대학 AI 연구실은 학생들에게 고급 머신 러닝 모델을 구축하고 배포하는 방법을 가르치기 위해 DIGITS를 프로젝트할 수 있습니다. 학생들은 PyTorch나 TensorFlow와 같은 프레임워크를 시스템에서 직접 실험하여 AI 기술에 대한 실무 경험을 얻을 수 있습니다. 고성능 컴퓨팅에 대한 저렴한 접근성은 AI 교육을 민주화하여 차세대 혁신가를 준비시킵니다.

환경 모니터링

환경 과학자들은 DIGITS를 사용하여 위성 이미지를 분석하고 삼림 벌채를 탐지하거나 야생 동물 개체군을 추적하기 위한 AI 모델을 훈련할 수 있습니다. 이 시스템은 이미지 데이터를 로컬로 처리하여 현장 연구자들이 인터넷 연결 없이 외딴 지역에서 작업할 수 있도록 합니다. 실시간 통찰력은 위협을 더 빠르고 정확하게 식별하여 보존 노력에 도움이 됩니다.

주요 특징 및 역량

Project DIGIT의 주요 특징과 역량을 자세히 살펴보면 NVIDIA가 어떤 플랫폼을 통해 경험을 독점하고자 하는지 알 수 있습니다. 그저 어떤 플랫폼이든, 서버에서 AI 개발의 통제권을 빼앗을 수 있을 만큼 강력한 플랫폼 말입니다.

Project DIGITS의 핵심은 NVIDIA의 GB10 Grace Blackwell Superchip으로, 20코어 Grace CPU와 Blackwell GPU를 결합한 것입니다. 이 아키텍처는 FP4 정밀도에서 최대 1페타플롭의 AI 컴퓨팅 성능을 제공하여 최대 2,000억 개의 매개변수가 있는 대규모 AI 모델을 처리할 수 있습니다. 두 개의 유닛을 연결하면 최대 4,050억 개의 매개변수가 있는 모델을 지원할 수 있습니다.

각 장치에는 128GB의 통합 메모리와 최대 4TB의 NVMe 플래시 스토리지가 포함되어 있어 복잡한 계산과 대규모 데이터 세트를 원활하게 처리할 수 있습니다.

이 시스템은 NVIDIA의 Linux 기반 DGX OS를 실행하고 전체 NVIDIA AI Enterprise 소프트웨어 스택이 사전 로드되어 제공됩니다. 여기에는 클라우드 또는 데이터 센터 인프라와 원활하게 통합하기 위한 라이브러리, 프레임워크 및 오케스트레이션 도구가 포함됩니다. 사용자는 로컬에서 프로토타입을 만들고 필요에 따라 솔루션을 확장할 수 있습니다.

DIGITS 프로젝트가 널리 퍼질 수 있을까?

Project DIGITS는 일반 소비자를 대상으로 하지 않습니다. 최대 2,000억 개의 매개변수로 모델을 관리하는 것과 같은 기능은 웹 브라우징이나 기본 생산성과 같은 일상적 또는 일상적인 작업에 과도합니다. 이러한 기술이 곧 일상 소비자에게 제공될 것이라는 직접적인 징후는 아직 없습니다. 그러나 AI가 일상 생활의 더 많은 측면에 계속 스며들면서 그 방향으로 나아가는 한 걸음을 나타냅니다. 그 이유는 다음과 같습니다.

기술적 궤적

역사적으로 GPS와 같은 고성능 기술은 한때 특수 사용 사례에만 국한되었지만, 이제는 소비자 제품에까지 확대되었습니다. 마찬가지로 Project DIGITS의 축소 또는 단순화된 버전은 AI 지원 소비자 기기에 대한 수요가 증가함에 따라 고급 AI 컴퓨팅을 일상 업무에 사용할 수 있게 만들 수 있습니다.

엣지 컴퓨팅의 진화

AI가 스마트 어시스턴트, 자율주행차, 개인화된 엔터테인먼트 시스템과 같은 소비자 기기에 더욱 통합됨에 따라 강력한 로컬 엣지 컴퓨팅에 대한 수요가 증가할 것입니다. Project DIGITS와 같은 기기는 고성능 AI 기능을 더 작고 접근 가능한 형식으로 가져올 수 있는 가능성을 보여줍니다.

소비자를 위한 잠재적 사용 사례

특히 크리에이터 경제의 부상과 업무의 전반적인 분산화로 인해 일상생활에서의 보다 보편적인 사용 사례가 그리 먼 일이 아닙니다.

예를 들어, 아마추어 영화 제작자는 DIGITS를 사용하여 생성 AI를 사용하여 고품질 비디오 효과와 애니메이션을 처리할 수 있습니다. 배우의 나이를 젊게 하거나, 가상 배경을 만들거나, 실시간으로 영상을 편집하는 등의 작업이 클라우드 서비스에 의존하지 않고도 가능해져 비용을 대폭 절감하고 더 큰 창의적 자유를 누릴 수 있습니다.

피트니스 애호가는 DIGITS를 활용하여 건강과 웰빙 여정을 개인화할 수 있습니다. 웨어러블 기기의 생체 인식 데이터를 분석하여 AI는 맞춤형 운동 루틴을 생성하고 부상 위험을 예측하며 영양 계획을 제안할 수 있습니다. 이 모든 것은 속도와 데이터 보안을 위해 로컬에서 처리됩니다.

야심찬 게임 디자이너는 친구와 가족을 위해 개인화된 게임 경험을 만들 수 있습니다. DIGITS를 사용하면 AI 모델을 훈련하여 고유한 스토리라인, 생생한 캐릭터 행동 또는 플레이어의 선호도에 맞춰 조정되는 역동적인 게임 환경을 생성할 수 있으며, 이 모든 것이 데스크톱 시스템에서 원활하게 실행됩니다.

기업가는 이러한 시스템의 힘을 활용하여 AI 기반 도구를 개발할 수 있습니다. 예를 들어, 소규모 사업주는 데스크톱에서 고객 서비스 챗봇을 훈련하고 테스트하여 더 광범위한 배포를 위해 확장하기 전에 작동하는지 확인할 수 있습니다. 이러한 접근 방식은 혁신을 가속화하는 동시에 외부 리소스에 대한 의존도를 줄일 수 있습니다.

결론: NVIDIA는 우리에게 미래를 엿보게 해줍니다. 잠재적으로 소비자들이 AI의 더 진보된 사용으로 전환할 때 NVIDIA가 거기에 있을 것입니다.