Dự án DIGITS: Bước tiến của NVIDIA vào Siêu máy tính AI cá nhân

Khi bạn sở hữu nền tảng, bạn sở hữu trải nghiệm. Đó là lý do tại sao Apple đầu tư rất nhiều vào iPhone. Đó là mục tiêu mà NVIDIA hướng tới với Dự án DIGITS , được ra mắt tại CES 2025.

Dự án DIGITS dân chủ hóa quyền truy cập vào điện toán AI tiên tiến bằng cách giới thiệu một siêu máy tính AI cá nhân nhỏ gọn và mạnh mẽ. Nó được thiết kế để giúp các nhà nghiên cứu AI, nhà khoa học dữ liệu, sinh viên và thậm chí cả những người đam mê có thể phát triển, tạo mẫu và tinh chỉnh các mô hình AI trực tiếp từ bàn làm việc của họ. Mặc dù các chuyên gia có thể tinh chỉnh các mô hình cục bộ trước đây, nhưng họ thường bị hạn chế bởi các hạn chế về phần cứng, chi phí cao hoặc các vấn đề về khả năng mở rộng. Dự án DIGITS loại bỏ những rào cản này bằng cách cung cấp sức mạnh tính toán ở dạng máy tính để bàn.

Với tư cách là Jensen Huang, người sáng lập và giám đốc điều hành của NVIDIA, nói trong một thông cáo báo chí , “AI sẽ trở thành xu hướng chủ đạo trong mọi ứng dụng cho mọi ngành. Với Dự án DIGITS, Siêu chip Grace Blackwell sẽ đến với hàng triệu nhà phát triển. Đặt một siêu máy tính AI trên bàn làm việc của mọi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên sẽ giúp họ tham gia và định hình kỷ nguyên AI.”

Dự án DIGITS cũng là tiền đề cho việc máy tính cá nhân có thể thúc đẩy việc áp dụng AI vào cuộc sống hàng ngày của người tiêu dùng theo cách mà các thiết bị VR dường như không thể làm được - có lẽ không phải hôm nay, nhưng sẽ sớm hơn chúng ta nghĩ.

Dự án DIGITS thay đổi sự phát triển của AI như thế nào

Ngày nay, các chuyên gia có thể phát triển các mô hình AI bằng cách sử dụng các máy trạm được trang bị GPU hiệu suất cao hoặc bằng cách truy cập các nền tảng đám mây như AWS, Google Cloud hoặc Azure. Nhưng Project DIGITS kết hợp khả năng mở rộng của các nền tảng đám mây với sự tiện lợi của các máy trạm cục bộ. Project DIGITS, có kích thước tương đương với Mac Mini, cho phép người dùng chạy các tác vụ AI hiệu suất cao mà không cần cơ sở hạ tầng mở rộng. Nó cung cấp sức mạnh xử lý to lớn cho các tác vụ như môi trường mô phỏng hoặc chạy các mô hình ngôn ngữ lớn. Khoản đầu tư một lần 3.000 đô la thay thế các chi phí đám mây đang diễn ra trong khi vẫn cung cấp các khả năng AI mạnh mẽ.

Đối tượng mục tiêu và ứng dụng

Dự án DIGITS không dành cho mục đích sử dụng hàng ngày. Nó hướng đến:

• Các nhà phát triển và nghiên cứu AI: cung cấp nền tảng để đào tạo và thử nghiệm các mô hình AI mà không cần dựa vào tài nguyên máy chủ dùng chung.
• Học thuật: mức giá (bắt đầu từ 3.000 đô la) phù hợp với các tổ chức học thuật và người học (giàu có).
• Các doanh nghiệp và nhà phát triển trò chơi: cung cấp sức mạnh xử lý to lớn cho các tác vụ như môi trường mô phỏng hoặc chạy các mô hình ngôn ngữ lớn.

Sau đây là một số trường hợp sử dụng thực tế chứng minh ứng dụng thiết thực của nó:

Tạo mẫu và tinh chỉnh các mô hình ngôn ngữ lớn

Một công ty khởi nghiệp phát triển chatbot chuyên biệt cho hỗ trợ pháp lý có thể sử dụng Dự án DIGITS để đào tạo và tinh chỉnh một mô hình ngôn ngữ lớn (LLM) với 200 tỷ tham số. Nhóm có thể tạo nguyên mẫu mô hình tại địa phương, kiểm tra độ chính xác khi trả lời các truy vấn pháp lý phức tạp, sau đó triển khai mô hình lên cơ sở hạ tầng đám mây để mở rộng quy mô. Điều này loại bỏ nhu cầu về tài nguyên đám mây tốn kém trong giai đoạn phát triển, đẩy nhanh quá trình đổi mới đồng thời giảm chi phí.

Hệ thống Robot và Tự động

Một công ty robot thiết kế hệ thống tự động hóa kho có thể sử dụng DIGITS để mô phỏng và tối ưu hóa hành vi của đội robot. Bằng cách chạy các mô hình AI vật lý cục bộ, họ có thể kiểm tra các thuật toán điều hướng, nhận dạng đối tượng và phối hợp nhiệm vụ theo thời gian thực. Các chu kỳ lặp lại nhanh hơn cho phép công ty cải thiện hiệu quả và giảm lỗi trước khi triển khai robot trong môi trường thực tế.

Nghiên cứu Y khoa và Di truyền học

Một nhà nghiên cứu y khoa đang nghiên cứu về các phương pháp điều trị ung thư được cá nhân hóa có thể sử dụng DIGITS để phân tích dữ liệu bộ gen và đào tạo các mô hình AI dự đoán cách bệnh nhân sẽ phản ứng với các liệu pháp cụ thể. Hệ thống xử lý các tập dữ liệu lớn tại địa phương, cho phép thử nghiệm nhanh chóng. Điều này thúc đẩy các đột phá trong y học được cá nhân hóa trong khi vẫn giữ an toàn cho dữ liệu nhạy cảm tại chỗ.

Phát triển trò chơi với AI tạo sinh

Một studio trò chơi có thể sử dụng DIGITS để tạo ra các nhân vật không phải người chơi (NPC) thực tế với các mô hình AI tổng hợp. Hệ thống có thể đào tạo các mô hình có khả năng tạo ra các cuộc đối thoại động và hoạt ảnh giống như thật dựa trên tương tác của người chơi. Các nhà phát triển có thể nhanh chóng lặp lại các thiết kế và hành vi của nhân vật mà không cần dựa vào các tài nguyên tính toán bên ngoài, nâng cao khả năng sáng tạo và hiệu quả.

Nghiên cứu và Giáo dục Học thuật

Một phòng thí nghiệm AI của trường đại học có thể Project DIGITS để dạy sinh viên cách xây dựng và triển khai các mô hình học máy tiên tiến. Sinh viên có thể thử nghiệm các khuôn khổ như PyTorch hoặc TensorFlow trực tiếp trên hệ thống, tích lũy kinh nghiệm thực tế với công nghệ AI. Việc tiếp cận giá cả phải chăng với điện toán hiệu suất cao sẽ dân chủ hóa giáo dục AI, chuẩn bị cho thế hệ nhà đổi mới tiếp theo.

Giám sát môi trường

Các nhà khoa học môi trường có thể sử dụng DIGITS để phân tích hình ảnh vệ tinh và đào tạo các mô hình AI để phát hiện nạn phá rừng hoặc theo dõi quần thể động vật hoang dã. Hệ thống có thể xử lý dữ liệu hình ảnh tại địa phương, cho phép các nhà nghiên cứu thực địa làm việc ở những vùng xa xôi không có kết nối internet. Thông tin chi tiết theo thời gian thực giúp các nỗ lực bảo tồn bằng cách xác định các mối đe dọa nhanh hơn và chính xác hơn.

Các tính năng và khả năng chính

Khi bạn tìm hiểu sâu hơn về các tính năng và khả năng chính của Project DIGIT, bạn có thể đánh giá cao cách NVIDIA muốn sở hữu trải nghiệm thông qua một nền tảng – và không phải bất kỳ nền tảng nào, mà là nền tảng đủ mạnh để giành quyền kiểm soát quá trình phát triển AI từ máy chủ.

Trọng tâm của Dự án DIGITS là GB10 Grace Blackwell Superchip của NVIDIA, kết hợp CPU Grace 20 lõi với GPU Blackwell. Kiến trúc này cung cấp hiệu suất tính toán AI lên đến 1 petaflop ở độ chính xác FP4, giúp nó có khả năng xử lý các mô hình AI quy mô lớn với tối đa 200 tỷ tham số. Khi hai đơn vị được liên kết với nhau, chúng có thể hỗ trợ các mô hình với tối đa 405 tỷ tham số.

Mỗi thiết bị bao gồm bộ nhớ hợp nhất 128 GB và bộ nhớ flash NVMe lên đến 4 TB, đảm bảo xử lý trơn tru các phép tính phức tạp và tập dữ liệu lớn.

Hệ thống chạy hệ điều hành DGX OS dựa trên Linux của NVIDIA và được cài đặt sẵn bộ phần mềm NVIDIA AI Enterprise đầy đủ. Bộ này bao gồm các thư viện, khung và công cụ phối hợp để tích hợp liền mạch với cơ sở hạ tầng đám mây hoặc trung tâm dữ liệu. Người dùng có thể tạo nguyên mẫu cục bộ và mở rộng quy mô giải pháp của mình khi cần.

Dự án DIGITS có thể trở nên phổ biến không?

Dự án DIGITS không hướng đến người tiêu dùng nói chung. Các khả năng của nó, chẳng hạn như quản lý các mô hình với tối đa 200 tỷ tham số, là quá mức cần thiết cho các tác vụ thông thường hoặc hàng ngày như duyệt web hoặc năng suất cơ bản. Hiện tại, đây chưa phải là dấu hiệu trực tiếp cho thấy công nghệ như vậy sẽ sớm có sẵn cho người tiêu dùng hàng ngày. Tuy nhiên, nó đại diện cho một bước tiến theo hướng đó khi AI tiếp tục thâm nhập vào nhiều khía cạnh hơn của cuộc sống hàng ngày. Đây là lý do tại sao:

Quỹ đạo công nghệ

Theo truyền thống, các công nghệ hiệu suất cao như GPS, trước đây chỉ dành cho các trường hợp sử dụng chuyên biệt, đã dần lan sang các sản phẩm tiêu dùng. Tương tự như vậy, các phiên bản thu nhỏ hoặc đơn giản hóa của Dự án DIGITS có thể giúp điện toán AI tiên tiến có thể tiếp cận được với các tác vụ hàng ngày khi nhu cầu về các thiết bị tiêu dùng hỗ trợ AI ngày càng tăng.

Sự phát triển của điện toán biên

Khi AI ngày càng được tích hợp nhiều hơn vào các thiết bị tiêu dùng, chẳng hạn như trợ lý thông minh, xe tự hành và hệ thống giải trí cá nhân, nhu cầu về điện toán biên cục bộ mạnh mẽ sẽ tăng lên. Các thiết bị như Project DIGITS chứng minh tính khả thi của việc đưa các khả năng AI hiệu suất cao vào các định dạng nhỏ hơn, dễ tiếp cận hơn.

Các trường hợp sử dụng tiềm năng cho người tiêu dùng

Đặc biệt với sự phát triển của nền kinh tế sáng tạo và sự phân cấp công việc nói chung, những trường hợp sử dụng phổ biến hơn trong cuộc sống hàng ngày không còn là điều xa vời.

Ví dụ, một nhà làm phim nghiệp dư có thể sử dụng DIGITS để xử lý hiệu ứng video và hoạt hình chất lượng cao bằng AI tạo hình. Các tác vụ như trẻ hóa diễn viên, tạo phông nền ảo hoặc chỉnh sửa cảnh quay theo thời gian thực có thể thực hiện được mà không cần dựa vào dịch vụ đám mây, giúp giảm đáng kể chi phí và cho phép tự do sáng tạo hơn.

Người đam mê thể dục có thể tận dụng DIGITS để cá nhân hóa hành trình sức khỏe và thể chất của họ. Bằng cách phân tích dữ liệu sinh trắc học từ thiết bị đeo, AI có thể tạo ra các thói quen tập luyện phù hợp, dự đoán nguy cơ chấn thương và đề xuất các kế hoạch dinh dưỡng — tất cả đều được xử lý cục bộ để tăng tốc độ và bảo mật dữ liệu.

Một nhà thiết kế trò chơi đầy tham vọng có thể tạo ra trải nghiệm chơi game được cá nhân hóa cho bạn bè và gia đình. Sử dụng DIGITS, họ có thể đào tạo các mô hình AI để tạo ra cốt truyện độc đáo, hành vi nhân vật giống như thật hoặc môi trường trò chơi năng động thích ứng với sở thích của người chơi, tất cả đều chạy trơn tru từ hệ thống máy tính để bàn.

Các doanh nhân có thể khai thác sức mạnh của các hệ thống này để phát triển các công cụ do AI điều khiển. Ví dụ, một chủ doanh nghiệp nhỏ có thể đào tạo và thử nghiệm một chatbot dịch vụ khách hàng trên máy tính để bàn của họ, đảm bảo nó hoạt động trước khi mở rộng quy mô để triển khai rộng rãi hơn. Cách tiếp cận này sẽ giảm sự phụ thuộc vào các nguồn lực bên ngoài trong khi thúc đẩy đổi mới.

Tóm lại: NVIDIA đang cho chúng ta thấy trước tương lai. Có khả năng, khi người tiêu dùng chuyển sang sử dụng AI tiên tiến hơn, NVIDIA sẽ có mặt.