Η Nvidia ανακοινώνει το Digits, έναν προσωπικό AI υπερυπολογιστή αξίας 3.000$

Στην παρουσίασή της στο CES, η Nvidia ανακοίνωσε το Project Digits, έναν προσωπικό AI υπερυπολογιστή που θα κυκλοφορήσει τον Μάιο και θα κοστίζει από $3.000.

Η καρδιά του Project Digits είναι το νέο GB10 Grace Blackwell Superchip, το οποίο διαθέτει τεράστια επεξεργαστική ισχύ, ικανή να τρέξει AI μοντέλα με έως και 200 δισεκατομμύρια παραμέτρους. Το εντυπωσιακό είναι ότι ο υπολογιστής έχει μέγεθος desktop, λειτουργεί από κανονική πρίζα και αντικαθιστά μεγαλύτερα, ενεργοβόρα συστήματα που απαιτούνταν μέχρι σήμερα για τέτοια AI υπολογιστικά φορτία.

«Η AI θα γίνει βασικό στοιχείο κάθε εφαρμογής και κάθε βιομηχανίας. Με το Project Digits, το Grace Blackwell Superchip φέρνει αυτή τη δύναμη σε εκατομμύρια developers», δήλωσε ο CEO της Nvidia, Jensen Huang. «Βάζοντας έναν AI υπερυπολογιστή στο γραφείο κάθε data scientist, AI ερευνητή και φοιτητή, τους δίνουμε τη δυνατότητα να διαμορφώσουν την εποχή της AI.»

Το Project Digits διαθέτει 128GB ενοποιημένης μνήμης, συγκριτικά με τα 16GB ή 32GB που βρίσκονται σε high-end laptops, καθώς και έως 4TB NVMe αποθηκευτικού χώρου. Για απαιτητικότερες εφαρμογές, δύο συστήματα μπορούν να συνδεθούν και να επεξεργαστούν μοντέλα με έως και 405 δισ. παραμέτρους, μέγεθος αντίστοιχο του κορυφαίου Llama 3.1 της Meta.

Ο GB10 Superchip προσφέρει έως 1 petaflop AI απόδοσης, που σημαίνει 1 τετράκις εκατομμύριο υπολογισμούς AI ανά δευτερόλεπτο, χρησιμοποιώντας FP4 precision για ταχύτερη επεξεργασία. Διαθέτει CUDA cores τελευταίας γενιάς και 5ης γενιάς Tensor Cores, συνδεδεμένα μέσω NVLink-C2C με έναν Grace CPU που περιλαμβάνει 20 ενεργειακά αποδοτικούς Arm-based πυρήνες. Η MediaTek συνεργάστηκε στην ανάπτυξη του GB10 για βελτιστοποίηση της ισχύος και της ενεργειακής απόδοσης.

Το σύστημα τρέχει το Linux-based Nvidia DGX OS και υποστηρίζει δημοφιλή frameworks όπως PyTorch, Python και Jupyter notebooks. Οι developers μπορούν να κάνουν fine-tuning AI μοντέλων μέσω Nvidia NeMo και να επιταχύνουν data science εργασίες με Nvidia RAPIDS libraries.

Οι χρήστες μπορούν να αναπτύξουν και να δοκιμάσουν AI μοντέλα τοπικά στο Project Digits και στη συνέχεια να τα αναπτύξουν στο cloud ή σε data centers που χρησιμοποιούν την ίδια Grace Blackwell αρχιτεκτονική και το Nvidia AI Enterprise software platform.

Αυτή η ανακοίνωση έρχεται λίγους μήνες μετά την κυκλοφορία του Jetson Orin Nano Super, ενός μικρότερου AI υπολογιστή της Nvidia με κόστος $249, σχεδιασμένου για hobbyists και startups, που μπορεί να τρέξει AI μοντέλα έως 8 δισ. παραμέτρων.