Η Agentic AI προκαλεί τώρα έλλειψη και σε CPUs στα data centers

Μετά τις GPUs και τη RAM, η έκρηξη της Agentic AI φαίνεται πως δημιουργεί πλέον σοβαρές ελλείψεις και στους επεξεργαστές. Σύμφωνα με νέα αναφορά του Semianalysis, μεγάλοι πάροχοι cloud όπως η Amazon και η Microsoft έχουν εξαντλήσει τα διαθέσιμα αποθέματα CPUs, καθώς η ζήτηση από εταιρείες τεχνητής νοημοσύνης αυξάνεται με ρυθμό που η αγορά δεν μπορεί να καλύψει.

Ο αναλυτής Dylan Patel υποστηρίζει ότι οι GPUs δεν αποτελούν πλέον το βασικό σημείο συμφόρησης στα AI data centers. Τα νέα agentic μοντέλα δεν περιορίζονται μόνο στο inference, αλλά εκτελούν πολύ περισσότερες εργασίες που βασίζονται σε CPUs, όπως πρόσβαση σε βάσεις δεδομένων, φυσικές προσομοιώσεις και γενικότερα σύνθετες διεργασίες που δεν μπορούν να αναλάβουν αποκλειστικά οι επιταχυντές γραφικών.

Η Amazon τριπλασίασε τους CPU servers και πάλι δεν έφτασαν

Μέχρι πρόσφατα, οι cloud πάροχοι χρησιμοποιούσαν λίγες CPUs για κάθε rack με GPUs, με αναλογία που μπορούσε να φτάσει ακόμη και έναν CPU server για πολλούς GPU servers. Αυτό όμως αλλάζει γρήγορα. Οι νέες ανάγκες του Agentic AI φέρνουν τις δύο πλευρές πολύ πιο κοντά, με τα συστήματα να απαιτούν πλέον σχεδόν αντίστοιχη υπολογιστική ισχύ από CPUs και GPUs.

Η κατάσταση έχει φτάσει σε τέτοιο σημείο ώστε η Amazon, παρά το γεγονός ότι τριπλασίασε τον αριθμό των CPU servers της μέσα σε έναν χρόνο, εξακολουθεί να μην μπορεί να καλύψει τη ζήτηση. Σύμφωνα με τον Patel, τόσο η Amazon όσο και η Microsoft έχουν ήδη διαθέσει σχεδόν όλα τα αποθέματά τους σε εταιρείες όπως οι OpenAI και Anthropic.

«Όλοι έχουν ξεμείνει από CPUs. Η Amazon τριπλασίασε τον όγκο των CPU servers της, αλλά και πάλι δεν επαρκεί», ανέφερε χαρακτηριστικά ο αναλυτής.

Οι Arm επηρεάζονται περισσότερο, αλλά ακολουθούν και οι x86

Η πίεση είναι ακόμη μεγαλύτερη στους Arm επεξεργαστές. Σύμφωνα με την αναφορά, αρκετές εταιρείες AI, ανάμεσά τους και η OpenAI, μετέφεραν μέρος του λογισμικού τους από x86 σε Arm επειδή η Amazon διέθετε μεγαλύτερη χωρητικότητα σε αυτούς τους servers. Τώρα όμως και αυτή η διαθέσιμη υποδομή έχει σχεδόν εξαφανιστεί.

Η αυξημένη χρήση CPUs φέρεται να έχει ήδη δημιουργήσει προβλήματα σε υπηρεσίες όπως το GitHub, με αρκετούς χρήστες να αναφέρουν αποτυχίες σε commits και συχνές διακοπές λειτουργίας. Ο Patel αποδίδει μέρος αυτών των προβλημάτων στο γεγονός ότι η Microsoft έχει διοχετεύσει τις ελεύθερες CPUs της σε εσωτερικά και εξωτερικά AI projects.

Η αγορά αναμένεται πλέον να στραφεί σε ακόμη μεγαλύτερη παραγωγή τόσο Arm όσο και x86 chips. Οι AMD και Intel ενισχύουν ήδη την παραγωγή επεξεργαστών για cloud data centers, ενώ η NVIDIA αυξάνει τη διάθεση των νέων Vera CPU racks. Παράλληλα, η ζήτηση για DRAM παραμένει υψηλή, κάτι που σημαίνει ότι όλο και περισσότερες γραμμές παραγωγής θα δίνουν προτεραιότητα στις ανάγκες της AI αγοράς.

Αν η κατάσταση συνεχιστεί, η έλλειψη δεν θα επηρεάσει μόνο τα data centers αλλά και την καταναλωτική αγορά. Οι CPUs για desktop και laptops ενδέχεται να γίνουν ακριβότερες και πιο δύσκολες στην εύρεση μέσα στους επόμενους μήνες, καθώς οι μεγαλύτεροι πελάτες του cloud θα συνεχίσουν να απορροφούν το μεγαλύτερο μέρος της παραγωγής.