Alors que l’axe de compétition pour le développement de l’intelligence artificielle (IA) passe de l’apprentissage à grande échelle à l’inférence, la pénurie de semi-conducteurs de mémoire essentiels à « l’inférence » devrait perdurer pendant une période de temps considérable. Avec l’avènement d’un « âge d’or de la mémoire » sans précédent, les prix des semi-conducteurs de mémoire tels que la DRAM et la mémoire flash NAND (NAND) augmentent verticalement. Le marché prédit que la pénurie de mémoire se poursuivra jusqu’en 2030 ou plus tard. Selon DRAM Exchange, une société d'études de marché sur les semi-conducteurs, le 12, le prix moyen des produits NAND à usage général pour cartes mémoire et USB était de 28,8 dollars à la fin du mois dernier, soit cinq fois plus élevé que le prix de la fin de l'année dernière (5,7 dollars). Le prix moyen des produits DRAM à usage général pour PC a également bondi à 21 dollars le mois dernier, soit 2,3 fois plus élevé que le prix de la fin de l'année dernière (9,3 dollars). En raison d'une pénurie de mémoire, les prix augmentent de 2 à 5 fois en seulement six mois. En particulier, alors que la demande de NAND augmentait rapidement, un renversement s'est produit où la NAND est devenue plus chère que la DRAM en six mois. La DRAM stocke temporairement les données pendant que l'IA fonctionne actuellement.