NVIDIA se vante (con cifras) en la era MoE: Signal65 estima que GB200 NVL72 puede ser hasta 15× más rentable por token que AMD MI355X

NVIDIA se vante (con cifras) en la era MoE: Signal65 estima que GB200 NVL72 puede ser hasta 15× más rentable por token que AMD MI355X

La discussion sur l’infrastructure de l’intelligence artificielle s’éloigne de plus en plus du simple « rendement brut » pour se concentrer sur un aspect bien plus tangible : combien coûte le service de chaque token lorsque l’utilisateur exige des réponses rapides, à grande échelle, tout en conservant une bonne « sensation » d’interaction. Dans ce […]