La compétition de puissance de calcul à l'ère de l'IA : équilibre entre rêve et coût
Les grandes entreprises technologiques investissent massivement dans la construction de Puissance de calcul pour l'IA. Les derniers rapports financiers de Microsoft, Google et d'autres entreprises montrent que les revenus et les marges bénéficiaires des services cloud continuent d'augmenter, l'IA devenant un nouveau point de croissance des performances. Ces entreprises participent à une "course aux armements" en matière de Puissance de calcul, et il sera difficile de réduire les dépenses d'investissement à court terme. Comme le dit le fournisseur de Puissance de calcul CoreWeave, l'offre et la demande de Puissance de calcul pour l'IA pourraient atteindre un équilibre d'ici 2030.
Le marché s'attend à voir plus d'applications d'IA "ancrées dans la réalité" qui peuvent vraiment améliorer la productivité ou faciliter la vie. Cette année, nous avons déjà vu de belles performances avec le modèle de génération vidéo Sora d'OpenAI et le grand modèle national Kimi. À l'avenir, nous espérons voir des mises à jour des modèles comme GPT et Gemini, ainsi que des entreprises comme Microsoft et Apple introduire de grands modèles dans les PC et les téléphones. Le chemin vers l'AGI est encore long, et il pourrait falloir un certain temps avant de faire éclore des applications d'IA qui changent la société.
Il convient désormais de se concentrer sur la "puissance de calcul à haut rapport qualité-prix". En regardant en arrière à l'ère 4G/5G, la baisse des coûts de la bande passante mobile a conduit à l'âge d'or de l'internet mobile. De la même manière, la réduction des coûts de la puissance de calcul par unité sera une condition nécessaire pour entrer dans l'ère de l'AGI. Une puissance de calcul AI peu coûteuse et fiable est la base de la naissance d'applications AI révolutionnaires.
D'un point de vue de la structure des coûts, à part environ 10 % des coûts d'électricité, les autres sont principalement des investissements dans des actifs fixes tels que les GPU, les équipements réseau et le refroidissement. L'industrie optimise les coûts de plusieurs manières :
GPU : TSMC augmente considérablement sa capacité de production d'emballages CoWoS pour les puces AI
Réseau : Le GB200 d'NVIDIA utilise des câbles en cuivre pour réduire les coûts, les fabricants de modules optiques poussent des solutions LPO et autres à haute performance prix.
Dissipation thermique : avec l'augmentation de la densité de puissance, le refroidissement liquide remplacera progressivement le refroidissement par air.
Bien que les grands fournisseurs de cloud aient la capacité d'investir continuellement, les entreprises de la longue traîne ont davantage besoin d'une puissance de calcul à bon rapport qualité-prix. La baisse future du coût unitaire de la puissance de calcul établira les bases de la prospérité des applications d'IA.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
22 J'aime
Récompense
22
4
Partager
Commentaire
0/400
HappyToBeDumped
· 07-28 23:00
Gaspiller de l'argent à empiler de la puissance de calcul
Voir l'originalRépondre0
RuntimeError
· 07-28 01:59
Le rapport qualité-prix est plus important que tout.
Voir l'originalRépondre0
AllTalkLongTrader
· 07-27 08:04
La puissance de calcul va nécessairement subir une big dump.
Compétition de puissance de calcul AI : la puissance de calcul à coût-efficacité élevé sera la clé de l'avenir.
La compétition de puissance de calcul à l'ère de l'IA : équilibre entre rêve et coût
Les grandes entreprises technologiques investissent massivement dans la construction de Puissance de calcul pour l'IA. Les derniers rapports financiers de Microsoft, Google et d'autres entreprises montrent que les revenus et les marges bénéficiaires des services cloud continuent d'augmenter, l'IA devenant un nouveau point de croissance des performances. Ces entreprises participent à une "course aux armements" en matière de Puissance de calcul, et il sera difficile de réduire les dépenses d'investissement à court terme. Comme le dit le fournisseur de Puissance de calcul CoreWeave, l'offre et la demande de Puissance de calcul pour l'IA pourraient atteindre un équilibre d'ici 2030.
Le marché s'attend à voir plus d'applications d'IA "ancrées dans la réalité" qui peuvent vraiment améliorer la productivité ou faciliter la vie. Cette année, nous avons déjà vu de belles performances avec le modèle de génération vidéo Sora d'OpenAI et le grand modèle national Kimi. À l'avenir, nous espérons voir des mises à jour des modèles comme GPT et Gemini, ainsi que des entreprises comme Microsoft et Apple introduire de grands modèles dans les PC et les téléphones. Le chemin vers l'AGI est encore long, et il pourrait falloir un certain temps avant de faire éclore des applications d'IA qui changent la société.
Il convient désormais de se concentrer sur la "puissance de calcul à haut rapport qualité-prix". En regardant en arrière à l'ère 4G/5G, la baisse des coûts de la bande passante mobile a conduit à l'âge d'or de l'internet mobile. De la même manière, la réduction des coûts de la puissance de calcul par unité sera une condition nécessaire pour entrer dans l'ère de l'AGI. Une puissance de calcul AI peu coûteuse et fiable est la base de la naissance d'applications AI révolutionnaires.
D'un point de vue de la structure des coûts, à part environ 10 % des coûts d'électricité, les autres sont principalement des investissements dans des actifs fixes tels que les GPU, les équipements réseau et le refroidissement. L'industrie optimise les coûts de plusieurs manières :
Bien que les grands fournisseurs de cloud aient la capacité d'investir continuellement, les entreprises de la longue traîne ont davantage besoin d'une puissance de calcul à bon rapport qualité-prix. La baisse future du coût unitaire de la puissance de calcul établira les bases de la prospérité des applications d'IA.