A importância da rede na era da IA e as direções de inovação
Com a rápida expansão da escala dos grandes modelos, a rede tornou-se um elo crucial na era da IA. Este artigo irá explorar as origens da demanda por rede, a evolução dos protocolos de comunicação e as direções inovadoras do hardware de rede.
Fontes da Demanda de Rede
A diferença entre o volume do modelo e o limite de uma única placa aumentou, sendo necessário um cluster de múltiplos servidores para resolver os problemas de treinamento.
A rede é utilizada para sincronizar os parâmetros do modelo entre as placas gráficas, o que exige uma maior densidade e capacidade da rede.
O tempo de treino está intimamente relacionado à taxa de cálculo, aumentando o número de dispositivos e a eficiência paralela para melhorar o poder computacional.
A sincronização de várias placas requer operações de alinhamento de parâmetros frequentes, o que impõe requisitos mais elevados à transmissão de rede.
A interrupção do treinamento pode causar enormes perdas, o custo das falhas de rede é elevado.
A evolução do protocolo de comunicação
Protocólos de comunicação entre nós: PCIe, NVLink, Infinity Fabric, etc., são barreiras centrais dos fabricantes.
Protocolo de comunicação entre nós: Família de protocolos InfiniBand e Ethernet RoCE, suporta a funcionalidade RDMA.
A competição entre o protocolo IB e o protocolo RoCE reflete a disputa pelo poder de fala entre os fabricantes de GPUs.
A criação da Aliança Hyper Ethernet visa desenvolver um protocolo de rede aberto, flexível e de alto desempenho.
Direções de Inovação em Hardware de Rede
Meio de transmissão: a competição entre fibra óptica, cobre e silício, no curto prazo o cabo de cobre ainda tem vantagem, a tendência a longo prazo é que a fibra óptica avance e o cobre recue.
Inovação em módulos ópticos: tecnologias como LPO/LRO, fotônica de silício, e lítio niobato em filme fino reduzem custos.
Comutador: O surgimento dos comutadores ópticos, enquanto os chips de comutação elétrica continuam a inovar.
Arquitetura de rede: evolução da arquitetura Leaf-Spine para novas arquiteturas como Dragonfly, Rail-only, etc.
Cluster de centros de dados: explorar soluções de interconexão de poder computacional entre centros de dados.
Sugestões de Investimento
Focar nos principais componentes do sistema de comunicação: Zhongji Xuchuang, New Easy Win, Tianfu Communication, Hu Electric Co., entre outros.
Acompanhar os segmentos inovadores: Yangtze Optical, Zhongtian Technology, Hengtong Optic-Electric, Shengkai Communication, entre outros.
Focar nas oportunidades industriais trazidas por novas tecnologias, como cabos de cobre, fibras ópticas especiais, switches nacionais, entre outros.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
11 Curtidas
Recompensa
11
10
Compartilhar
Comentário
0/400
MysteriousZhang
· 07-20 17:21
ai é fácil ganhar dinheiro
Ver originalResponder0
TokenomicsTrapper
· 07-20 14:51
vender o próximo grande jogo de rede clássico VC hopium... smh já vi isso antes
Ver originalResponder0
BlockImposter
· 07-20 11:16
ai está novamente aproveitando a popularidade, se cair não faça alarde.
Ver originalResponder0
gaslight_gasfeez
· 07-18 05:28
A concorrência entre os principais influenciadores de IA está realmente intensa.
Ver originalResponder0
LongTermDreamer
· 07-17 22:42
Espere mais três anos, ganhe muito dinheiro.
Ver originalResponder0
CoinBasedThinking
· 07-17 22:41
A infraestrutura não está a acompanhar, é uma confusão total.
Ver originalResponder0
FloorPriceWatcher
· 07-17 22:39
Não é apenas queimar dinheiro para aumentar o volume?
Ver originalResponder0
MetaLord420
· 07-17 22:33
Ah, vamos ter que nos concentrar na distribuição novamente.
Ver originalResponder0
AirdropChaser
· 07-17 22:22
Quem ainda considera investir com modelos tão grandes?
Oportunidades e desafios da inovação na rede na era da IA
A importância da rede na era da IA e as direções de inovação
Com a rápida expansão da escala dos grandes modelos, a rede tornou-se um elo crucial na era da IA. Este artigo irá explorar as origens da demanda por rede, a evolução dos protocolos de comunicação e as direções inovadoras do hardware de rede.
Fontes da Demanda de Rede
A diferença entre o volume do modelo e o limite de uma única placa aumentou, sendo necessário um cluster de múltiplos servidores para resolver os problemas de treinamento.
A rede é utilizada para sincronizar os parâmetros do modelo entre as placas gráficas, o que exige uma maior densidade e capacidade da rede.
O tempo de treino está intimamente relacionado à taxa de cálculo, aumentando o número de dispositivos e a eficiência paralela para melhorar o poder computacional.
A sincronização de várias placas requer operações de alinhamento de parâmetros frequentes, o que impõe requisitos mais elevados à transmissão de rede.
A interrupção do treinamento pode causar enormes perdas, o custo das falhas de rede é elevado.
A evolução do protocolo de comunicação
Protocólos de comunicação entre nós: PCIe, NVLink, Infinity Fabric, etc., são barreiras centrais dos fabricantes.
Protocolo de comunicação entre nós: Família de protocolos InfiniBand e Ethernet RoCE, suporta a funcionalidade RDMA.
A competição entre o protocolo IB e o protocolo RoCE reflete a disputa pelo poder de fala entre os fabricantes de GPUs.
A criação da Aliança Hyper Ethernet visa desenvolver um protocolo de rede aberto, flexível e de alto desempenho.
Direções de Inovação em Hardware de Rede
Meio de transmissão: a competição entre fibra óptica, cobre e silício, no curto prazo o cabo de cobre ainda tem vantagem, a tendência a longo prazo é que a fibra óptica avance e o cobre recue.
Inovação em módulos ópticos: tecnologias como LPO/LRO, fotônica de silício, e lítio niobato em filme fino reduzem custos.
Comutador: O surgimento dos comutadores ópticos, enquanto os chips de comutação elétrica continuam a inovar.
Arquitetura de rede: evolução da arquitetura Leaf-Spine para novas arquiteturas como Dragonfly, Rail-only, etc.
Cluster de centros de dados: explorar soluções de interconexão de poder computacional entre centros de dados.
Sugestões de Investimento
Focar nos principais componentes do sistema de comunicação: Zhongji Xuchuang, New Easy Win, Tianfu Communication, Hu Electric Co., entre outros.
Acompanhar os segmentos inovadores: Yangtze Optical, Zhongtian Technology, Hengtong Optic-Electric, Shengkai Communication, entre outros.
Focar nas oportunidades industriais trazidas por novas tecnologias, como cabos de cobre, fibras ópticas especiais, switches nacionais, entre outros.