Важливість мережі в епоху ШІ та інноваційні напрямки
Зі збільшенням масштабів великих моделей мережа стала ключовим елементом ери ШІ. У цій статті буде розглянуто джерела попиту на мережу, еволюцію комунікаційних протоколів та інноваційні напрямки мережевого обладнання.
Джерела мережевих вимог
Обсяг моделі та межа однієї карти значно розширилися, необхідно вирішити проблеми навчання за допомогою багатьох серверних кластерів.
Мережа використовується для синхронізації параметрів моделі між графічними процесорами, що висуває вищі вимоги до щільності та ємності мережі.
Час тренування тісно пов'язаний з швидкістю обчислень, підвищуючи обчислювальну потужність шляхом розширення кількості пристроїв та паралельної ефективності.
Синхронізація декількох карток вимагає частих операцій зі згладжування параметрів, що пред'являє вищі вимоги до мережевої передачі.
Перерви в навчанні можуть призвести до величезних втрат, а витрати на збої в мережі є значними.
Еволюція комунікаційних протоколів
Протоколи внутрішньої комунікації вузлів: PCIe, NVLink, Infinity Fabric тощо, є основними бар'єрами для виробників.
Протокол зв'язку між вузлами: родина протоколів InfiniBand та Ethernet RoCE, що підтримують функцію RDMA.
Конкуренція між протоколом IB та протоколом RoCE відображає боротьбу за вплив між виробниками GPU.
Заснування Альянсу надпотужних Ethernet має на меті створення відкритого, гнучкого та високопродуктивного мережевого протоколу.
Інноваційні напрямки мережевого обладнання
Передавальні середовища: конкуренція між світлом, міддю та кремнієм, у короткостроковій перспективі мідні дроти все ще мають перевагу, але в довгостроковій перспективі тенденція переходу від міді до світла залишається незмінною.
Інновації у світлових модулях: технології LPO/LRO, кремнієвий оптичний модуль, тонкоплівковий літій-ніобат тощо знижують витрати.
Комутатори: зростання оптичних комутаторів, безперервні інновації в чіпах електричних комутаторів.
Мережева архітектура: еволюція від архітектури Leaf Spine до нових архітектур, таких як Dragonfly, Rail-only тощо.
Кластер дата-центрів: дослідження рішень для міждатацентрового з'єднання обчислювальних потужностей.
Інвестиційні поради
Увага до ключових елементів комунікаційних систем: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hu Dian Co., тощо.
Зверніть увагу на промислові можливості, що виникають завдяки новим технологіям, таким як мідні кабелі, спеціалізовані оптоволокна, вітчизняні комутатори тощо.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
11 лайків
Нагородити
11
10
Поділіться
Прокоментувати
0/400
MysteriousZhang
· 07-20 17:21
ai добре заробляти гроші
Переглянути оригіналвідповісти на0
TokenomicsTrapper
· 07-20 14:51
класичний VC надія продаж наступної великої мережевої гри... смх бачив це раніше
Переглянути оригіналвідповісти на0
BlockImposter
· 07-20 11:16
ai знову намагається привернути увагу, падіння - не варто розкачувати.
Переглянути оригіналвідповісти на0
gaslight_gasfeez
· 07-18 05:28
AI-лідери дійсно занадто конкурентоспроможні.
Переглянути оригіналвідповісти на0
LongTermDreamer
· 07-17 22:42
Зачекайте ще три роки, заробите шалено багато.
Переглянути оригіналвідповісти на0
CoinBasedThinking
· 07-17 22:41
Інфраструктура не встигає, все в безладді.
Переглянути оригіналвідповісти на0
FloorPriceWatcher
· 07-17 22:39
Хіба це не просто витрати грошей на збільшення пропускної спроможності?
Переглянути оригіналвідповісти на0
MetaLord420
· 07-17 22:33
А, знову потрібно займатися дистрибуцією.
Переглянути оригіналвідповісти на0
AirdropChaser
· 07-17 22:22
Хто ще розглядає інвестиції, коли вже є великі моделі?
Переглянути оригіналвідповісти на0
MetaverseVagrant
· 07-17 22:18
Гей, якщо мережа не витримує, не говоріть про штучний інтелект.
Можливості та виклики мережевих інновацій в епоху штучного інтелекту
Важливість мережі в епоху ШІ та інноваційні напрямки
Зі збільшенням масштабів великих моделей мережа стала ключовим елементом ери ШІ. У цій статті буде розглянуто джерела попиту на мережу, еволюцію комунікаційних протоколів та інноваційні напрямки мережевого обладнання.
Джерела мережевих вимог
Обсяг моделі та межа однієї карти значно розширилися, необхідно вирішити проблеми навчання за допомогою багатьох серверних кластерів.
Мережа використовується для синхронізації параметрів моделі між графічними процесорами, що висуває вищі вимоги до щільності та ємності мережі.
Час тренування тісно пов'язаний з швидкістю обчислень, підвищуючи обчислювальну потужність шляхом розширення кількості пристроїв та паралельної ефективності.
Синхронізація декількох карток вимагає частих операцій зі згладжування параметрів, що пред'являє вищі вимоги до мережевої передачі.
Перерви в навчанні можуть призвести до величезних втрат, а витрати на збої в мережі є значними.
Еволюція комунікаційних протоколів
Протоколи внутрішньої комунікації вузлів: PCIe, NVLink, Infinity Fabric тощо, є основними бар'єрами для виробників.
Протокол зв'язку між вузлами: родина протоколів InfiniBand та Ethernet RoCE, що підтримують функцію RDMA.
Конкуренція між протоколом IB та протоколом RoCE відображає боротьбу за вплив між виробниками GPU.
Заснування Альянсу надпотужних Ethernet має на меті створення відкритого, гнучкого та високопродуктивного мережевого протоколу.
Інноваційні напрямки мережевого обладнання
Передавальні середовища: конкуренція між світлом, міддю та кремнієм, у короткостроковій перспективі мідні дроти все ще мають перевагу, але в довгостроковій перспективі тенденція переходу від міді до світла залишається незмінною.
Інновації у світлових модулях: технології LPO/LRO, кремнієвий оптичний модуль, тонкоплівковий літій-ніобат тощо знижують витрати.
Комутатори: зростання оптичних комутаторів, безперервні інновації в чіпах електричних комутаторів.
Мережева архітектура: еволюція від архітектури Leaf Spine до нових архітектур, таких як Dragonfly, Rail-only тощо.
Кластер дата-центрів: дослідження рішень для міждатацентрового з'єднання обчислювальних потужностей.
Інвестиційні поради
Увага до ключових елементів комунікаційних систем: Zhongji Xuchuang, Xinyi Sheng, Tianfu Communication, Hu Dian Co., тощо.
Відстеження інноваційних посилань: YOFC, Zhongtian Technology, Hengtong Optoelectronics, Centec Communications тощо.
Зверніть увагу на промислові можливості, що виникають завдяки новим технологіям, таким як мідні кабелі, спеціалізовані оптоволокна, вітчизняні комутатори тощо.