ACCESS NAVI
什麼是AI/ML超級電腦？
概述
AI人工智慧
是指機器具備人類心智能力的表現，如感知、推理、學習、與環境互動、解決問題，甚至發揮創造力的能力。例如，我們每天與 AI 互動的：Siri、Alexa、ChatGPT
機器學習（ML）
機器學習（ML）是人工智慧的一個子集，專注於分析數據、識別模式，並在最少的人為干預下做出決策。
深度學習模型
深度學習模型可以在圖片、文字、聲音和其他數據中識別複雜的模式，以產生準確的洞見和預測。
整個過程需要強大的計算處理能力來處理大量數據。
AI⼈⼯智慧超級電腦
AI 人工智慧超級電腦是專為人工智慧/機器學習設計的高效能運算系統。
這些系統配備了數千個處理器、大量儲存空間以及高速網路互連，以支援伺服器集群中的平行處理。
超級電腦元件與伺服器集群
人工智慧的協同努力
超級電腦的主要組成部分包括：
- 高速網路交換器
- 主節點：用於前端管理
- 儲存陣列：內建或外接硬碟
- 節點：包含數百個超高速的 CPU 和 GPU，並配備網路介面卡
伺服器集群 Server Clusters 是一組共同管理的伺服器，它們分擔工作負載，非常適合平行計算。
基數網路 A Radix Network（又稱蝴蝶網路） 是一種無阻塞網路，能以網格狀模式將多個輸入連接到多個輸出，且不會產生衝突。
基數網路可以處理大量數據，並應用於數據中心和 AI/ML 等領域。
主要的供應商包括
NVIDIA、Intel、IBM、AMD、Samsung、Micron Technology、Meta、Google、Dell、Microsoft、Huawei 和 Cerebras
⼄太網路在AI ⼈⼯智慧/ ML機器學習集群中的角色
高速連接
AI/ML 集群網路的關鍵特性包括：
- 頻寬和速度：對於大型訓練集群，擁有更快的根交換器和更高速度的埠口非常重要。
- 性能：流量傳輸完成時間是一個關鍵指標。
- 中央管理：操作上的易用性和配置能力非常重要。
- 功耗：集群的低功耗至關重要。
- 網路架構：能夠處理連結故障、封包大小分佈、流量監控等能力。
M4500-48XF8C (XSM4556)
48x10G/25G SFP28 and 8x100G QSFP28 Managed Switch
在非阻塞架構中，交換器的網路架構必須容納雙向流動全部數據的總和
48 Ports x 25G x 2 Directions = 2.4 Tbps
8 Uplinks x 100G x 2 Directions = 1.6 Tbps
Total Switch Fabric = 4 Tbps
M4500-32C (CSM4532)
32x100G/50G/40G QSFP28 Managed Switch
在非阻塞架構中，必須在交換器的架構內容納雙向流動全部數據的總和
32 Ports x 100G x 2 Directions = 6.4 Tbps
Total Switch Fabric = 6.4 Tbps
NETGEAR 在 AI 領域的影響力
About NETGEAR
Data Center 資料中心 市場預計將以每年約9.5%的複合年增長率（CAGR）增長至2026年，並伴隨AI人工智慧/機器學習工作急速擴展。
託管資料中心 Colocation Data Centers 為 AI 人工智慧工作提供私有雲和公有雲之間的通道。
這些混合模型可以幫助那些由於數據安全和隱私限制而僅持有私有伺服器的實體，避免完全曝露。
私有數據留在辦公室中，並在共置數據中心作為機器學習/人工智慧任務的數據庫服務。
提供 NETGEAR 10G / 25G / 100G 解決方案以滿足 AI/ML 高速網路需求
Name Codes： 10Gb Ports = X25Gb Ports = V100Gb Ports = CFiber Ports = F
Model Name | Switching Fabric | 2.5GBASET RJ 45 Ports | 10GBASE-T RJ 45 Ports | 10GBASE-X SFP+ Ports | 25GBASE-X SFP28 Ports | 100GBASE-X QSFP28 Ports |
M4300 Series | ||||||
M4300-8X8F XSM4316S | 320Gbps | ╴ | 8x 10G | 8x 10G | ╴ | ╴ |
M4300-12X12F XSM4324S | 480 Gbps | ╴ | 12x 10G | 12x 10G | ╴ | ╴ |
M4300-24X24F XSM4348S | 960 Gbps | ╴ | 24x 10G | 24x 10G | ╴ | ╴ |
M4300-16X XSM4316PB | 320Gbps | ╴ | 16 x 10G | ╴ | ╴ | ╴ |
M4300-16X XSM4316PA | 320Gbps | ╴ | 16 x 10G | ╴ | ╴ | ╴ |
M4300-24X XSM4324CS | 480 Gbps | ╴ | 24 x 10G | 4 x 10G (shared) | ╴ | ╴ |
M4300-48X XSM4348CS | 960 Gbps | ╴ | 48 x 10G | 4 x 10G (shared) | ╴ | ╴ |
M4300-24XF XSM4324FS | 480 Gbps | ╴ | 2 x 10G (shared) | 24 x 10G | ╴ | ╴ |
M4300-48XF XSM4348FS | 960 Gbps | ╴ | 2 x 10G (shared) | 48 x 10G | ╴ | ╴ |
M4500 Series | ||||||
M4500-48XF8C | 4 Tbps | ╴ | ╴ | ╴ | 48x 10G | 8x 100G |
M4500-32C | 6.4 Tbps | ╴ | ╴ | ╴ | ╴ | 32x 100G |
瀚錸科技粉絲專頁