歡迎來到我的 Substack。我是 Ted,一位在 System 領域深耕 30多年,目前暫時休息中的工程師。雖然已經離開職場,但我對技術的熱情未減。
歡迎來到我的 Substack。我是 Ted,一位在 System 領域深耕 30多年,目前暫時休息中的工程師。雖然已經離開職場,但我對技術的熱情未減。¶
- Source: Ted Yu
- Published: 2026-01-29T15:31:54+08:00
- URL: https://ytyuted.substack.com/p/ep0-ai EP0. 我的 AI 硬體探索地圖 - Ted Yu
Pledge your support

EP0. 我的 AI 硬體探索地圖¶

Jan 29, 2026
這裡不談股價,只談硬派技術。我嘗試用過去在 Telecom 與 High-speed data 的系統經驗,來解構現在最熱門的 AI 硬體、半導體製程與資料中心網路架構。
為了方便新讀者閱讀,我將目前已發表的文章整理為以下三大核心領域:
1. High-Speed Interconnect (高速互連技術)¶
算力再強,若無法高效傳輸,系統依然受限。這一區塊探討訊號如何在晶片與機櫃間奔馳,專注於「點對點」的物理連結技術,從 SerDes 的調變到光電訊號的轉換。
2. Advanced Process & Heterogeneous Integration (先進製程與異質整合)¶
摩爾定律趨緩後,如何透過 CoWoS、Chiplet 與先進製程延續效能?這裡是關於材料、元件,製程與封裝物理實現的探討。
3. System Architecture & Infrastructure (系統架構與基礎設施)¶
AI Server 不是單獨存在的,它需要龐大的電力、散熱、網路拓撲與機構支撐。這一區塊探討 OCP 標準、液冷散熱、資料中心網路架構與整體運作挑戰。
[學習路線]¶
學習路線是基於這5場重要會議資料:IEDM ➔ ISSCC ➔ Hot Chips ➔ DesignCon ➔ OIF/OCP,半導體與資通訊產業的「黃金技術演進鏈」:一個創新技術從「沙子裡的物理現象」一路走到「雲端資料中心機架」的完整生命週期。
以關注高頻寬 AI 網路與先進封裝 (例如 Co-Packaged Optics, CPO 或 448G SerDes)為例,這條技術鏈的演進:
1. IEDM (物理與元件的起點:從 0 到 1)¶
●戰場:材料科學、半導體物理、新穎電晶體結構。
●看點:這裡是「煉金術士」的主場。例如,研究人員在這裡發表全新的鍺矽 (SiGe) 光電探測器材料特性、新型微環諧振器 (Micro-ring Resonator) 的熱效應,或者是前沿的氧化鉿鐵電 (FeFET) ,奈米閘極的極化疲勞物理機制。
●產出:證明該物理機制可行,並提供可供下一階段使用的元件模型 (Device Model)。
2. ISSCC (電路與巨集的實現:從 1 到 10)¶
●戰場:類比/數位電路設計、混合訊號、巨集 (Macro) 流片。
●看點:IC 設計高手利用 IEDM 驗證過的元件,在標準製程下畫出電路。例如,在這裡會看到如何設計出能推動 448G PAM4 訊號的超低功耗 TX/RX 電路、高效能的 TIA (轉阻放大器)、或是能抵銷高頻衰減的精巧 DSP 演算法。
●產出:具備極高能效比 (pJ/bit) 或運算力 (TOPS/W) 的矽智財 (IP) 與功能區塊。
3. Hot Chips (系統架構的火力展示:從 10 到 100)¶
●戰場:晶片級系統整合、AI 算力架構、先進封裝大混戰。
●看點:到了這裡,晶片大廠 (如 NVIDIA, Broadcom, Google) 會把 ISSCC 等級的 IP 拼裝起來。他們會展示如何利用 2.5D/3D 封裝 (如 TSMC CoWoS) 或 UCIe,把 51.2T 甚至 102.4T 的交換晶片 (像是作為 Scale-out 核心的 Tomahawk 家族) 與矽光子引擎整合在一起,發表令人震撼的系統級吞吐量與 AI 叢集拓撲。
●產出:商業化的頂級晶片產品與下一代系統架構藍圖。
4. DesignCon (板階與信號完整性的地獄:從晶片到系統)¶
●戰場:高速信號完整性 (SI)、電源完整性 (PI)、PCB 佈板、量測技術。
●看點:當 Hot Chips 發布了超猛的晶片,硬體工程師就得在 DesignCon 解決現實的物理限制。當通道速率逼近 224G 甚至 448G,走線的每一毫米都是挑戰。這裡會深入討論 PCB 疊層材料的極致選擇 (例如 M9 等級的低損耗板材,探討其 Q布玻纖與 HVLP4/5 超低粗糙度銅箔的匹配)、飛線 (Flyover Cable) 的衰減控制,以及如何利用最高階的示波器與 BERT 抓出致命的 Jitter (抖動) 與 Noise。
●產出:確保高速訊號在實體世界中能無損傳輸的硬體解決方案與設計準則。
5. OIF / OCP (標準化與資料中心落地:制定遊戲規則)¶
●戰場:產業聯盟標準、互通性測試、資料中心基礎設施部署。
●看點:最終,技術必須規模化。OIF (光纖互聯論壇)負責制定大家都得遵守的電氣與光學介面標準 (例如 CEI-224G-VSR,或是近期火熱的 LPO 線性驅動標準),確保不同廠商的 DSP 和光模塊能互通。OCP (開放運算計畫)則從宏觀角度定義整個 AI 機櫃 (Rack) 的規格,包含高壓直流供電、液冷散熱模組配置,以及 NVL72 這種 Scale-up 機架或大型 Scale-out 網路的標準化部署方式。
●產出:龐大、穩定、且具備跨廠商互通性的雲端資料中心運作規範。
把這五個節點串連在一起,等於是把整套「科技硬體的方法論」給模組化了。這是一個非常宏大且結構清晰的視角,能同時橫跨從最底層的材料物理,一路看到最上層的資料中心基礎設施。
技術的演進還在繼續,我的寫作計畫也是。如果你對半導體與系統整合有興趣,歡迎訂閱,我們一起在技術深水區探索。
Support Ted Yu
Launched a year ago
Master in EE EE experience more than 20 years, including BB CPE, 5G wireless, high speed data, ..., etc. Now focusing on communication of data centers
Pledge your support




