top of page

NVIDIA高算力晶片的實現


NVIDIA最新的Blackwell運算晶片算力來到了 20,000 TFLOPS,若是遵循摩爾定律Moore’s Law,晶片算力基本上不足以進行高效能的運算達到今日AI的時代。






CoWoS突破Moore’s Law

目前突破Moore’s Law的解方式透過先進封裝的方式。將晶片透過緊密封裝的方式組合在一起,縮短傳輸路徑。

這種先進封裝就是台積電的CoWoS (Chip-on-Wafer-on Substrate)。

CoWoS技術通過先進的封裝技術來克服這些限制,其主要特點和優勢包括:

  1. 1.異質集成:CoWoS允許將不同工藝和技術節點的芯片整合在一起。例如,可以將高性能的邏輯芯片與高密度的存儲芯片集成,實現系統級封裝(SiP)。這種異質集成使得系統性能提升,功耗降低。

  2. 2.增加I/O密度和帶寬:CoWoS技術使用TSV(Through-Silicon Via,硅通孔)技術,大幅提高了I/O的密度和數據帶寬。這有助於降低延遲,提高數據傳輸速率,進一步提升整體系統性能。

  3. 3.縮短互連距離:傳統封裝中,芯片之間的互連通常通過PCB(印刷電路板)進行,距離較長且延遲較大。CoWoS將芯片直接封裝在基板上,極大地縮短了互連距離,從而減少了信號延遲和功耗。

  4. 4.增強散熱性能:先進的封裝技術通常伴隨著更好的散熱管理。CoWoS通過將芯片封裝在同一基板上,可以更有效地管理熱量,保持系統的穩定性和性能。

  5. 5.靈活設計和快速迭代:CoWoS技術使得芯片設計更加靈活,設計者可以根據需求快速迭代和優化,從而縮短產品的上市時間(time-to-market)。



Blackwell 200是最好的例子

Blackwell 架構 GPU 是 NVIDIA B200,採用台積電 TSMC 4NP 製程節點,運用多晶片封裝技術將兩塊Blackwell GPU 晶片封裝在單一巨型晶片上,每個 GPU 內含 1040 億個電晶體,因此一塊 NVIDIA B200 晶片將內含 2080 億個電晶體。

因此NVIDIA可以不用等更先進的製程,利用先進封裝,快速發表B200提供更高算力。



矽光子與CPO為下一步

台積電矽光子與CPO在今年2024發佈的消息越來越多。目的就是再進一步解決I/O頻寬不足的問題。

另外NVIDIA其實在Optical I/O也有許多技術發表。看來矽光子與CPO將會是進一步提升算力的關鍵因素。



10 次查看0 則留言

Comentarios


bottom of page