一個AI 後端平台的基本結構 ——— 理解AMD收購Silo AI 的前提技術知識

July 11, 2024 | 科技通識

我們先以日常所用的desktop 電腦作為例子,加以埋解後,才再談AI 後端平台,你就會明明白白。

你枱上那部電腦,起始就是底板那粒CPU ,它就是這部機器的大腦;然而,你要跟它溝通,基本上還須配備三套關鍵軟件,首先是控制CPU 電路的指令集架構,然後就是跟指令集溝通的作業系統,亦即我們常用的 Microsoft windows 或 Apple Mac OS ,和普遍用於侍服器的Linux 系統,最後就是應用軟件,如 office 、chrome或photoshop 等等。

一個AI 後端平台的結構也差不多是這樣,只是大腦不是CPU ,而是專業於AI 的GPU;同樣地,有它相關的指令集架構、作業系統和應用軟件,只是這些軟件並不像家用電腦般如此標準化和普及化:大家不是用windows,就是用Mac OS ,而是需要程式師計師按實際情況而編寫,甚至一併設計,獨特性較強。

NVIDIA在人工智能之所以如此成功,除了它長期深耕GPU外,更重要的是它提供了可編程的軟件架構。早在2007年,NVIDIA發佈了CUDA編程模型,軟件開發人員可以使用CUDA在英偉達的GPU上進行編程;換言之,NVIDIA 頗像Apple,提供了一個封閉式的作業系統,讓程式師可專事使用它的GPU 硬件。

這跟AMD 所開發的GPU 不同,它是開源的,各社區或企業都可以自行開發相關的應用軟件、作業系統、甚至乎指令集架構、或一併設計,AMD 沒有在這方面加以壟斷。

而Silo AI正正就是開發這些軟件的初創企業。

有了上述概念,我們才會明白AMD 在商業策略上的佈局,蘇媽笑裏藏刀,要比老黃深不可測。