林佳楠／專訪 2023-04-10
1998年時，林永隆與盧超群、石克強共同成立創意電子，借調期任滿後回清大任教。看好推薦模型帶動的ASIC商機，林永隆2019年再成立創鑫智慧，開發AI晶片，並於2022年下旬宣布採用台積電7奈米製程生產。
創鑫智慧開發的首款晶片RecAccel N3000是專為推薦模型設計的AI加速器，日前在開放工程聯盟（MLCommons）的MLPerf評比中，與NVIDIA晶片互別苗頭。
延伸閱讀：高通、NVIDIA在AI晶片效率測試中領先群雄 台灣新創也入榜
創鑫智慧提供的資料顯示，在伺服器模式中，創鑫智慧的晶片效能高於NVIDIA A100兩倍，相較於NVIDIA H100則高出1.67倍。而在離線模式中，其晶片優於NVIDIA A100，但遜於NVIDIA H100。此外，NVIDIA曾表示另一款Grace Hopper才是最適合推薦推論的晶片，但目前尚未提出相關基準分數。
超微（AMD）策略事業發展副總裁Kumaran Siva指出，樂見創鑫智慧晶片用於AMD EPYC處理器上，在評比中取得超群表現，也期待雙方持續合作，開發出領先業界的AI解決方案。林永隆則表示，盼與雲端生態系合作，提供永續節能的方案。
此前，林永隆在DIGITIMES專訪中表示，以AI技術加速晶片和伺服器的效能是業界趨勢，只要某領域有大量計算和大量應用的需求，就會出現專用晶片（ASIC）。
創鑫智慧創辦人暨董事長林永隆3月底參與台灣人工智慧晶片聯盟活動。李建樑攝（資料照）
目前在AI業界中，NVIDIA的GPU是主流，然其GPU屬於通用型，而目前專為推薦模型設計的晶片相當少。事實上，資料中心、社群媒體、電商、搜尋引擎等平台都會用到推薦模型，市場商機相當豐沛，也因此他看好這塊市場的全球商機。
針對自家晶片的定位，他表示晶片部署在雲端與邊緣之間的匯流節點（Aggregation point），既沒有做到手機、物聯網裝置端那麼遠的邊緣，但也不必都得經過雲端。
他解釋，如果所有計算都要經過最遠的雲端，資料傳輸來回時間可能都大於計算時間，無法達到「加速」目的。此外，以前要升級伺服器就得更換CPU或機台，現在有了AI晶片，就可用來加速、提升伺服器的效能。
這對伺服器用戶來說是好消息，因為可減少所需機台數量，而對伺服器代工廠來說，不一定會是壞消息，因為廠商可與AI晶片開發商合作，讓伺服器效能更好、更利於市場推廣。
談到台灣發展AI晶片的優勢，林永隆指出，台灣匯聚矽智財、EDA工具、IC設計、封裝測試、製造等業者，相關生態系非常完整。當製造業者產出一片晶圓，這些晶圓變成終端品牌產品，產值便可再倍數成長，因此IC設計產值應該遠大於晶圓代工業者。
他認為，美國在IC設計界位居龍頭，是因為美系品牌、系統商在定義產品規格方面相當厲害，例如NVIDIA之於繪圖晶片、英特爾（Intel）和超微之於處理器、高通（Qualcomm）之於無線通訊晶片等。
PC普及帶動半導體應用，隨後消費性電子產品、智慧型手機用到的半導體數量愈來愈多，接續便是AI和電動車帶來的商機。林永隆認為，台灣IC設計仍有許多可發揮的空間，且是應長期耕耘的事業。創鑫智慧成立4年多以來專注研發，2023年起有機會銷售晶片，開始創造營收。
