AI應用可以讓你食衣住行育樂更便利，就像手機刷臉解鎖、智慧音箱等都是AI技術帶來的生活便利。此外，新興技術如自駕車、無人機等，也需要AI來協助執行自動駕駛與自動航線規劃，背後重要的推手就是「AI晶片」的運算能力。
AI晶片是什麼？AI晶片是一種用於加速「深度學習演算法(Deep Learning Algorithm)」的晶片，以用途而分，又可分為「加速模型訓練(Training)」的晶片，以及「加速模型推論(Inference)」的晶片。
現行普遍使用GPU來加速深度學習演算法，其首要用途是加速模型訓練，通常應用場域是雲端伺服器，其相對耗電與成本較大；若為終端應用例如嵌入式系統或是行動裝置，使用GPU可能相對成本與耗電不符合效益，因此就必須考慮使用加速模型推論的晶片，也就是本文所稱的「AI加速器晶片」。
工研院資通所所長闕志克表示，AI加速器晶片必須配合系統應用進行客制化設計，因此缺乏標準，對於台灣廠商而言，分析與制訂晶片架構規格的能力就顯得特別重要，國際大廠如Google、NVIDIA等大廠都具備這樣的能力，但對於台灣廠商而言，此部分的研發能量相對較為不足。
闕志克指出，為了解決台灣廠商面臨的問題，工研院研發「AI晶片軟體平台工具」， 包含AI晶片架構設計與分析工具、AI晶片軟體編譯環境、以及AI晶片系統模擬平台等，日前該技術更獲得經濟部國家產業創新獎。
AI晶片規格的不確定性將導致開發時間長，有了這個軟體工具，不論是AI晶片架構設計、軟體編譯器開發、或者系統整合模擬等，都變得更簡便與迅速，因此可以加速AI晶片的開發時程，目前該技術已有3家廠商先期導入，將應用於包括行動運算、智慧影像辨識等領域。
