
含光800發布現場
阿里巴巴第一顆自研芯片正式問世。9月25日的杭州云棲大會上,達摩院院長張建鋒現場展示了這款AI芯片——含光800。
據阿里巴巴集團首席技術官兼阿里云智能總裁張建鋒介紹,在杭州城市大腦的業務測試中,1顆含光800的算力相當于10顆GPU(圖形處理器)。
“含光800是一款AI芯片,偏重推理。由于人工智能芯片的差異化設計主要體現在硬件架構和軟件算法上,二者需要高度適配才能發揮芯片的最大價值。”有業內人士向記者解釋,從目前來看,傳統CPU、GPU在深度學習推理任務上并沒有完全發揮硬件能力,例如GPU架構主要針對圖像處理設計,其硬件結構、軟件生態幾乎固化,因此對AI任務很難有深度優化。
而含光800性能的突破得益于軟硬件的協同創新:硬件層面采用自研芯片架構,通過推理加速等技術有效解決芯片性能瓶頸問題;軟件層面集成了達摩院先進算法,針對CNN及視覺類算法深度優化計算、存儲密度,可實現大網絡模型在一顆NPU上完成計算。
據悉,含光800已開始應用在阿里巴巴內部核心業務中。根據云棲大會的現場演示,在城市大腦中實時處理杭州主城區交通視頻,需要40顆傳統GPU,延時為300ms,使用含光800僅需4顆,延時降至150ms。拍立淘商品庫每天新增10億商品圖片,使用傳統GPU算力識別需要1小時,使用含光800后可縮減至5分鐘。