近日,中國AI企業雲天勵飛正式發佈瞭平民化的大模型產品——“深目”AI模盒。它的售價隻要千元級,但可以做到“三個90%”——覆蓋場景超過90%、算法精度超過90%,使用成本降低90%,可以讓更多中小企業用上大模型。

國產自主14nm工藝!中國企業的AI芯片比GPU便宜90%

“深目”AI模盒的算力基礎,是其去年推出的大模型訓推芯片“DeepEdge10 Max”。

該芯片采用瞭自主可控的14nm國產工藝、D2D chiplet晶粒架構,基於同樣國產的RISC-V內核,並采用異構多核設計。

它支持大模型訓練推理部署,已適配並可承載10億級參數的SAM、百億級參數的Llama2等大模型運算,可廣泛應用於AIoT邊緣視頻、移動機器人等場景。

國產自主14nm工藝!中國企業的AI芯片比GPU便宜90%

雲天勵飛還自主研發瞭多模態大模型“雲天天書”,包含語言大模型、多模態大模型等不同系列,在C-Eval、CMMLU等權威測試中多次獲得第一,並於去年正式通過中央網信辦備案。

雲天天書1.0版本發佈於2023年初,至今已迭代3個版本。

以雲天天書為底座,雲天勵飛可與合作夥伴首先完成預訓練場景算法,再提供給中小企業用戶,由其根據自身場景需求,在邊緣端完成算法微調,並且在線學習、優化算法,不斷提升算法精度。

國產自主14nm工藝!中國企業的AI芯片比GPU便宜90%

“深目”AI模盒首發標準版搭載雲天天書3.5V版本,INT8整數算力48TOPS(48萬億次)。

今年下半年,“深目”AI模盒將推出輕量版,芯片為DeepEdge10Pro,搭配雲天天書4.0V,算力減半至24TOPS。

明年上半年,“深目”AI模盒將升級為旗艦版,芯片也升級為DeepEdge10Ultra,繼續搭配雲天天書4.0V,算力翻番到96TOPS。

雲天勵飛成立於2014年,並在當年推出瞭基於CV小模型的AI產品“深目”1.0,陸續在警務、城市治理、智慧交通、人居生活等領域打造多個標桿項目。

國產自主14nm工藝!中國企業的AI芯片比GPU便宜90%

點讚(0) 打賞

评论列表 共有 0 條評論

暫無評論

微信小程序

微信扫一扫體驗

立即
投稿

微信公眾賬號

微信扫一扫加關注

發表
評論
返回
頂部