(圖片來源:林志佳拍攝)
12月16日消息,鈦媒體AGI獲悉,國內(nèi) AI 公司無問芯穹宣布開源其“端模型+端軟件+端IP”端上智能一體化解決方案中的小模型,即全球首個端側全模態(tài)理解開源模型Megrez-3B-Omni,并同步開源了純語言版本模型Megrez-3B-Instruct。
無問芯穹表示,Megrez-3B-Omni是一個能力預覽,接下來還將持續(xù)迭代Megrez系列,并包括軟件、IP在內(nèi),提供“端模型+端軟件+端IP”端上智能一體化解決方案。
據(jù)悉,無問芯穹成立于2023年5月,創(chuàng)始團隊來自清華大學電子工程系,依托行業(yè)領先且經(jīng)過驗證的AI計算優(yōu)化能力與算力解決方案,追求大模型落地的極致能效,打造“M 種模型”和“N種芯片”間的“M×N” 中間層產(chǎn)品,實現(xiàn)多種大模型算法在多元芯片上的高效、統(tǒng)一部署,鏈接上下游,建立AGI(通用人工智能)時代大模型基礎設施。
產(chǎn)品層面,目前無問芯穹提供算力推理平臺、一整套 AI infra解決方案、“端模型+端軟件+端IP”端上智能一體化解決方案等。
截至目前,無問芯穹旗下平臺已支持了Baichuan2、ChatGLM3、Llama2、Qwen系列等超過20個模型,以及AMD、壁仞、寒武紀、燧原、天數(shù)智芯、沐曦、摩爾線程、NVIDIA等10余種計算卡,支持多模型與多芯片之間的軟硬件聯(lián)合優(yōu)化和統(tǒng)一部署。
融資層面,今年9月,無問芯穹(Infinigence AI)宣布完成近 5 億元 A 輪融資,本輪融資聯(lián)合領投方為社;鹬嘘P村自主創(chuàng)新專項基金(君聯(lián)資本擔任管理人)、啟明創(chuàng)投和洪泰基金,跟投方包括聯(lián)想創(chuàng)投、小米、軟通高科等戰(zhàn)略投資方,國開科創(chuàng)、上海人工智能產(chǎn)業(yè)投資基金(臨港科創(chuàng)投擔任管理人)、徐匯科創(chuàng)投等國資基金,以及順為資本、達晨財智、德同資本、尚勢資本、森若玉坤、申萬宏源、正景資本等財務機構,共計超過16家機構。
至此,在成立短短16個月內(nèi),無問芯穹累計已完成近10億元融資。無問芯穹的過往投資方還包括百度、智譜、同歌創(chuàng)投等戰(zhàn)略股東,以及紅杉中國、礪思資本、徐匯資本、北極光創(chuàng)投、真格基金、惠隆創(chuàng)投、經(jīng)緯創(chuàng)投、無限基金 SEE Fund、金沙江創(chuàng)投、星連資本、綠洲資本、南山資本、光源資本、七熹投資等眾多知名投資機構。
無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪曾對鈦媒體App表示,在一個互聯(lián)網(wǎng)客戶大模型推理的業(yè)務場景中,無問芯穹將整體算力使用效率提升了90%,有效地解決了客戶大模型業(yè)務中算力成本的問題,幫助業(yè)務伙伴實現(xiàn)算力成本的大幅下降。他指出,“我們認為(公司未來)3-5年內(nèi)肯定能夠規(guī)模化地實現(xiàn)利潤”。
“我們在整個產(chǎn)業(yè)中屬于連接模型和硬件,去讓大家能夠把算力更好地用起來的基礎設施的工作。所以我們確實在成立一開始就和很多重要的合作伙伴已經(jīng)做了很密切、深入的合作和一些戰(zhàn)略協(xié)同。”夏立雪表示,在一個互聯(lián)網(wǎng)客戶中,無問芯穹利用軟硬協(xié)同的核心技術優(yōu)化客戶大模型推理的業(yè)務場景,將算力使用成本降低了90%,實現(xiàn)算力資源大幅節(jié)省和提效作用。
中信建投研報指出,OpenAI “連續(xù)12天直播發(fā)布”的第5天,OpenAI表示,ChatGPT已全面接入蘋果,包括iPhone、iPad和Mac,支持Apple Intelligence的蘋果設備即可開啟ChatGPT功能。端側AI產(chǎn)業(yè)發(fā)展提速,建議關注AI模組機會。大模型廠商本質(zhì)上是軟件服務商,可以借助AI模組等硬件廠商的能力進行實物化輸出,幫助終端廠商更順利的進行應用落地,通過“端側算力+通信+API”功能的AI模組產(chǎn)品,直接可以將大模型能力帶入到各種終端設備,從而變成“AI終端”。