芯片大廠恩智浦近日在京舉辦的會議上，對生態(tài)伙伴和客戶透露了在邊緣業(yè)務(wù)上，對人工智能的支持策略和進(jìn)展。
雖然當(dāng)下非常先進(jìn)的AI/ML模型，都是在云端實(shí)現(xiàn)的，但因?yàn)闀r(shí)延和隱私監(jiān)管原因，越來越多的AI/ML功能將走向邊緣。就在幾個(gè)月前，恩智浦展示了i.MX 9系列產(chǎn)品，在邊緣運(yùn)行大語言模型，甚至無需連接到云端，設(shè)備可以變得智能和自主，自行做出決策。
針對邊緣智能提出的要求，恩智浦在MCU和MPU側(cè)集成了NPU。恩智浦全球資深副總裁、工業(yè)及物聯(lián)網(wǎng)邊緣業(yè)務(wù)總經(jīng)理Charles Dachs說，對算力的部分不是說越多、越高越好，而是取決于應(yīng)用場景，因此不會堆砌一個(gè)很高算力的MCU，會追求產(chǎn)品的性價(jià)比。覆蓋的算力從10個(gè)G到幾個(gè)T。
光有算力還不夠，恩智浦還提供了一個(gè)完整的軟件框架，稱之為eIQ。它使開發(fā)人員和客戶能夠采集數(shù)據(jù)、標(biāo)注數(shù)據(jù)、訓(xùn)練自己的模型，并在底層處理平臺上測試它們，并部署在不同硬件里，再去做推理。
Charles Dachs說，這些產(chǎn)品技術(shù)支持命令識別、機(jī)器視覺、異常檢測、網(wǎng)絡(luò)安全、身份識別、存在性檢測。
恩智浦也展示了中國團(tuán)隊(duì)的案例。其中之一是將AI/ML功能與電機(jī)控制相結(jié)合，恩智浦提供了單芯片解決方案，客戶在一個(gè)芯片上，既實(shí)現(xiàn)馬達(dá)控制功能，又實(shí)現(xiàn)AI能力，典型的場景是電動(dòng)工具打鉆時(shí)，遇到特定的情況會自動(dòng)停止。
另一個(gè)是在醫(yī)療領(lǐng)域，把AI針對聲音的檢測，應(yīng)用到傳統(tǒng)呼吸機(jī)中，可以將病人打鼾的聲音，從其他聲音中過濾出來，從而對病人進(jìn)行監(jiān)測治療。
甚至在洗衣機(jī)中用于有效載荷管理的人工智能。人們把衣物放到洗衣機(jī)里，它會做一個(gè)自動(dòng)的稱重，根據(jù)重量來調(diào)整馬達(dá)和機(jī)器，最終達(dá)節(jié)省功耗的作用。
恩智浦大中華區(qū)邊緣處理事業(yè)部系統(tǒng)工程高級總監(jiān)王朋朋介紹了Demo，有的AI機(jī)器學(xué)習(xí)運(yùn)行在很小的MCU上，比如故障檢測；也有的運(yùn)行在比較高端的跨界處理器或應(yīng)用處理器上運(yùn)行，比如說人臉識別、疲勞檢測或大語言模型。這些模型的參數(shù)量也從幾千到數(shù)億。“需要做一些平衡和取舍，并一定要多少參數(shù)或是一定要多少的TOPS的要求。”
具體到芯片產(chǎn)品，如MCX N率先集成了NPU；應(yīng)用處理器i.MX 9系列里面集成了NPU，可以進(jìn)行高效的AI和機(jī)器學(xué)習(xí)的處理能力；恩智浦剛剛發(fā)布的RT 700跨界處理器，是第一顆集成了NPU的跨界處理器，非常適合于做邊緣側(cè)的AI和機(jī)器學(xué)習(xí)的處理。比如，它廣泛應(yīng)用于像AR眼鏡這樣的產(chǎn)品，也很適用于醫(yī)療或智能家居。
