機(jī)器之心發(fā)布
機(jī)器之心編輯部
12 月 12 日，由中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）指導(dǎo)、北京中關(guān)村科金技術(shù)有限公司主辦的【2024 大模型技術(shù)與應(yīng)用創(chuàng)新論壇】在北京成功舉辦。
論壇現(xiàn)場(chǎng)，中關(guān)村科金總裁喻友平正式發(fā)布大模型時(shí)代的 “三級(jí)引擎戰(zhàn)略”，推出重磅升級(jí)的得助大模型平臺(tái) 2.0，以及一系列大模型應(yīng)用。其中，得助大模型平臺(tái) 2.0 具備算力統(tǒng)一調(diào)度能力、一站式模型訓(xùn)推、應(yīng)用快速構(gòu)建三大核心能力，并基于企業(yè)級(jí)最佳實(shí)踐沉淀上百個(gè)全場(chǎng)景套件，能夠幫助各類企業(yè)快速構(gòu)建和部署自己的大模型應(yīng)用，顯著降低企業(yè)大模型落地成本。基于得助大模型平臺(tái) 2.0，中關(guān)村科金已與各行業(yè)伙伴一起構(gòu)建了 200 + 覆蓋智能營(yíng)銷、智能客服、智能運(yùn)營(yíng)和知識(shí)管理四大核心場(chǎng)景的應(yīng)用，現(xiàn)場(chǎng)重點(diǎn)展示了大模型外呼、大模型接警助手、大模型陪練和大模型財(cái)富助手在幫助企業(yè)實(shí)現(xiàn)對(duì)外增長(zhǎng)和對(duì)內(nèi)提效的實(shí)戰(zhàn)效果。喻友平認(rèn)為，大模型行業(yè)的發(fā)展已不再是暴風(fēng)驟雨的狂飆狀態(tài)，而是真正進(jìn)入到精細(xì)化落地的進(jìn)程中，平臺(tái)＋應(yīng)用＋服務(wù)是企業(yè)大模型落地的最佳路徑。以下為演講實(shí)錄尊敬的各位領(lǐng)導(dǎo)、朋友，歡迎大家來到今天下午這個(gè)論壇。今天非常熱鬧，人非常多，就像大模型技術(shù)和應(yīng)用現(xiàn)在非常熱烈的狀態(tài)，非常應(yīng)景。過去一年多的時(shí)間里，大模型技術(shù)一直在不斷進(jìn)步，無論是鄭院士還是斯坦利（Kenneth Stanley）對(duì)大模型技術(shù)都提出了一些觀察、預(yù)測(cè)，當(dāng)然還有一些擔(dān)憂。對(duì)企業(yè)界來說，特別是對(duì)中關(guān)村科金這樣的 "大模型 + X" 的企業(yè)來說，我們更關(guān)心的是如何將大模型應(yīng)用到企業(yè)以及各種場(chǎng)景中，真正找到價(jià)值。可以看到，整個(gè)業(yè)界對(duì)行業(yè)大模型和 AI 大模型解決方案的發(fā)展還是非常樂觀。從兩家國(guó)際知名咨詢公司的報(bào)告來看，從 2024 年到 2028 年，大模型市場(chǎng)復(fù)合增長(zhǎng)率的預(yù)測(cè)基本是 40%-50% 以上的增速。在這種情況下，大模型應(yīng)用將必然有一個(gè)蓬勃的爆發(fā)。
中關(guān)村科金作為一線參與者來說，還是看到很多挑戰(zhàn)。比如成本的問題�，F(xiàn)在把大模型應(yīng)用到實(shí)際的業(yè)務(wù)中，成本不低。即使不做基礎(chǔ)大模型研發(fā)，就是做 TTS/NLP，算力還好，最關(guān)鍵的是標(biāo)注成本，尤其是需要很多高精度、高準(zhǔn)確的數(shù)據(jù)，這都是時(shí)間成本和人力成本。在數(shù)據(jù)的獲取方面，本身處理的難度不小。其實(shí)構(gòu)建一個(gè)場(chǎng)景大模型，并不需要海量數(shù)據(jù)，萬級(jí)別的數(shù)據(jù)就可以解決很多問題。但技術(shù)和需求的匹配也是實(shí)踐過程中的問題，如何把技術(shù)和需求匹配，相信也是今天在座大部分人非常關(guān)心的問題。雖然媒體對(duì)大模型的普及做得非常好，但我們對(duì)大模型邊界的認(rèn)知程度，分析業(yè)務(wù)場(chǎng)景中問題和提供解決辦法的能力，以及跟公司業(yè)務(wù)系統(tǒng)和流程如何建立鏈接形成技術(shù)解決方案，在這些方面坦率說我們還處于非常早期的階段，仍有許多需要探索的，所以這些方面的人才也是非常缺乏的。除了大模型技術(shù)，大模型應(yīng)用人才的需求量也遠(yuǎn)大于市場(chǎng)供給。對(duì)企業(yè)來說行業(yè) Know-how 上也有很多不足。每個(gè)行業(yè)都有行業(yè)獨(dú)特的問題，有些問題在一個(gè)行業(yè)里很關(guān)鍵，但換一個(gè)行業(yè)就會(huì)發(fā)生變化。在非常細(xì)分的場(chǎng)景中，需要大模型應(yīng)用廠商和客戶有非常深度的溝通。此外，新技術(shù)在法規(guī)和倫理風(fēng)險(xiǎn)方面都會(huì)面臨新挑戰(zhàn)，比如數(shù)據(jù)安全性，用戶隱私安全，所以對(duì)于大模型應(yīng)用，法律法規(guī)和制度的健全也是迫在眉睫的。
當(dāng)然市場(chǎng)在不斷進(jìn)步，在過去一年多時(shí)間，我們?cè)诓粩喔竽Ｐ涂蛻艚涣鞯倪^程中略有心得。第一，無論是大模型還是任何技術(shù)，其商業(yè)本質(zhì)還是要幫客戶解決問題。比如一個(gè)家裝公司，希望通過電話外呼觸達(dá)客戶后從公域轉(zhuǎn)私域加友，這個(gè)場(chǎng)景看起來就是做訓(xùn)練、部署、外呼，TTS 跟 ASR 結(jié)合起來就可以搭建。但想在業(yè)務(wù)中發(fā)揮作用，提高轉(zhuǎn)化率，就不能這么簡(jiǎn)單。其中有很多具體的技術(shù)問題，比如大模型幻覺消除，在企業(yè)的應(yīng)用中是非常普遍的需求。我們和家裝行業(yè)公司的合作，經(jīng)過七次迭代，把私域加友轉(zhuǎn)化率從 1.5% 提升到 3.5%。第二，端到端的解決方案。大模型可以生成 Agent，硅谷現(xiàn)在已經(jīng)把 Agent 當(dāng)成一個(gè)新的 API，但一個(gè) API 無法構(gòu)成一個(gè)業(yè)務(wù)系統(tǒng)，也無法讓你的業(yè)務(wù)有質(zhì)的飛躍。在這個(gè)過程中非常重要的是實(shí)現(xiàn)端到端的產(chǎn)品體系。舉一個(gè)例子，中關(guān)村科金重點(diǎn)在做的是連接企業(yè)和客戶全流程的智能化。這個(gè)過程中有幾個(gè)關(guān)鍵點(diǎn)。首先是全媒體聯(lián)絡(luò)中心，這是企業(yè)跟客戶連接的基礎(chǔ)平臺(tái)，這個(gè)平臺(tái)看似是基礎(chǔ)軟件，但其中的業(yè)務(wù)流程、業(yè)務(wù)邏輯非常復(fù)雜。中關(guān)村科金過去花了很多年才把這一套產(chǎn)品建設(shè)得比較完善。純粹做大模型技術(shù)的公司沒有這樣的平臺(tái)能力，需要建立在別人的平臺(tái)能力之上，那提供的產(chǎn)品解決方案就是硬湊出來的，適配就差很多。中關(guān)村科金在一個(gè)全媒體聯(lián)絡(luò)中心打造了語音和文本兩類機(jī)器人，同時(shí)提供面向坐席效能優(yōu)化的助手、質(zhì)檢和陪練的三件套。這三件套在任何場(chǎng)景下都可以使用，幫企業(yè)做好培訓(xùn)，還可以監(jiān)督效果。在金融行業(yè)落地智能客服，不能只做客服機(jī)器人，而是把 “1 個(gè)聯(lián)絡(luò)中心 + 2 個(gè)機(jī)器人 + 3 個(gè)套件” 的全套解決方案提供給客戶，實(shí)現(xiàn)端到端的智能化。大模型時(shí)代，數(shù)字化 + 智能化的升級(jí)思路是一個(gè)非常關(guān)鍵的點(diǎn)。第三，全鏈條的服務(wù)。各行各業(yè)有著豐富的應(yīng)用場(chǎng)景，既有面向外部客戶的，也有面向內(nèi)部員工的，這兩類體驗(yàn)的提升就是大模型在企業(yè)落地的兩個(gè)最重要方向。在這個(gè)過程中，企業(yè)需要建立大模型的內(nèi)生能力。大模型基于企業(yè)內(nèi)部的數(shù)據(jù)做一個(gè)發(fā)電站，電發(fā)出來之后，具體用在什么地方需要企業(yè)內(nèi)部有管理和調(diào)配的能力。我們?yōu)閲?guó)內(nèi)若干個(gè)頭部央國(guó)企提供了平臺(tái)解決方案及實(shí)施，同時(shí)在平臺(tái)之上合作應(yīng)用開發(fā)，幫助客戶解決內(nèi)部的辦公、寫作、客服、營(yíng)銷等各類場(chǎng)景的需求。更重要的是，我們還提供陪伴式服務(wù)，包括數(shù)據(jù)標(biāo)注、問題定義、檢測(cè)方案的實(shí)施等等。所以這三個(gè)方向是我們現(xiàn)在認(rèn)為市場(chǎng)上真正需要的大模型應(yīng)用，既要能夠解決客戶的核心問題，又要能提供端到端解決方案，同時(shí)還要有全鏈條的服務(wù)。
中關(guān)村科金基于 10 年來積累的 ToB 服務(wù)經(jīng)驗(yàn)，加上大模型智能升級(jí)過程中的沉淀，我們今天正式發(fā)布中關(guān)村科金大模型時(shí)代企業(yè)智能化升級(jí)的 “三級(jí)引擎戰(zhàn)略”。首先是平臺(tái)，智能化平臺(tái) + 數(shù)字化平臺(tái)才能讓企業(yè)的數(shù)字化真正進(jìn)入一個(gè)智能化階段。所以平臺(tái)本身是大模型落地的技術(shù)引擎。其次是應(yīng)用，在企業(yè)經(jīng)營(yíng)全流程的各個(gè)環(huán)節(jié)中，都可以通過大模型進(jìn)行智能化的升級(jí)，包括營(yíng)銷、運(yùn)營(yíng)、服務(wù)、知識(shí)管理等，甚至像生產(chǎn)、供應(yīng)鏈、財(cái)務(wù)等場(chǎng)景都有可能利用智能化和數(shù)字化的平臺(tái)相結(jié)合，打造智能化的應(yīng)用。所以應(yīng)用是大模型落地的產(chǎn)品引擎。第三是服務(wù)。企業(yè) “最后一公里” 的交付還有一個(gè)關(guān)鍵點(diǎn)就是服務(wù)。服務(wù)是一個(gè)價(jià)值引擎，最終要讓客戶、企業(yè)把大模型用起來，包括咨詢服務(wù)、平臺(tái)搭建、應(yīng)用調(diào)試和效果運(yùn)營(yíng)都是缺一不可的。因此，平臺(tái) + 應(yīng)用 + 服務(wù)是企業(yè)大模型真正實(shí)現(xiàn)落地的最佳路徑。這既是我們的心得，也是希望跟各行業(yè)進(jìn)行分享探索，如何讓中國(guó)的大模型落地更快更好。
對(duì)中關(guān)村科金來說，我們定位是領(lǐng)先的大模型技術(shù)與應(yīng)用公司。在 2018 年，我們發(fā)布了全媒體聯(lián)絡(luò)中心。2019 年把傳統(tǒng)的基礎(chǔ) AI 能力，如 OCR、TTS、ASR 用到了平臺(tái)智能化里。中關(guān)村科金一直緊隨著人工智能技術(shù)，從上一代以 CV 和語音為主的智能化技術(shù)到現(xiàn)在的大模型技術(shù)，一直跟隨著大模型技術(shù)不斷演進(jìn)，面向企業(yè)的服務(wù)和產(chǎn)品進(jìn)行升級(jí)。2020 年發(fā)布了音視頻平臺(tái)、遠(yuǎn)程雙錄等，其中用到如 OCR、人臉識(shí)別技術(shù)，讓雙錄場(chǎng)景效率和效果更優(yōu)。2021 年發(fā)布了坐席效能優(yōu)化套件，2022 年發(fā)布了營(yíng)銷服一體化平臺(tái)，2023 年發(fā)布了行業(yè)大模型。2024 年，一年的過程中我們不斷利用大模型能力重構(gòu)所有的應(yīng)用產(chǎn)品。
基于中關(guān)村科金的 “三級(jí)引擎戰(zhàn)略”，向大家介紹我們的產(chǎn)品全景圖。通過全媒體聯(lián)絡(luò)中心和音視頻平臺(tái)這兩大數(shù)字化平臺(tái)，把企業(yè)與客戶連接的各種渠道、各種媒介進(jìn)行很好的整合，以及企業(yè)與內(nèi)容員工的連接。在此之上，得助大模型平臺(tái)可以提供從算力調(diào)度，模型訓(xùn)推到智能體構(gòu)建。再結(jié)合企業(yè)的應(yīng)用場(chǎng)景，在智能營(yíng)銷、智能客服、智能運(yùn)營(yíng)、知識(shí)管理等領(lǐng)域提供非常豐富的產(chǎn)品解決方案。同時(shí)結(jié)合各行各業(yè)的應(yīng)用場(chǎng)景推出了一系列場(chǎng)景解決方案。這是中關(guān)村科金過去一段時(shí)間里的心得和方法。
今天，中關(guān)村科金重磅發(fā)布得助大模型平臺(tái) 2.0，它具備算力統(tǒng)一調(diào)度，一站式模型訓(xùn)推，應(yīng)用快速構(gòu)建三大能力。算力統(tǒng)一調(diào)度能夠?qū)?GPU 算力進(jìn)行共享調(diào)度，對(duì)模型統(tǒng)一納管，包含所有的開源模型和開放的 MaaS 平臺(tái)等最前沿的大模型技術(shù)，同時(shí)也兼顧了國(guó)產(chǎn)化信創(chuàng)適配。在模型訓(xùn)推方面，支持訓(xùn)推一體化，量化壓縮及模塊化的部署。智能體構(gòu)建，自主編排可視化工作流，多 Agent 協(xié)同自主任務(wù)規(guī)劃。最重要的是中間全場(chǎng)景套件，這些都是基于各類場(chǎng)景應(yīng)用的企業(yè)級(jí)最佳實(shí)踐沉淀而來。
我們把多個(gè)行業(yè)套件都沉淀在得助大模型平臺(tái)，每個(gè)套件都是極具針對(duì)性的場(chǎng)景解決方案，要綜合運(yùn)用數(shù)據(jù)流、Agent 流、工作流組合，用大模型、小模型、MoE 模型組合，還有 SFT 模型，每個(gè)場(chǎng)景都經(jīng)過實(shí)踐檢驗(yàn)，最后沉淀在平臺(tái)上。得助大模型平臺(tái) 2.0 已經(jīng)沉淀了上百個(gè)通用套件和行業(yè)套件。這樣一個(gè)靈活的大模型平臺(tái)，企業(yè)只需要 5 分鐘即可構(gòu)建自己專屬的場(chǎng)景應(yīng)用。
