財(cái)聯(lián)社3月5日訊（記者郭松嶠）“雖然我國已出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》，但該辦法僅針對(duì)生成式人工智能，無法全面涵蓋人工智能領(lǐng)域的各類問題和應(yīng)用場景，啟動(dòng)立法研究并制定專門的綜合性法律勢(shì)在必行�！�
在近日召開全國兩會(huì)上，人工智能成為最受矚目的話題之一，財(cái)聯(lián)社記者也就此采訪了多位代表委員，全國人大代表，天能控股集團(tuán)黨委書記、董事長張?zhí)烊稳缡欠Q。
今年兩會(huì)，張?zhí)烊斡?jì)劃提交了多項(xiàng)議案和建議，其中包括建議制訂《人工智能管理法》。他建議，要建立健全數(shù)據(jù)保護(hù)與安全機(jī)制，規(guī)范人工智能所收集數(shù)據(jù)的使用范圍，僅限于在授權(quán)范圍內(nèi)用于特定的人工智能研發(fā)、優(yōu)化和應(yīng)用場景；建立數(shù)據(jù)共享審批機(jī)制，明確數(shù)據(jù)共享的條件和流程，確保數(shù)據(jù)接收方具備相應(yīng)的數(shù)據(jù)保護(hù)能力，并簽訂嚴(yán)格的數(shù)據(jù)保護(hù)協(xié)議。
相比于張?zhí)烊危珖䥇f(xié)委員、新希望集團(tuán)董事長劉永好則分享了大模型提升辦公效率的體驗(yàn)。他對(duì)財(cái)聯(lián)社記者表示，公司已要求部分業(yè)務(wù)接入AI系統(tǒng)DeepSeek，以提高管理精細(xì)化和企業(yè)效率。此外，集團(tuán)還投資了多家機(jī)器人公司，探索機(jī)器人與傳統(tǒng)產(chǎn)業(yè)場景的結(jié)合應(yīng)用。
全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團(tuán)董事長齊向東聚焦安全層面，提出建立適配大模型縱深防御體系的緊迫需求。他對(duì)記者表示，要明確大模型安全的組織架構(gòu)，界定安全主體責(zé)任，對(duì)基礎(chǔ)安全、數(shù)據(jù)安全、應(yīng)用系統(tǒng)開發(fā)安全、運(yùn)行安全等方面提出清晰的技術(shù)保障要求。
可以借鑒“框架立法+動(dòng)態(tài)調(diào)整”模式，設(shè)定基礎(chǔ)法律框架
財(cái)聯(lián)社：目前，人工智能領(lǐng)域的創(chuàng)新速度遠(yuǎn)超傳統(tǒng)行業(yè)，在制定《人工智能管理法》時(shí)，如何確保法律具有足夠的前瞻性和靈活性，既能有效規(guī)范當(dāng)下的行業(yè)行為，又能適應(yīng)未來技術(shù)的快速發(fā)展？
張?zhí)烊危?/strong>可以借鑒“框架立法+動(dòng)態(tài)調(diào)整”模式，設(shè)定基礎(chǔ)法律框架，同時(shí)輔以行政法規(guī)、行業(yè)標(biāo)準(zhǔn)、倫理準(zhǔn)則等層級(jí)性規(guī)范，使其能夠根據(jù)技術(shù)演進(jìn)動(dòng)態(tài)調(diào)整。此外，建立跨部門、跨行業(yè)的AI治理機(jī)構(gòu)，推動(dòng)立法與科技同步演進(jìn)，確保法律既能有效規(guī)范當(dāng)下行業(yè)行為，又能適應(yīng)未來技術(shù)發(fā)展。
數(shù)據(jù)是人工智能的核心要素，健全數(shù)據(jù)保護(hù)機(jī)制需從立法、技術(shù)、治理三個(gè)層面入手。首先，在現(xiàn)有《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律基礎(chǔ)上持續(xù)完善法律法規(guī)體系，明確數(shù)據(jù)分類分級(jí)標(biāo)準(zhǔn)以及在采集、存儲(chǔ)、處理、流通等環(huán)節(jié)的合規(guī)要求，細(xì)化個(gè)人信息保護(hù)與企業(yè)數(shù)據(jù)安全責(zé)任邊界，強(qiáng)化跨境數(shù)據(jù)流動(dòng)監(jiān)管，確保數(shù)據(jù)使用透明可控。其次，推動(dòng)企業(yè)采用隱私計(jì)算、區(qū)塊鏈等技術(shù)，構(gòu)建主動(dòng)防御體系，建立數(shù)據(jù)安全風(fēng)險(xiǎn)評(píng)估與應(yīng)急響應(yīng)機(jī)制。同時(shí)，積極實(shí)現(xiàn)數(shù)據(jù)可用不可見，通過安全多方計(jì)算、聯(lián)邦學(xué)習(xí)等技術(shù)，在不泄露原始數(shù)據(jù)的前提下完成數(shù)據(jù)的分析與協(xié)同應(yīng)用，保證數(shù)據(jù)在使用過程中的安全性。最后，建立企業(yè)與政府協(xié)同監(jiān)管機(jī)制，通過行業(yè)自律、數(shù)據(jù)安全評(píng)估、國際合作等方式，平衡數(shù)據(jù)利用與隱私保護(hù)，構(gòu)建健康的數(shù)據(jù)生態(tài)。最終形成政府監(jiān)管、企業(yè)主責(zé)、社會(huì)監(jiān)督的多元共治格局。
財(cái)聯(lián)社：從天能所從事的新能源鋰電池、智慧能源等核心業(yè)務(wù)來看，對(duì)我國人工智能產(chǎn)業(yè)的發(fā)展前景和競爭力有何期望？
張?zhí)烊危?/strong>從競爭力提升角度，我們希望人工智能在推動(dòng)新能源產(chǎn)業(yè)升級(jí)、智能制造、能源管理等方面發(fā)揮更大作用。一方面，憑借 AI 技術(shù)打造智能化、無人化的先進(jìn)生產(chǎn)制造體系，降低生產(chǎn)成本，提高產(chǎn)品質(zhì)量，增強(qiáng)我國新能源產(chǎn)品在國際市場的價(jià)格與品質(zhì)競爭力。
另一方面，借助人工智能構(gòu)建更完善的能源管理平臺(tái)，推動(dòng)智能電網(wǎng)、能源儲(chǔ)存與調(diào)度優(yōu)化，提高新能源利用效率。未來，中國人工智能產(chǎn)業(yè)應(yīng)加快標(biāo)準(zhǔn)制定和核心技術(shù)攻關(guān)，在全球競爭中掌握主動(dòng)權(quán)，推動(dòng)智能能源和綠色科技深度融合，助力“雙碳”目標(biāo)實(shí)現(xiàn)。
建立適配大模型的縱深防御體系
財(cái)聯(lián)社：積極構(gòu)建高可靠人工智能安全體系，著力為用戶提供有效的安全防護(hù)，既要用人工智能去驅(qū)動(dòng)安全，又要做好人工智能自身安全。您認(rèn)為，目前人工智能的發(fā)展面臨哪些嚴(yán)峻安全問題？
齊向東：我總結(jié)，人工智能發(fā)展面臨的安全問題大致可以分三類。
第一類是人工智能大模型自身的安全問題。開發(fā)風(fēng)險(xiǎn)、數(shù)據(jù)風(fēng)險(xiǎn)、應(yīng)用風(fēng)險(xiǎn)和基礎(chǔ)環(huán)境風(fēng)險(xiǎn)這四大安全風(fēng)險(xiǎn)比較突出。開發(fā)方面，開源大模型要重點(diǎn)防范代碼缺陷和預(yù)留后門等問題；應(yīng)用方面要防“內(nèi)鬼”對(duì)訓(xùn)練數(shù)據(jù)投毒，進(jìn)行模型篡改、配置篡改；數(shù)據(jù)方面，要小心內(nèi)部配置錯(cuò)誤和弱口令等造成的數(shù)據(jù)庫暴露；基礎(chǔ)環(huán)境方面要重點(diǎn)關(guān)注云、API、傳統(tǒng)設(shè)備漏洞等等。目前，已有團(tuán)隊(duì)發(fā)現(xiàn)DeepSeek存在嚴(yán)重漏洞，并可借此獲取后端隱私數(shù)據(jù)、API 密鑰、操作元數(shù)據(jù)，盡管漏洞很快被修補(bǔ)，但是根據(jù)我們的經(jīng)驗(yàn)，新漏洞會(huì)不斷被挖掘出來。
第二類是利用人工智能開展網(wǎng)絡(luò)攻擊的問題。人工智能促進(jìn)了網(wǎng)絡(luò)攻擊手段的更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時(shí)發(fā)動(dòng)海量攻擊打垮已有的網(wǎng)絡(luò)安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認(rèn)知戰(zhàn)、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡(luò)詐騙，或輸出背離主流價(jià)值觀的內(nèi)容危害認(rèn)知安全。
第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來人工智能會(huì)成為社會(huì)的基礎(chǔ)設(shè)施，當(dāng)大模型嵌入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時(shí)，會(huì)放大漏洞等傳統(tǒng)安全威脅，一旦人工智能大模型遭到攻擊可能會(huì)牽一發(fā)而動(dòng)全身，引發(fā)社會(huì)服務(wù)中斷、生產(chǎn)停滯、隱私數(shù)據(jù)泄露等安全事件。
財(cái)聯(lián)社：那么，通過哪些維度或者體系提升人工智能的安全能力？
齊向東：針對(duì)這些安全問題，要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。
第一，建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。通過構(gòu)筑覆蓋終端、應(yīng)用、數(shù)據(jù)、模型、紅域的多維度核心防護(hù)能力，打造適用于人工智能的立體縱深防御體系，并給予威脅情報(bào)、大網(wǎng)數(shù)據(jù)監(jiān)測(cè)等情報(bào)賦能，實(shí)現(xiàn)“對(duì)外防攻擊、對(duì)內(nèi)防內(nèi)鬼”，為人工智能大模型安全穩(wěn)定運(yùn)行保駕護(hù)航。
第二，制定大模型安全強(qiáng)制合規(guī)要求，夯實(shí)人工智能安全發(fā)展的制度保障。要明確大模型安全的組織架構(gòu)，界定安全主體責(zé)任，對(duì)基礎(chǔ)安全、數(shù)據(jù)安全、應(yīng)用系統(tǒng)開發(fā)安全、運(yùn)行安全等方面提出清晰的技術(shù)保障要求。
第三，推廣“AI+安全”創(chuàng)新成果落地，走好提升安全能力的必經(jīng)之路。隨著人工智能應(yīng)用的進(jìn)一步鋪開，要鼓勵(lì)更多產(chǎn)業(yè)用上、用好“AI+安全”創(chuàng)新成果，提高千行百業(yè)的網(wǎng)絡(luò)安全防護(hù)效能。
積極參與豬周期預(yù)測(cè)大模型體系建設(shè)
財(cái)聯(lián)社：你自己使用AI嗎？
劉永好：我自己經(jīng)常使用AI大模型，手機(jī)上下載了多款軟件，還會(huì)比較哪個(gè)更好用。另外，我也鼓勵(lì)新希望集團(tuán)的員工在工作中使用AI工具，公司員工向我做匯報(bào)的時(shí)候，以前都是用PPT，現(xiàn)在我要求他們用AI工具整理好，提煉要點(diǎn)，再交給我。AI大模型的應(yīng)用確實(shí)提高了我們的工作效率。目前新希望集團(tuán)鼓勵(lì)其設(shè)計(jì)隊(duì)伍、營銷隊(duì)伍、管理隊(duì)伍等都與AI大模型合作，我們要了解它、學(xué)習(xí)它、使用它，一定會(huì)給企業(yè)帶來好處。堅(jiān)持主業(yè)的時(shí)候必須關(guān)注人工智能，把AI大模型應(yīng)用到傳統(tǒng)產(chǎn)業(yè)上，就是在為傳統(tǒng)產(chǎn)業(yè)注入新質(zhì)生產(chǎn)力。
“財(cái)聯(lián)社：鑒于豬周期波動(dòng)劇烈，對(duì)企業(yè)經(jīng)營影響不小，AI在解決這個(gè)問題上能發(fā)揮什么作用？請(qǐng)問新希望做了哪些嘗試？”
劉永好：由于豬周期波動(dòng)劇烈，我們正在借助大數(shù)據(jù)和人工智能積極參與豬周期預(yù)測(cè)大模型體系建設(shè)。新希望具備三大優(yōu)勢(shì)：一是擁有 40 多年行業(yè)經(jīng)驗(yàn)；二是作為中國最大的飼料生產(chǎn)企業(yè)，積累了海量數(shù)據(jù)；三是旗下眾多養(yǎng)殖企業(yè)能提供當(dāng)下市場行情、價(jià)格及期貨波動(dòng)等數(shù)據(jù)，再結(jié)合政府?dāng)?shù)據(jù)與歷史數(shù)據(jù)，在大模型支持下做好豬周期預(yù)測(cè)，這對(duì)國家和企業(yè)意義重大，后續(xù)還有諸多工作要推進(jìn)。
（財(cái)聯(lián)社記者 郭松嶠）
