導讀：新京報貝殼財經(jīng)訊（記者羅亦丹）11月21日，在烏鎮(zhèn)峰會網(wǎng)絡安全技術發(fā)展與國際合作論壇上，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東表示，人工智能發(fā)揮出什么樣的作用，關鍵還是看使用的人。針對AI黑箱化、黑產(chǎn)化、武器化這三重危機，齊向東提出應通過多維度體系化防護、“鑒偽”“防偽”技術、AI提升安全能力三大策略來化解。他具體解釋稱，第一個策略是結合大 ......
新京報貝殼財經(jīng)訊（記者羅亦丹）11月21日，在烏鎮(zhèn)峰會網(wǎng)絡安全技術發(fā)展與國際合作論壇上，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東表示，人工智能發(fā)揮出什么樣的作用，關鍵還是看使用的人。針對AI黑箱化、黑產(chǎn)化、武器化這三重危機，齊向東提出應通過多維度體系化防護、“鑒偽”“防偽”技術、AI提升安全能力三大策略來化解。
他具體解釋稱，第一個策略是結合大模型基礎運行環(huán)境、訓練環(huán)境、API接口以及數(shù)據(jù)安全進行多維度、體系化防護。大模型生命周期的每個環(huán)節(jié)都存在大量不確定性，無論是數(shù)據(jù)安全、算法開發(fā)和模型安全、內(nèi)容還是應用安全等方面，都要做到合規(guī)。
第二個策略是用“鑒偽”、“防偽”技術有效遏制深度偽造。針對正在野蠻生長的生成式偽造語音技術、生成式偽造視頻技術，應該盡快發(fā)展相關檢測技術。
第三個策略是用安全大模型反哺安全能力大提升。建立體系化的安全防護系統(tǒng)，是AI安全大模型驅(qū)動安全的重要前提。奇安信的內(nèi)生安全體系，把網(wǎng)絡安全設備和業(yè)務流轉、不同層次的信息系統(tǒng)有機結合起來，做到安全能力的無死角，確保多道網(wǎng)絡安全防線有效協(xié)同，實現(xiàn)從宏觀管控到微觀檢測的全面防護。
“有了高效的安全治理，AI才有未來�！饼R向東表示，奇安信將運用好技術優(yōu)勢，為AI安全治理貢獻更多安全廠商的力量，努力為全社會營造更加和諧、更加繁榮的未來。
編輯 韋英姿
校對 趙琳
