新京報貝殼財經(jīng)訊（記者潘亦純）近期，DeepSeek火爆再度引發(fā)公眾對大模型蓬勃發(fā)展下數(shù)字安全的關(guān)注。2月12日，在2025首屆AI引領(lǐng)數(shù)字安全新浪潮專題論壇上，與會專家圍繞AI技術(shù)的快速發(fā)展對數(shù)字安全帶來的挑戰(zhàn)與機遇展開深入討論，提出“以AI管AI”的理念，即利用人工智能技術(shù)來管理和應(yīng)對AI自身可能引發(fā)的安全問題。
中國網(wǎng)絡(luò)空間安全協(xié)會專家指出，新技術(shù)的出現(xiàn)帶來了全新的生態(tài)環(huán)境和產(chǎn)業(yè)格局，但相應(yīng)的配套措施也需要及時跟上。隨著AI技術(shù)的廣泛應(yīng)用，數(shù)據(jù)安全、算法安全、隱私保護等問題日益凸顯，傳統(tǒng)的安全防護手段已難以應(yīng)對復(fù)雜的數(shù)字安全挑戰(zhàn)。
北京郵電大學(xué)災(zāi)備技術(shù)國家工程研究中心主任李鳳華認(rèn)為，在人工智能快速發(fā)展之下，數(shù)據(jù)帶來便利，但個人信息泄露、非法交易和濫用等問題也如影隨形。對此，必須采取全方位、多層次的措施予以防范，加強企業(yè)自律，重視并保護弱勢群體的利益。
國雄資本有限公司董事長姚尚坤則表示，規(guī)避AIGC（生成式人工智能）風(fēng)險不能單純依賴智能算法，而是需要將人類的創(chuàng)造能力與AI的生成能力有效結(jié)合，通過AIGC合成內(nèi)容鑒別技術(shù)應(yīng)對AI的惡意應(yīng)用，利用大模型糾偏提升AI的安全能力，并借助生成式模型水印技術(shù)保護AI賦能的系統(tǒng)。
編輯 韋博雅
校對 柳寶慶
