3月27日，抖音發(fā)布關(guān)于不當利用A生成虛擬人物的治理公告。針對違規(guī)使用AI生成虛擬人物的行為，平臺會對違規(guī)視頻下架，對違規(guī)賬號進行取消其投稿和營利權(quán)限、抹除賬號粉絲、封禁賬號等處置，并利用模型、技術(shù)識別能力等手段，進行長期系統(tǒng)的識別發(fā)現(xiàn)和處置。同時，平臺已掌握部分黑產(chǎn)團伙不當使用AI生成虛擬人物用于犯罪的線索，將報警打擊
人工智能技術(shù)的快速發(fā)展，豐富了互聯(lián)網(wǎng)內(nèi)容生態(tài)，但也帶來技術(shù)濫用的挑戰(zhàn)。方正證券認為，從源頭上對于數(shù)據(jù)安全、隱私和知識產(chǎn)權(quán)的保護、對于AI內(nèi)容的監(jiān)管等，已經(jīng)成為生成式人工智能發(fā)展的重要前提。在政府充分發(fā)揮監(jiān)管職能的同時，安全廠商積極布局，發(fā)揮技術(shù)能力守住安全底線。
國投證券此前分析稱，伴隨人工智能在大模型等技術(shù)的帶動下向通用化邁進，相應的AI安全和監(jiān)管問題將會愈發(fā)凸顯。因此，無論從產(chǎn)業(yè)技術(shù)角度，還是從政策法規(guī)角度，對于AI的安全監(jiān)管必將進一步發(fā)展，從而帶來新的產(chǎn)業(yè)需求，帶動AI安全監(jiān)管產(chǎn)業(yè)的發(fā)展。建議關(guān)注AI安全監(jiān)管的核心標的美亞柏科，以及相關(guān)的網(wǎng)絡和數(shù)據(jù)安全公司如啟明星辰、奇安信、安恒信息、深信服、三未信安、信安世紀、格爾軟件、永信至誠、中新賽克等。
