中新網(wǎng)3月12日電(記者 吳家駒)近期，Seedance 2.0等AI視頻生成模型，憑借其強大的視頻生成能力引起廣泛關注，而互聯(lián)網(wǎng)上隨之出現(xiàn)的一些偽造視頻，也讓公眾心生擔憂。

　　當AI視頻越來越“以假亂真”，如何構筑“防火墻”？

　　近日，中國信息通信研究院人工智能研究所工程師郭蘇敏在接受中新網(wǎng)專訪表示，產(chǎn)業(yè)需要走體系化治理路線，加強生成內(nèi)容的源頭治理，推動分類分級的風險管控，打造“技管結合”的治理架構，并推動AI生成模型安全測試。

　　“生成式人工智能的多模態(tài)能力持續(xù)優(yōu)化，大幅降低了創(chuàng)作門檻。”郭蘇敏表示。

　　郭蘇敏認為，從產(chǎn)業(yè)和技術視角來看，Seedance 2.0是AI視頻生成領域的重大突破，也是AI視頻生成的里程碑時刻，其采用雙分支擴散變換器架構，實現(xiàn)了多工種的整合，大幅降低視頻生產(chǎn)周期，實現(xiàn)視頻創(chuàng)作范式變革。

　　影視行業(yè)將是深受影響的行業(yè)之一。郭蘇敏表示，短期來看，Seedance 2.0將驅(qū)動影視行業(yè)深度變革，加速釋放技術的價值紅利。長遠來看，生成式人工智能技術或推動AI生成視頻向長視頻敘事演進，與智能體、數(shù)字人等技術實現(xiàn)深度整合，推動影視業(yè)形成創(chuàng)意引領、技術賦能的新生態(tài)。

　　同時，郭蘇敏強調(diào)，隨著AI生成的視頻越來越逼真，人工智能數(shù)據(jù)安全、算法偏見、模型幻覺、情感依賴、數(shù)據(jù)污染等問題也在不斷放大。例如，AI生成的視頻可能被利用于生成虛假信息實施金融詐騙，造成人格侵權、虛假信息泛濫、詐騙與財產(chǎn)損失、版權侵犯等多重風險，對個人、社會造成負面影響。

　　面對AI生成真人視頻的亂象，部分AI生成視頻模型曾嘗試推出限制措施。今年2月9日，Seedance 2.0宣布暫停真人素材參考功能。然而，一些AI生成的真人視頻仍在網(wǎng)上廣泛傳播，多位明星曾控訴AI視頻給自己帶來的負面影響。

　　面對新技術帶來的治理挑戰(zhàn)，郭蘇敏認為，產(chǎn)業(yè)需要走體系化治理路線，配套檢測與溯源機制，將安全合規(guī)理念貫穿研發(fā)、部署、應用的全流程，實現(xiàn)穿透式治理。

　　一是加強生成內(nèi)容的源頭治理，訓練數(shù)據(jù)是視頻生成的原料，更逼真的視頻生成往往需要更高質(zhì)量的數(shù)據(jù)，也易造成版權侵權等挑戰(zhàn)，需加強對訓練數(shù)據(jù)的合規(guī)審查與清洗。模型研發(fā)必須內(nèi)置風險控制能力，包括內(nèi)容合規(guī)校驗、身份核驗、敏感場景攔截。同時，落實《人工智能生成合成內(nèi)容標識辦法》《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》要求，推動數(shù)字水印、隱水印、內(nèi)容溯源成為生成模型的標配能力，從源頭實現(xiàn)可追溯。

　　二是推動分類分級的風險管控。根據(jù)模型生成能力實行分層級的權限管控，例如，具有高逼真生成能力的模型不宜向無資質(zhì)主體開放接口，應加強權限管控與審計監(jiān)督。

　　中國信通院圍繞風險管理打造“人工智能治理公共產(chǎn)品”，發(fā)布《人工智能 安全治理 系統(tǒng)風險管理能力要求》行業(yè)標準，根據(jù)數(shù)據(jù)、模型算法、網(wǎng)絡、應用進行風險分類，圍繞應用對個人、組織、社會、國家的影響進行風險分級并判定隱患等級，提出風險應對、動態(tài)跟蹤與持續(xù)改進的實施方法，將治理體系扎實嵌入運營流程，旨在為企業(yè)提供敏捷治理方案。

　　三是打造“技管結合”的治理架構。更逼真的視頻生成能力要求更加嚴格的內(nèi)容審核機制，也要求對用戶行為進行更規(guī)范的引導。

　　中國信通院《人工智能安全治理研究報告(2025年)》在吸收產(chǎn)業(yè)實踐的基礎上，提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實踐框架，深度融合“管理層”的制度牽引作用與“技術層”的能力支撐作用，構建“開發(fā)側(cè)”“部署側(cè)”與“應用側(cè)”安全關，實現(xiàn)從模型研發(fā)、系統(tǒng)部署到場景應用的全鏈條防護。

　　四是推動AI生成模型安全測試，構建針對AI視頻生成的安全評測集，推動多模態(tài)領域的人工智能安全基準測試(AI Safety Benchmark)，加強對生成音頻、視頻的評估測試，形成良性治理循環(huán)。(完)