在今年全國兩會上，全國政協(xié)委員靳東表示，一些喜歡其影視作品的觀眾，被“AI換臉”視頻騙得很慘；全國人大代表雷軍也提到，網(wǎng)上諸多“AI雷軍”的視頻使他本人深受困擾。如何避免AI技術(shù)被濫用，引發(fā)社會關注。

　　近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(以下簡稱《標識辦法》)，自2025年9月1日起施行。

　　《標識辦法》明確，人工智能生成合成內(nèi)容標識主要包括顯式標識和隱式標識兩種形式。該辦法強調(diào)，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權(quán)益。

　　民盟北京市委創(chuàng)新委副秘書長、海淀區(qū)律師協(xié)會參政議政促進工作委員會副秘書長常文娟介紹，顯式標識就像生成式人工智能的“身份證”，會清晰標注在AI合成內(nèi)容的固定位置，一看便知；而隱式標識是“DNA”，往往要通過專業(yè)工具，才可識別。

　　長期以來，我國雖有《網(wǎng)絡安全法》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等法律法規(guī)，但針對人工智能生成內(nèi)容的專門法規(guī)仍嫌不足，監(jiān)管部門在執(zhí)法過程中可能面臨法律依據(jù)不足的問題。常文娟表示：“《標識辦法》的出臺，填補了這一空白，并在現(xiàn)有法律框架的基礎上進一步細化了具體執(zhí)行細則?！?/p>

　　在她看來，當下實行顯式標識與隱式標識并行的雙重標識方式，保障了公眾知情權(quán)，強化了監(jiān)管效能，還為監(jiān)管部門提供了技術(shù)抓手，對虛假信息傳播可以起到一定的遏制作用。

　　此外，《標識辦法》中，進一步細化了生成服務提供者、傳播平臺、用戶的義務，也使各方在AI生成內(nèi)容的生產(chǎn)、傳播和使用過程中都有章可循。

　　人工智能技術(shù)的應用需要創(chuàng)新，也需要被監(jiān)管。全國政協(xié)委員、九三學社中央科技專委會副主任、中國科學院計算技術(shù)研究所研究員張云泉表示，人工智能發(fā)展到今天，分階段進行動態(tài)監(jiān)管是“剛需”。

　　“發(fā)布《標識辦法》，標志著我國對AI的內(nèi)容監(jiān)管進入新階段。”他認為，AI監(jiān)管的方向在于，尋求技術(shù)發(fā)展和合規(guī)要求之間的平衡。當下的監(jiān)管，能有效防范潛在風險，且暫時不會對生成式人工智能的創(chuàng)新造成太多影響。

　　張云泉建議，監(jiān)管初期，應鼓勵創(chuàng)新，避免過早施加嚴格限制，允許技術(shù)創(chuàng)新發(fā)展。隨著技術(shù)成熟，逐步引入監(jiān)管框架，確保其應用符合社會倫理和法律要求。在進行動態(tài)監(jiān)管的過程中，政策應具備靈活性，能夠根據(jù)技術(shù)進步和應用反饋及時調(diào)整，避免僵化呆板，影響技術(shù)創(chuàng)新。同時，鼓勵創(chuàng)新，確保AI生成技術(shù)的合規(guī)應用，實現(xiàn)技術(shù)進步與社會責任的平衡。(完)(《中國新聞》報劉益伶報道)