7月26日，2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議在上海開幕。在“有益安全公平”人工智能向善分論壇上，國(guó)家網(wǎng)信辦網(wǎng)絡(luò)管理技術(shù)局局長(zhǎng)于永河表示，截至目前，共有474款大模型完成備案，247款大模型應(yīng)用或功能完成登記，大模型應(yīng)用注冊(cè)用戶總數(shù)已經(jīng)超過(guò)30億。

上述備案要求與《生成式人工智能服務(wù)管理暫行辦法》中的一項(xiàng)規(guī)定（下稱《暫行辦法》）有關(guān)。為及時(shí)應(yīng)對(duì)生成式人工智能帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)，2023年7月，國(guó)家網(wǎng)信辦等七部門發(fā)布《暫行辦法》，要求提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開展安全評(píng)估，并按照相關(guān)規(guī)定履行算法備案和變更、注銷備案手續(xù)。

此外，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《暫行辦法》等部門規(guī)章均提及了網(wǎng)絡(luò)服務(wù)提供者對(duì)AI生成合成內(nèi)容的標(biāo)識(shí)義務(wù)，以應(yīng)對(duì)虛假信息泛濫、深度偽造、欺詐等風(fēng)險(xiǎn)日漸突出。于永河指出，國(guó)家網(wǎng)信辦網(wǎng)絡(luò)管理技術(shù)局聚焦生成合成內(nèi)容標(biāo)識(shí)添加這一關(guān)鍵環(huán)節(jié)，今年3月聯(lián)合多部門發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（下稱《標(biāo)識(shí)辦法》），其后與之配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》也已同步施行。