每周，“合規(guī)周報”會盤點最近一周國外人工智能、科技競爭、個人信息保護上值得關(guān)注的動態(tài)。
本周，我們重點關(guān)注：全國已有433款大模型完成備案；超三千款違規(guī)AI產(chǎn)品被處置，AI造謠、低俗內(nèi)容將作為接下來整治重點；AI智能體對話存在低俗擦邊內(nèi)容，筑夢島APP被上海市網(wǎng)信辦依法約談。
海外方面，AI教父專訪提出對AI安全的兩種擔(dān)憂；Django締造者直指Agent三大致命威脅，MCP更不安全。
6月18日消息，在2025上海世界移動通信大會（MWC上海2025）開幕式上，國家互聯(lián)網(wǎng)信息辦公室副主任王京濤表示，截至目前，中國已經(jīng)有433款大模型完成備案，上線提供服務(wù)。面向未來，中國要堅持發(fā)展與安全并重研究，加強發(fā)展戰(zhàn)略、治理規(guī)則和技術(shù)標(biāo)準(zhǔn)的對接協(xié)調(diào)，推動人工智能朝著有益、安全、公平的方向健康、有序發(fā)展。要尊重各國網(wǎng)絡(luò)主權(quán)，尊重各國的互聯(lián)網(wǎng)發(fā)展道路和治理模式，共同構(gòu)筑和平、開放、安全、合作、有序的網(wǎng)絡(luò)空間。5G、人工智能等前沿科技對經(jīng)濟社會高質(zhì)量發(fā)展的帶動效應(yīng)正在不斷釋放。全球移動通信系統(tǒng)協(xié)會（GSMA）發(fā)布的《中國移動經(jīng)濟發(fā)展2025》預(yù)測，到2030年，移動技術(shù)及數(shù)字化轉(zhuǎn)型將為中國經(jīng)濟貢獻2萬億美元，占GDP總量的8.3%。
6月20日，中央網(wǎng)信辦公布“清朗·整治AI技術(shù)濫用”專項行動第一階段重點整治成果。該階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個。
自今年4月專項行動啟動以來，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點網(wǎng)站平臺健全技術(shù)安全保障措施，推動生成合成內(nèi)容標(biāo)識加速落地。在此次通報中，中央網(wǎng)信辦列舉了各地網(wǎng)信部門及重點網(wǎng)站平臺采取的多項治理措施和成果。騰訊規(guī)范應(yīng)用程序管理，提高準(zhǔn)入門檻，優(yōu)化巡查機制，駁回、處置違規(guī)小程序、應(yīng)用程序等共計570余款。微博通過策略識別、用戶舉報等多渠道審核，累計處置違規(guī)內(nèi)容4800余條，并公布典型案例。通義平臺圍繞數(shù)據(jù)生命周期建立安全管理體系，在數(shù)據(jù)采集、訓(xùn)練、使用等階段加強訓(xùn)練語料管理。抖音建立“紅藍(lán)對抗”機制，模擬攻擊案例，修復(fù)潛在安全漏洞，優(yōu)化模型對虛假信息的識別能力。阿里、快手、稀宇等重點平臺積極推進元數(shù)據(jù)隱式標(biāo)識落地落實。小紅書在模型后置訓(xùn)練階段輸入專業(yè)領(lǐng)域數(shù)據(jù)，提升模型對醫(yī)療、金融、未成年人等重點領(lǐng)域問題的理解能力。
下一步，中央網(wǎng)信辦將聚焦AI造謠、低俗內(nèi)容等7類突出問題，開展“清朗·整治AI技術(shù)濫用”專項行動第二階段工作，構(gòu)建技術(shù)監(jiān)測體系，形成處置處罰規(guī)范，推動內(nèi)容標(biāo)識如期落地，形成長效工作機制，著力維護清朗網(wǎng)絡(luò)生態(tài)，推動人工智能向善向好。
近期有媒體報道，筑夢島APP 等AI聊天軟件存在虛擬角色互動生成低俗內(nèi)容等問題，經(jīng)核實，該平臺AI智能體內(nèi)容生成環(huán)節(jié)存在低俗擦邊等違規(guī)內(nèi)容，危害未成年人身心健康。
6月19日上午，上海市網(wǎng)信辦依法約談筑夢島APP運營企業(yè)主要負(fù)責(zé)人，要求平臺立即整改，健全AI生成合成內(nèi)容審核機制，提升技術(shù)把關(guān)能力，加強涉未成年人不良內(nèi)容的整治清理，切實落實未成年人網(wǎng)絡(luò)保護義務(wù)。企業(yè)負(fù)責(zé)人表示，將按照約談要求，對照問題舉一反三、全面整改。
6月18日，國家網(wǎng)絡(luò)安全通報中心發(fā)布消息稱，經(jīng)國家計算機病毒應(yīng)急處理中心檢測，64款移動應(yīng)用存在違法違規(guī)收集使用個人信息情況。64款問題應(yīng)用中包括多個知名茶飲、咖啡品牌的點單小程序，比如喜茶、奈雪、霸王茶姬、茶顏悅色、庫迪、星巴克、茶百道、古茗、太平洋咖啡、挪瓦咖啡等，且這些小程序多數(shù)存在2-4個問題。
64款應(yīng)用中，30款未向用戶提供撤回同意收集個人信息的途徑、方式，或者未提供便捷的撤回同意方式，問題最嚴(yán)重。其次是未采取相應(yīng)的加密、去標(biāo)識化等安全技術(shù)措施，29款應(yīng)用存在這一問題。另外，25款應(yīng)用的隱私政策未逐一列出App（包括委托的第三方或嵌入的第三方代碼、插件）收集使用個人信息的目的、方式、范圍等。14款應(yīng)用的個人信息處理者向其他個人信息處理者提供其處理的個人信息的，未向個人告知接收方的名稱或者姓名、聯(lián)系方式、處理目的、處理方式和個人信息的種類，并取得個人的單獨同意。通報提到，問題應(yīng)用系經(jīng)國家計算機病毒應(yīng)急處理中心檢測，檢測時間為2025年5月23日至6月11日。
6月16日，圖靈獎、諾貝PG電子通信爾獎獲得者，被譽為AI教父的Geoffrey Hinton接受媒體專訪，探討了AI的發(fā)展、安全、應(yīng)用。他表示雖然AI存在一定的風(fēng)險，但在幫助人類提升科研、工作、生活水平質(zhì)量等方面是非常高效，當(dāng)然也會搶走一部分人的工作，從而創(chuàng)造一些全新的職位。他提到了，對AI安全的主要擔(dān)憂，一種是人類濫用AI帶來的風(fēng)險，這是大多數(shù)風(fēng)險，也是所有短期風(fēng)險；另一種是AI變得超級智能并決定不再需要人類，這是真實的風(fēng)險，關(guān)于這種生存威脅，完全不知道如何應(yīng)對，也不知道它會是什么樣子。
6月19日有媒體報道，知名獨立程序員、社交會議目錄 Lanyrd 聯(lián)合創(chuàng)始人、Django Web 框架聯(lián)合創(chuàng)建者Simon Willison在個人博客中，詳細(xì)介紹了 Agent 的“致命三重威脅”：（1）訪問你的私人數(shù)據(jù)；（2）暴露于不可信內(nèi)容；（3）能夠以可用于竊取數(shù)據(jù)的方式進行外部通信。他表示，當(dāng) Agent 同時具備上述 3 個特征時，攻擊者就可以輕松地利用它們來竊取你的數(shù)據(jù)，控制 Agent 的行為。這是因為 Agent 會遵循它們所接收到的任何指令，無論這些指令來自哪里。另外，MCP 允許用戶將不同的工具組合在一起，這可能導(dǎo)致安全風(fēng)險；目前還沒有完全可靠的防范措施來防止提示注入攻擊；用戶需要了解這些風(fēng)險，并采取措施來保護他們的數(shù)據(jù)；用戶應(yīng)該避免將訪問私人數(shù)據(jù)、暴露于不受信任的內(nèi)容和外部通信能力結(jié)合在一起。
資本市場重要信息！吳清陸家嘴論壇開出“1+6”新政：未盈利企業(yè)上市利好來啦
