南都記者8月23日從杭州市蕭山區(qū)檢察院獲悉，近日，由杭州市蕭山區(qū)人民檢察院提起的利用“AI換臉”技術(shù)侵犯公民個人信息民事公益訴訟案獲判。該案中，虞某未經(jīng)同意制作“AI換臉”淫穢視頻，并在社交軟件上銷售“AI換臉”軟件，傳授使用教程牟利，檢察機關(guān)在這起刑事案件中發(fā)現(xiàn)公益訴訟線索，提出檢察公益訴訟。

杭州互聯(lián)網(wǎng)法院支持了檢察機關(guān)提出的全部訴訟請求，判令被告：立即停止侵權(quán)，刪除其在社交軟件群組中留存的所有涉案個人信息；在《法治日報》向社會公眾刊發(fā)賠禮道歉聲明，以消除影響、進行警示；支付侵害社會公共利益的損害賠償款60000元。

杭州互聯(lián)網(wǎng)法院發(fā)布消息稱，被告虞某服從法院判決，現(xiàn)已履行道歉、賠償義務(wù)等民事責(zé)任。賠償金額將專門用于個人信息保護、人臉深度合成技術(shù)不當應(yīng)用的治理等公益事項。

案由

未經(jīng)同意定制“AI換臉”視頻、售賣軟件

該案信息顯示，2020年左右，虞某通過互聯(lián)網(wǎng)學(xué)習(xí)并掌握了“AI換臉”軟件的使用方法。2021年開始，虞某為牟取非法利益，在未取得被編輯人同意的情況下，利用“AI換臉”軟件將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進行替換合成，制作生成虛假的換臉視頻，在網(wǎng)絡(luò)社交軟件上進行傳播。與此同時，虞某還為他人提供換臉視頻定制服務(wù)，即根據(jù)客戶提供的視頻或照片制作換臉視頻，并在網(wǎng)絡(luò)社交軟件上銷售“AI換臉”軟件、提供換臉素材并傳授使用教程。

2023年4月，蕭山區(qū)檢察院在辦理虞某制作、傳播淫穢物品牟利罪的刑事案件中發(fā)現(xiàn)公益訴訟線索，開展調(diào)查取證。

經(jīng)審查，檢察機關(guān)認為，人臉信息作為敏感個人信息，對于保障公民人身財產(chǎn)安全具有重要意義，應(yīng)當依法受到嚴格保護。虞某未經(jīng)他人同意，非法處理他人人臉信息、提供換臉視頻定制服務(wù)、銷售換臉軟件及教程的行為損害了社會公共利益。具體表現(xiàn)在，虞某自互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用深度合成技術(shù)非法處理后，在超過2000人的網(wǎng)絡(luò)社交軟件群組傳播，同時提供換臉視頻定制服務(wù)，使不特定群體成為潛在的被侵害對象，違反了法律法規(guī)和社會公德，侵害了承載在不特定多數(shù)社會主體個人信息之上的公共信息安全，破壞社會公共秩序，構(gòu)成對公共信息安全領(lǐng)域的社會公共利益侵害。

此外，檢察機關(guān)還表示，在他人可能將“AI換臉”軟件用于侵犯個人信息等不正當目的的情況下，仍向他人銷售“AI換臉”軟件、提供換臉素材并傳授使用教程，傳播侵犯公民個人信息的方法和手段，使得更多不特定主體個人信息被侵害的社會危險性進一步擴大，故應(yīng)當承擔(dān)相應(yīng)的民事責(zé)任。

6月9日，蕭山區(qū)檢察院經(jīng)履行訴前公告程序，依法提起民事公益訴訟。

判決

濫用人臉深度合成技術(shù)損害公益，應(yīng)承擔(dān)民事賠償責(zé)任

7月28日，杭州互聯(lián)網(wǎng)法院公開開庭審理本案。被告虞某表示，對公益訴訟起訴人起訴狀中所述事實和理由沒有異議，對其行為深感后悔，愿意誠懇地向社會公眾道歉，并會積極履行判決義務(wù)，以彌補對社會公益造成的損害。

經(jīng)審理，杭州互聯(lián)網(wǎng)法院認定虞某對于人臉深度合成技術(shù)的濫用行為，損害了社會公共利益，依法判決其承擔(dān)停止侵害、賠償損失、賠禮道歉的民事責(zé)任。判決生效后，虞某已履行道歉及賠償義務(wù)，支付的賠償款將專門用于個人信息保護、人臉深度合成技術(shù)不當應(yīng)用的治理等公益事項。

“技術(shù)中立并不等于技術(shù)的開發(fā)者、應(yīng)用者不應(yīng)受到來自法律的規(guī)制和道德倫理的約束。我們希望通過此案的辦理，在保護敏感個人信息的同時，為‘AI換臉’這類的深度合成技術(shù)的使用設(shè)定應(yīng)有的合法邊界，培養(yǎng)公眾在數(shù)字時代、人工智能時代的道德意識和社會責(zé)任感，讓技術(shù)在合法的軌道中迭代發(fā)展?！背修k該案的檢察官蕭山區(qū)檢察院檢委會專職委員章蕾表示。

檢察官說法

積極探索算法監(jiān)督檢察公益訴訟

最高人民檢察院第八檢察廳副廳長邱景輝在接受南都采訪時表示，近年來，人臉識別技術(shù)廣泛應(yīng)用，人工智能技術(shù)迅猛發(fā)展，但相關(guān)監(jiān)管和防控相對滯后，人臉識別冒名驗證類違法犯罪趁虛而入。

“犯罪分子利用承載人臉信息的圖片、視頻作為主要物料，運用專門軟件實施‘AI換臉’，侵害他人基于人臉識別的相關(guān)合法權(quán)益，甚至結(jié)合他人的姓名、身份證號來突破人臉識別驗證系統(tǒng)，實施網(wǎng)絡(luò)詐騙，嚴重危害網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人信息安全及其相關(guān)的人身安全、財產(chǎn)安全?！鼻窬拜x稱，特別是針對不特定多數(shù)人的“AI換臉”，對公共安全造成重大侵害或者侵害危險，是個人信息保護、反電信網(wǎng)絡(luò)詐騙等網(wǎng)絡(luò)治理領(lǐng)域檢察公益訴訟的懲治和預(yù)防重點。

邱景輝認為，針對利用生成式人工智能技術(shù)生成淫穢色情、虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容，危害他人身心健康，侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益的犯罪行為，杭州檢察機關(guān)協(xié)同公安機關(guān)、審判機關(guān)，在進行刑事追訴的基礎(chǔ)上，通過民事公益訴訟以“訴”的確認體現(xiàn)司法價值引領(lǐng)，與8月15日起實施的《生成式人工智能服務(wù)管理暫行辦法》同向發(fā)力，彰顯了國家為了促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，進一步加大執(zhí)法司法力度的信心和決心。

談及本案對檢察公益訴訟的啟示，邱景輝稱，結(jié)合反電信網(wǎng)絡(luò)詐騙工作，對于利用生成式人工智能技術(shù)向公眾提供生成圖片、視頻等內(nèi)容的服務(wù)中出現(xiàn)的公益損害違法行為，檢察機關(guān)可以協(xié)同公安機關(guān)和行政監(jiān)管部門，對境內(nèi)用戶量大、問題隱患突出的即時通訊、網(wǎng)絡(luò)直播、網(wǎng)絡(luò)社交、電商平臺、金融支付等重點APP加強治理，及時發(fā)現(xiàn)人臉識別驗證系統(tǒng)存在的風(fēng)險隱患。

此外，邱景輝還表示，檢察機關(guān)還可以督促服務(wù)提供者按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對圖片、視頻等生成內(nèi)容進行標識；對發(fā)現(xiàn)的違法內(nèi)容及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進行整改；對發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報告，嚴格履行提供者的法律責(zé)任。

“對于《境內(nèi)深度合成服務(wù)算法備案清單（2023年6月）》中列明的應(yīng)用于人臉圖像、視頻生成場景，將用戶上傳的照片與特定形象進行面部融合，生成融合后的人臉圖像、視頻等主要用途的算法，檢察機關(guān)可以會同相關(guān)職能部門強化對技術(shù)支持者的監(jiān)督，積極探索算法監(jiān)督檢察公益訴訟，深化‘AI換臉’問題的系統(tǒng)治理、源頭治理?！鼻窬拜x稱。

采寫：南都記者 劉嫚 發(fā)自北京