擅自使用他人人臉信息，制作換臉視頻，不僅會侵犯他人的私益，還可能侵害公共信息安全，危害社會公共利益。
換臉，不是想換就換
——透視“AI換臉”侵犯個人信息公益訴訟案
【資料圖】
“AI換臉”，相信大家都不陌生，只需要一張照片，通過深度合成技術，任何人都能成為熱播影視作品中的主角，甚至表情、神態都足以以假亂真。然而，近年來，伴隨著技術門檻的降低和應用場景的增多，“換臉技術”的應用早已突破原來的娛樂范圍，甚至成為不法分子牟利的手段。
今年6月，浙江省杭州市蕭山區檢察院對一起利用“AI換臉”技術侵犯公民個人信息案依法提起民事公益訴訟。圖為庭審現場。
今年6月，浙江省杭州市蕭山區檢察院對一起利用“AI換臉”技術侵犯公民個人信息案依法提起民事公益訴訟。8月4日，杭州互聯網法院經過審理后依法對該案作出判決，支持檢察機關作為公益訴訟起訴人的全部訴訟請求：判令被告虞某立即停止侵權，刪除其在社交軟件群組中留存的所有涉案個人信息；在國家級媒體上刊發向社會公眾賠禮道歉的聲明，以消除影響、進行警示并支付侵害社會公共利益的損害賠償款6萬元。8月22日，這一判決正式生效。
“換臉，不能隨心就換！我們希望通過該案的辦理提醒社會公眾，在使用新興技術時，不能忘記法律的規制和道德倫理的約束，這是所有技術發展應有的邊界。”承辦該案的杭州市蕭山區檢察院檢委會專職委員章蕾告訴記者。
僅憑幾張照片
任何人都可能成為受害者
“真是后悔莫及?。 睂τ诂F年36歲的虞某來說，當初對“換臉”的好奇換來的除了刑罰，還要承擔相應的民事責任。
“想換誰的臉就換誰的臉，好玩、刺激！”2020年過年前后，虞某第一次從互聯網上接觸到“AI換臉”技術時，十分好奇，莫名的興奮。隨后，虞某便從網上下載了換臉軟件并熟練掌握了相關視頻合成的技術。在使用這項技術時，虞某發現了其中的“商機”：利用“AI換臉”軟件，制作生成虛假的換臉淫穢視頻，在網絡社交軟件上進行傳播，能夠吸引較多關注。從2021年6月開始，虞某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯網等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進行替換合成，制作生成虛假的換臉視頻，在網絡社交軟件上進行傳播。與此同時，虞某還在社交軟件上創建了多個群組為他人提供換臉視頻定制服務，根據客戶提供的視頻或照片，制作換臉視頻。此外，虞某在網絡社交軟件上銷售“AI換臉”軟件、提供換臉素材并傳授使用教程。
“讓一切遮擋消失！手機就可操作，明星網紅素人都可，30秒內出結果！購買軟件私信聯系！”“只要是能看到臉的都能換！”“請問有提供定制換臉視頻嗎？想把我暗戀的女生換上。如何收費？”“沒問題，費用……通過口令紅包發我！”……一段時間，在虞某的社交軟件群組內熱鬧非凡，生意紅火?？诹罴t包收了200余次，總金額共計6萬余元。2022年8月，公安機關發現了虞某在網上制作、傳播淫穢物品牟利的犯罪行為，依法對其立案偵查。2022年11月，虞某被移送蕭山區檢察院審查起訴。今年3月28日，該院依法對虞某以涉嫌制作、傳播淫穢物品牟利罪提起公訴。
“引起我們注意的是，虞某在傳播淫穢物品牟利的同時，還會為他人提供換臉視頻‘定制’服務，并傳授換臉軟件的使用方法。”在參與虞某刑事案件的討論時，兼任該院公益訴訟檢察部門負責人的章蕾了解到，虞某會根據客戶提供的視頻或照片，制作、生成特定的換臉視頻。除此之外，虞某還會在網絡社交軟件上直接銷售“AI換臉”軟件，傳授客戶使用軟件的方法并且提供相應的素材。而客戶要求“定制”換臉的對象不僅包括一些我們熟知的公眾人物，也有生活中的普通人。
“僅憑幾張照片，任何人都可能成為受害者?！闭吕僬f，近年來，濫用“AI換臉”技術實施各類侵犯個人信息的行為并不鮮見，僅憑一張換臉照片或者一段換臉視頻，或編造新聞、炒作熱點，或侮辱誹謗、實施勒索詐騙，“該類行為在網絡傳播的疊加下，危害結果會產生裂變，對被侵權人造成的傷害往往是長久的、持續的、難以彌補的。”
要捍衛隱藏在私益背后的公益
擅自使用他人人臉信息，制作換臉視頻，侵犯的到底是被害人的私益，還是公共利益？“要看到隱藏在每一個被害人的個人權益的背后，是網絡正常的公共秩序，是承載在不特定多數社會主體個人之上的公共利益?！庇懻撨@一案件時，章蕾說。
從女子地鐵照被“一鍵脫衣”到該案中普通人的形象被嫁接到淫穢視頻中，“AI換臉”技術的濫用，看似是對被侵害的個人的人格權、肖像權、名譽權、隱私權的侵害，實際上更是對社會公序良俗的踐踏，是對穩定的社會環境和清朗的網絡空間的挑戰。
該案中，虞某作為“AI換臉”技術的使用者，不僅在互聯網公共空間非法獲取眾多人臉信息，利用深度合成技術非法處理后，制作淫穢視頻在超過2000人的網絡社交軟件群組中進行傳播，違反了法律法規和社會公德，侵害了公共信息安全，破壞社會公共秩序，還在明知他人可能將“AI換臉”軟件用于侵犯個人信息等不正當目的的情況下，向他人銷售“AI換臉”軟件、提供換臉素材并傳授使用教程，傳播侵犯公民個人信息的方法和手段，使得更多不特定主體個人信息被侵害的社會危險性進一步擴大?！耙虼嗽谝婪ㄗ肪科湫淌仑熑瓮?，我們認為有必要提起民事公益訴訟對該類侵犯公民個人信息的行為予以規制。”
經過討論，大家一致認為有必要提起公益訴訟。隨后，該院又向杭州市檢察院作了匯報并獲得了支持。
“其實，個人信息被泄露的危害，我們或多或少都有體會。不堪其擾的推銷電話、未經同意的數據收集、精準實施的網絡詐騙等等，個人信息一旦被過度收集、泄露和非法利用，造成的危害難以估量。而人臉信息作為其中具有高度識別性和強關聯性的敏感個人信息，更應當是法律重點保護的對象?！焙贾菔袡z察院第八檢察部主任畢克來聽取匯報后表示。
今年4月14日，蕭山區檢察院決定對虞某“AI換臉”侵犯個人信息公益訴訟案立案，當日履行公告程序，公告期滿，無適格主體提起訴訟。6月9日，該院依法對虞某提起民事公益訴訟。6月12日，杭州互聯網法院正式立案。
技術本無善惡
但技術的使用需要規制
7月28日，該案在杭州互聯網法院一審公開審理。
庭審中，蕭山區檢察院作為公益訴訟起訴人派章蕾出庭。檢察機關結合案件事實、危害后果、法律責任等對被告虞某進行法庭教育，虞某通過其訴訟代理人表示真誠悔過，并表達了履行賠償的意向。
庭審過程中，章蕾在法庭上發表的一段話令人印象深刻：“技術本身是中立無害的，只是技術中立并不意味著價值中立，特別是開發、應用者的價值中立，更不等于‘深度合成’的參與者不應當受到來自法律的規制、道德倫理的約束?！?/p>
經過審理，法院認定，虞某對于人臉深度合成技術的濫用行為損害了社會公共利益，依法判決其承擔停止侵害、賠償損失、賠禮道歉的民事責任。被告虞某服從法院判決，現判決已生效。虞某已履行道歉及賠償義務。賠償金額將專門用于個人信息保護、人臉深度合成技術不當應用的治理等公益事項。
“技術的運用是把雙刃劍，用之為善可以造福社會，不當濫用則會造成社會風險和損害。對于換臉軟件等深度合成技術應用的規制應當從其參與者入手，包括發明者、應用者、傳播者等方面，以規制深度合成技術使用目的為路徑，實現深度合成技術的合理使用，避免該技術對個人、社會、國家造成諸多方面的風險。同時，也需要引導技術開發、應用者自覺遵守法律規定和科技倫理道德，培育積極健康、向上向善的研發、應用環境，保護和鼓勵新興智能技術的有益探索。”承辦此案的法官肖芄在該案宣判后說。
記者注意到，今年1月，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布的《互聯網信息服務深度合成管理規定》正式實施，為深度合成服務劃定了“底線”和“紅線”，強調不得利用深度合成服務從事法律、行政法規禁止的活動，要求深度合成服務提供者要落實信息安全主體責任。
8月15日，國家網信辦聯合多部門公布的《生成式人工智能服務管理暫行辦法》正式施行，對生成式人工智能產業作出了較為詳盡的規定?！暗诜梢幎ú粩嗤晟频耐瑫r，技術的迭代也在不斷加速，如何克服法律對技術規制的天然滯后性，如何應對技術發展過程中的新現象、新問題，是監管部門和司法機關共同需要面對的新難題?！睂徟虚L、杭州互聯網法院常務副院長朱敏明表示。
“在辦理該案的過程中，我們也深刻地體會到，技術的迭代背后，‘侵權易’‘維權難’的矛盾更為突出?！闭吕僬f，以往在司法實踐中，關于公民個人提起的保護個人信息之訴少之又少，其中維權成本高、專業性強、舉證困難是主要原因。以本案為例，如何證明人臉信息侵權事實的存在，可能需要對信息處理者、處理方式、信息獲取、信息處理加工是否違法等進行舉證，而上述證據普通的公眾很難僅憑自身力量完成初步舉證，即便是司法機關，在調查取證的過程中也耗費了大量的時間和精力。而公民個人遇到該情況往往會基于無奈，放棄以訴訟方式維權，這將會間接導致對侵權行為肆意侵害公共利益的放任，使技術違法行為始終游走在法律底線之外。
據悉，今年6月，在最高檢第八檢察廳的直接指導和推動下，杭州互聯網法院與杭州市余杭區檢察院會簽《關于推進互聯網檢察公益訴訟案件辦理的協作辦法（試行）》，旨在通過探索互聯網檢察公益訴訟新型辦案模式，攜手蹚出一條網絡空間司法協同治理的新路。
各方聲音
深入推進互聯網檢察公益訴訟
全國人大代表
浙江省檢察公益訴訟形象大使
浙江省永康市陽光愛心義工協會
名譽會長黃美媚
檢察機關作為公共利益的代表，針對該類關于民生、關于普通群眾切身利益的問題，更要立足檢察職能，依法能動履職，沖破私益保護的局限性，更好地破解司法實踐當中的困難，以司法實踐來提升公眾對國家法治、個人安全、社會治理的信心?；ヂ摼W檢察公益訴訟已成為依法治網體系建設的重要內容，深入推進互聯網檢察公益訴訟的時機已經成熟。建議推動在互聯網相關領域立法中增設檢察公益訴訟條款。
推動實現“善治”與“善智”的雙贏
浙江理工大學數據法治研究院副院長
數據法學創新團隊負責人郭兵
我一直關注人臉信息安全，也關注著該案的辦理進展。一方面，人臉信息如果被隨意收集、存儲、使用，勢必會給個人帶來嚴重的安全風險，進而造成網絡空間的失序，任何個人都可能成為人臉信息濫用的受害者，身處網絡空間的每一個人都將難以獲得安全感，這對正常的網絡秩序無疑具有極大的破壞力；另一方面，隨著人臉識別技術在我們的日常生活中被越來越廣泛地使用，類似“AI換臉”的技術應用也層出不窮，不法分子可以非常便利地通過“AI換臉”技術實施電信網絡詐騙、敲詐勒索等違法犯罪活動，對公眾的人身、財產安全具有極大危害。通過引導和規范新技術應用，強化源頭治理，加強包括人臉信息在內的公民個人信息保護，既需要以檢察履職推動實現“善治”與“善智”的雙贏，更需要各方合力共治。
深化“AI換臉”系統治理源頭治理
最高人民檢察院第八檢察廳副廳長
邱景輝
針對利用生成式人工智能技術生成淫穢色情、虛假有害信息等法律、行政法規禁止的內容，危害他人身心健康，侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益的犯罪行為，杭州檢察機關協同公安機關、審判機關，在進行刑事追訴的基礎上，通過民事公益訴訟以“訴”的確認體現司法價值引領，與今年8月15日起實施的《生成式人工智能服務管理暫行辦法》同向發力，彰顯了國家為了促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，進一步加大執法司法力度的信心和決心。
本案的啟示還在于，結合反電信網絡詐騙工作，對于利用生成式人工智能技術向公眾提供生成圖片、視頻等內容的服務中出現的公益損害違法行為，檢察機關可以協同公安機關和行政監管部門，對境內用戶量大、問題隱患突出的即時通訊、網絡直播、網絡社交、電商平臺、金融支付等重點App加強治理，及時發現人臉識別驗證系統存在的風險隱患，督促服務提供者按照《互聯網信息服務深度合成管理規定》進行查糾整改，督促服務提供者嚴格履行法律責任。同時，依據《互聯網信息服務深度合成管理規定》，對于《境內深度合成服務算法備案清單（2023年6月）》中列明的應用于人臉圖像、視頻生成場景，將用戶上傳的照片與特定形象進行面部融合，生成融合后的人臉圖像、視頻等主要用途的算法，檢察機關可以會同相關職能部門強化對技術支持者的監督，積極探索算法監督檢察公益訴訟，深化“AI換臉”問題的系統治理、源頭治理。
標簽：
