现代 “画皮”那些事儿
——以AI换脸为视角简要分析滥用AI合成技术产生的法律问题
作者：北京中闻（杭州）律师事务所 王晟
序言
对AI合成相关技术的讨论始于2017年，一位名为“Deepfakes”的网友利用深度学习的开源库，将多个色情视频中主角的脸替换为多个女明星后发布在Reddit平台上，还公布了相关教程。2019年初，B站UP主“换脸哥”将朱茵版《射雕英雄传》电视剧中黄蓉的脸尽数用杨幂的脸替换并上传，该视频的出现使得AI换脸技术正式在国内大众面前亮相。
后随着短视频行业的迅猛发展，AI换脸等AI合成技术获取门槛逐步降低，其便利、逼真的特性致使越来越多的人在视频、图像合成制作上开始运用该技术，而在ChatGPT、Midjourney等AIGC产品步入公众视野后，AI合成的作品更是在网络上迅速蹿红。
但与之相的，是AI合成技术中自带的“伪造”与“欺骗”特性也越发显露，相关技术滥用现象更是层出不穷。2017年，Deepfakes通过AI换脸将色情视频女主角替换为多个女明星；2023年4月及7月，两位百万粉丝的网红博主皆称其被AI换脸至色情视频中……而除开AI换脸以外，不法分子还利用AI合成技术，开发了“AI去衣”等功能。此类滥用AI合成技术的行为着实对被害者造成了诸多困扰，同时也对个人信息安全和社会稳定造成威胁。
本文将通过分析现有案例以及模拟案例，以AI换脸为视角，简要分析滥用AI合成技术合成他人可能产生哪些法律问题，以及简单总结被害者如何进行维权救济。
一、AI合成相关案例与解析
（一）案例
案例一：
王某从朋友圈中获取了张某的照片，又将张某的脸上传到某平台利用“AI换脸”技术形成了一段表演视频，王某的行为是否构成了侵权？
案例二：
李某打开短视频平台直播间看到某当红明星在带货，再一看直播间昵称与该当红明星并无关联，仔细看看原来是素人主播利用“AI换脸”技术给自己“换”了一张明星脸，增加直播视频流量，助力直播带货。该素人主播换脸带货行为是否构成侵权？
案例三：
某特效师通过截取一些影视片段，将《你是我的荣耀》影视剧片段中男主角换成自己的脸，和迪丽热巴亲密接触，并将视频上传至抖音，其抖音账号除了公开发布上述作品外，还发布大量类似视频，如《狂飙》、《武林外传》、《甄嬛传》、《小李飞刀》等知名影视作品。
案例四：
楼某某系国内古风汉服模特，经常发布古风汉服照片和视频。今年3月，其在某短视频平台发布一段短视频。在该视频中，楼某某带有清晰的面部古风妆容，并着汉服半身出镜，视频包括多段造型形象片段。
上海某公司（以下简称“A公司”），是一款“AI换脸”App的运营主体。该App宣传“仅需一张照片，立即变成视频主角”、“只需一张自拍，马上改头换面”。用户通过支付68元至198元不等的会员费，即可使用全部“换脸”视频模板。
楼某某发现，被告A公司运营的“AI换脸”APP中有楼某某拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户个人的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致。软件生成换脸后的古风造型视频，用户可以将其保存并分享到其他平台。
楼某某认为，A公司的行为侵害其肖像权，向杭州互联网法院提起诉讼，请求法院判令A公司承担停止侵权、赔礼道歉并赔偿损失。
案例五：
2020年“AI换脸”刚刚开始兴起时，虞某专门在网上购买了换脸软件的教程并通过自学掌握了这门技术，“换脸”剪辑开始有热度后，虞某想到了在网上推广该项技术及相关的软件并从中获利。于是虞某在国外的社交平台上注册账号并公开建群，通过在其他公开群打广告、发链接等方式，吸引更多对“AI换脸”技术感兴趣的人到他本人所建的群里来。
但一段时间过去了，虞某的公开群却始终没有什么关注度。偶然的一次机会，虞某在该国外平台上看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。
虞某先是将原本“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入，当观看者达到一定人数后，虞某会发布群消息称，进入“内部群”可以收看完整版。虞某称，他会在“内部群”里放一些清晰度更高、时长更长的淫秽视频，而观看者想要进入“内部群”则要缴纳198元-498元不等的“会费”。
除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。也有不少人因为看了这些视频后对换脸技术产生了兴趣，向其咨询如何购买换脸软件。一面通过“吸粉引流”，收取会，一面又通过出售“换脸软件”，频频获利。虞某原本毫无起色的“生意”一下子打开了局面，短短几个月的时间里就获利数万元。
（二）解析
案例一中，王某的行为明确属于《民法典》第1019条规定（任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权）的利用信息技术手段伪造行为，侵犯了张某的肖像权。除开肖像权之外，若是该表演视频致使张某的社会评价降低，还构成对张某名誉权（《民法典》第1024条）的侵犯。鉴于人脸信息与个人的隐私权、名誉权、财产权等多种权益关系紧密，属于敏感个人信息，若该视频传播范围过广，王某还可能构成侵害张某隐私权。
案例二中，李某的行为构成侵犯明星肖像权，若将其换脸用于商业行为，并且因此而获利，则需要承担更重的侵权责任。若李某的直播涉及虚假宣传、销售假冒伪劣产品，甚至可能构成侵害明星名誉权。
案例三中，某特效师的AI换脸行为明确侵害了影视作品权利人著作权；其将男主角换脸的行为从某种意义上讲是对作品的修改或是篡改，而《著作权法》第10条第（3）项中有明确提及作品的修改需经著作权人同意，故某特效师的行为侵犯了影视作品权利人作品修改权。若特效师的行为构成损害，还有可能侵犯《著作权法》第10条第（4）项规定的保护作品完整权，即保护作品不受歪曲、篡改的权利；特效师将换脸后的视频作为短视频上传，其短视频亦可视为对原作品的改编，而根据《著作权法》第10条第（14）条，虽然该视频的独创性还有待确认，但该行为仍存在侵害其的可能。除开换脸之外，其将换脸后的视频上传网络，可能构成对《著作权法》第10条第（12）项规定的信息网络传播权的侵害。
除此之外，某特效师的行为还可能侵犯其所替换的演员的表演者权；其特效师将AI换脸视频中将明星脸部替换成他人的脸部，但是仍然保留了表演者的面部表情、眼神、肢体语言等表演行为，因此未经许可制作、传播换脸后的视频，可能导致观众无法通过换脸视频识别原表演者，涉嫌侵犯明星享有的表演者权。同时，此种替换如导致表演形象受到改变，尤其是在一些恶搞型换脸视频中，导致明星的表演形象受到严重歪曲，同样涉嫌侵犯表演者权。此外，如在视频中未标明表演者身份，也涉嫌侵犯表演者权。
案例四中，A公司的行为首先明确侵犯了楼某某主张的肖像权，杭州互联网法院审理认为楼某某对案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权,A公司未经楼某某同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为本身已侵害楼某某肖像权。
而除开楼某某主张的肖像权之外，鉴于楼某某制作的短视频属于《著作权法》中的视听作品，其著作权受到《著作权法》保护，A公司的行为还侵犯了楼某某的著作权（在楼某某所制作的短视频没有特殊约定的前提下），具体情形类似案例三，在此不再赘述。
案例五中，虞某的行为在刑事层面上构成制作、传播淫秽物品牟利罪（萧山区检察院便是以该罪名对虞某提起公诉）；而在民事方面，萧山区检察院也向虞某提起公益诉讼，“请求判令被告停止侵权，删除持有的所有涉案个人信息，不得再违法使用AI合成技术侵害社会公益；支付公益损害赔偿金人民币60000元（专门用于个人信息保护、人脸AI合成技术应用的治理等公益事项）；在国家级媒体上向社会公众公开赔礼道歉”。，虞某的行为正如上文所提及的，侵犯了被害者的肖像权、名誉权、个人信息保护等人格权利。
二、AI合成技术所涉及的主要法律风险与救济
（一）法律风险
结合上文几个案例可知，在司法实践中，滥用AI合成技术的法律风险主要为人格权侵权风险、知识产权侵权风险以及刑事犯罪风险三大风险：
1、人格权侵权风险
AI合成技术尤其是AI换脸技术与个人形象密切相关，其自带的“伪造”与“欺骗”特性极易模糊篡改事实。在该技术所导致的人格权侵权中，最常见的是对肖像权和名誉权的侵犯，其次便是关于对隐私权与个人信息保护的侵犯。
（1）肖像权
根据《民法典》第1018条第2款的规定，肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。其外部形象不仅指人的面部特征，戴着口罩的脸、侧影、形体动作等等，只要能够识别特定自然人，都属于肖像权保护的范围。在案例四中，杭州互联网法院就认为对于换脸前的视频，楼某某虽以古风妆容并着汉服出镜，但从其面部形象、体貌特征，普通人仍可对其主体身份进行轻易识别。该视频被上传至App作为模板供他人使用时，视频内容未做改动，亦不发生主体形象不可识别的问题。对于换脸后的视频，楼某某仅留存身体形象，但对比原视频素材，普通人仍能通过未被修改的相应场景和细节识别出身体形象对应主体为楼某某，从而认定楼某某对案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权。
故鉴于肖像权保护范围之大，对他人尤其是网红进行的AI合成、换脸的行为，基本都构成对被合成人肖像权的侵犯，而《民法典》第1019条第1款特别强调“利用信息技术手段伪造”这一方式，也是为了打击此类行为。
（2）名誉权
根据《民法典》第1024条规定，民事主体享有名誉权，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。名誉是对民事主体的品德、声望、才能、信用等社会评价，基于AI换脸等AI合成技术自带的“伪造”与“欺骗”特性，行为人通过AI合成技术所合成的视频存在导致他人评价降低的可能，若视频内容包含色情裸露、辱骂、斗殴、吸毒等违反法律法规及大众道德认知等元素，其构成名誉权侵权可谓是“板上钉钉”。
因为明星以及网红是的个人形象与商业价值与名誉权可谓息息相关，故若是发生此类侵权行为，其维权胜诉概率较大。
（3）隐私权和个人信息保护
根据《民法典》1034条规定，自然人的个人信息受法律保护。个人信息是以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息，包括自然人的姓名、出生日期、身份证件号码、生物识别信息、住址、电话号码、电子邮箱、健康信息、行踪信息等。利用AI换脸等AI合成技术制作视频，实际上利用了被合成者的人脸信息，而在案例五中，萧山检察院指出人脸信息与个人的隐私权、名誉权、财产权等多种权益关系紧密，属于敏感个人信息。从司法实践来看，人脸信息的不正当使用将对社会公众的人身和财产安全带来重大风险，故AI合成技术同样侵犯了被合成者的个人信息保护。
2、知识产权侵权风险
著作权作为知识产权中获取门槛最低、覆盖范围最广、子权利分支最多，与大众生活关系最为密切的一种，极容易被侵权。尤其是在不满足《著作权法》中第二十四条、二十五条规定的合理使用条件下，诸如恶搞视频、二创作品此类形式，极容易侵犯原作品作者享有的著作权。而从案例三、案例四可以看出，通过AI合成制作的视频，同样也属于侵犯著作权的重灾区。
（1）修改权与保护作品完整权
修改权与保护作品完整权皆属于《著作权法》第10条规定的著作人身权，且两项权利均与作品修改有关，但修改权更侧重于修改行为本身，即对作品的修改需要该作品作者亲自修改或者授权许可，而保护作品完整权更注重修改后的成果与效果，二者之间存在重合的部分。
目前，司法实践中关于两项权利较为流行的观点认为，修改权所控制的“修改”仅限于对作品内容作局部的变更以及文字、用语的修正。他人未经许可对作品进行的改动、删节，构成对修改权的侵害；如果对作品进行的改动，达到了歪曲、篡改程度的，则构成对保护作品完整权的侵害。
绝大部分通过AI换脸等AI合成技术对原作品进行修改的行为，皆构成对作品修改权的侵犯。至于否侵犯保护作品完整权，司法实践对“歪曲、篡改”的判定标准一般为是否引起社会公众对其作品或作者评价降低。一般情况下，利用AI换脸等AI合成技术制作的视频，主要是以娱乐为目的，其受众群体也是由于好奇或是娱乐的心态被吸引，这种情况下并不会构成对作品的歪曲、篡改。但是假若制作者利用AI合成技术进行再创作，可能歪曲了作品的主题思想、损害著作权人的声誉，或是对作品内人物形象进行了扭曲与抹黑，就有较大可能侵犯保护作品完整权。
（2）改编权与信息网络传播权
对原作品改编权构成侵犯的标准为：改编作品是在原有作品的基础上进行改编而成的，且具有独创性。而单纯使用AI换脸技术等AI合成技术，对作品中的人物形象进行替换从而创作形成的作品，在司法实践中，该行为被认为是对他人作品单纯的复制，没有进行智力上的创造，没有创作上的高度，不具有独创性。但如果除开使用AI合成技术进行人物替换以外，还对该作品进行剪辑、配音等加工，从而再创作形成的作品，很有可能因加工该作品的行为被赋予了独创性进而构成著作权法上的改编作品，从而产生侵犯改编权的法律风险。
信息网络传播权是著作权侵权案件中最常见的一类著作财产权，行为人通过有线或者无线方式向公众提供，使公众可以在其选定的时间和地点获得作品即可构成侵权。而在AI换脸等AI合成技术形成的作品，基本上都会被其作者上传至网络供大众查看，且该类作品若是不具备改编作品所要求的独创性，则易构成信息网络传播权的侵权。
（3）表演者权
表演者权是《著作权法》基于对表演者参与作品表演而产生，是由作者的表演权派生出来的邻接权。表演者享有表明表演者身份、保护表演形象不受歪曲、许可他人从现场直播和公开传送其现场表演并获得报酬、许可他人录音录像并获得报酬、许可他人通过信息网络向公众传播其表演并获得报酬等权利。
在AI换脸等AI合成技术制作的作品中，由于AI合成技术的替换或是再合成会导致观众无法识别原表演者，其行为明显侵犯了表演者享有的表演者权；若是AI合成后的新形象导致原表演形象受到歪曲，则该情形同样构成侵犯表演者权。
3、刑事犯罪风险
AI换脸等AI合成技术所引发的刑事犯罪与PS等修图类软件所引发的犯罪类似，但AI合成技术相较于PS更为成熟，且能做到的更为逼真，故其特性极容易被利用在电信诈骗类案件中。而除开诈骗案件以外，通过AI换脸等AI合成技术将明星网红等名人换脸至不雅视频上，就不雅视频而言还容易构成案例五中所提及的制作、传播淫秽物品牟利罪；而就名人而言，若是不雅视频已经严重影响其生活，则还会构成《刑法》第二百四十六条规定的侮辱诽谤罪。
（二）法律救济
1、确认责任主体
当被合成者（如序言中提及的网红、明星）发现自己被AI换脸或是AI合成之后寻求救济，首先要确定责任主体。若是能发现AI合成作品的制作者还好，若是制作者通过提供AI合成的软件或是其他平台散播其作品，而被合成者无法找到制作者，需如何维权？
在当前法律体系下，负责管理规制AI合成技术的法律主要为国家互联网信息办公室、工业和信息化部、公安部于2022年11月25日发布的《互联网信息服务深度合成管理规定》（该规定于2023年1月10日生效），而在该规定中，明确规定了AI合成技术所涉及的主要为深度合成服务提供者、深度合成服务技术支持者和深度合成服务使用者三类责任主体。除此之外，在司法实践中，AI合成技术所涉及的相关纠纷，往往会与网络社交平台扯上关联，而平台作为《民法典》规定的网络服务提供者，亦或是《网络安全法》规定的网络运营者，可能需要承担一定的责任。
除开直接侵权的AI合成作品制作者即深度合成服务使用者以外，深度合成服务提供者、深度合成服务技术支持者（如含有AI换脸图像、换脸视频服务的应用软件）作为平台（以下简称AI平台），只要没有具体实施犯罪行为，亦没有犯罪的主观恶意，其刑事犯罪风险较小。因此，AI平台主要的风险还是来源于侵权责任，如案例四中的A公司便是作为平台构成肖像权侵权。目前的司法实践中，在AI平台涉及侵权案件的情形下，法院一般会推定AI平台具有过错，AI平台需要就侵权行为承担连带责任。
而对于一般的社交平台，其并未提供AI合成技术，且不存在利用AI合成技术实施侵权行为，故其大概率不会涉及到直接侵权责任。但社交平台极容易涉及到间接侵权责任，其承担的侵权责任类似网络暴力中平台的责任，可详见笔者的《我们与防卫恶的距离——浅析如何利用法律从网络暴力中保护自己》。
2.确定责任（救济渠道）
除开确定责任主体之外，明确责任也是法律救济必要的一环，因为只有明确责任，才能更好地选择救济渠道与救济方式。而就上文所述，我们可知，AI合成技术所涉及的法律责任主要有刑事责任、人格权侵权责任、著作权侵权责任三大类。而刑事责任目前可通过《刑法》以及其相关的司法解释可以确定，而刑事责任中的侮辱诽谤罪，若是AI合成作品的制作者或相关侵权人达不到刑事案件的定罪标准，也可能构成治安管理处罚法的行政责任，具体可以详见相关法律、法规以及司法解释。
而关于民事中的两大侵权责任，侵权人若是仅利用被合成者照片进行AI合成（如案例一、案例二的情形），则构成单纯的人格权侵权；若侵权人仅利用自己的照片合成至他人的影视作品上（如案例三的情形），则侵权人构成著作权侵权。该两类行为在搜集好证据后（搜集证据的方式详见笔者的《我们与防卫恶的距离——浅析如何利用法律从网络暴力中保护自己》），可就对应侵权类型向法院进行起诉。或是根据《网络短视频平台管理规范》规定，向新闻出版广电总局公布的投诉渠道，进行投诉举报，要求下架相关侵权视频，进行行政处罚。
但若是出现案例四的情形，该情形通过上文解析可知，A公司不仅构成对肖像权的侵犯，还构成对著作权的侵犯。且根据其侵权行为来看，这两项权利实际可以同时进行主张：A公司通过AI合成技术侵犯了楼某某肖像权以及著作中的修改权；又鉴于A公司利用楼某某作品进行AI换脸的视频虽并未达到独创性的要求，但由于A公司将其上传至网络，故侵犯了楼某某的信息网络传播权。A公司的一系列行为侵犯了多种不同的权利，人格权是基于被合成者本人，著作权是基于被合成者的智力创作成果，二者并不冲突。故笔者认为，若是被合成者再次遇到类似案例四的情形时，可以同时向法院主张著作权与人格权侵权。
三、结语
AI技术的发展为人类社会带来了前所未有的颠覆和改变，其不断推动着商业社会的格局创新与价值重构。但其是一把无形的双刃剑，一旦对其滥用就会导致一系列问题的发生。因此，国家就AI合成相关问题出台了一系列法律法规，司法机关也依据相关法律积极打击利用AI合成技术违法犯罪的犯罪分子并协助被合成者进行合理维权。
若是有人发现自己的照片、视频被他人使用进行AI合成，被侵权人需尽快固定证据，并通过向侵权人主张要求删除信息并赔礼道歉，或提起侵权诉讼，或向行政机关投诉举报等方式合法维护自己的权利。对于侵权人同时存在其他行为可能违反治安管理甚至构成犯罪的，应及时向公安机关报案。同样，因为AI合成技术的出现导致我们“眼见不一定为实”，故还望广大网络用户以理性、审慎的态度看待网络上传播的图片以及视频，尽可能遏制合成视频的散播，避免被合成者的侵害再次扩大。
参考材料：
【1】董雪 ，《“有人模仿我的脸？”— AI换脸技术法律风险分析及建议》；
【2】平谷检察，《【以案释法】“AI换脸”涉及的法律问题》；
【3】萧山检察，《“女神群”里的秘密》；
【4】萧山检察，《利用“AI换脸”技术侵犯公民个人信息！杭州检方提起民事公益诉讼》；
【5】萧山检察，《使用AI换脸技术干这事儿？杭州检方提起公诉！》；
【6】杭州中院，《“AI换脸”乐趣多？也要当心侵权！法院判了》；
【7】北京丰台法院，《知识产权宣传周 | “什么都换只会害了你”——AI换脸有什么法律风险？》；
【8】史宇航，《科技伦理审查制度初现：为狂飙的AI系上安全带》；
【9】宋海燕、林德鑫 ，《相由AI生：浅谈深度伪造（Deepfake）与个人形象权》；