“我在群里看到你夜夜撸网站，是你吗？”

在韩国，淌若有一又友给你发来这句请安，不要诬告，他未必率不是要和你话旧，因为接下来他给你发的，很可能即是你的裸照。

看着屏幕，你如遭雷击，脑子一派空缺。天然你百分百证实我方从来莫得拍摄这样的相片，可手机屏幕里的阿谁东谈主线索明晰，却又分明即是你。

你不解鹤发生了什么，腹黑被捏紧，记念初始在全身推广。

相片天然和女孩儿无关，它是由一种名叫深度伪造（DeepFake）的技能生成，这种技能在国内更被东谈主熟知的名称是“AI换脸”。在如今的韩国，这种技能正在酿成一团辽远的暗影，掩饰在通盘女性的头顶，带来紧张和破坏。

在韩国，犯警者通过DeepFake将普通东谈主的形象替换到色情图片或视频中，然后通过外交媒体上进行传播，对当事东谈主进行欺凌。

据《朝鲜日报》的报谈，最近一周在警方发现的关系Telegram社群里，参与制作和传播DeepFake的加害者已多达23万东谈主。这些东谈主不局限在韩国，也来自寰宇各地。

另据一位韩国网友在X上发布的帖子暗示，受到DeepFake影响的受害者曾经遍及韩国数百所国中、高中庸大学。这些受害者中，80%是女性，她们有的还在念初高中，属于未成年东谈主、有的是大学生或者老师，其中致使包括女性军东谈主，她们的相片被称为“军需品”。

▲X上清晰受Deepfake技能影响的校园名单

回归这场风暴，DeepFake无疑是其中的要害。但它却并不是一项新技能，最早出目下2016年的DeepFake到如今已有快要十年的历史。

这十年间，DeepFake一直游走在罪状和法律的角落，不竭挑战着东谈主性媾和德的底线。从好意思国到中国，从韩国到印度，DeepFake每隔一两年就会有一次技能冲突，然后又给这个寰宇带来一场更大的紧张。

技能有罪吗？DeepFake好像如实如斯。但技能竟然有罪吗？却似乎又与DeepFake无关。

被害东谈主，从明星到匹夫

回想起来，DeepFake 最早出目下2016年。

那时，机器视觉如故全球AI计划最热点的标的之一，一些计划东谈主员在计划机器视觉的历程中使用DCNN（深度卷积神经网罗）完了了东谈主脸识别、色调退换以过火他与图像处理关系的任务，这是DeepFake最早的雏形。

差未几一年之后，以这些技能为基础，科研东谈主员进一步接管GAN（生成抗争网罗）完了了生成传神的东谈主脸图像。之后，“换脸”很快以极具顽固性的首秀向专家展示它的威力。

2017年，一位Reddit用户在Reddit新建了一个名为“DeepFake”的社区，初始用名东谈主的肖像来制作色情内容进行传播。著明女星斯嘉丽·约翰逊（Scarlett Johansson）、加尔·加朵（Gal Gadot）都成为了受害者，其带来的恶劣影响，曾经喧嚣一时。

其后，这个社区天然被很快删除了，但“DeepFake”这个名字却被保留了下来，并成为AI合成内容的代名词。

在这个阶段，DeepFake还掌持在以学术计划为主的少数群体手中，导致它的使用仍然存在一些门槛。直到2019年，开源器用FaceSwap将DeepFake的应用从学术计划晋升到专家，然后第一个平凡流行的DeepFake应用FakeApp就随之出现，它让非技能东谈主员也能省略创建DeepFake视频。

DeepFake从此初始越来越普遍，从2019年到2020年，DeepFake平日激勉各样人人事件，其影响边界也从文娱色情扩展到经济社会的各个方面，致使包括总统选举。

而韩国新N号事件最大的一个变化在于，它诠释DeepFake的受害者正在加快子民化，昔时DeepFake的受害者，不再局限于明星政要，包括你我在内，每一个东谈主都有可能成为新的受害者。

▲DeepFake关系代表事件

如今，跟着AI大模子技能的发展，制作一张DeepFake图片的资本简直曾经不错忽略不计。

此次韩国新N号房之是以波及边界如斯之广，一个繁难的原因是，在Telegram上应酬加入一个DeepFake的社群，就会得回两次免费的图片生成契机。

“将你可爱的女生相片发给我。”这是许多东谈主加入在Telegram上加入DeepFake社群的第一步。

两次免费的生成契机之后，新的内容生成天然需要付费，但价钱也并不高，每一次只需要支付一颗钻石（Telegram的一种加密货币，约合0.49好意思元，3.49元东谈主民币）。而且和通盘充值办卡的逻辑相同，充得越多，价钱还会越低廉。

天然，你也不错遴荐不付费，那么你只需要再邀请一位新一又友加入，就不错再得回一次免费生成的契机。由一个东谈主拉来另一个东谈主，罪状通过熟东谈主关系进行裂变，然后如病毒般扩散[1]。

这也导致另一个问题，那些通盘通过DeepFake生成的淫秽内容，都由熟东谈主进行制作，并在熟东谈主圈子里进行传播。

比如在韩国粹校里，许多东谈主就将身边一又友的相片用来生成淫秽色情内容。许多相片，可能就来自你刚刚寿辰，或者旅游之后在外交媒体发布的好意思照。

由于熟东谈主的关系，这些“脸”属于谁也平日被标牢记一清二楚。你可能会狼狈收到来自生分东谈主的短信或者邮件，对方能够明确指出你学校和班级，或者你的就业单元和家庭住址，然后在末尾放上一段由“你”出演的性爱视频。

对于身处其中的受害者而言，这件事情最可怕之处在于，你不知谈平日里衣冠皆楚的一又友们，会不会即是这23万东谈主中的一员；你不知谈之前发布在外交媒体的相片会不会曾经被他们保存下来，然后替换到那些淫秽不胜的场景当中。

你不知谈他们会把这些相片发给谁，若何对着这些东西对你品头题足，身边又有若干东谈主看过这些内容。

你只知谈，这个寰宇有一对无形的眼睛，在不为东谈主知处缄默的留意着、觊觎着你。

仅仅一场游戏

受害者们天然不会一字不提。

8月份以来，韩国女性初始在国表里互联网平台上进行抗议，要求将“加害者”绳之以法。但当韩国女性四处求告之时，加害者们却颇有一种担惊受怕，不以为然的气派。

有韩国女孩儿截图犯警者的言论，他们将受害者的抗议看成念是一种女权办法，并暗示“女东谈主们对这件事情过分夸张”。

韩国媒体的报谈中也提到许多关系犯警者的言论，他们说用熟东谈主的形象制作深伪色情内容“仅仅认为道理”、“仅仅在开打趣”、以及“用熟东谈主的相片P图更的确”，而当有东谈主说这样作念坐法时，他们致使发出“只消傻瓜才会被被侦探逮住”的言论。

▲在微博求援的韩国网友

是的，这件让许多受害者深感晦气的事情，在许多加害者眼中仅仅一场“游戏”。

韩国媒体Pressian报谈，限度本年6月，Telegram上一个名叫“一又友COCKHERO（Cock Hero）chat”的群聊中[2]，已稀有百名参与者上传我方女性一又友的相片或视频，然后哄骗DeepFake将它们制作成淫秽内容。

他们群聊里共享素材和我方制作的内容，致使有东谈主在群里暗示，“请用我的一又友制作的Cock Hero并共享一些感念”，并将其视为一种荣誉。天然，他们也会对受害女性的外貌，以及被性克扣的可能品头题足。

在这个历程中，参与者被要求提供更多的素材，并暗示“提供女性一又友的相片和视频越多，生成的深伪内容质地就越好”。

天然，这也仅仅数千致使上万个Telegram群聊中的一个，莫得东谈主知谈Telegram上这样的群聊有若干。

而跟着参与者的迟缓增多，这场由所谓“打趣”激勉的深伪色情内容制作正在变得越来越有组织，有预谋，并迟缓有脱离网罗犯警限制的迹象。

足交

韩国媒体报谈，目下曾经有越来越多的受害者收到绑架内容。施暴者通过制造深伪色情内容对受害者进行威逼，并索取财帛。许多加害者致使初始磋议，若何将受害者绑架并将其酿成性扈从。

正如同潘多拉魔盒里的罪状，DeepFake也正在冲破其“诬捏”的属性，变得一发不成打理。

DeepFake，法外之地？

面对这些问题，许多东谈主细目会有一个径直的疑问：法律难谈无论吗？

谜底是管，但管得未几，且不同国度和地区法律能够搅扰的进程也有所不同。

比如今天DeepFake内容泛滥最严重的韩国，天然在2019年的“N号房”事件和2020年“传播谬妄视频”事件后，韩国当局在《性暴力处罚法》中增多了“数字性犯警”的主见和相应的处罚条件，但握住才气实在有限。

与违规拍摄的视频不同，在韩国，单纯领有和不雅看深度伪造视频是不会受到处罚的。而即使你哄骗DeepFake制作了顽固受害东谈主东谈主格的违规深度伪造图像或者视频，但只消你说你莫得“以传播为狡计”，你依然不错幸免受到刑事使命[3]。

这亦然韩国在处理新N号房事件时出现特地多特地戏剧性案例的原因。

比如在本年一场针对Telegram上制作DeepFake内容的社群进行视察时，天然警方知谈社群的参与东谈主数达到1200东谈主，但却仅有一东谈主被捕。而他被捕的原因，是他将群里的DeepFake内容传播到了其他场地。除了他以外，这个社群包括运营方在内，莫得一个东谈主受到刑事使命。

除了韩国以外，好意思国、英国、欧盟针对DeepFake的内容也都有相应的法律，但各个国度的侧重心和保护力度有所不同。

其中，好意思国的关系法律更倾向于保护政事选举的可靠性。

加利福利亚州明确提议顽固DeepFake在政事和性侵害方面的施暴，而况条件具体，比如提议“顽固在选举前60天内传播可能影响选举收尾的谬妄视频”。

但在联邦层面上，好意思国贫窭和谐的DeepFake限定。各州的法律履行在跨州和跨国案件中濒临困难，尤其是在触及跨境的DeepFake内容传播时，这些法律可能濒临履行力不及的情况。

英国的《指责法》不错用于打击触及DeepFake的指责行动，但这种法律平日需要受害者主动拿告状讼，资本高、时候长，普通东谈主可能难以使命。

天然英国明确对传播渠谈作念了功令，但DeepFake内容的跨国性传播使得法律的履行复杂化，可能减轻其推行遵守。

欧盟的法律相对比拟严格，《一般数据保护条例》（GDPR）和《数字服务法》（DSA）通过严格的秘密保护和数字内容贬责要求，对DeepFake技能的铺张进行限制，并对违背功令的公司施加了高额罚金。这些法律要求平台对DeepFake内容负有更高的使命，必须主动监测和移除谬妄信息。

▲寰宇列国DeepFake法律限定一览

而与大无数国度不同，中国针对DeepFake的内容，迥殊是触及淫秽色情内容的部分，贬责要愈加严格。

本年3月份，杭州互联网法院就曾审结通盘对于哄骗AI换脸传播淫秽色情内容的案件。

这个案子发生在2020年，和韩国东谈主在Telegram上的玩法相同，案犯通过AI器用制作换脸视频，然后在外交软件上创建社群进行分发。

案犯创建的社群名叫“浏览群”和“私东谈主订制群”。浏览群主要用来传播DeepFake视频，接纳不雅众和客户；定制群则援助付费定制，按照5分钟300元，10分钟500元的表率收费。案犯在审理中暗示，“只消能看到脸的都能换，有东谈主致使要定制暗恋女生的换脸视频。”

经过审理，该案犯最终因骚扰公民个东谈主信息，以及制作、传播淫污物品营利罪被判有期徒刑七年三个月。

通过这个案件咱们也能看到，在中国通过DeepFake制作色情内容进行传播，其犯警资本要比外洋高许多。

这样的平正天然是中国莫得出现DeepFake内容大规模泛滥的问题，但另一面，也有更多东谈主初始不称心于高风险低答复的情色内容制作，而初始铤而走险，通过AI换脸技能进行电信诈欺。

不错看到，在中国犯警资本比在韩国要高许多。是以许多东谈主哄骗AI换脸技能，并不是制造淫秽色情内容，而是电信诈欺，而这种DeepFake也不啻局限于相貌，致使包括声息和个东谈主身份信息。

2022年以来，跟着生成式AI技能的发展，国内电信诈欺案件持续上涨。

20多年前的2000年，中国刑事案件中盗窃案件占比最多，达到总量的60%，反扒小组曾一度成为一个特意的侦探编队。20多年后的今天，网罗电信诈欺拔帜树帜，成为新的“时期罪状”[4]。

据中国侦探协会最新数据，2024年上半年，诈欺占刑案的比例上升至60%，其中绝大部分是网罗电信诈欺。这是一个时期的变迁。

技能的发展，似乎在给这个社会带来更多的难受。

结语

在历史的传统叙事中，东谈主们可爱将DeepFake这样的事物归结为原罪，比如魔丸投胎的哪吒，或者希腊传闻中的阿多尼斯。但当代社会，咱们并不这样想考问题。

2014年，因P2P（peer to peer）共享传输技能而成为“宅男神器”的快播轰然倒塌，创举东谈主王欣被逮捕。两年之后，王欣在案件庭审中为我方和快播作念出了一番经典的诡辩——技能无罪。

在王欣的表面中，我方和快播仅仅创造了一项技能，至于用户拿他作念什么，与他无关。

但这件事情并莫得回话，为什么技能带来的罪状仍然通常出现。直到两年后，在距离王欣受审的法院不到20公里的场地，腾讯计划院举办了一场举止，它的主题是“科技向善”。

食，色，性也。

技能发展的难点，除了技能自己以外，更内容的难点在于，若何限制撬动东谈主性“恶”的杠杆。而在腾讯的理念中，使用技能的东谈主自己应该承担起这样的使命，东谈主类应该善用科技，幸免铺张，阻绝恶用。

如今，科技向善曾经被越来越多企业接受，成为中国技能发展的一项底层理念，但科技向善，却是一个更持久的课题。

参考府上：

[1]韩民族日报《딥페이크 텔레방에 22만명…입장하니 “좋아하는 여자 사진 보내라”》记者 박고은

[2]ZUM《[단독] '딥페이크→리듬게임→챌린지'…게임으로 진화한 '지인능욕'》作家 첫 댓글을 작성해보세요

[3]韩民族日报《서울대 이어 또 대학 ‘딥페이크 성범죄물’ 공유방…참가자 1200명》记者 이지혜

[4]凤凰网《诈欺已占刑事案件60%：上海反诈中心探访实录》作家 燕青夜夜撸网站