21世纪经济报道记者 钟雨欣 北京报道

利用AI“涉黄”问题已引发多个国家关注。据英国政府网站消息，利用生成式人工智能（AI）制作“深度伪造”色情图像的人将被定罪。根据最新定罪标准，任何未经同意创作这些可怕色情图像的人，无论是否分享，都将被视为犯罪并处以无上限的罚款。假如这些图像被广泛传播，始作俑者可能将入刑坐牢。

英国受害者和保护事务负责人劳拉·法里斯表示：“这是某些人企图贬低他人的行径，尤其是针对女性，假如相关物料广泛传播，很可能造成灾难性后果，本届政府绝不会容忍这种行为”。英国政府网站称，近年来，“深度伪造”变得越来越普遍，全世界每个月的这类图像浏览量达数百万次。 

今年1月，美国流行乐歌星泰勒·斯威夫特的“AI伪造照片”在社交媒体上疯传，“震惊”美国白宫。在1月26日的白宫记者会上，发言人让·皮埃尔回应此事，表示“网络上的执法不严对女性影响更大，她们是受到网络骚扰和欺凌的主要目标。”

皮埃尔称，“虽然社交媒体公司在内容管理方面能做出独立决定，但我们相信他们在执行自己规则，防止错误信息和未经同意的真实人物私密图像传播方面能发挥重要作用。”她还补充说，应该立法解决社交媒体上滥用人工智能技术的问题。

社交平台“X”在1月26日发表声明称，严格禁止在该平台上发布未经同意的露骨内容，对此类内容采取零容忍政策，团队正在积极删除所有已识别的图像，并对发布这些图像的账户采取适当的行动，此外，该平台连续几天封锁了对泰勒·斯威夫特的相关搜索。

在此事件之后，微软公司1月29日宣布，对旗下AI图片生成产品Designer引入更多“护栏”，以避免在未经同意的情况下生成名人的露骨图片。

除了名人之外，普通女性也成为了AI深度伪造色情图片的受害者。据媒体报道，2023年9月，西班牙发生一起利用AI的深度伪造技术制作少女裸照的事件，至少有28名11岁至17岁的少女成为受害者，疑犯不仅将裸照在校园内及网络上传播，甚至还利用裸照进行勒索。

2023年11月，一名14岁的新泽西州高中生表示,她和其他30多名女同学的照片被篡改并在网上分享，她呼吁联邦机构立法解决人工智能生成的露骨图片问题。

2024年2月，在美国加州贝弗利山的一所中学，有学生利用AI技术伪造同学的裸照并在网络上散布，引发当地教育官员的强烈谴责。

近年来，中国也发生了多起类似事件。2023年3月，“女子地铁照被AI一键脱衣传播”登上热搜，而所谓的“裸照”其实是该女子此前分享在社交平台的一张照片，原图中该女子衣着正常，却被AI技术“一键脱衣”，“除衣”后的照片被广泛传播。

2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。在该案中，虞某利用“AI换脸”软件生成大量淫秽视频进行传播，被换脸的既包括不少女明星等公众人物，也包括普通人。

检察机关收集的证据显示，虞某创建的众多社交群组中，最少的成员95人，最多的成员达2053人，通过销售换脸淫秽视频以及定制换脸淫秽视频等违法行为，虞某先后收取口令红包200余次，总金额共计6万余元。 

中国政法大学数据法治教授张凌寒此前在接受21世纪经济报道记者采访时表示，深度合成技术能否被合法应用，是关系互联网信息内容安全的大事。俗语说“耳听为虚，眼见为实”“有图有真相”，可见照片、视频在公众潜意识中的真实性远胜文字。而深度合成技术则恰恰颠覆了这一公众认知，可以伪造音频、图片、视频，捏造人物的行为与语言。

在法律法规层面，我国已有相应规制。民法典规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。 此外，《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。《生成式人工智能服务管理暂行办法》也明确，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。