福建日报报业集团主管 《福建法治报》官方网站
原创 | 法治福建 | 记者调查 | 时政 | 国内 | 普法课堂 | 法治时评 | 说法 | 求证 | 大案要案 | 权威发布 | 公安 | 检察 | 法院 |

视频换脸可“定制”女星? AI换脸技术惹风波

2019-07-22 11:20:53 来源:福建法治报

AI(人工智能)换脸的飓风,正为网络安全带来挑战。

记者近日调查发现,随着AI技术走红以及门槛降低,售卖明星换脸的淫秽视频已经成为一门地下生意。对此,联合国网络安全与网络犯罪问题高级顾问吴沈括表示,售卖AI换脸淫秽视频,本身已经是传播淫秽物品牟利罪,也侵犯了肖像权。而买家购买之后加以传播或者以传播牟利,也可能构成违法。

售卖:女星频频“被换脸”

记者搜索发现,“换脸”“Deepfake”以及“FakeApp”贴吧等都存在售卖AI换脸淫秽视频的帖子。发帖者多为无头像、简单英文字母名称的用户,而且发帖用词隐晦,包括“国内外81部,诚信第一”。

记者联系到一位名为阿长(化名)的卖家,其随后发来“80部明星合成视频列表”的压缩包,包含多部淫秽视频的列表截图,文件名上标注出多位大众熟知的女明星。

“(购买)低于15部算4元一部,超过15部算3元一部,80部全买只要68元。”阿长表示,视频文件将通过QQ文件发送,支持微信、支付宝、QQ红包等支付方式。记者花4元随机购买了一个标题为某知名女明星的视频。视频中女主角脸部全部替换成了该女明星,尽管换脸效果粗糙,但仍能一眼识别出来。随后,阿长附赠了相关视频的剪辑版本,包含多个淫秽视频的部分内容,其中女主角的脸全被替换成了这一女星。

另一名发帖的卖家林祥(化名)则是向记者发送了网盘链接。网盘中除了视频目录、截图、试看视频等文件,还包括一个单独被命名为某知名女明星目录的文件。

“打包价158元,700部视频,买打包送截图。”林祥提供的压缩文件显示,多位女明星被换脸成主角的频率最高。

记者询问阿长,其他售卖相关视频的卖家是否也是他时,他随即否认并拿出更新目录。“他肯定没这些,我这会更新。”他告诉记者,这些视频并非自己制作,均来自国内某网络平台,充值会员可以下载,然后再分销。

不过,记者通过检索并未发现这类国内网络平台。

定制:提供照片或视频可移花接木

除了百度贴吧,二手闲置平台闲鱼同样存在相关售卖信息。记者在闲鱼上搜索“AI换脸”,看到“AI换脸 明星最全精品”“AI换脸,合集,都懂!”等信息,对方实则在售卖“嫁接”了女明星脸部的淫秽视频。

记者分别与4位卖家进行了沟通,其一般会提供标有女明星姓名的目录截图,并以100部打包的形式售卖,价格从10元-38元不等。卖家子君(化名)告诉记者,在他打包售卖的淫秽视频中,知名女性明星被恶意“嫁接”的最多。

此外,记者检索闲鱼发现,部分卖家还提供“定制换脸”服务,买家提供明星或私人照片,卖家可将照片中的脸“嫁接”到包括淫秽视频在内的任何视频之中,制作周期为1-2天,报价1分钟20元-50元不等。

卖家高尔(化名)表示,视频素材和照片需要买家提供,“照片要多点,侧面等各个角度,至少需要提供20张以上。照片越多越像,没照片发视频也行”。

记者近日在闲鱼平台搜索“AI换脸”显示9个商品售出,包括“换脸软件”“定制换脸”和“换脸教学”。有部分卖家在商品信息中注明:“本店仅负责服务配置环境和教授基础知识,不帮忙操作,请各位自觉遵守当地法律,否则后果自负。”记者调查过程中注意到,闲鱼平台已将部分淫秽视频售卖链接删除。

此外,记者在淘宝搜索“AI换脸”,20多家店铺有相关售卖信息。记者随机询问7家店铺,其中4家店铺提供定制服务,但有卖家明确表明“不做黄、不办证”。该卖家还向记者默认曾有人要求他制售假证。