印度Tehelka杂志记者Lana Ayyub(RanaAyyub)在印度Gugitra暴力事件中卧底屠杀，揭露了事件中官员的阴暗面和疏漏。出乎意料的是，她不仅在等待死亡威胁，而且还在等待以她为主角的假色情视频。一些人用深伪造技术把自己的脸和色情女主角的脸互换，合成了粗糙的短视频。这张虚假图片欺骗了成千上万的人，并在Facebook、Twitter和WhatsApp上广泛传播，甚至连家人都问她："这是你吗？"艾尤布的家庭住址和其他个人信息随后在网上曝光，并收到了大量强奸威胁。

阿尤布的遭遇并不是独一无二的。她的被访者用一个按钮生成裸照，用户可以上传任何女人的照片，系统会自动"脱下"她的衣服。该技术基于数据库中大量的裸照，可以很现实地匹配不同人的身体和面部。该网站已被世界各地的100000多名用户使用，其中包括每天活跃的25000名用户。根据一项内部调查，约63%的用户表示，他们想在现实生活中认识的女孩的软件中"脱下"自己的衣服。

Lana Ayyub(资料来源：TribuneIndia)

更棘手的问题是，制作这样一段色情视频需要大约491张个人的照片，这些图片可以从受害者的社交账户中获取，这无疑降低了骚扰、攻击和侮辱他人的成本。在未来，制作一个深层次的假视频甚至不需要大量原始数据颜色，或许一张图片就足以制作一段视频。在接受近70幅人体肖像的训练后，一天内使用了一个名为StyleGAN的人工智能系统，生成了100万张脸。

近年来，用于生成虚假图像的技术迅速发展，过去需要高超技能和先进图片编辑工具的效果在今天变得容易了。在科技发展的阴暗面上，犯罪的温床也在扩大，在看似中立的技术背后存在着深刻的社会结构性偏见。当人类进入人工智能时代时，我们该如何与陌生人一起生活呢？