意想不到，你手机上的这个App也会成为武器
（文/Maya Shwayder）
可能从未想过，从应用商店里随便下载一款换脸App，你也可以影响美国大选。一切就是这么简单，用手机就可以分分钟做一个深度伪造的视频，司空见惯。当然，我们不赞同这种做法。但是，"深度伪造"这个技术正在像Photoshop一样变得非常普遍，很多开发深度伪造的工程师都说，我们将很快在广告中看到自己的脸。
1.被滥用的技术
乌克兰初创公司RefaceAI的首席执行官说，他们从2011年开始使用机器学习，并在2014年开始使用深度伪造技术开发自己的应用程序。ReFaceAI已经发布了名为Reflect的照片换脸应用程序，并且即将发布自己的视频换脸应用程序，以及一项帮助检测深度伪造视频的网络服务。他表示，"我们从一开始就发现这项技术被滥用了。"
ReFaceAI已经与一些电影制作公司合作，利用其技术将替身的脸换为明星演员的脸，这么做可以不用让演员飞回片场重新进行场景补拍，大大节省了拍摄成本。ReFaceAI首席执行官说，这就是该公司所认为的深度伪造的未来，"我们想把它用于营销、个性化广告、gif动图和娱乐。"
2. 即使有"道德问题"也无伤大雅
韩国的应用程序Carica也在开发深度伪造gif和视频，人们可以把自己的脸合成到一个平台上，然后发送给朋友和家人。这款应用已经推出了弹出式广告，将用户的脸融入到广告的照片或视频中。Carica首席执行官表示，"我们希望我们的公司成为一家媒体公司。"深度伪造只是他们起步的方式。"我认为媒体公司将开始越来越多地采用这一功能，并且对用户来说也会变得很常见。"
这两家公司都以PS的普及为模型来研究深度伪造的发展：技术必将普及开来，即使仍存在一点争议，也无伤大雅。他们认为，深度伪造中隐藏的政治和伦理道德问题并不明显。
当然也有一些不同观念，深度伪造检测平台"琥珀视频"（AmberVideo）的首席执行官认为，深度伪造技术和大多数其他类型的技术一样，是不道德的。"因为潜在的恐怖分子会利用它来支持暴力、极端的意识形态，这将激励其他人支持暴力、极端的意识形态。在深度伪造技术上这点尤为明显。"但他不得不承认，这项技术最终会普及。"就像是社会的一面镜子，像twitter或是Facebook一样，有人性最好的一面，也能看到最坏的一面。有些人会用它来进行轻松的恶搞，但有人也会制造混乱。"
3. 深度伪造武器化
然而，目前最大的担忧仍然是深度伪造会被滥用，甚至武器化。随着深度伪造越来越普遍，它们不仅可能被用于大规模虚假信息宣传，还被用于恶作剧或校园欺凌。如果这项技术得来容易，任何人都可以利用它。
Carica和ReFaceAI公司都表示他们正在采取措施，通过检测网络服务或设置内容版主等方式，以减轻潜在的滥用可能。RefaceAI公司表示，"我们知道我们的技术可能被滥用。甚至有人也会利用PS进行恐吓。但另一方面，我们也非常警惕，一旦发现有用户将不良内容上传到平台中，就会立即封号。"Carica公司则表示，"这种滥用不是现在才有的，所有的新技术都会出现这种情况。任何技术必然会经历被误用的阶段，但这也激励人们不断完善，一旦度过这个阶段，技术的使用就会更加规范。"
来源：数字潮流网