内容
资料来源：Mike2focus / Dreamstime.com
带走：
媒体消费与人工智能（AI）等技术进步一起发展。虽然我们通常接受进步，但我们还必须意识到某些形式的技术的弊端。当AI用于宣传假新闻时，它的能力存在黑暗的一面。
技术的阴暗面是5月15日在纽约市媒体实验室第二届Machines + Media会议上探讨的主题，该会议由彭博社在其城市全球总部赞助并主办。尽管有些会议更多地关注于研究什么技术目前可用于媒体，甚至那些带来操纵和错误信息阴影的媒体。
好故事比全部真相更引人注目
Buzzfeed数据科学部副总裁吉拉德·洛坦（Gilad Lotan）在题为“最先进技术”的会议上指出，虚假或误导性新闻问题不能仅归咎于媒体公司或新技术。他说：“人们不一定要寻找事实。” “读者想要故事。”
他补充说，提供对故事的渴望和偏爱的叙述可能会导致虚假新闻，“比虚假信息要多操纵”。实际上，所传递的故事可能根本不包含任何虚假的东西。这是假的，是将报道的事实挑剔并从较大的“骗局”中删除，以引导“读者得出结论”。
同样，在“平台+媒体”会议上，威廉和弗洛拉·休利特基金会的美国民主倡议组织的凯利·博恩说：“人们喜欢新闻，这印证了他们的信念，特别是如果它引发了愤怒。”她警告说，媒体的资本化这种趋势会导致一场“完美风暴”，使我们陷入最糟糕的境地。完全伪造的演示文稿可能会加剧这种情况。
仍在相信吗？
技术在通过图像和视频讲述故事中发挥着作用。除非有明显的操纵迹象，否则我们通常会相信所见即所得。但是，随着AI改善了假视频的真实性，现在可以将字面上的文字放到公众人物的嘴里。 （AI并非仅用于邪恶目的。在公司可能要考虑使用AI的5种方式中查看一些建设性的方法。）
在题为“机器驱动媒体的阴暗面的解决方案”的会议上，演示了AI制作非常可信的视频的危险。该视频首先以巴拉克·奥巴马（Barack Obama）的一段视频开头，讲述了前总统从未说过的话。机芯与文字仍然略有不同步，因此它带有伪造视频的标记，大多数观众表示他们可以将其识别为伪造。
奥巴马的视频操纵并没有实现让彼得·库欣（Peter Cushing）复活为大侠莫夫·塔金（Goff Moff Tarkin）的“侠盗一号”的现实。正如《纽约时报》的一篇文章所述，这种效果是通过让演员戴上“动作捕捉材料”来实现的而在镜头前“则可以用Cushing的数字化创作代替他的脸。”这部电影的首席创意官/高级视觉效果主管称其为“超高科技和劳动密集型作品补偿。”
无法检测到的假货
现在，得益于AI的进步，尤其是生成对抗网络（GAN），实现电影魔术效果比以往任何时候都更加容易。一个人工智能系统利用GAN来优化素材，直到足以被设计为检测伪造品的人工智能系统接受为真实为止。
没有错误，没有压力-在不破坏生活的情况下创建可改变生活的软件的分步指南
当没有人关心软件质量时，您就无法提高编程技能。
在此视频中，您可以看到研究人员演示了演员如何指导公众人物的脸部动作，以产生通常在篡改视频中不常见的保真度的任何表达和宣告。
尽管目前并不是每个玩视频的人都拥有这样的系统，但在不久的将来，该软件将为更多人所用。
可能的后果
Factmata创始人兼首席执行官Dhruv Ghulati说，他“非常担心”该功能如何应用于不仅将世界领导人的面孔，还将CEO和名人的面孔放入视频中，以证明他们的言论或所作所为。通过从僵尸网络中获得病毒效果，可以增强视频的破坏力。
康奈尔科技大学信息科学副教授Mor Naaman表示，这意味着我们“再也不能相信我们的谎言”。他担心这会导致失去信任。
其他人则担心会煽动暴力。社会媒体责任中心首席技术专家阿维夫·奥瓦迪亚（Aviv Ovadya）观察到，“已经被稍微修改的视频”已经“用于在发展中国家造成暴力”。 （社交媒体可能是传播虚假信息的有效方法。请查看排名前4的最具破坏性的Feed黑客。）
投资美国的合伙人莎拉·哈德森（Sarah Hudson）对“大规模”操纵图像构成“对公共安全的不可思议的威胁”表示关注。
主动计划
Ovadya说，“必须尽可能防止这种滥用”。这就是为什么“在开发技术时提前思考”关于“如何减轻不良影响”并“投入资源以解决那些意想不到的后果”的重要性。
不可能倒数进度，但我们要做的就是确保考虑并计划好前进的方向。这意味着不仅要研究技术可以看到可以做什么，而且还要思考应该避免的可能做什么。
技术创新的前进方向是思考可能产生的影响，并在危险出现之前就制定保障措施。为此，我们需要研究人员，技术公司和政府机构之间的合作，以建立人们将遵守的标准和最佳实践。这应该是所有有关方面的优先事项。