专家讨论人工智能目前构成的最大威胁

几位专家对AI带来的威胁提出了自己的想法。假内容是目前最大的危险也就不足为奇了。

周二在纽约举行的WSJ Pro网络安全执行论坛上，专家们认为，人工智能产生的内容是我们社会迫切关注的问题。

社交媒体分析公司Graphika的首席创新官camillefranois表示，deepfake文章构成了最大的危险。

我们看到了人为制造的“假消息”和虚假信息活动所能起到的作用。因此，在这个过程中，AI对很多人来说是一个主要威胁，这并不奇怪。

弗朗索瓦强调，如今的假冒文章和虚假宣传活动依靠大量的手工劳动来制造和传播虚假信息。

弗朗索瓦说：“当你看到虚假宣传活动时，创建假网站和假博客的体力劳动量是巨大的。”

“如果您只是简单地自动化受信任的文本，它确实会以一种非常自动化和可扩展的方式淹没垃圾。所以我很担心。”

今年2月，OpenAI推出了其GPT-2工具，可以生成令人信服的假文本。人工智能已经接受了跨越800万个网站的40 GB文本的培训。

OpenAI担心造成损害，因此决定不公开发布GPT-2。然而，今年8月，两名毕业生决定重新创建OpenAI的文本生成器。

这些毕业生表示，他们认为目前自己的工作不会给社会带来风险，所以没有一家资源丰富的公司或政府，也有可能向全世界发布。

他的一名毕业生Vanya Cohen说：“这让每个人都可以就安全问题进行重要的讨论，研究人员可以帮助确保未来的潜在滥用。

迈克菲首席数据科学家、高级首席工程师塞莱斯特弗拉利克(Celeste Fralick)在《华尔街日报》的活动中与弗朗索瓦在同一个小组发言，建议该公司与专门从事深度欺诈的公司合作。

与AI相关的最可怕的网络安全威胁之一是“对抗性机器学习攻击”，黑客利用它来发现和利用AI系统中的漏洞。

Fralick提供了加州大学伯克利分校教授Dawn Song进行的一项实验的例子，在该实验中，无人驾驶汽车被误认为使用贴纸将停车标志做成45 MPH的限速标志。

根据Fralick的说法，迈克菲自己也进行了类似的实验，发现了进一步的漏洞。其中之一就是再次修改35 MPH的限速标志，欺骗无人驾驶汽车的AI。

“我们扩大了三者的中间部分，所以这辆车没有认出它是35。它以为是85。”她说。

两个团队成员都认为，除了采取策略应对攻击之外，还需要对全体员工进行AI带来的威胁教育。

弗朗索瓦总结道：“确保人们具备基本的人工智能素养非常紧迫。”