华盛顿——美国国务院警告外交官注意利用人工智能技术伪装美国国务卿马尔科·鲁比奥及其他官员的企图。此信息源自上周发给所有大使馆和领事馆的一封电报，消息由两位高级官员确认。
警告是在国务院发现有冒充鲁比奥的假冒者试图联系至少三位外国外长、一名美国参议员和一位州长之后发布的。根据7月3日的电报，这些伪造者通过短信、信号和语音邮件发送了假消息，电报中未具体说明接收者的身份。
国务院发言人塔米·布鲁斯在记者会上表示：“国务院已注意到该事件，并正在监控和处理此事。该部门认真对待保障信息的责任，并不断采取措施改善网络安全，以防止未来的事件。”
她由于“安全原因”以及正在进行的调查，拒绝进一步评论。
这是特朗普政府高层官员再次被伪装的事件，类似的事件在5月也曾发生，当时揭露了冒名顶替总统唐纳德·特朗普的首席幕僚苏茜·怀尔斯的事件。随着技术的不断改进和广泛应用，使用人工智能欺骗他人的案例可能会增多，联邦调查局也在今年春季警告过“恶意行为者”通过文本和语音信息冒充美国高级政府官员的行为。
有关鲁比奥的骗局没有成功，且“并不复杂”，一名官员表示。然而，另一位官员称，由于外部力量试图破坏信息安全的努力不断增加，国务院认为向所有员工和外国政府发出警告是“明智之举”。
这些官员未被授权公开讨论此事，因此以匿名方式与媒体交流。
电报中提到：“该活动对该部门没有直接的网络威胁，但如果目标个人被攻击，分享给第三方的信息可能会暴露。”
联邦调查局在一份公共服务公告中警告称，存在一个“恶意”活动，利用文本消息和人工智能生成的语音消息伪装成高级美国官员，旨在欺骗其他政府官员及受害者的同事和联系人。
这并不是鲁比奥第一次被深度伪造，他在今年春季的一段伪造视频中被虚构出声称要切断乌克兰对埃隆·马斯克的星际链路互联网服务的访问。乌克兰政府后来驳斥了这一虚假声明。
近年来，针对日益严重的人工智能欺诈行为，提出了几种潜在解决方案，包括刑事惩罚和提高媒体素养。对于深度伪造的担忧也催生了大量新应用和AI系统的开发，这些系统旨在识别出容易欺骗人的虚假信息。
参与开发这些系统的科技公司现在正在与那些试图利用人工智能进行欺诈的人展开竞争。纽约州布法罗大学的教授兼计算机科学家吕思伟表示，他注意到随着技术的进步，针对名人、政治家和商业领袖的深度伪造数量在增加。
几年前，伪造的作品中有明显的缺陷——比如不自然的声音或多余的手指等错误，但如今，人工智能的发展使得这些伪造变得更加真实，普通人更难以识别，从而给深度伪造制造者带来了优势。
吕思伟表示：“逼真度和质量水平正在提高。这是一场军备竞赛，目前生成器正处于上风。”
鲁比奥的伪造事件发生在来自某人的电信中，这些信息向选举官员、商业高管和其他知名人士发出，似乎该人已经获得了怀尔斯个人手机中的联系人信息。
图片源于：npr
