OpenAI 研究人员揭示中国利用 ChatGPT 执行网络宣传活动

根据 OpenAI 的研究人员,中文宣传者正在利用 ChatGPT 在社交媒体平台上撰写帖子和评论,并为其上级撰写详细的内部工作评审。

这一现象发生在中国加大力度影响舆论和进行在线监控的背景下,OpenAI 的报告指出,一些操作使用公司的人工智能聊天机器人来创建内部文件,以及通过其他中国组织进行的营销材料。

OpenAI 的情报与调查团队首席研究员本·尼莫(Ben Nimmo)在一次与记者的电话中表示:“我们看到中国正在使用越来越多的隐蔽行动,并采用越来越多的战术。”

在过去三个月中,OpenAI 声称已中断了十个恶意使用其 AI 工具的操作,并禁止与这些操作有关的帐户。

其中四个操作可能源于中国,该公司表示。

这些中国相关的操作“针对许多不同国家和主题,甚至包括一款策略游戏。一些操作结合了影响力活动、社会工程和监控元素,并跨多个平台和网站进行。”尼莫补充道。

其中一个被 OpenAI 称为“Sneer Review”的操作使用 ChatGPT 生成简短评论,发布在 TikTok、X、Reddit、Facebook 和其他网站上,以英语、中文和乌尔都语表达。

讨论的主题涉及特朗普政府解散美国国际开发署的举措,评论中既有赞扬也有批评,以及对一款玩家需要击败中国共产党游戏的批评。

在许多情况下,该操作生成一篇帖子及回复评论,OpenAI 报告称,“这种行为显然旨在制造出有机参与的假象。”该操作使用 ChatGPT 生成对该游戏的批评性评论,并撰写一篇长篇文章,声称该游戏遭到了广泛的反对。

“Sneer Review”背后的行为者还利用 OpenAI 工具进行内部工作,包括创建“关于建立和运行该操作的详细步骤的绩效评审”,OpenAI 表示。

“我们在观察到的社交媒体行为与该评审中描述的程序密切相似。”

另一个被 OpenAI 与中国联系的操作专注于通过伪装成记者和地缘政治分析家收集情报。

该操作利用 ChatGPT 撰写 X 上帐户的帖子和简介,翻译从中文到英文的电子邮件和消息,并进行数据分析。

包括“给美国参议员关于提名某位政府官员的函件”的通信,OpenAI 表示,虽然它无法独立确认该通信是否已发送。

尼莫说:“他们还利用我们的模型生成看似营销材料的内容。”

在这些材料中,该操作声称其进行“虚假社交媒体活动和社会工程,以招募情报来源”,这与其在线活动相符,OpenAI 在其报告中补充道。

在 OpenAI 早前的威胁报告中,该公司报告了一项与中国有关的监控操作,声称监控社交媒体“以实时报告西方的抗议活动给中国安全部门。”

该操作使用 OpenAI 工具进行代码调试,并撰写可用于社交媒体监控工具销售的描述。

在星期三发布的最新报告中,OpenAI 还披露了一些可能起源于俄罗斯和伊朗的隐蔽影响力操作,一项归因于菲律宾商业营销公司的垃圾邮件操作,以及与柬埔寨有关的招聘诈骗和具有朝鲜操作特征的欺诈性招聘活动。

尼莫表示:“值得注意的是,这些操作所采用的战术和平台范围广泛多样。”

“不过,他表示,这些操作大多在早期阶段就被中断,未能达到大规模真实受众。”

“我们通常没有看到这些操作因使用 AI 而获得更多参与。”尼莫补充道,“对于这些操作而言,更好的工具不一定意味着更好的结果。”

图片源于:https://www.npr.org/2025/06/05/nx-s1-5423607/openai-china-influence-operations