一个源自俄罗斯的网络利用ChatGPT来宣传国际伯克研究所,该研究所网站上审查的36篇文章中有34篇被复制或错误归属。[Source: Provided Content]
OpenAI禁止了一组账户,这些账户的操作者使用俄语提示生成社交媒体帖子和评论,主要以英语发布,并与该宣传相关。[Source: Provided Content]
该操作试图掩盖其俄罗斯来源,尽管构造复杂,但仅达到了相对较小的受众。[Source: Provided Content]
该网络利用ChatGPT生成内容宣传国际伯克研究所,使用俄语提示创建掩盖其来源的英语帖子。为了在俄罗斯受限的互联网环境中运营,该组织使用VPN,掩盖其位置,因为ChatGPT在俄罗斯不可访问。他们创建了可信的个人资料和账户,像真实用户或学者一样传播内容。尽管设立了这种复杂的架构,但该努力仅吸引了小规模受众。
该操作的一个重要方面是文章复制的程度。在研究所网站上的36篇文章中,有34篇被发现重复,且归属不准确,包括一篇关于中国-巴基斯坦经济走廊的文章,错误地将其从剑桥大学出版社的原作归属给诺丁汉大学教授。这种细致却误导性的归属导致了若干不一致,使得该操作与之前的影响尝试不同,正如来源描述的那样:”这些文章中有些年份久远;其他则归属给了错误的作者。”
OpenAI 识别到一个与俄罗斯相关的独立活动,名为 Doppelganger。Doppelganger 使用 ChatGPT 创建文章、社交媒体帖子和评论,赞美俄罗斯并攻击乌克兰、北约和美国。OpenAI 还提到一个名为 Forest Blizzard 的团体与俄罗斯军事情报有关。Forest Blizzard 使用聊天机器人研究目标、编写脚本并支持网络钓鱼攻击。
OpenAI 并没有直接将国际伯克研究所的活动归因于俄罗斯政府。以色列的一些人可能在会议上或通过文章投稿代表该研究所,OpenAI 表示无法确定这些个体与该行动的关系。”我们无法判断这些个体、IBI 和俄罗斯的操作者之间的关系。”
报告描述了一项与俄罗斯相关的 ChatGPT 影响力行动,该行动通过学术伪装来推广国际伯克研究所,并与其他已知的与俄罗斯相关的活动同时进行,吸引了研究人员的关注。尽管该活动展现出非同寻常的复杂且协调的结构,调查人员仍未解决相关个体和组织之间的确切隶属关系或关系性质,留下了实质性的疑问。


