中国的新“武器”:用AI发起宣传战
俄罗斯干预2016年、2020年美国总统大选的手段技术含量相当低。他们靠一般的机器人账号向大众投放数量极多的即时短信和低质量内容,这些行动的影响可能有限。那些日子已是过去式。随着生成式人工智能系统的迅猛发展,社交媒体上铺天盖地的辱骂和谎言已不再是最大的危险。最大的危险反而是对线上交流缓慢、隐蔽且具有腐蚀性的操纵——这种宣传的设计不是为了制造轰动,而是为了悄无声息地渗透到我们的日常数字讨论中来。我们已进入了国际舆论影响力行动的新时代,在这个时代里,人工智能生成的叙事会以不动声色的方式改变政治格局。根据我们任职的范德比尔特大学国家安全研究所最近发现的大量文件,一家名叫中科天玑(GoLaxy)的中国公司已正在进行这类活动。这些文件显示,中科天玑正在成为一场技术上先进、国家导向型的影响力行动中的领军者,通过部署类人的机器人账号网络和心理画像技术,锁定个体目标。这家公司的活动和宣称都表明它与中国政府有联系。googletag.cmd.push(function(){googletag.display(\"div-gpt-ad-1385191137318-2\");});中科天玑已把它的技术部署到香港和台湾。文件暗示,公司也许正在为将活动扩大到美国做准备。人工智能驱动的政治宣传已不再是假想的未来威胁。这种复杂巧妙的技术已投入使用,并正在重塑大规模舆论操控的模式。中科天玑的一名代表称,公司业务的重点是提供商业情报服务,并否认公司已研发了针对个体的机器人账号网络或心理画像工具。公司还否认隶属于任何政府机构或组织。中科天玑的独特之处在于它将生成式AI与海量的个体数据结合起来。公司的系统不断挖掘社交媒体平台,以构建动态的心理画像,用个体的价值观、信仰、情绪倾向以及弱点来生成定制的内容。文件显示,这些AI生成的形象能与用户用看似对话的方式互动,内容真实感强,还能实时调整,让对话者难以察觉。其结果...