新研究表明，人工智能生成的虚假信息和深度伪造似乎对今年英国、法国和欧洲议会的选举结果没有影响。 

自生成式人工智能热潮开始以来，人们普遍担心人工智能工具可能会增强不法分子传播虚假内容的能力，从而有可能干扰选举甚至影响选举结果。今年，预计有 70 多个国家的数十亿人将参加投票，这种担忧尤为严重。 

这项研究的作者、艾伦图灵研究所研究员山姆·斯托克韦尔 (Sam Stockwell) 表示，这些担忧似乎是没有根据的。他关注了 2024 年 5 月至 8 月四个月期间的三次选举，收集了有关滥用人工智能的公开报道和新闻文章的数据。斯托克韦尔发现，英国大选期间有 16 起人工智能造假或深度伪造案件，欧盟和法国大选加起来只有 11 起，但这些案件似乎都没有对选举结果产生决定性影响。虚假的人工智能内容既有国内行为者，也有与俄罗斯等敌对国家有联系的团体。 

这些发现与专家最近的警告一致，即对选举干预的关注会分散我们对民主所面临的更深层次、更持久威胁的注意力。   

到目前为止，人工智能生成的内容似乎在大多数欧洲选举中都无法有效作为虚假信息工具。斯托克韦尔说，这是因为大多数接触过虚假信息的人已经相信了其潜在的信息（例如，他们国家的移民水平太高）。斯托克韦尔的分析表明，积极参与这些深度伪造信息的人，通过转发和放大这些信息，与内容有某种关联或之前表达过与内容一致的观点。因此，这些材料更有可能强化先前存在的观点，而不是影响尚未决定的选民。 

屡试不爽的选举干预策略，例如用机器人充斥评论区和利用有影响力的人传播虚假信息，仍然更为有效。坏人大多使用生成式人工智能来改写新闻文章，用自己的观点来表达自己的看法，或者创建更多用于虚假信息的在线内容。 

路透社新闻研究所研究员菲利克斯·西蒙 (Felix Simon) 表示：“人工智能目前并没有真正带来太多优势，因为现有的、更简单的制造虚假或误导性信息的方法仍然很普遍”，但他没有参与这项研究。 

然而，匹兹堡大学的虚假信息专家塞缪尔·伍利表示，目前很难就人工智能对选举的影响得出确切的结论。部分原因是我们没有足够的数据。

他补充道：“这些工具的使用会改变公民参与度，但其后续影响不太明显，也不太可追踪。”

斯托克韦尔表示同意：这些选举的早期证据表明，人工智能生成的内容可能更有效地骚扰政客和制造混乱，而不是大规模改变人们的观点。 

英国政客，例如前首相里希·苏纳克 (Rishi Sunak)，成为人工智能深度伪造视频的目标，例如，这些视频展示了他们宣传诈骗或承认金融腐败的画面。女性候选人也成为非自愿性深度伪造内容的目标，目的是贬低和恐吓她们。 

斯托克韦尔说：“当然，从长远来看，政治候选人遭受的网络骚扰、死亡威胁和深度伪造色情诽谤越多，就越有可能对他们参与未来选举的意愿产生寒蝉效应，但显然也会损害他们的福祉。” 

斯托克韦尔说，更令人担忧的是，他的研究表明，人们越来越无法在选举背景下辨别真实内容和人工智能生成内容之间的区别。政客们也在利用这一点。例如，法国欧洲议会选举的政治候选人分享了人工智能生成的内容，放大了反移民的言论，但没有透露这些内容是由人工智能制作的。 

西蒙说：“在我看来，这种秘密参与加上缺乏透明度，对政治进程的完整性构成的风险可能比普通民众或所谓的‘坏人’使用人工智能更大。”