近日，明尼苏达州出现一则借助AI深度伪造技术合成的竞选广告，其高度逼真的画面引发了民众对信息真伪的广泛质疑。虽然该州此前已通过相关法案，强制要求政治广告必须标注AI生成来源，但由于执行机制存在疏漏，类似造假内容仍在持续蔓延。选民们普遍担忧，这项技术若被恶意操纵，将进一步削弱选举过程的透明度与公众信任。
这一事件将人工智能在政治宣传中的伦理争议以及现行监管体系的局限性推到了风口浪尖。
随着美国大选季临近，广播媒体和社交平台已被铺天盖地的竞选广告占据。
除了各派政治行动委员会（PAC）的投入外，候选人预计在本轮选举中将砸下创纪录的100亿美元用于广告投放。值得注意的是，其中一部分预算正被用于开发人工智能深度伪造内容。
NBC新闻报道指出，自今年11月起，至少有15则由AI生成的竞选广告亮相。部分广告运用深度伪造手段，刻意塑造候选人做出或说出有损其形象的行为与言论。
倡导透明度的组织警告称，这些在部分州份涉嫌违法的广告，可能破坏美国选举的公平基石。
广告触碰当地选举法律红线
目前，竞选广告中的人工智能应用主要由各州自行监管。全美约有28个州建立了信息披露法规，另有两个州虽未全面封杀，但已明确禁止使用AI技术进行竞选宣传。
在明尼苏达州，某次广告宣传直接与地方法规产生冲突。6月3日，明尼苏达州副州长佩妮·弗拉纳根在BlueSky平台发帖提醒公众：“大家可能会看到一则电视广告，里面的人看起来……有点像我自己。”
弗拉纳根所指涉的是由支持其在参议院初选中对手——同为民主党籍的美国众议员安吉·克雷格——所操控的超级政治行动委员会投放的广告。在该广告片段中，弗拉纳根站在一叠钞票之上，并抨击其与特殊利益集团之间存在的所谓联系。
“我的对手的超级政治行动委员会正在利用一段由人工智能生成的我的深度伪造视频来误导选民。他们靠真相赢不了，只好诉诸谎言。”
“这太令人作呕了。明尼苏达人理应得到更好的待遇。”
从法律角度看，该广告可能违反了明尼苏达州的竞选法规。2023年，民主党籍州众议员梅耶·夸德推动了一项旨在禁止AI深度伪造的法案。该法案最终通过并生效，规定“任何人在选举日前90天内广泛传播深度伪造内容的，均属犯罪”，前提是行为人还需满足以下条件：
- 明知或应当知道该广告为深度伪造内容，且未经被拍摄者同意而制作
- 出于损害候选人声誉以影响选举之目的而采取行动
由于该广告是在明尼苏达州民主党（DFL）正式提名弗拉纳根之后才投放的，因此在严格的技术层面上，可能并未直接触犯上述法律条文。不过，据媒体报道，弗拉纳根的竞选团队目前正在寻求法律顾问的意见。
夸德向当地媒体透露，这则广告违背了立法精神，且社会大众普遍反感这种滥用AI的行为。“总体而言，人们并不喜欢这种做法[……]”“哪一方的竞选活动能让选民对候选人使用这一做法感到满意呢？”
在民主党内部，40名DFL党籍州议员联合签署公开信，严厉谴责在竞选材料中使用AI深度伪造技术。他们在信中强调，2023年，“立法者几乎一致投票通过了禁止在选举中使用具有欺骗性的AI生成深度伪造技术的法案，承认经篡改的AI内容对选民及公众信任构成的威胁。”
“无论政党为何，将人工智能生成的深度伪造技术用于竞选广告都是不可接受的。”
DSPolitical广告公司首席执行官马克·雅布洛诺夫斯基在接受NBC采访时认为，大多数政界人士会保持克制。“我认为，无论哪一方的竞选团队，大概都希望做出正确的事……”当然，现实中也不乏反面案例，可以指出有些人做法是错误的。
至于发布该争议的PAC组织——北极星黎明PAC，截至目前并未回应Cointelegraph的置评请求。
选举法律如何约束AI深度伪造？
正如前文所述，全美约30个州已出台涉及人工智能在选举中应用的法律法规。然而，绝大多数规定仅停留在简单的信息披露层面，且许多州对违规行为的处罚仅限于民事范畴。
美国联邦选举委员会（FEC）作为负责制定选举资金筹措、信息披露等规则的监管机构，就广告合规问题向Cointelegraph表示：
“委员会的法规要求在某些竞选广告上标注清晰醒目的免责声明，其中包括由联邦候选人竞选委员会发布的公共传播内容。此外，还禁止‘虚假陈述’。”
消费者权益倡导组织“公共公民”曾在2023年向联邦选举委员会提交请愿书，呼吁出台专门针对人工智能的规则。然而，该机构最终“决定不启动规则制定程序”。
“委员会认定，该法规所规定的欺诈性虚假陈述禁令具有技术中立性，适用于所有形式的特定欺诈行为，包括人工智能辅助的媒体。”
对于联邦政府——尤其是国会——在AI监管领域的迅速行动，外界预期并不高。2023年，民主党参议员艾米·克洛布查尔和众议员伊维特·克拉克分别在其所属议院提出了《真实政治广告法案》。遗憾的是，该法案在两院均未获得通过。
退一步讲，美国国会在有效监管人工智能方面表现出明显的意愿不足。近一年前，唐纳德·特朗普总统签署了《一项宏大而美好的法案》，该法案的最终版本勉强避免了在其中纳入一项为期十年、禁止各州和地方对人工智能实施任何监管的条款，从而让业界在从数据中心建设到人工智能在大众媒体中的应用等方方面面都享有绝对自由。
如今，两名国会议员再次提出动议。民主党人洛里·特拉汉与共和党人杰伊·奥伯诺尔特于6月4日提出了一项新法案，若获通过，将禁止各州出台“针对人工智能模型开发”的法律。
据美国公民自由联盟（ACLU）分析，“这可能涵盖从隐私监管到反歧视要求，乃至人工智能安全法规等各类内容。”
ACLU指出，上述为期十年的禁令已在参议院表决中以近乎全票通过的99比1的结果被删除。
美国公民自由联盟人工智能、隐私与技术事务高级政策顾问吉娜·约翰评论道：“这份法案草案未能吸取国会此前试图阻止各州出台人工智能监管措施的教训。”“各国必须能够保护本国居民免受伤害，追究科技企业的责任，并确保人工智能安全可信。”