最新消息显示，美国国土安全部在一份新的公报中警告称，生成式人工智能可能会威胁今年11月的总统大选安全。

生成式人工智能使用图像、音频、视频和代码来创建新内容，例如所谓的“深度伪造”视频，把某人的真实视频与假的声音混合在一起，让人真假难辨。

根据美国国土安全部编制并发送给全国执法合作伙伴的分析，美国境内或境外的任何人都可能利用该技术在2024年选举周期中对数据安全发起挑战。

公报称：“各种威胁者可能会尝试通过经生成式人工智能 (AI) 增强后的媒体来影响2024年美国大选周期并煽动不和谐情绪，而人工智能工具可能会被用来加大破坏选举的力度。”“随着2024年选举周期的进展，生成式人工智能工具可能会通过加剧紧急事件、扰乱选举进程或攻击选举基础设施，为国内外潜在的威胁者提供更多的干扰机会。”

国家情报总监艾薇儿·海恩斯 (Avril Haines) 也在上周参议院情报委员会的听证会上警告国会，称人工智能技术可以创造出真实的“深度赝品”，并且隐藏其来源。

她称：“人工智能的创新使外国的参与者能够更有效、更大规模地产生看似真实且量身定制的信息。”

美国国土安全部在公报中引用了一个例子：1月份新罕布什尔州初选前夕，网络上出现了冒充总统乔·拜登声音的虚假机器人电话并在网络上传播，鼓励接到电话的人不要参加该州的初选，而是为11月大选“保留你的选票”。

公告称：“针对选举的人工智能媒体发布的时机可能与内容本身一样重要，因为可能需要时间来揭穿这些虚假信息。”

公告还引用了在美国国外发生的类似例子：2023年11月，一段人工智能生成的视频鼓励印度南部一个邦在选举日投票给某一特定候选人。

该公告还警告称，人工智能可能会被用于攻击大选的基础设施。

公告中写道：“如果威胁行为者（即暴力极端分子）试图针对美国大选的标志或关键基础设施搞破坏，他们还可以利用生成式人工智能来进行发动攻击前的行动策划。” “这可能包括熟悉美国大选的相关基础设施、查看大选基础设施是否存在潜在漏洞、识别和汇总大选目标或事件列表，以及为攻击提供指导。”

美国国土安全部表示，一些暴力极端分子甚至尝试使用人工智能聊天机器人来弥补战术和武器指导方面的空白。

主编精选，篇篇重磅，请点击订阅“邮件订阅”