最新消息显示，在美国新罕布什尔州总统初选前，一名政治顾问向选民发送了模仿总统乔·拜登声音的人工智能语音电话，他将面临600万美元的罚款和20多项刑事指控。

这名政治顾问名叫史蒂文·克莱默。美国联邦通信委员会周四表示，对其罚款是该委员会首次涉及生成式人工智能技术的处罚。被指控发送语音电话的公司Lingo Telecom也面临200万美元的罚款。不过联邦通信委员会表示，这两起案件的双方都可以达成和解或进一步谈判。

克莱默承认，在1月23日全国首场初选前两天，他精心策划了一条语音信息并发送给数千名美国选民。这条语音信息包含由人工智能生成的声音，与拜登的语音非常像。语音信息中使用了拜登的口头禅“一堆废话”，并暗示选民不要初选中投票。

目前，克莱默面临13项重罪指控，指控他违反了新罕布什尔州法律，禁止试图利用误导性信息阻止某人投票。他还面临13项轻罪指控，指控他通过自己或他人的行为冒充总统候选人。这些指控在四个县提起，将由新罕布什尔州检察长办公室起诉。

司法部长约翰·福梅拉表示，新罕布什尔州致力于确保州内选举“免受非法干涉”。

不过，Lingo Telecom对联邦通信委员会的指控表示强烈反对：“Lingo Telecom非常重视其监管义务，并已与联邦和州机构充分合作，协助确定该语音电话的发起者。Lingo Telecom完全没有参与这类语音电话的制作，采取的行动也符合所有适用的联邦法规和行业标准。”

新罕布什尔州选民接到的语音电话被显示为来自凯西·沙利文的私人手机号码。凯西·沙利文曾是该州民主党前主席，曾帮助管理拜登的竞选活动。她在周四的一封电子邮件中说，她希望克莱默能明白“试图操纵选举会付出高昂的代价”。

目前，克莱默拥有一家专门从事拉票的公司。他今年2月告诉媒体，他那样做并不是想影响选举结果，而是想通过这段录音来提醒人们人工智能的潜在危险。

克莱默在二月份表示：“也许今天我是坏人，但我认为，由于我有意为之，最终我们会得到一个更好的结果。”

美国法律规定，控制选民可被判处3年半至7年监禁，冒充候选人最高可被判处1年监禁。

在被确定为语音电话的始作俑者之后，克莱默表示，他不同意他的语音电话抑制了选民投票率的说法，并指出拜登以大比分赢得了民主党初选。虽然他曾为另一位前民主党总统候选人、明尼苏达州众议员迪安·菲利普斯做了一些选票获取工作，但克莱默表示，他是单独行动的。

“我在大学时参加过摔跤比赛，我已经做好了战斗的准备，”克莱默说，他定于6月5日出庭。

自这一事件发生以来，联邦通信委员会已采取措施打击人工智能工具在政治行为中的使用。今年2月，联邦通信委员会确认现行法律禁止在自动拨号电话中使用人工智能语音克隆工具。周三，联邦通信委员会提出了一项提案，要求政治宣传中必须披露在电视和广播中使用人工智能生成内容的情况。

这也是许多立法者和人工智能专家所呼吁的，因为快速发展的生成人工智能工具会大量制作出逼真的图像、视频和音频片段，有可能在即将到来的美国大选中误导选民。

虽然在语音上造假并不是新鲜事，但生成式人工智能让这件事变得轻而易举。目前，美国数十家服务商提供克隆的声音素材，但却几乎没有受到任何限制或监督。你只需在网上下载一两分钟拜登的演讲录音，就可以很容易地通过AI制作出和拜登声音一模一样的语音素材。

美国联邦通信委员会主席杰西卡·罗森沃塞尔周四表示，新罕布什尔州的造假电话“令人不安”。

“当来电者听起来像你认识的政客、你喜欢的名人或熟悉的家庭成员时，我们中的任何一个人都可能被使用人工智能技术的电话欺骗，相信一些不真实的事情，”她在一份声明中说：“这正是这些操纵声音的坏人希望你做出的反应。”

主编精选，篇篇重磅，请点击订阅“邮件订阅”