首页 产业新闻 骗子用AI语音克隆拜登声音进行电话诈骗 被罚600万美元

骗子用AI语音克隆拜登声音进行电话诈骗 被罚600万美元

产业新闻 21

    划重点:

    FCC 提出对电话骗子罚款600万美元,后者利用声音克隆技术冒充拜登总统进行非法电话骚扰。

    FCC 强调警告其他潜在高科技诈骗者,要求遵守电话骚扰法规,尤其是使用生成式人工智能技术。

    骗子利用声音克隆技术在新罕布什尔州初选期间冒充总统拜登进行电话骚扰,涉案者应对多项违规行为接受指控。

    美国联邦通信委员会(FCC)提出对一名骗子罚款600万美元,后者利用声音克隆技术冒充总统拜登进行一系列非法电话骚扰,这起事件引发了人们对电话骚扰与人工智能之间关系的讨论。该罚款更多是针对电话骚扰,但 FCC 显然将其定位为对其他潜在高科技骗子的警示。

    图源备注:图片由AI生成,图片授权服务商Midjourney

    今年一月,许多新罕布什尔州选民接到一通自称来自总统的电话,告诉他们不要在即将到来的初选中投票。当然,这是假的 —— 是使用近几年变得广泛可用的技术克隆的拜登总统的声音。

    尽管长时间以来制作假声音是可能的,但生成式人工智能平台使其变得轻而易举:数十家服务提供了克隆声音,几乎没有任何限制或监督。你可以很容易地用拜登几分钟的演讲制作出自己的拜登声音,这些演讲自然而然地可以在网上轻易找到。

    然而,FCC 和几个执法机构已经明确表示,不能使用那个虚假的拜登声音通过已经非法的电话骚扰来压制选民。

    “我们将迅速果断地采取行动,确保不良分子无法利用美国电信网络来利用生成式人工智能技术干扰选举、欺诈消费者或危害敏感数据。”FCC 执法局局长劳扬・伊加尔在新闻稿中表示。

    “政治顾问” 史蒂夫・克莱默是主要罪犯,尽管他请了帮助来自可疑的 Life Corporation(之前因非法电话骚扰被指控)和可疑电信公司 Lingo(又名 Americatel、BullsEyeComm、Clear Choice Communications、Excel Telecommunications、Impact Telecom 等等)提供电话服务。

    克莱默 “显然” 违反了几项规定,但目前还没有针对他或他的合作者的刑事诉讼。这是 FCC 权力的限制:他们必须与地方或联邦执法部门合作,以支持他们作为专家机构的责任认定。

    600万美元罚款更像是一个上限或愿景;与联邦贸易委员会(FTC)等机构一样,实际支付的金额通常因多种原因而大大减少,但即便如此,这仍然是一笔可观的金额。下一步是让克莱默回应指控,尽管对 Lingo 采取了单独的行动,或许他们在再次被抓后可能会面临罚款或丧失许可证。

    生成式声音在2月被正式宣布在电话骚扰中使用是非法的,上面的案例引发了一个问题,即它们是否被视为 “人造”——FCC 作出了非常明智的决定,认为它们是。

广告

文章目录

    标签列表