在视频中, “雷军”锐评了堵车、假期等热门话题,其中还有一些不雅谩骂 ,有网友调侃称 “国庆上网被雷军骂了整整7天” 。
除了吐槽外, 视频里的“雷军”还称要投资某某大学 。截至目前,平台上相关话题浏览量过亿。
“雷军AI配音”的恶搞视频截图
在雷军的微博评论区中, 连日来不断有人留言询问此事。
10月7日晚,针对网友“为何骂人”的询问,雷军回复了三个愤怒表情。
小米公关部总经理王化,也在跟网友互动时,表示把这件事转交给法务部了。
在社交媒体上用雷军AI配音已经形成一种创作风潮,各种配音模仿、恶搞视频层出不穷 。抖音上话题浏览量过亿,B站上相关创作超过上百条。
从雷军到马保国、葛优、麦克阿瑟
AI可以克隆一切
记者查询发现, 目前市面上有大量AI配音的小程序,用户只需在程序内选择相应的人物声音并输入文字,便可借用他人的声音发表言论。
值得注意的是,此类程序为了避免版权风险并不会直接使用人名,而是用的代称。以一款名为配音兔的小程序为例,内置了 雷老板、麦克阿瑟、马老师、姜小文、葛大爷 等上百种声音,用户不仅可以任意选择声音,还能调节语速、语调等细节。
此类AI配音程序大多都使用字数有限制,超过字数时需要购买VIP, 价格30~60元之间。
除了现成的AI配音程序外, 用户还可以通过睿声等AI工具自行制作想要生成角色的配音,只需在软件内添加相应的原声即可。
目前社交媒体上出现的雷军配音视频大多出自上述两种方式。
21世纪经济报道记者实测了“Reecho睿声”, 克隆声音的流程非常简单 :首先上传一段音频文件,作为训练素材;随后AI自动学习这段音频,生成一个克隆角色;最后就可以输入文本,用克隆角色的声音念出任何内容。
在这款向所有人免费开放的产品里,用户可以“模仿”任何人的音频文件,并且能公开发布。
睿声产品首页专门有一个“声音市场”板块,21世纪经济报道记者在9月27日下午进入市场时,已经看到了 杨幂、刘亦菲、丁真 等人的声音。尽管生成的音频听起来不够自然,但使用非常方便,只要像加入购物车一样,把克隆声音添加到角色库里即可。
AI伪造音视频事件已发生多起
事实上,AI伪造音视频事件早已发生多起。
此前,一段疑似某集团创始人卢文庆醉酒后的音频流出,音频提到客服投诉、竞争对手和三位女主播关系,一时引发了大量讨论。
9月26日,安徽合肥市公安局高新分局确认,相关网传音频为AI伪造 。9月27日凌晨,深圳言域科技有限公司发文称, 三只羊事件使用的是“Reecho睿声”大模型,由卢文庆30秒的直播片段克隆生成。
逼真的语气、脏话、安徽口音 让许多人不可置信音频为AI生成。
据科技类自媒体APPSO报道, 海外也发生过 AI 声音造假事件,甚至把主意打到了总统头上。
今年初,美国新罕布什尔州的居民,接到了拜登的自动语音电话,被告知不要在州初选时投票,实际上这段音频是用 AI 工具 ElevenLabs 伪造的,目的就是要干扰选举。
事发几天后,ElevenLabs 拉黑了始作俑者的账户,这位用户承认, 克隆拜登的声音,他只花了不到 20 分钟,以及 1 美元。
今年初,泰勒·斯威夫特(Taylor Swift,中文绰号“霉霉”)被 AI 伪造色情图片,也是名人被 AI 祸害的典型事件。
图片来源:视频截图
近乎是在一夜之间,X、Facebook等社交平台上便充斥了大量虚假“不雅照片”,而且浏览量已经高达上千万!
当然,假如AI语音合成仅仅停留在恶搞的层面上,或许还不至于让网友们开始担忧这项技术的安全性。 但不法分子往往会将AI语音克隆技术应用到金融诈骗上。
《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈增长了3000%,仅今年上半年,AI诈骗案案值已超过1.85亿元。 诈骗者通常只需几秒钟的语音片段,就能轻松模仿受害者亲友的声音,发起“紧急求助”的诈骗。 更有甚者,直接上 AI 换脸,配合 AI 拟声的技术。
这类骗局常以老人和年轻人作为目标,让人防不胜防。 “AI诈骗正在全国爆发” 话题一度冲上热搜第一,引发网友热议。
平台应承担怎样的责任?
AI 雷军声音的事件中,还有一个很有意思的现象: 除了在线呼叫法务部,也有网友表示,怎么平台不管一管,反让这种内容流行起来?
网信办 9 月发布的《人工智能生成合成内容标识办法(征求意见稿)》提出, AI 生成合成内容,应当添加显式标识和隐式标识,前者可被明显感知,后者添加在元数据中。
用户添加自主声明
其中, 传播内容的平台,应当承担什么责任呢?
一是核验元数据有无隐式标识,如有,应添加显眼的提醒;二是没有核验到隐式标识,但用户声明是 AI 内容,也应该添加提醒;三是,既没有隐式标识,用户也没有声明,平台检测到了 AI 痕迹,同样需要添加提醒。
这次的闹剧就是一个例子, 用户没有自主声明,平台的检测也不到位 ,有的视频标题下方提醒了「疑似使用了AI生成技术,请谨慎甄别」, 有的却没检测出来。
上面没标注,下面标注了
泰勒·斯威夫特被 AI 伪造色情图片的事件,同样反映了补救措施的滞后性。 尽管最早传播这些图片的账号已被封禁,但照片的流传仍未彻底阻断。 其中一张图片在被删除前,在 X 存活了 17 个小时,被查看了 4700 万次。
雷军AI配音犯法吗?
垦丁律师事务所联合创始人 欧阳昆泼分析称,对于深度合成技术的标识义务,已有相关法规要求在使用合成内容时进行标识,各个社交平台也已采取了相关措施,会在AI生成的内容旁标注类似于“本内容为AI生成”的内容。然而, 在实际操作中,对AI生成内容标识仍存在一定挑战。 例如, 合成内容经二次传播后,标识就可能被省略或忽视,导致接收方对内容来源产生误解。 这会是接下来各个平台需要处理的课题。
欧阳昆泼还表示,声音克隆可能涉及民事侵权,声音也属于一种人格权益,具有人身专属性。 未经授权的情况下使用他人声音可以构成民事侵权 。今年4月,北京互联网法院一审就开庭宣判了全国首例AI生成声音人格权侵权案, 认定在具备可识别性的前提下,自然人声音权益的保护范围可及于AI生成声音。
北京京本律师事务所主任连大有律师表示, 无论是普通人还是知名人士 ,未经其本人同意,擅自使用其肖像和声音进行编辑合成,甚至发布具有辱骂和诽谤性质的内容,明显侵犯了其相关民事权利,如肖像权、名誉权等。
《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定;国家网信办等七部门联合公布并于2023年8月15日起施行的 《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定 。
连大有律师称,雷军可以依据《民法典》规定,要求恶搞者承担包括停止侵权、公开道歉、恢复名誉和赔偿损失等法律责任。如恶搞者的恶搞行为违反《治安管理处罚法》相关规定的,也会面临行政处罚如行政罚款或(和)行政拘留。再者, 如果这些恶搞内容传播谣言并造成严重社会影响,则可能触犯刑法。
普通人能做什么?
除了监管机构和AI技术提供商的防诈措施之外, 我们普通用户也需要警惕AI语音诈骗。
首先,许多安全专家建议 在家人之间设置一个仅彼此知晓的“安全词” 。这种词汇不仅仅是防止假冒亲友的有效手段,更是为了在紧急情况中迅速确认身份。
在保护个人隐私方面, 我们需要时刻谨慎对待自己在社交媒体上分享的内容 。 比如, 在短视频平台分享生活时,尽可能不使用自己的原声 ,或者是使用AI工具对自己的声音进行处理后再发布。
此外, 我们需要提高识别AI语音的敏锐度。 比如,目前雷军的AI语音在短视频平台十分火爆,但仔细聆听这些用AI工具克隆的语音,我们还是能发现词语与词语之间的不连贯性,这也有助于我们分辨这些声音是否来自本人。
最后,也是最重要的,对于所谓的“网络热点”及吸睛信息, 不可“听风就是雨”,盲目相信、轻易转发。 更进一步,也有必要有意识地优化媒介使用策略,平衡信源、打破“茧房”,改善“信息偏食”、拒绝“偏听偏信”。
AI雷军锐评爆粗这种梗
细想一下
还真笑不出来……
你怎么看?
评论区聊一聊↓
编辑 | 顾颖
综合 | 北京日报 中国青年报 21世纪经济报道 每日经济新闻 北京商报 羊城晚报 新闻坊 中国青年报 凤凰网科技 蓝鲸财经 雷科技 APPSO 网友评论
梦醉为红颜 | 6天前 |
简洁明了的界面,强大的功能,让我爱不释手! |
莫忘初心 | 5天前 |
这款app真是太棒了!使用起来非常流畅,没有任何卡顿或延迟。 |
心似狂潮 | 8天前 |
快速实用,好帮手! |
时光,没到达 | 6天前 |
解决问题,好帮手! |
星光小精灵 | 3天前 |
太好了我爱上了,赞一个不解释。 |
幸运小宝贝 | 1天前 |
真是个好帮手,功能齐全,操作简单,非常实用! |
甜蜜公主 | 6天前 |
在使用这个app的过程中,我发现它的流畅度真的很出色,让我能够畅快地享受使用体验。 |
江山与你 | 9天前 |
真心好好好哈哈 |
扁桃体永不发言 | 9天前 |
这个app的功能比较基础,希望能够增加一些更加高级的功能,提升使用的乐趣。 |
温柔小公主 | 7天前 |
使用这个app的过程中频繁闪退,根本无法正常使用,非常失望! |