资讯 创新 业界 数码 财经 电商 观点 人物 生活 综合 聚焦 关注 热点

“妙鸭”之后,AI声音克隆网站又来了

2023-08-04 17:28:26      来源:现代快报+

继AI拍照写真软件“妙鸭相机”一夜爆红后,一个基于AI技术克隆声音的网站MyVocal.AI又火了一把。

这款声称可免费克隆声音的网站,不但可以克隆声音,还可以利用克隆的声音输出音乐和流利口播。


(资料图)

虽然有不少年轻人玩起来了,但更多的网友表达了担忧,担心这会给诈骗分子提供便利。

01

免费克隆你的声音

并输出音乐和流利口播

只需花费9.9元,上传二十几张照片,就能获取一套人工智能生成的写真集。日前,“妙鸭相机”成为我国生成式人工智能领域的一个爆款应用。刷屏的同时,妙鸭也刷出了用户隐私保护、消费者权益保护等“暗雷”。

人们对于“妙鸭相机”的大讨论尚未结束,一个基于AI技术克隆声音的网站MyVocal.AI又乘着AI的东风小火了一把。这个克隆声音的网站有多神奇?可以在这里克隆你的声音后生成歌曲、口播语音。此外,让它得到广大网友“安利”的原因还在于,目前这个网站是可以免费使用的。

△ MyVocal.AI 网站

8月3日,现代快报记者登录该网站,进入后显示有25个声音样本等待采集,依次点击声音样本,朗读样本中的提示语句,将25个样本全部采集完成,就可以进行声音克隆。在声音克隆完成后,网友还可以前往各个模块,生成歌曲和口播语音。方法也很简单,选择自己想唱的歌曲,进入后点击“同步我的声音”,即可将原歌曲一键变为由你演唱的作品。

△ 各种语音模板

免费玩家每月可享受2000个TTS(文字转语音),每个TTS要在500个字符以内。如果是人民币玩家,则可以享受到更广范围的服务。例如每月10元的标准玩家,每月可以享受50000个TTS,每个TTS可扩大至1000个字符。每月30元的流行玩家,则每月享受120000个TTS,每个TTS可扩大至1500个字符。

02

“三无”网站让人质疑:

自己声音是否被随意使用

这个克隆声音的网站吸引了很多网友“尝鲜”使用,但在使用过程中,一些细心的网友注意到,这个克隆声音的网站,是个名副其实的“三无”网站。

这个网站无备案号、无网络经营执照、无审核管理方,甚至网站上连运营方的名称和联系方式都没有。网友们纷纷质疑,一个“三无”网站如何保证声音采集后的安全性?自己的声音会不会被不法分子用作诈骗?

今年5月,一个名为“AI孙燕姿”的虚拟歌手在视频平台上火啦。这个虚拟歌手用孙燕姿的声音翻唱了周杰伦、赵雷、郭顶等多名歌手的经典歌曲,让网友们惊叹不已。随着AI模拟人声技术被广泛使用,在这个过程中,AI技术也被有心之人利用,甚至做出违法的事。

2023年6月,江苏警方接到一工厂员工报警称,其同事可能遭遇诈骗。民警赶到现场时,被骗女子情绪激动,不愿配合调查。民警一直坚持耐心劝导,终于在女子与骗子通话近3个小时后将其拦下。挂断骗子来电后,女子的哥哥就打来电话询问是否要向其借钱。民警立刻识破这是一种利用AI技术进行诈骗的新方式,骗子通过AI合成声音,甚至影像,向受害人亲友借钱。同时在通话过程中,骗子还盗取了女子的身份信息进行网贷。最终,民警联系网贷平台中断放款,成功为女子挽回5万元损失。

03

律师建议:

尽快出台法律法规对AI拟声进行监管

人工智能作为近几年兴起的领域,竞争激烈,不少企业前赴后继,想要在这个领域抢占先机,分一杯羹,这也导致行业中鱼龙混杂,存在着对用户隐私和消费者权益的潜在隐患。江苏漫修律师事务所律师衡晓春建议,国家应尽快出台详细的法律法规,对其进行约束和规范。

“目前AI拟声在法律层面,尚未出台明确的规定。”衡晓春表示,2023年5月23日,国家互联网信息办公室2023年第12次室务会会议审议通过《生成式人工智能服务管理暂行办法》,办法中提到生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是,办法中还明确,对于生成式人工智能产品,提供者应当对生成的图片、视频等内容进行标识。

“但是对AI拟声该如何保护,办法中却没有明确提及。”衡晓春解释,办法只是笼统的规定,当发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。衡晓春建议,“在未来,还需要对不同主体进行更加明晰的责任认定,最好细化到对于用户声音的采集和AI拟声内容生成、发布的每一个阶段。”

来源:现代快报+

关键词

最近更新

今日推荐
资讯
48小时频道点击排行

Copyright @ 2008-2017 www.gxff.cn All Rights Reserved 中国创新网 版权所有 关于我们 联系我们: 58 55 97 3 @qq.com 备案号:沪ICP备2022005074号-30