游戏传奇首页
游戏我的天下首页
最好看的新闻,最实用的信息
11月29日 20.1°C-21.9°C
澳元 : 人民币=4.71
悉尼
今日澳洲app下载
登录 注册

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图)

2023-05-25 来源: hk01 原文链接 评论5条

许久没在萤光幕前亮相的华语流行乐坛天后孙燕姿,最近在人工智能(AI)加持下频频出现在公众视线里。

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 1

打开中国影音网站B站,可以发现「孙燕姿」翻唱各类歌曲的作品从4月起爆发式增长,当中不少都获得百万点击率,比如周杰伦《发如雪》、南拳妈妈《下雨天》,以及王菲《红豆》等等。

有媒体不完全统计,这类翻唱作品至今已有超过1000首,数量远远超出孙燕姿出道20多年的作品总和。

但如果仔细留意,可以发现这些歌曲都不是孙燕姿本人亲自翻唱,而是「AI孙燕姿」。

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 2

由于模拟音色还原度高,孙燕姿成为AI宠儿。(bilibili)

所谓AI孙燕姿,简单来说,就是透过模型训练和后期处理,让AI用孙燕姿的声音翻唱其他歌手的歌曲。虽然AI翻唱技术在唱腔、技巧上离原唱者还有一定差距,但音色已经基本实现复刻,足以以假乱真。

有网民点评:「真以为是孙燕姿本人翻唱了……很有孙燕姿的音色特色,除了唱腔和技巧差一点,人声和背景音乐的融合度很高,完全就是一首高分新歌。」

也有网民开玩笑说:「真的太像燕姿本人唱的。燕姿,如果你还不出来开演唱会,发新专辑,你就要被AI取代了!」

随著AI孙燕姿不断在各大网络平台发行翻唱歌曲,加上网络舆论发酵,相关话题「AI出来后第一个失业的是孙燕姿」、「专家称孙燕姿音色不受法律保护」前不久也登上了微博热搜榜。截至5月23日下午1时,两个话题的阅读次数都分别超过1亿次。

在讨论度居高不下的背景下,天后孙燕姿本人5月22日终于发文回应。她在个人音乐公司「Make Music」的部落格自嘲写道:「我的粉丝们都已跳槽,也同时接受我就是一名冷门歌手的事实,而我的AI角色也成为了目前所谓的顶流。毕竟该怎么跟一个每几分钟就能推出一张新专辑的『人』比呢?」

尽管如此,孙燕姿在文章中没有对AI发展表现出悲观或消极的态度。相反的,她形容自己就像一个吃著爆米花、坐在电影院最好座位上的人。「在这无边无际的存在之海中,凡事皆有可能,凡事皆无所谓,我认为思想纯净、做自己,已然足够。」

AI孙燕姿违法侵权吗?

音乐版权律师赵智功接受《新京报》贝壳财经采访时说,AI孙燕姿作品是有版权问题的,具体需要根据不同的使用场景来追究;如果是目前B站影片上传者(简称UP主)「自娱自乐」不涉及商业化的情况,可能不涉及著作财产权,但还是涉及著作人身权,比如署名、表明表演者身份、表演形象不受歪曲等。

赵智功还指出,孙燕姿翻唱什么歌曲,本来就是应该由她本人以及其经纪公司或唱片公司,基于艺人设定和音乐市场的考量共同决定的。但现在AI孙燕姿可以翻唱任何歌曲,「AI翻唱Cover歌曲侵犯了孙燕姿本身的市场资源」。

曾就职于多家音乐流媒体平台版权部的李强也持相同看法。他并说:「在未获得歌手授权下,AI对歌手声音的模拟甚至公开展示,应属于对歌手表演者权的侵权行为。」

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 3

AI歌手甚至包含张国荣等已故巨星。(bilibili)

据观察,AI歌手在中国网络上并不罕见。在AI孙燕姿诞生之前,已经有「AI周杰伦」,「AI王菲」、「AI邓紫棋」的作品流传于B站。目前,包括孙燕姿在内,尚未有歌手或经纪公司发布官方声明禁止AI翻唱行为或对此追责。

中国出现AI换脸新骗局 10分钟被骗430万元人民币

除了孙燕姿,另一则有关AI的话题近来也刷遍中国网络,那就是AI诈骗。

内蒙古包头市公安局旗下微信公号5月20日发布通报称,当地警方本月初破获了一起使用AI技术进行电信诈骗的案件,受害者是福州市某科技公司法人代表郭先生。

根据通报,郭先生的好友有一天突然透过微信视讯联系他说,自己的朋友在外地竞标,需要430万元(人民币,下同)保证金,且需要公对公帐户过帐,想要借郭先生公司的帐户走账。

这位好友也向郭先生要了银行卡号,声称已经把钱打到郭先生的帐户上,还把银行转帐底单的截图透过微信发给了郭先生。

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 4

AI发展使诈骗技术不断变化出新。(资料图片)

通报指出,由于是视讯聊天,加上出于对朋友的信任,郭先生没有核实钱是否到账,先后分两笔把430万元给对方打了过去;钱款转帐完成后,郭先生还给好友微信发了一条短讯,告诉他事情已经办妥。不料,「好友回过来的消息竟然是一个问号」。

通报说,郭先生随即拨打好友电话核实,结果对方坚称没有这回事,他这才意识到自己遇到了使用AI换脸技术的「高端」骗局,并立即报警。

事后回忆起当时的情形,郭先生说:「从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友帐户转过去,而且当时是给我打了视讯的,我在视讯中也确认了面孔和声音,所以才放松了戒备。」

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 5能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 6能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 7

据《每日经济新闻》报道,AI诈骗目前有声音合成和AI换脸两种形式。声音合成诈骗,骗子会先透过骚扰电话录音等来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过目标。

至于AI换脸,骗子会先分析公众在网上发布的资讯筛选目标人群,之后透过AI技术换脸伪装,再透过视讯进行资讯确认,完成诈骗。

博通咨询首席分析师王蓬博向《北京商报》说:「我觉得科技的进步也让防范诈骗的难度在提升。发生的原因还在于资讯爆炸导致的资讯泄露过度。」

用AI虚构新闻赚流量

在网络高速时代的背景下,AI带给人们的挑战还不止于此。

中国多家媒体在约两个星期前报道,一名男子因利用人工智能软件ChatGPT炮制虚假新闻,被警方采取刑事强制措施。彭博社称,这似乎是中国首起与滥用人工智能相关的刑事案件之一。

甘肃省平凉市公安局5月7日在其微信公号发布通报称,涉事的洪姓男子「利用现代技术手段编造虚假资讯,并散布在网络上,被大量传播流览」。此前当地警方发现,一篇编造关于火车事故导致九人死亡的文章,发布在百度「百家号」的多个帐号上。该文章在被删除前的点击量已达1万5000余次。

调查显示,该洪姓男子使用了ChatGPT来修改编辑近年的社会热点新闻。他在审讯中说,自己是透过微信好友获知了如何利用网络赚取流量变现的方法。

通报指出,该编造的虚假资讯被大量传播流览,意味著洪姓男子的行为涉嫌构成「寻衅滋事罪」。该罪名至少可判处五年监禁。

有网民就此评论说,案件暴露了AI技术在网络资讯传播领域可能带来的风险和挑战。「在不法分子手中,AI也可能成为制造和传播虚假资讯、误导舆论的利器」「AI将让媒体的新闻真假难辨。」

中国已出手 多国AI监管「山雨欲来」

美国OpenAI公司开发的ChatGPT去年11月横空出世后,在中国科技圈掀起巨大波澜,腾讯、百度等中国多家科技公司自今年3月纷纷推出对标该聊天机器人的服务。

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 8

科大讯飞「火星认知大模型」。(官网截图)

为加强对这类技术的监管,网信办4月11日发布《生成式人工智能服务管理办法》草案。草案表明,中国支援人工智能演算法、框架等基础技术的自主创新。不过,企业在向民众提供生成式人工智能服务前,必须向网信部门申报安全评估;生成内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度、煽动分裂或破坏国家统一、宣扬恐怖极端主义、民族仇恨、可能扰乱经济及社会秩序等内容。

草案也规定企业也须确保内容真实准确,采取措施防止生成虚假资讯;禁止非法获取、披露、利用个人资讯和隐私和商业秘密。使用者方则须依法提供真实身份资讯等。

能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 9能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 10能唱能骗,AI震撼到的不只孙燕姿,有人10分钟被骗430万(组图) - 11

《华尔街日报》报道认为,在生成式AI(generative AI)构成的挑战引发担忧之际,中国此举走在了努力驯化这种新技术的世界各地政府的前列。生成式AI,一般泛指可以进行内容原创,通过演算法来生成图像、文字、音乐,甚至代码和视频,而且不需要人工干预的AI。上述提到的ChatGPT、AI孙燕姿等等都有这种特点。

一名不具名的中国人工智能从业者则向英国广播公司(BBC)中文网分析说,中国之所以这么快采取监管行动主要有三个原因:生成式AI的伦理问题、破坏力,以及极快的进化速度。这位业内人士没有对此进一步阐述。

但BBC中文网报道,生成式AI进化速度极快,ChatGPT去年11月推出后,今年3月反复运算出的GPT-4,不仅知识面更广、对答更流畅,开始能够读懂图片内容,在律师资格考试中拿下高分,而且具备自我反思的能力。

除了中国,在日本广岛开会的七国集团(G7)领导人上周也说,世界各国必须加紧对生成式AI的快速发展进行评估,因此决定今年内针对「负责任地「使用此技术展开讨论。G7领导人在声明中说:「我们认识到有必要立即评估生成人工智能的机遇和挑战,它在各个国家和领域都越来越重要。」

欧洲联盟领导人也出席会议。欧盟正在推进立法以监管人工智能技术,可能出台世界上第一部全面的人工智能监管法。有关法案下月将提呈给欧洲议会,通过后就可同个别成员国展开立法谈判。

正如特斯拉兴起,推高了全球电动车行业的热情;去年底推出的ChatGPT犹如一把大火,点燃了整个人工智能行业,仅仅几个月,全球科技巨头都争相进入这个领域。但「AI孙燕姿」、AI换脸骗局、AI虚构新闻等事件告诉了我们,该技术也带来了前所未有的新挑战。

究竟AI是利大于弊,还是弊大于利,现在还难以断定。唯一可以明确的是,AI的发展还在起步阶段,带给世界的震撼才刚刚开始。

今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(5)
demon_enjoy
demon_enjoy 2023-05-25 回复
希望这种技术在我们生活中能够落地,带来更多的便利。
maraschino
maraschino 2023-05-25 回复
我不想看到这种技术被用来伤害其他人。我们需要更加严格的监管。
-S还在飘
-S还在飘 2023-05-25 回复
仅仅几个月,GPT-4就诞生了,这种速度真是超乎想象。
Maggie
Maggie 2023-05-25 回复
生成式AI内容一定要体现社会主义核心价值观,真是太棒了!
虎玖一妹_槓槓滴
虎玖一妹_槓槓滴 2023-05-25 回复
这种技术太不可思议了,我担心它会超过人类控制范围。


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

分享新闻电话: (02) 8999 8797

联系邮箱: [email protected] 商业合作: [email protected]网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:[email protected]

友情链接: 华人找房 到家 今日支付Umall今日优选