中青报客户端

 中青在线版权与免责声明

中国青年报手机版

中国青年报手机版二维码

中国青年报官方微信

中国青年报官方微信

2023年11月08日 星期三
中青在线

AI世界 眼见为虚

李强  来源:中国青年报  ( 2023年11月08日   06 版)

    前几天,我被赵本山忽悠了,准确来说,是被有赵本山的视频忽悠了。

    本山大叔一改往日屏幕里的模样,穿着皮衣出现在视频里,板正地坐着谈起自己参加春晚的往事,讲着一口无比流利的英语。我自愧不如,心想,念书时学了那么多年英语,如今竟连一句囫囵话都讲不清楚。

    赵本山很少以流利的英文示人,只记得他在电影《大笑江湖》里讲过一句蹩脚的英语,“May the force be with you”,结果被翻译成“别太嘚瑟,没什么用”,传为笑料。他更为人熟知的是铁岭口音和幽默形象。

    我向来对网络上的信息很谨慎,短视频的汪洋大海里许多事物早已真假难辨。长久以来,与虚假视频斗智斗勇,也让我练就了一双火眼金睛,相信自己几乎能够一眼看出哪些是真,哪些是假。

    我见过用AI绘画画出的“特朗普被捕图”,他的狱中神情惟妙惟肖;见过带货直播间里的AI虚拟主播,已接近真人出镜的效果;听过AI孙燕姿唱刀郎的《罗刹海市》,连腔调和换气声都演绎得如出一辙。

    只是当听到那则视频里,讲英文的声音与赵本山一模一样,看到视频右下方打着“杨澜访谈录”几个大字,就连他讲的每一句话都和他的口型对得上时,我相信,这流利的英语是真的出自本山大叔之口,毫无疑问。

    刷完几十秒的短视频,我还在回味本山大叔地道的英文发音。马上又看到郭德纲用英语说相声,范伟用英语演小品,罗永浩用英语直播带货。这些视频看上去毫无违和感,但好像哪里怪怪的。

    直到瞅见角落里“由AI生成”的字样,我才如梦方醒,又惊叹不已。如果不是画面上方的那一行小字,恐怕赵本山自己也百口莫辩,他的老搭档范伟也要被再次忽悠了。我这双“火眼金睛”竟也有被蒙蔽的一天。不得不感慨,AI又进化了,而我落伍了。

    年初,我还曾对AI绘画画出的作品充满瑕疵而感到不屑,如今,遍地皆是利用AI技术生成的视频,直接让这个社会进入了“眼见为虚”的时代。

    那些借助软件可以快速生成的视频里,李云龙、马保国、刀郎都熟练地讲起英语,于谦用日语当起了捧哏,马斯克、特朗普、迈克尔·杰克逊则讲起了带有外国腔的普通话。

    这些视频把我看呆住了,看过许多遍后,我仍旧盯着那些名人的嘴,不敢相信,造假可以如此逼真,连赵本山讲英语发音时嘴角的褶子都造得出来。

    在不少人看来,伪造这样的视频纯粹是为了娱乐,甚至有人兴奋地拿起自己的视频、声音投喂给AI,以便于伪造出精通各国语言的自己。

    AI正在朝着完美造物主的方向进化,这让人惊叹,也让人恐慌。这种伪造被称为“深度伪造”,不同于以往简单的造假,而是基于深度学习,连面容、声音、眼神、口型、动作,甚至指纹都可以“假”得与真人无二。

    影像造假的历史回溯起来也有100余年了,造假的技术和工具在过去的百年间不断进化着,但从未像今天这样,几乎在视觉和听觉上,彻底模糊掉虚假与真实的界限。原本人们所信奉的“有图有真相”“此视频为证”这样的准则,瞬间不香了。更多的人在伪造视频面前,将失去明辨真相的能力。

    我们生活在这样一个网络时代,早已经没有什么隐私可言。试想一下,若有人盗取了一张你的照片,或去你的短视频账号里下载一段视频,再利用AI技术伪造一段视频,视频中的你说着你从未说过的话,做着你从未做过的事,而后发给你的家人、朋友、同事。我们又该如何应对呢?

    有媒体报道称,今年,在美国亚利桑那州,一位母亲接到了一通陌生电话,电话里她听到了女儿的声音,女儿正哭着喊“妈妈”。这位母亲知道,15岁的女儿在外地滑雪,她担心发生了什么意外。后来,她又听到一个男人的声音,声称她的女儿在自己手里,需要100万美元,否则就会逼她的女儿吸毒,并送到墨西哥去。

    这位母亲吓坏了,她还听到电话里传来女儿的声音:“帮帮我,妈妈!”但很快,丈夫确定了女儿的安全,并意识到那是骗子打来的电话。可这位母亲仍然很疑惑,因为她很确定,电话里听到的的确是女儿的声音,她的语气,甚至她的哭泣方式都与真人无异。

    电话里的声音只是通过AI克隆出来的声音。据说,还有一款AI软件,只需要3秒钟的语音样本,就能够完美伪造出本人的声音和语气。倘若诈骗分子掌握了这项技能,那我还敢随便跟陌生人说话吗?

    不过这已经是半年前的新闻,半年后,AI技术已经可以克隆完整的人了。如果绑匪发来伪造的绑架视频,而恰巧你此刻又联系不上孩子,后果不堪设想。

    尽管这样的骗局现在并不流行,但已经有不法者开始滥用最新的AI技术违法犯罪。在各地警方公布的案件中,已有犯罪分子通过AI拟声、AI换脸等手段,成功诈骗到数千元至百万元不等的钱财。明星、专家、官员等人的音视频也可能被伪造,用于行骗。有“反诈中心”公开表示,借AI技术行骗的成功率接近100%。

    尽管不少国家都要求添加水印以清楚标记AI生成的内容,但那些试图以此牟利者,当然不会这么做,我们面对伪造视频也只能当“睁眼瞎”。

    在很多方面,这项技术也可能被滥用,并带来恶果,比如用于虚假新闻的生产,用于法庭证据的制作或篡改,用于色情视频的伪造,用于恶意攻击、抹黑、诽谤他人等。

    一些工程师尝试开发AI内容检测器,用魔法打败魔法,这些检测器可以检测相关内容是否带有AI生成痕迹,像照妖镜一样,但目前一些检测器的检出率并不高。而作为普通人,当我们阅读文章、收听音频、观看图片或视频时,很难做到时刻把“照妖镜”拿在手里,举在眼前。

    很多时候,当我们发现那些视频是被伪造的时,假象可能早已被当作真相传遍各个角落,一些恶果也许已经无法挽回地产生了。

    我并非要反对或阻碍AI技术的进步,事实是,我很欢迎这项技术,也欢迎来AI世界造“假”,甚至每逢AI进化出新的功能,我都很兴奋——又有人用这技术创作出不曾有过的事物。

    比如,在某视频平台上,一位博主充当导演和编剧的角色,使用AI技术重现名人,将不同时代不同领域、不同国家的不同人物,安排进一期又一期的视频对谈节目。

    为了满足乔布斯与苏格拉底一起喝下午茶的愿望,他生成了AI乔布斯、AI苏格拉底,并邀请AI约翰·列侬来主持这场对谈。在那个不大的屏幕上,他们三人畅聊着“嬉皮士精神如何影响了硅谷”“技术与艺术之间的关系”。而且据说,几乎85%以上的对话内容均由ChatGPT-4生成。

    这些视频内容得到了不少观众的好评,尽管很多人都明白,那些视频里最经典的仍然是这些名人的思想创造,而不是利用AI生成的音容笑貌。但这位导演却以一种从未有过的方式,给予了苏格拉底、尼采、李白等人新的存在方式——数字生命,也创造出一种新的对谈方式,让先贤们碰撞思想。

    就像视频中AI苏格拉底说的那样,“技术,犹如命运本身,即非仁慈,亦非恶意,而是由人类之手挥舞的力量”。而AI乔布斯则说,“它就像两只狼,一只是贪婪、嫉妒、不耐烦的,另一只是充满爱、同情和耐心的,让哪一只长大,取决于我们选择喂养哪一只”。

李强 来源:中国青年报

2023年11月08日 06 版

被纪录片激活的百年村小
AI世界 眼见为虚