在热闹的十一黄金周，小米公司传来喜讯——其新款车型Su7在短短几天内销量激增，达到了惊人的6000辆。这无疑是对小米在科技领域又一创新成果的肯定。真正的雷军，无疑在为此感到自豪，并为之庆祝。

然而，与此同时，短视频平台上却流传着一段段所谓的“雷军骂人”视频，这些视频中的雷军，愤怒地吐槽着各种话题，从对小米Su7的期望，到对调休制度的反感，每一句都显得如此真实，每一声都仿佛是他标志性的声音。但，这些真的是雷军吗？

要不是这些语音太过离谱，真有些真假难辨。当有网友在雷军的官方账号下提及此事时，他回复了三个发怒的表情，似乎是在暗示着什么。要知道，雷军可以说是所有大佬中对网友玩梗最宽容的一位了。从过去把“Are you OK？”的创作者正式收编，再到今年初把“军儿，收手吧”放到发布会，他用幽默和宽容的态度赢得了不少网友的好感。

但是面对如今泛滥的AI玩梗，即使是雷军也忍不了。平时不怎么对网梗出警的小米法务部也迅速行动，已经走上了法律程序。当然，AI配音的受害者也不止雷军，不论国内外，AI配音已经成为让各路大佬和执法人员头疼的“致命玩笑”。上到作伪证干扰司法程序，下到明星的私密照片，甚至美国大选都难逃AI的干扰。

AI，怎么就成了大佬们的心腹之患？从特朗普到雷军，都难逃AI“毒手”。不论中外，把名人“AI”一下，都是网友最热衷的快乐源泉。用AI伪造他人的形象、声音、影像，统一称为“Deep Fake（深度伪造）”。在B站，“美国总统锐评”系列一度成为最热的梗。对不少热衷音乐的网友来说，AI更是自己“梦想成真”的神器。但玩梗娱乐只是AI工具最肤浅的用途之一。在强大功能的加持下，AI成了不少心怀鬼胎之人手中的利器。

女明星是最早受灾的一批人，顶流巨星“霉霉”泰勒·斯威夫特就惨遭“AI涉黄”。各种换脸不雅照在X（推特）上疯狂流窜，一张伪造图片在一天内就获得了4700万次浏览，吓得X平台直接屏蔽了“泰勒·斯威夫特”的关键词搜索。这条消息甚至引起了白宫办公室的注意，白宫新闻发言人让-皮埃尔表示：“网络上的执法不严对女性影响更大，她们是受到网络骚扰和欺凌的主要目标。”

明星们的桃色照片只是小事，深度伪造早就把手伸向了美国大选。平时本就老实的美国红脖子可不会分辨这是不是AI，每个总统都可能因为一段伪造的录音录像丢掉选票。都不用关心美国大选，AI早就开始给国内的案件添乱。不久前轰动全网的小杨哥塌房事件中，就有AI火上浇油。

尽管三只羊欺骗消费者在先，活该被监管部门处罚，但是用这种恶劣手法造谣抹黑，也是对公众的一种不负责任。但不管是美国大选，还是三只羊塌房，不少不法分子正在以AI作为武器，用一种十分低劣的手段入侵每个人的生活。AI的危险性，已经不容忽视。

众星捧月的AI，越卷越“灰”。自打诞生以来，大部分打工人对AI的态度都只有一点：这玩意到底能不能代替我的工作？但如今，原本设想中“更智能、更万能”的AI似乎还为诞生，大部分人对AI的迭代越来越感到麻木。但AI虽然没有在智商上突破，却卷向了另一个反向：更好用。

过去训练AI，往往需要精通数据和编程的专业人士对AI进行定点、定向的海量数据投放。而在如今，这一工作已经可以被AI代替完成，部分AI应用的训练已经变得格外简单，门外汉也能轻松上手。这一结果很快在深度伪造领域得到了应用。

在AI雷军和卢文庆伪造语音引发轰动后，一家名为言域科技的公司很快就出来“认领成果”，他们开发的Reecho睿声，就是这两个事件背后的主力软件。Reecho睿声就主打克隆声音功能，只要导入对应音频，就能克隆对方的声音，导入的素材越多，克隆的也就越像。

如此简单的“作假”成本，也是深度伪造如此危险的原因。尽管睿声的技术还不是天花板级别的成熟，有用户说，自己使用睿声生成的语音在10s之后就“没法听了”。但对于别有用心之人来说，短短10s就足以兴风作浪。

面对疯狂进化的AI技术，如果不加以遏制，很可能会成为整个社会的威胁。版权原因，是很多公众人物对深度仿制AI开火的主要武器。但对于绝大多数普通人来说，他们寄希望于平台和监管。但对于平台来说，监管何尝不是一件难事。

说到底，AI只是人类创造的一个“好用的”工具，工具本身不分善恶，其性质完全取决于使用者的目的。在人类沉迷于开发工具的可能性时，必须要敬畏其产生的后果。科技必须进步，但人性不能脱缰。