作者：凤来仪

今年的七月六号，上海召开了一个人工智能大会。

本来想去听听，正巧那两天忙的没空，好在有朋友在现场，就请他听完回来跟我说说他印象最深的东西。

等泡好茶摆好龙门阵，听他说完，我浑身的鸡皮疙瘩都起来了。总结一下。

01

过去的AI，比如战胜过国际象棋特级大师IBM公司的深蓝，用的是什么方式呢？用的是人脑无法达到的快速计算模式，也就是说穷举法，即通过穷举的方式，在所有可能的行棋方式中找到最佳的应对模式。

关于穷举法，我们先来回顾一段关于象棋电脑的历史：

深蓝计算机是由IBM开发的象棋电脑，历史上第一个成功在标准国际象棋比赛中打败卫冕世界冠军的计算机系统。深蓝计算机是采用混合决策的方法，它将通用超级计算机处理器与象棋加速器芯片相结合，在超级计算机上运行的软件执行一部分运算，更复杂的棋步交给加速器处理，然后计算出可能的棋步和结果。

深蓝1996年2月进行了对世界冠军的第一场比赛。卡斯帕罗夫击败了深蓝，得分为4：2。

然后，深蓝开始升级，并于1997年5月再次对抗卡斯帕罗夫，以3.5：2.5赢得了比赛，成为历史上第一个在标准国际象棋比赛中打败卫冕世界冠军的人工智能系统。

当然，这一次的胜利，并没有让科学家们感到恐怖，因为快速计算穷举法是机器强于人类的地方，这时候的人工智能，还谈不上智能，只是根据人类划定的界限进行大规模计算而已。

而人脑的运算机制是完全不同的，人脑的神经元有独立运算和判断的能力，有大量的直觉类和模糊计算的模式，这是当年的人工智能望尘莫及的，因此在更复杂的围棋上，人工智能完全不是人类的对手。

但现在的人工智能，是模仿人脑的神经元进行各自独立的运算和判断，也具备了某种初级的直觉和模糊计算功能，虽然距离人脑还远，但某些地方已经可以以假乱真了。

这位朋友转述人工智能大会上某个大咖的发言，说现在如果人工智能模拟某个你的熟人跟你对话，要是你不能在三句话之内就识破他是假的，那么就永远识破不了，因为随着对话和学习时间的延长，人工智能会越来越像你的朋友。

甚至过去判读真假的语音和视频，现在都不能作为判断的依据，除非面对面，否则你无法判断跟你视频的是不是你的朋友，或者家人。

这是七月份，我获得的信息，然后今天就看到了一个视频，一个川普夸奖华为的视频，AI做的，他的口型跟他的发言完全一致。

说实话，以后看到视频，也别急着判定为真了。

我就问你，怕不怕。

02

这只是牛刀小试而已，现在的AI完全可以做到在线视频、语音毫无破绽……

我联想到什么了呢？联想到电诈，现在的电诈手法，还只是陌生人冒充领导、公安局、银行、美女之类的来诈骗，那些抠脚大汉还只能躲在网络后面通过打字的方式来忽悠人。

如果这些人掌握了AI技术呢？相信我，这些坏人会比好人更积极，因为这里面是巨大的商业利益和价值，所谓道高一尺魔高一丈就是这个意思吧。

根据我判断，在AI技术最前沿的美国，这种诈骗手段会先出现，然后再向其他地区蔓延。

稍微一查，果然如此。美国联邦贸易委员会也报告称，2022年，美国消费者因欺诈损失了88亿美元，比2021年增加了40%以上。

Forbes杂志说，Synchrony高级副总裁肯尼斯·威廉姆斯（Kenneth Williams）在给《福布斯》的一封电子邮件中说，“我们经常看到有人使用深度伪造的图片和视频进行身份验证，我们可以有把握地认为它们是使用生成式人工智能创建的。”

今年1月份油管上出现了一个视频，马斯克宣传最新的加密货币投资机会：他声称，特斯拉赞助了一项价值1亿美元的免费活动，承诺将向参与者两倍返还他们投入的比特币、以太币、狗狗币或以太币等加密货币。

“我知道大家聚集在这里是出于一个共同的目的。现在我们举办了一场直播，每个加密货币所有者都可以增加他们的收入。”

可这是假的....

除了商业诈骗，AI完全可以模仿小孩的声音，向他的爸爸妈妈爷爷奶奶发送，然后声称自己被绑架，再索要赎金。

骗子不用每个都得逞，只需要广撒网就可以了。而AI会帮助骗子筛选受害人，甚至寻找到受害人的家庭关系、社会关系。

这对于开发者来说，真是一件太过容易的事。我认为缅北的诈骗基地还没发展到这个地步，是因为他们目前低劣的诈骗手段已经足够，但经过打击后，会对新型技术产生极大的渴求。

我可以断定，在未来这几年里，AI诈骗会成为各种诈骗术之王，不怕你开视频开语音，就怕你不开视频，不开语音。

除了这些，如果坏人完全掌握这门技术，还能做的更多，他们甚至可以绕过受害人本人，直接登陆你的银行卡甚至支付宝。

人脸识别本来是对付坏人的方式，但现在在技术面前也显得弱不禁风。只要坏人得到你的照片，就能用这个照片在换脸程序的帮助下，相信我这些程序现在非常便宜且易得，然后骗子就躲在你的照片背后，仿若真人一般在人脸识别的指挥下张嘴，眨眼。

直接攻击金融系统，可能要比去欺诈个人更具有挑战性以及更大的回报。

除此之外，一众科技大佬们，对AI的前景都感到了恐惧，今年5月30号，人工智能安全中心”发布了一封联名公开信，在信中，AI被视为堪比“疫情和核战争”的技术，如果AI仍以现有速度发展，不就得未来将直接威胁人类社会。

公开信得到了超过300位科技大佬的认同，连ChatGpt的所有人OpenAI首席执行官Sam Altman都在公开信上签署了自己的名字。

这些大佬，忧虑的是未来的AI就像天网一样，产生自我意识从而灭绝人类，而在此之前，恐怕利用AI诈骗，就会先伤害人类了。

能停吗？不可能，人类只能在科技进步和道德沦丧的悖论中，继续跌跌撞撞往前走了。