乐观与审慎并举 理性看待AI浪潮

乐观与审慎并举 理性看待AI浪潮

■ 张泽明

目前，以深度学习为代表的人工智能技术发展，需要依靠算法、数据和算力这三者多轮驱动。算法形成智能模型，数据提供智能训练素材，算力满足人工智能高并行大数据量的计算，三者缺一不可，他们也共同制约了深度学习的进一步拓展应用。

深度学习的技术制约，首要是深度学习的算法决定模型适配度不高。深度学习其实是模拟了人脑神经元的感知模式，将感知分为多个层次，每个层次的神经节点都赋予不同的权重，从而将输入信号层层识别得到较为满意的结果。深度学习数据训练的结果就是要找到合理的各项权重，从而获得满意的输出识别结果。

但是深度学习的神经网络是一个“黑盒系统”，也就是说人工智能自己依靠数据训练，为什么得出这个结果人类确实全然不知，结果是概率学与统计学原理等共同运行得出的。一言以蔽之，依靠数据，人工智能的输出结果你无法预知，输入与输出的逻辑因果关系也不明确。

况且，人工智能的神经网络模型针对的是特定的数据、特定的场景，经过训练得到表现良好的深度学习系统很难移植到另一个不同场景中。南京大学的机器学习专家周志华教授甚至一针见血地指出：“神经网络有很多缺陷。”他说：“凡是用过深度神经网络的人都知道，要花大量的精力来调参数，因为这是一个巨大的系统。这会带来很多问题，首先调参数时，经验是很难共享的；这带来第二个问题——不管是科学研究、技术发展，都希望结果可重复，而在整个机器学习领域中，深度学习的可重复性是最弱的。”他还举例说，经常会遇到这样的情况：有一组研究人员报告了一个结果，但其他的研究人员很难重复——哪怕用同样的数据、同样的方法。

目前市场中已经出现不少深度学习人工智能产品，如智能音箱、政务服务机器人、教育机器人等，但大都表现不佳，远远达不到大众的预期。究其根本，就是训练好的模型用在变化的环境或领域，其普适性能出现明显下降。

简而言之，深度学习与场景耦合度过高，普适性较差。首先，这不仅对技术发展形成制约，也让技术移植耗费大量成本。其次，深度学习需要大量的人工标注的数据来进行算法训练。所以深度学习天然是要跟大数据联系在一起，数据是否适合分类、分类准确与否，不仅决定了深度学习方法是否可以使用，也决定了深度学习的结果走向。经过精确标注的“干净”数据，也将成为深度学习发展的瓶颈。再次是算力的优化。深度学习需要的大规模算力，已经超出了通用CPU架构的承受能力。在GPU概念推出并应用于图像处理后，其也不能很好满足深度学习人工智能的需求。因此， 人工智能专用芯片的研发正在进行中，国内也涌现出了很多相关初创企业乃至是独角兽企业。不过，这种芯片的研发仍然在路上，且芯片处理深度学习大规模并行计算产生巨大的热量，而热量又限制了芯片的进一步表现。这一矛盾目前为止，还是没有商用的完美解决方案。最后是深度学习推广的边际成本。深度学习使用的卷积神经网络，是一个多层的神经网络。且深度学习随着层次的增多，识别能力会出现一个极限，系统复杂度的急剧上升将不会带来等比例的识别能力提升。

深度学习的原理综合性很强，门槛很高。同时，实现深度学习的成本很高，数据、算力、算法带来的技术瓶颈，又导致人工智能难以实现规模化发展，这反过来又严重制约了技术的实际应用与推广。

一方面人工智能给人们带来了巨大的便利，另一方面技术的发展也给隐私和安全问题带来新的挑战。

今年初，网友运用人工智能换脸技术Deepfake 把《射雕英雄传》里黄蓉的脸由朱茵换成了杨幂。视频里换脸后人脸的轮廓、表情都一样，动起来的效果也很真实，几乎看不出破绽。这样的技术也引来了一些恐慌，一旦这项技术被滥用在其他地方，后果将不堪设想。

同时，深度学习人工智能需要大量的数据进行训练，这些数据往往牵涉个人的隐私，比方说医疗领域的个人数据。这些数据一旦泄露，将产生难以估量的恶果。人工智能系统甚至可以通过对数据的再学习和再推理，导致现行的数据匿名化等安全保护措施无效，个人隐私变得更易被挖掘和更易暴露

柯洁因为输给AlphaGo，曾经被调侃，“柯洁他走在了我们普通人的前边，我们还没有享受到人工智能的服务呢，他就已经被人工智能伤害了。”然而保障人工智能不被滥用，不伤害人类，并不是一个遥不可及的问题。这既需要技术上的审慎，也亟待法律的约束。

《新一代人工智能发展规划》提到“举全国之力，抢占全球人工智能制高点”。 规划到2020年，我们人工智能产业竞争力务必要进入国际第一方阵。实现人工智能核心产业规模达1500亿元，带动相关产业规模超万亿。到2025年，我们人工智能的理论和技术务必达到世界领先水平。实现人工智能核心产业规模达4000亿元，带动相关产业规模超5万亿。到2030年，我们人工智能务必要占据全球人工智能制高点。实现人工智能核心产业规模达1万亿，带动相关产业规模超10万亿。

国家层面对人工智能认识是清醒的。为此，更需要我们采购人在具体使用人工智能技术时，保持谨慎乐观。不妨以习总书记的要求来自勉——正能量是总要求，管得住是硬道理，用得好是真本事。

（作者单位：大连海关）

本报拥有此文版权，若需转载或复制，请注明来源于中国政府采购报，标注作者，并保持文章的完整性。否则，将追究法律责任。