智能音箱变身窃听器？周鸿祎：并不是科幻电影

本篇文章1152字，读完约3分钟

“现在智能音箱已经开始融入到很多家庭的日常生活中，这给我们的生活带来了一定的便利，但是你有没有想过智能音箱可能会变成虫子呢？”1月20日，中国人工智能学会“人工智能与安全委员会”在北京成立。360集团董事长兼首席执行官周当选为第一任董事。他在就职会议上说，把一个聪明的演讲者变成一只虫子不是科幻电影中的场景。

周介绍说，360与浙江大学合作发现了一种“海豚声攻击”，这种攻击人耳听不到，但可以通过超声波信号劫持智能设备的声控系统，然后利用麦克风的硬件漏洞悄悄开启语音助手，将智能扬声器变成窃听器，窃取用户隐私。

此外，“海豚声音攻击”还可以用来攻击各种带有语音助手的智能设备，包括智能手机、智能手表、智能汽车等。随着越来越多的智能设备介入我们的生活，人工智能面临的安全问题也让业界、学术界和研究界变得谨慎起来。在人工智能与安全特设委员会的成立大会上，人工智能本身的安全性成为现阶段关注的焦点。

周指出，人工智能是一个热门词汇，也是未来的大趋势。但是，目前的人工智能技术并不完善，还有四个冰点:

首先，前端传感器可能会受到干扰。人工智能广泛依赖于各种传感器，如音频和视频采集、红外传感和激光雷达。然而，这些传感器是不安全的，并且可能受到干扰，导致人工智能识别和决策失误。海豚攻击是干扰声音传感器的方式之一。

其次，人工智能的数据样本可能被污染。目前，人工智能采用深度学习模式。黑客可以构造变形的输入或污染训练数据集，并进行“数据中毒”，从而导致人工智能错误。例如，通过向智能汽车输入“污染”的训练样本，可以将“禁止通行”的交通标志识别为“可通行”，从而导致交通事故。

第三，内部算法可能被欺骗。从本质上讲，人工智能是一个经过大量数据训练的概率判断系统，其内部复杂的计算逻辑和决策过程是不透明的，容易被欺骗或绕过。周说，人工智能可能有99.99%的概率来保证识别是正确的，但就安全性而言，一旦它犯了识别错误，就会造成严重的后果。

最后，实现平台存在漏洞。周介绍说，目前的人工智能系统都依赖于开源的深度学习框架，而且存在很多漏洞。目前，360名研究人员在深度学习框架中发现了40多个软件漏洞。

人工智能无疑是下一轮技术革命的焦点。随着科技的飞速发展，如何使这项技术更加安全成为当务之急。周建议，在人工智能时代，解决安全问题的唯一途径是使用基于大数据的人工智能。去年，360建立了一个基于安全大数据的360安全大脑，可以实现网络安全的自动化和智能化。

“360安全大脑仍处于起步阶段。我们希望，通过开放我们的数据、技术、能力和平台，我们将与工业、学术界和研究领域的各行各业共同努力，真正构建360安全大脑的工业生态，并在未来的国家安全、城市安全和社区安全中发挥重要作用。甚至普通人的家庭安全。”周最后对说道。