语音识别发展必牺牲隐私?最大问题或因不符用户预期,需增透明性

语音识别发展必牺牲隐私?最大问题或因不符用户预期,需增透明性

今年以来,科技巨头苹果、谷歌、亚马逊、脸书和微软的语音助手或软件无一例外被爆出“监听门”。有专家表示,在目前的弱人工智能阶段,人工监听和分析是必须的。

那么,语音识别技术发展和隐私保护之间的冲突要如何解决?9月17日,在国家网络安全宣传周的个人信息保护高峰论坛上,小米集团法务总监朱玲凤试图结合行业已有的实践操作作出回答。

“语音助手是人工智能领域非常重要的应用领域”,她指出,从2010年开始,互联网巨头通过自主研发或者并购/参股的方式开始探索智能语音行业,包括苹果的Siri,谷歌的Google Assistant和亚马逊的Alexa等。

国内阿里巴巴、百度和小米等企业也纷纷投入智能音箱市场。据调研公司Canalys预计,到今年年底,中国智能音箱保有量将超过5990万台,与截至2018年底的2250万台相比增长166%,使得智能音箱的普及率达到13%——语音助手已经成为大家生活中非常习惯的一个场景。

然而,智能语音助手市场的疯狂增长离不开海量用户数据的“喂养”,隐私问题也随之滋生。

今年7月26日,苹果被爆出雇佣外包商监听用户和Siri的对话,其中包含位置信息、联系方式等个人敏感信息。此前亚马逊Alexa、Google Assistant、微软的Skype和语音助手都被曝出类似事件。

朱玲凤表示,现在的语音识别技术还处于监管之下的机器学习,而不能靠自主学习提升识别能力。“简单的操作过程就是把粗略的语音资料输入进去,由人工进行分析,再分类标注,然后把它灌输到整个模型当中,最后用大量的用户数据去验证这个模型是不是正确。”

所以,在目前的阶段,“人类的转入和标注是语音识别技术提升必然要经过的一个过程”,她说。她还总结道,这就是用户使用语音助手产品和预期明显冲突的地方——用户不希望和语音助手之间的私人交谈被第三方转入,但是第三方语音转入确实是技术发展所必需的东西。

朱玲凤认为,不能因为不符合用户预期,就因噎废食不继续发展语音识别技术,因为这项技术确实给老人、小孩以及残障人士带来了福音。

但是,这是否意味着需要牺牲用户的隐私?

朱玲凤认为,企业应该拿出更加尊重用户隐私的态度来,并介绍了一些行业内已有的实践操作。

小米集团法务总监朱玲凤介绍行业已有的实践操作。

首先是企业要遵守透明性原则,让用户知道可能存在人工分析语音指令的情况,以及为什么保存这样的数据、保存多久。同时,要给用户提供一个控制机制,让用户可以选择退出。

例如,苹果在隐私事件爆发后就进行了调整,允许默认情况下不收集用户的录音,只有当用户选择加入语音改善计划之后,才会把用户的语音上传到服务器进行人工分析。

其次,还要添加别的安全措施。比如苹果Siri使用随机标识符来保存用户语音助手相关信息,这些标识符不会与用户的Apple账号和手机号进行关联。六个月后,设备的数据会与标识符取消关联。

朱玲凤还建议,企业可以同时使用一些非语音唤醒的模式,比如通过长按Home键就可以调动语音助手,这样可以避免误唤醒问题。

采写:南都见习记者 李慧琪