南京桀特丝网络科技有限公司欢迎您!
南京电子监控安装,电子围墙安装,网络布线
客服热线13770996950
如何防范AI设备泄漏用户个人信息安全问题

如何防范AI设备泄漏用户个人信息安全问题

作者:admin    来源:未知    发布时间:2019-04-28 20:55    浏览量:

在人工智能和大数据时代,公民个人信息权益的保护,相较于技术发展更加脆弱,必需尽快找到可行的应对之道。
 
  早在3.15晚会上就曝光了手机APP的偷听现象,跟着技术的晋升,APP的偷听本钱越来越低。有人工智能团队进行测试,仅用了不到5个小时,通过程序员编写示例代码,模拟打造一款手机软件,安装在一部安卓系统手机中,再设置为答应该模拟软件使用手机录音权限,然后将手机屏幕锁屏。
 
  结果,该款模拟手机软件成功获取了该团队的讲话内容,并传输给后台服务器转化成文字信息。
 
  简朴来说,就是从技术层面实现了App锁屏时在后台仍可以“监听”用户讲话内容。而面临数据量大,本钱太高的情况。该团队表示可以把需要触发的词做个库留在App上,用户讲话内容一旦触发特定的词,便会唤醒这个应用开始监听及分析,以此降低能耗。
 
  海内着名白帽子公司KEEN GeekPwn实验室宋宇昊以为,APP完全可以将麦克风听到的语音在上传之前先转换成文字,这已经是很成熟的技术。然后通过在文本里提取枢纽词发送云端,在云端分析文本特征,并和用户身份联系关系,给你精准画像,在大数据时代,这些技术都是相称成熟的。实际上,通过App语音输入的方式,在本地将语音转换成文字,上传的只是几个标签,完全不存在大数据量的题目。
 
  “将一个人一天讲的话处理成文本,也只有几页纸。假如采用枢纽词唤醒,数据量还会大大降低。将语音处理成文本的技术并不高级,现在良多输入法都能做到。”
 
  边沿计算提高“偷听”本钱还将降低
 
  一位大数据技术专家表示,边沿计算可以解决传输本钱、存储本钱及云端搜索等题目,但技术难点在于离线计算的正确率。
 
  这并非凭空预测。据上述专家先容,在车险行业,车险服务商已经推出基于驾驶行为的保险,通过内置摄像头的行车记实仪和边沿计算+面部图像识别技术,系统能够捕获驾驶员打哈欠、闭眼、打电话、吸烟等异常动作,这些数据都将用来做车险的风控模型,好比保险人的保费测算,而数据源是车内摄像头拍下的视频,通过边沿计算,可以大大降低数据上传量。
 
  近两年,AI手机概念渐成主流,跟着手机的算力越来越强,计算都边沿化了,不需要云端计算的过多介入,那么,“偷听”这种技术本钱就越来越低了,而且这个未来并不遥远,“在现在的终端本钱上再增加1000元左右,就能支持边沿计算。”一位技术专家如斯道。
 
  人工智能算法亦能“偷听”用户信息
 
  人工智能(AI)算法是否可以“偷听”你的信息?对于这样的疑问,很多人恐怕还半信半疑,难以给出确定谜底。但剑桥大学的一项最新研究却表明:这是很有可能的。
 
  “偷听”的原理是:当人们小扣手机和平板电脑的屏幕时会产生声波。这些声波通过设备的内置麦克风收集、恢复,从而就可“听到”敲击屏幕的声音。结合人工智能算法,听到的声音与键盘位置联系关系,就可实现“偷听”用户信息。
 
  开展这项研究的剑桥大学计算机实验室用其自己开发的算法模型进行了实验,结果表明,对于四位数密码而言,该模型在10次尝试后可以正确恢复54%的密码;20次尝试后可以恢复150个密码中的91个,识别正确率为61%。
 
  该项研究的论文于3月26日发表,标题题目就叫《听到你的触摸:智能手机上的新声学侧通道》。
 
  更令人担忧的是,现在智能家居市场兴起的同时,涌现出了一批又一批被声音控制的产品和控制产品的软件。它们是否在窃取你的隐私呢?
 
  以普及较高的产品为例
 
  几年来,每当用户使用智能音箱开灯或锁门时,亚马逊和谷歌都在收集数据。现在,它们要求罗技(Logitech)、亨特风扇公司(Hunter Fan Co.)等智能家居产品制造商持续发送用户信息给自己。
 
  换句话说,当用户把一个灯具连接到Alexa(亚马逊语音助手)之后,不论是否通过Alexa完成开关灯的指令,凡是在灯上所作的开关操纵,都是亚马逊想要收集的数据。同样的,电视必需讲演频道设置。智能锁必需随时讲演门锁是否锁上。
 
  比拟于智能手机地舆定位软件时刻跟踪用户、或是Facebook根据用户流动提取大量个人数据,上文这些信息搜集可能显得清淡无奇。但即使是像灯泡这样简朴的小玩意,也能让科技公司获取客户信息,并将数据用于营销目的。批评者说,科技公司已经蕴蓄了大量公共领域流动的数字记实,现在它们正致力于在“家庭内”建立根据地。
 
  智能手机与智能家居在被AI加持的不法分子的手中像是一张无孔不入的罗网,将你我的个人隐私都网罗其中。
 
  扎紧技术伦理和法律竹篱
 
  在技术已经答应的现下,怀疑“偷听”不啻为一声响亮的警钟,它再次对我们发出警示:在人工智能和大数据时代,公民个人信息权益的保护,相较于技术发展更加脆弱,必需尽快找到可行的应对之道。
 
  同时,对以“提高”为名的技术发展,我们也必需保持高度警惕和怀疑,并时刻从人类尊严和技术伦理的高度详加审阅。这是必要的审慎,毫不是以卵击石的守旧,由于墨菲定律早就说得非常清晰——假如事情有变坏的可能,无论这种可能性有多小,它总会发生,并造成最大可能的破坏。
 
  “偷听”有可能发生吗?剑桥大学的研究已经表明:肯定会的。固然囿于技术的局限,目前尚无法偷听得那样精确。但假以时日,人工智能算法装备的智能手机、智能家居等设备,肯定会把人“偷”得赤条条。而以技术发展在当今的迅猛之势,这个时日实在并未几么遥远。
 
  我们已清晰地看到“灰犀牛”就在那里,它正在向我们冲来。可是出于无数的利益计算和犹疑,人类就是找不到切实的预防、应对之策。
 
  这恰是我们当前面对的恼人困惑。对于公民个人信息安全,目前能够想到的办法,无外乎以繁多的法律法规条款,尽可能扎紧竹篱,同时加大惩处力度。但这种办法,受制于差异极大的文化环境和执法力度,经常很难从纸面上真正落地。
 
  而更加薄弱的是,技术伦理显著还未受到应有的正视,更缺乏现实的灌注贯注培育。良多科技者仅仅醉心于技术突破,因为和远真个技术应用者以及被影响者相隔着显著间隔,他们几乎不可能感慨感染到技术发展可能带来的麻烦与痛苦。对于“偷听”的怀疑,实在恰恰反证了技术伦理的缺位可能带来的题目。
 
  人工智能、大数据是当今社会发展的趋势,没有任何气力能够阻止它们前进的步伐。我们认可并且也愿意享受这样的提高,但条件前提是,它们应是为人类服务,而不是羞辱、奴役人类。

友情链接:

在线客服 :     服务热线:13770996950     电子邮箱: 106594328@qq.com

公司地址:南京珠江路华海3C广场

南京桀特丝网络科技有限公司是一家专业从事酒店商场企业智能工程、程控电话、监控远程控制、WIFI网络覆盖、电子门锁、发电机、太阳能利用、小区门禁、电动道闸、电动大门、电动窗帘、智能家居、保安智能巡检、电梯3-5方对...

Copyright © 南京桀特丝网络科技有限公司 版权所有 Power by DeDe58  备案号:苏ICP65985475-1