近日腾讯安全平台部预研团队发现谷歌人工智能学习系统tensorflow存在严重安全风险,可被黑客利用带来安全威胁,团队已向谷歌报告这一风险并获得致谢,其负责人称,考虑到tensorflow在ai的广泛使用,tensorflow将会像大多数重要软件一样在网站创建安全公告页面,及时披露和修复安全漏洞。
目前,google的tensorflow作为开源框架被互联网广泛使用,据介绍,谷歌、ebay、airbnb、twitter、uber、小米、中兴等公司均有使用。在tensorflow中,ai研究者可以复用他人建好的模型来进行ai训练,或直接提供ai服务,大大提高开发效率。据了解,这些公开的模型通常以文件形式提供,也普遍被认为是无害的。但腾讯安全平台部预研团队发现,攻击者可以生成tensorflow的恶意模型文件,对ai研究者进行攻击,对受害者自身的ai应用进行窃取或篡改、破坏。该风险危害面非常大,一方面攻击成本低,普通攻击者即可实施攻击;另一方面迷惑性强,大部分ai研究者可能毫无防备;同时因为利用了tensorflow自身的机制,其在pc端和移动端的新版本均会受到影响。ai模型被窃取,损失的是的心血;而一旦被篡改,造成ai失控,后果更难以想象。此前,ai已有不少实际应用案例,例如深圳试运行的无人驾驶公交、会议的ai同声传译;未来更会渗透到社会的方方面面:交通、医疗、安防、金融……在不远的未来,ai安全会直接影响人们的生命财产安全,甚至整个世界的秩序。如电影《复仇者联盟:奥创世纪》那样,人工智能奥创为人们的生活提供了无数便利,但当他站到人类的对立面时,也会带来无数灾难甚至毁灭。据悉,腾讯安全平台部安全预研团队已就此次发现的安全风险向谷歌提交报告,协助风险早日收敛。
塑料保护套的型号数千种 给塑料管帽库存带来困
从两个方面讲述下方形帆布通风管的安装方法
螺旋秤的速度与激情
反渗透膜损坏的原因及日常维护?
广西做挡烟垂壁用的防火布 防火涂胶布价格
腾讯发布预警:谷歌AI学习系统存严重安全漏洞
涡轮流量计的选择安装规范
6AV6542-0CA10-0AX0,*
国产经皮的性能特点及工作原理介绍
卧式自吸离心泵试运行前准备工作及辅助设备
不干胶标签粘性测试
小型多功能提取罐的功能介绍
盐雾腐蚀试验箱操作手册
砂子卤素快速水分测定仪厂商/说明
A3钢板工作台,模具飞模台,工作台厂家
台阶仪工业测量仪器:揭秘多领域应用
ST501F-A-250A电机保护器
双色木纹装饰美景条安装在门窗双层玻璃中间
酱油生产中加盐量与固形物Brix%的关系
橡胶拉伸形变测试仪