人脸识别是AI技术落地的滥用?

疫情后,“ai+”成为时代主旋律。然而,在隐秘的角落,由ai所引发的安全风险和“黑灰产”问题正与日俱增。尤其是人脸识别,作为ai技术落地广泛的场景之一,所面临的安全、伦理和道德等挑战愈发严峻。
经过近些年的快速发展,人脸识别已和智能硬件解锁、支付,以及公共服务等身份验证直接绑定在一起。因面部信息的性,以及作为个人隐私中敏感、重要的组成部分,一旦出现问题,将会对个人隐私、公共安全造成巨大威胁,故对技术的安全要求和标准相对更高。
2017年,一位名为deepfakes的网友将电影中演员的脸替换成好莱坞女星,并将合成视频在reddit网站上发布,引发热议,遭到大众对技术滥用的质疑。这也为ai“换脸”技术吸引了一波关注,deepfake(深度伪造或深度合成)就此成为该技术的代名词,同名算法也在github上开源,导致合成视频片段大量涌现。
无*偶,2019年国内ai换脸工具“zao-逢脸造戏”app。上传一张照片,就能把诸多明星塑造的角色换成自己的脸,漫威系列的“绯红女巫”,《泰坦尼克号》中小李子扮演的“杰克”,或是《喜剧》里的“柳飘飘”。
只需几秒,便可跨越ai换脸的高难技术门槛,实现和偶像互动飙戏的美梦,如app宣传语所说,“只需一张照片,出演天下好戏”,很难不让人心动。
deepfake技术滥用,引发担忧,也为人脸识别技术的应用推广带来了巨大风险。据称,2019年底,硅谷人工智能公司kneron曾使用deepfake技术成功欺骗了支付宝和微信支付,并且顺利通过机尝火车站等自助终端检验!
为此,各国纷纷加强了监管措施,譬如,美国政府公布了《禁止恶意深度伪造法案》、《2019年深度伪造责任法案》、《2019年深度伪造报告法案》,旨在通过限制deepfake合成技术,打击虚假信息的传播。
不过,凡事都有两面性。尽管早期的deepfake以*搞、炫技为主要目的,但发展着发展着,就被别有用心的群体盯上,以假乱真地制作名人视频,引发误会。
对此,微软出手打造了视频鉴真工具,可以让经由deepfake处理的伪造视频原形毕露。鉴真工具可进行逐帧分析,以验证图像有无存在篡改。工具中基于azure的组件还允许视频创作者对图像添加数字散列和证书。随着ai算法的精进,工具不可避免地要被淘汰。
技术是中立的,也是双向发展的,不会因为惧怕风险而停滞不前。对深度伪造的内容不能一竿子打死,很多深度伪造的合成媒体内容具有存在的正当性,而对影响安全、公共安全、政治的虚假信息才需要加强监管和规制。
我们应当正确看待深度伪造的功能,监督引导其正确规范使用,而深度伪造只是人工智能的其中很小的一个分支,不能代表人工智能,而深度伪造使用者是人,其本身是无对错。对于愈加复杂的信息网络,闭门造车,自扫门前雪的方式显然是不经济的,引导ai对抗技术的商业化落地,是加强网络安全的重要途径之一,也是促进ai技术应用和推广的安全保障。
原标题:人脸识别是ai技术落地的滥用?

常州新华全不锈钢隔膜压力表
对于知晓箱式气氛炉的人来说!这些都是小菜一碟了!
iFluor 546 Styramide可以与抗体结合|Alexa Fluor 546酪胺的替代品
路面加热型密封胶拉伸夹具介绍
电磁兼容指令(EMC)|电磁兼容测试|电磁兼容标准
人脸识别是AI技术落地的滥用?
昆山塑料拖链润滑知识须知
计算无转子硫化仪硫化温度系数K值和胶料活化能E值
电化学发光免疫测定
减震器的重要性可以从车辆减震器和弹簧的作用中认识到
光锐机械多功能不锈钢蒸煮锅
双工位钻攻机定期保养维护很有必要
微量水分测定仪高精度检测的解决方案
VSE流量计VS 4 GPO 12V-32N11/6 参数介绍
PE燃气双放散球阀SDR11的性能规范和原理和结构说明
RGL41H燃气Y型过滤器的工作特点与性能分析
搪瓷反应釜使用及维护注意事项
启正HCC回转式鼓风机/低噪音鼓风机
超音波清洗机清洗剂的几个常见知识问答
橡塑保温管、板的导热系数一般为多少?