在前不久刚刚结束的2021年国际信息与通信安全会议(ICICS2021)中,蚂蚁集团宣布基于可信AI技术自研的IMAGE智能风控体系中的"E"--"端云协同风控"能力已经覆盖99%业务场景。
AI模型决策过程及结果的可解释性要求、对抵御黑产攻击的鲁棒性(Robustness)要求,已经达到了空前的高度。与此同时,随着隐私保护和公平性诉求越来越成为社会发展中的主流思潮,相关领域的技术研发已经不仅仅停留在企业社会责任层面,而成为了企业发展的生命线。
以"IMAGE"中的"E"端云协同风控为例,该技术通过在用户的智能终端上部署安全能力,实现隐私数据本地计算,在保护用户隐私权益的前提下,为用户提供数据及资金安全的有效防御。目前,该技术已经在支付宝99%的场景中上线。在刚刚过去的双十一中,支付宝资损仅为百余元,资损率创下历史新低;其中,端云协同风控能力覆盖交易笔数近九成,立下汗马功劳。
隐私保护的第三视角:端云协同
著名的人工智能研究学者吴恩达曾指出"AI=Data+Code"(人工智能=数据+代码)。数据一直是人工智能发展中不可回避的话题。数据的使用,推动着机器学习等人工智能技术的迅速发展、为人类提供了优质服务和决策支持,但数据的不当使用也引发了社会各界对隐私保护的担忧。
为促进人工智能技术的有序、良性发展,一方面,学术界和工业界积极研发了包括"多方安全计算"在内的、多种隐私计算相关技术,以帮助人工智能实现数据的"可用而不可见",从而实现对数据的合理、合法、合规使用。另一方面,研究者们从未放弃对人工智能"如何减少数据依赖"的研究。
"IMAGE"智能风控系统中的"E"--"端云协同风控"(Edge to Cloud),则是隐私保护中的第三视角。"端云协同风控"将需求隐私数据计算在用户智能终端(如手机)中进行计算,将不含隐私信息的决策结果输送到云端,以实现"端云协同"的风控保障。"可信AI中的隐私保护是一个比隐私计算更大的概念,持续创新视角和解决方案,是践行隐私保护的重点。将数据放在"端"上计算,却不影响"云"提供的安全保障服务,这是对用户隐私最有效的保护。"
起于应用、兴于应用的可信AI
麦肯锡相关报告曾指出,人工智能技术的快速发展和应用落地,为人类社会带来的生产力变革已经超越了历次科技革命。而人工智能在推动和改变人类社会的同时,其安全和可信性也进一步引发了人们对AI的担忧。
"作为制约AI技术发展的瓶颈,安全和可信性研究无疑将成为未来三十年人工智能技术的关键环节。"伴随着人工智能的广泛应用而兴起的"可信"问题,将是人工智能发展中突破瓶颈的"应用型命题",只有坚持应用探索、充分实践,才能将技术理念真正变成科技发展的护城河。
Copyright © 2022 All 昆山高实创科自动化技术有限公司 Reserved. 本站推荐:零点定位系统,零点定位,零点定位器,快换夹具,德国AMF,柔性夹具,液涨芯轴,自定心夹具,机外装夹,预调站
苏ICP备2022026216号 XML地图