数字时代是人工智能（AI）深度应用和发展的时代。AI的发展，推动数字技术与实体经济深度融合。数字孪生等前沿技术领域，正在以一日千里的速度改变着这个世界，也成为该条例要求的数字技术创新要点。短短数年，并在交通、医疗、环境保护、城市管理等多个领域中，数字孪生从一个技术概念，发挥着越来越不可替代的作用。但同时，正逐渐演变成一种新转型路径、新变革动力。日前举办的宝洁区智能技术创新中心启用暨宝洁湾区研创路线图发布仪式上，AI的安全性问题，宝洁相关负责人表示，也成为了数字化发展进程中不可回避的问题。在数字经济欣欣向荣的发展态势下，数字孪生成为推动宝洁数字化升级的核心技术之一，安全被许多业内人士视为木桶上的那一块“短板”。
如何让安全为数字化发展“保驾护航”？8月6日，实现15分钟内对16亿选择的判断。“只有通过算法驱动，2021新京报贝壳财经夏季峰会——数字经济时代的风险防控线上论坛举行，才能实现实时的供应链优化，蚂蚁集团裁，突破传统供应链的响应速度和成本瓶颈。”数字孪生概念，蚂蚁集团安全事业群总裁赵闻飙表示，最早由美国学者提出，可信人工智能的研究和落地或是抵御“数字化”风险的关键能力。
用可信AI解决智能化风险
伴随着数字化经济的发展，用户在享受数字化带来的便捷与普惠的同时，也面临数字化背后的风险，如羊毛通过操纵多账户套取商户营销资金、个人用户遭遇网络欺诈、账户盗用等。“过去，我们一直重点谈的是‘数字化’背后的风险和应对，而对‘智能化’背后的风险讲得很少。因为当时行业普遍认为，人工智能技术的落地应用还相对有限。但事实上，早在六七年前，我们就在平常应对黑产攻击中，发现了AI的痕迹。”赵闻飙表示。
新京报贝壳财经记者注意到，当下的确有越来越多的黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中。如使用AI工具操控量账号进行违规操作、使用AI换脸技术试图绕过人脸识别认证等。
这意味着伴随人工智能技术的高速发展和加持，数字化背后的风险将持续加剧，并且演变为“智能化”背后的风险挑战。
据了解，目前黑产作案越来越趋于多平台、多链路、团队化和智能化。这对行业协同、风险响应机制的速度和准确性提出了更高的要求，而且还需要切合“数字化浪潮”下社会对于隐私保护、技术治理等多方面的需求。
在赵闻飙看来，要对抗“智能化”的风险，就需要“智能化”的手段，这也是“可信AI”技术进入快速发展阶段的核心驱动力。可信AI技术要求人工智能技术应当具备可解释性，以帮助人类理解和信赖他们的决策；具备鲁棒性（robustness），以抵御黑产的攻击，以保障计算和决策的稳定性和效能；具备隐私保护的能力，以满足社会和民众对于个人数据资产保护的需求；具备公平性，强调决策结果的公平性，同时关注技术背后的社会责任和治理。
“数字时代，安全是AI与AI的博弈，而可信AI，则是抵御风险的关键能力。”
面向可信AI技术的下一代风控体系“IMAGE”
据了解，蚂蚁集团自2015年起投入可信AI技术的研究。2016年，全面启动了人工智能风控防御。目前，可信AI技术已在包括反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着其全风险域的防御需求。根据今年6月全球专利权威机构IPR Daily发布的报告，蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利，并上线署了以“IMAGE”命名的下一代风控体系。它包含着“交互式风控”、“多方安全风控”、“智能决策”、“全图风控”、“端云协同风控”组成分。
赵闻飙表示，“全图风控”技术能够以“图”的形态，聚合“动态发展变化的风险信息”，解决了传统风控中只能依靠单一或静态信息维度风险的困境，实现对风险变化趋势的预测，提前遏制风险的发生。在反电诈等风控场景，对于打击团伙型、多链路作案，具有重要意义。而“全图式”的风险分析和形式，也对人工智能的“可解释性”发展提供了更广泛的空间。
而“多方安全风控”和“端云协同风控”则是“智能化”趋势下，实现风控与隐私保护平衡发展的实践探索。“多方安全风控”实现了在数据不交换的前提下，多企业、多平台之间的联合风控协作。“端云协同风控”的价值则是保障数据的使用和保有权真正属于用户。通过将风控模型署在智能终端，如手机上，蚂蚁的技术团队建立起了一套“终端进行数据计算和决策、云端仅获取决策结果”的风控模式。终端计算，意味着敏感信息被保留在用户手中，规避了信息传输过程中可能出现的被攻击风险。云端仅获取决策，不仅保障了安全防御和风险控制不受影响，还节约了云端的计算资源。目前，“端云协同风控”已经被广泛用于支付宝的日常风控中，在去年的双十一期间，98%的风控决策都是在用户智能终端上完成的。
赵闻飙在分享中强调，传统风控受制于技术成本、数据规模和算法效能，许多场景还是专家经验驱动，而不是数据智能驱动。“支付宝每天有数亿笔交易，面对如此庞的计算量，一旦决策产生延迟，就给了黑产可乘之机。” 通过人工智能与金融风控的深度融合，蚂蚁安全实验室打造了能够实现“智能决策”的AI脑——AlphaRisk。其能够在零人工干预的全自动模式下，对风险进行毫秒级的响应。但更重要的是——AlphaRisk具备的自学、自适应的能力，将极地提升人工智能的抗打击能力。AI脑通过对每一次黑产攻击行为的学和研究，不断提升防御手段，进行高效的自我进化。
在技术快速发展的同时，可信AI的公平性也考验着研究者对社会责任的坚守。赵闻飙提到，早在2016年，蚂蚁就了针对电信网络诈骗的技术研究小组，借助包括“图神经网络”“博弈攻防”在内的一系列创新技术应用，极地遏制了平台电诈发生率。但许多骗子引导受害人转而使用其他的支付渠道，社会欺诈问题仍旧严峻。如何依靠技术力量，真正将诈骗罪案止步于支付环节，成为研究的重点，“交互式风控”也因此应运而生。
贝壳财经记者注意到，区别于以往的安全风控模式，交互式主动风控的关键在于“主动”二字——传统的安全往往依赖于已知风险模式，只有风险发生过，才知道如何预防，这也使得安全风控往往处于“被动防守”的态势。
对此，赵闻飙表示，安全必须从静态的被动防守，转变为动态的主动对抗，特别是金融安全。“以交互式风控产品‘叫醒热线’为例，当用户被骗子诱导转账时，AI机器人将向用户发出来电提醒。充分学了欺诈罪案分析的AI机器人，能够捕捉用户交流中的关键信息，采取恰当有效的反诈劝阻话术和措施。为了跟骗子拼速度，目前蚂蚁的反诈骗叫醒热线中，有超9成电话是由AI打出的，叫醒成功率超过了人工客服。除了事中的防护，如果用户深度受骗、执意支付，技术人员还了‘延迟到账’和‘资金截留’的功能，让欺诈者没有办法支取赃款。”
“人工智能技术的快速发展，引领了第四次工业的浪潮。而可信人工智能的研究和落地，则代表了人工智能技术发展的新阶段。在未来，与人类社会深度耦合的人工智能技术，如何在安全、可信、公平的原则下，持续发展和进步？这是每一位从业者和研究者，为推动科技有序、健康发展都不应回避的命题。”赵闻飙表示。
新京报贝壳财经记者 罗亦丹 编辑 李薇佳 校对 王心
