行稳致远丨智慧眼可信AI探索实践

2022-05-30   

人工智能应用的广度和深度不断拓展,成为了数字经济发展的重要驱动力量,但在此过程中,也暴露出一些风险隐患,主要体现在数据滥用导致隐私泄露风险、黑箱模型导致算法不透明、算法安全导致的应用风险等方面。

1.png

可信AI嵌入研发流程

数据与算法模型是人工智能系统防御能力提升的两个重要方向。数字化时代,人工智能的发展需要大量的数据来训练,而数据的流转过程涉及到用户的隐私保护,因此,建立完善的数据管理机制至关重要。

2.png

智慧眼全方位融合了多方安全计算(MPC)、联邦学习(FL)、可信执行环境(TEE)等多种技术,利用区块链、可信计算技术,打造数据安全可信共享的基础设施,通过透明可信分布式架构,端到端的应用闭环,在保证数据安全和隐私保护的前提下,实现多参与方数据可信共享、协同计算,实现数据的“可用不可见”。

在算法模型防御方面,智慧眼引入了鲁棒性评测、对抗测评、对抗训练、模型加密等技术,帮助客户提升模型的安全性。其中运用对抗攻击的训练方法能提高模型鲁棒性,也就是它在异常和危险情况下系统生存的能力,极大地解决假样本的攻击。

通过对抗学习攻击方案,并基于样本本身的多样性,不断提升样本的迁移能力,以此来考察业务当中数据链路层安全,增强抗打击能力,从而带来业务效果的提升。在产品的运营使用阶段,智慧眼持续开展人工智能风险监测,建立用户反馈渠道,及时收集用户的真实意见,并对整个系统进行优化和迭代,对实际使用过程中的各种风险,不断监督完善。

积极参与可信生态建设

打造可信的人工智能体系已经成为行业的焦点和努力的方向,智慧眼在做好企业自身个人信息和隐私保护工作的同时,也积极参与各项重要行业工作,促进和引导行业共同进步和良性发展。

3.png

2021年,中国信息通信研究院云计算与大数据研究所倡议发起的“可信人脸识别守护计划”第一批成员单位诞生,智慧眼成功通过审核。智慧眼作为中国信通院首批“护脸计划”成员单位,自“护脸计划”启动以来,积极参与相关标准建设和实践工作,深受相关行业部门认可,有效支撑了产业各层面开展人脸身份核验安全、合规工作。

ISO/IEC 27701:2019是全球首个隐私管理体系标准,也是目前国内外业界公认最具权威性、被广泛接受并应用的隐私信息管理体系,智慧眼是国内率先通过该认证的人工智能企业。

同时,智慧眼在软件开发、集成、系统运维等方面均获得了信息系统安全等级保护证书,作为中国权威的信息产品安全等级资格认证,智慧眼在信息安全、风险控制和系统整体化建设方面获得了权威认可,也再次印证了智慧眼一直以来为客户提供安全、可靠的信息安全环境的决心。

此外,智慧眼是国际FIDO联盟成员单位,并全面参与国家信标委和各行业人工智能、大数据、生物特征识别、行为识别、区块链和行业顶层设计等方面的标准制定,在提高安全性、保护隐私及简化用户体验方面,为其提供技术支持,积极推动AI治理和可持续发展。

以人为本,技术向善。智慧眼将持续聚焦可信人工智能技术、产业和行业实践,提供安全可信的行业智能化解决方案,让更多用户能够享受安心、可信的AI服务,并将与业内共建技术、社会、文化、价值融合共生的健康有序发展生态。


上一篇:暖心如春,贴心服务 I 智慧眼助力春城打造退休人员社会化管理服务新模式 下一篇:聚焦医疗场景,AI监管“三板斧”

邮箱: marketing@a-eye.cn    电话: 0731-89870153 服务电话:400-900-4889
地址:北京市东城区交道口东大街101号2层207
长沙市高新开发区尖山路39号中电软件园14栋
广东省深圳市龙华区清湖恒博创新科技产业园3楼307室

湘ICP备20003263号-1

地址:北京市东城区交道口东大街101号2层207
长沙市高新开发区尖山路39号中电软件园14栋
广东省深圳市龙华区清湖恒博创新科技产业园3楼307室

湘ICP备20003263号-1

电话: 0731-89870153 服务电话:400-900-4889

邮箱: marketing@a-eye.cn

地址:北京市东城区交道口东大街101号2层207
长沙市高新开发区尖山路39号中电软件园14栋
广东省深圳市龙华区清湖恒博创新科技产业园3楼307室

湘ICP备20003263号-1