人工智能应用的广度和深度不断拓展，成为了数字经济发展的重要驱动力量，但在此过程中，也暴露出一些风险隐患，主要体现在数据滥用导致隐私泄露风险、黑箱模型导致算法不透明、算法安全导致的应用风险等方面。

可信AI嵌入研发流程

数据与算法模型是人工智能系统防御能力提升的两个重要方向。数字化时代，人工智能的发展需要大量的数据来训练，而数据的流转过程涉及到用户的隐私保护，因此，建立完善的数据管理机制至关重要。

智慧眼全方位融合了多方安全计算（MPC）、联邦学习（FL）、可信执行环境（TEE）等多种技术，利用区块链、可信计算技术，打造数据安全可信共享的基础设施，通过透明可信分布式架构，端到端的应用闭环，在保证数据安全和隐私保护的前提下，实现多参与方数据可信共享、协同计算，实现数据的“可用不可见”。

在算法模型防御方面，智慧眼引入了鲁棒性评测、对抗测评、对抗训练、模型加密等技术，帮助客户提升模型的安全性。其中运用对抗攻击的训练方法能提高模型鲁棒性，也就是它在异常和危险情况下系统生存的能力，极大地解决假样本的攻击。

通过对抗学习攻击方案，并基于样本本身的多样性，不断提升样本的迁移能力，以此来考察业务当中数据链路层安全，增强抗打击能力，从而带来业务效果的提升。在产品的运营使用阶段，智慧眼持续开展人工智能风险监测，建立用户反馈渠道，及时收集用户的真实意见，并对整个系统进行优化和迭代，对实际使用过程中的各种风险，不断监督完善。

积极参与可信生态建设

打造可信的人工智能体系已经成为行业的焦点和努力的方向，智慧眼在做好企业自身个人信息和隐私保护工作的同时，也积极参与各项重要行业工作，促进和引导行业共同进步和良性发展。

2021年，中国信息通信研究院云计算与大数据研究所倡议发起的“可信人脸识别守护计划”第一批成员单位诞生，智慧眼成功通过审核。智慧眼作为中国信通院首批“护脸计划”成员单位，自“护脸计划”启动以来，积极参与相关标准建设和实践工作，深受相关行业部门认可，有效支撑了产业各层面开展人脸身份核验安全、合规工作。

ISO/IEC 27701:2019是全球首个隐私管理体系标准，也是目前国内外业界公认最具权威性、被广泛接受并应用的隐私信息管理体系，智慧眼是国内率先通过该认证的人工智能企业。

同时，智慧眼在软件开发、集成、系统运维等方面均获得了信息系统安全等级保护证书，作为中国权威的信息产品安全等级资格认证，智慧眼在信息安全、风险控制和系统整体化建设方面获得了权威认可，也再次印证了智慧眼一直以来为客户提供安全、可靠的信息安全环境的决心。

此外，智慧眼是国际FIDO联盟成员单位，并全面参与国家信标委和各行业人工智能、大数据、生物特征识别、行为识别、区块链和行业顶层设计等方面的标准制定，在提高安全性、保护隐私及简化用户体验方面，为其提供技术支持，积极推动AI治理和可持续发展。

以人为本，技术向善。智慧眼将持续聚焦可信人工智能技术、产业和行业实践，提供安全可信的行业智能化解决方案，让更多用户能够享受安心、可信的AI服务，并将与业内共建技术、社会、文化、价值融合共生的健康有序发展生态。