9月15日上午，“2025年国家网络安全宣传周湖南地区活动“在湘江新区城市馆举行，省人民政府副省长曹志强出席，省委宣传部副部长(兼)省委网信办主任刘学出席仪式并讲话，长沙市人民政府、湘江新区党工委等单位领导致辞。

本次活动以“网络安全为人民，网络安全靠人民——以高水平安全守护高质量发展”为主题，聚焦产业发展、人才培养、技术创新三大核心领域，来自高校和企业的代表登台分享，为构建清朗网络空间凝聚共识。

智慧眼科技股份有限公司（以下简称“智慧眼”）受邀出席大会，并发表了题为《AI大模型的发展与安全》的主题演讲，分享了其在AI大模型安全治理方面的前沿思考与实践成果，引发广泛关注。

AI大模型技术正在深刻改变千行百业，为创新与降本增效带来巨大潜力。然而，随之而来的数据隐私、模型偏见、“幻觉”生成及恶意滥用等安全风险，也成为制约产业健康发展的重要挑战。

智慧眼负责人在演讲中强调：“安全是AI大模型高质量发展的基石，没有安全可控的AI，其发展将是不可持续的。”这一观点获得现场高度认同。

演讲系统剖析了AI大模型面临的内生与外生安全风险，包括数据投毒、模型窃取、提示词注入、生成偏见及模型不可解释性等。面对这些挑战，智慧眼提出“负责任AI”治理框架，将安全理念嵌入模型“数据准备-训练调优-部署应用-监控运维”的全流程。

在数据层面，公司采用隐私计算、联邦学习等技术，实现“数据可用不可见”，从源头保障个人信息安全。在模型层面，通过强化人类反馈（RLHF）和对抗训练提升模型对齐能力与鲁棒性，减少偏见与“幻觉”。在应用层面，构建了包含内容过滤、输出审核、数字水印和权限管理的多重防护机制，确保生成内容安全可靠。在监管层面，建立持续监测预警与应急响应机制，实现模型风险的动态感知与快速处置。

智慧眼不仅是首批通过ISO/IEC 27701:2019隐私信息管理体系认证的AI企业之一，也是首批加入中国信通院“可信人脸识别守护计划”的成员；同时，获批成为人工智能领域首批科技伦理审查机构及中国可信数据空间发展联盟成员单位。

智慧眼呼吁，应对大模型安全需政府、行业、企业及社会各方协同共治，共同推动技术标准、伦理规范与政策法规的健全，构建健康、可持续的AI生态。企业应承担“第一道防线”责任，行业应形成协作联盟，共建安全标准与风险信息共享平台，营造“技术向善”的文化氛围。

未来，智慧眼将继续秉持“科技向善”原则，坚持创新与治理并重，为客户提供更安全、可靠、透明的人工智能产品与服务，与各界携手助推AI大模型行稳致远，为网络强国和数字中国建设贡献力量。