近日，人工智能领域第一批科技伦理审查机构登记证书颁发仪式在湖南举行，湖南省科技厅厅长朱皖为6家获人工智能科技伦理审查机构登记备案的企业颁发证书，“智慧眼”获批在列。

科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范。随着人工智能赋能的日益广泛，人工智能所带来的隐私泄漏、偏见歧视、责权归属、技术滥用等伦理问题也在不断扩大，给社会治理带来全新挑战，迫切需要建立健全科技伦理治理体系。

朱皖厅长表示，希望首批获登记备案的机构充分发挥示范带动作用，在推动全省人工智能伦理治理，促进创新和伦理治理相统一上立好标、打好样，为加快培育发展新质生产力增添新动能。

在生成式人工智能的产业浪潮下，如何让科技更“向善”，坚守伦理道德边界是每个科技企业都需要承担的社会责任。智慧眼作为一家领先的医疗人工智能企业，既要做好科技创新的攻坚者，也要做好技术向善的守门人，目前公司已初步建立起人工智能伦理治理体系，力求实现从理论到实践、从研发到产品的全生命周期的多维度闭环，构建一个负责任的AI生态系统。

智慧眼人工智能科技伦理审查委员会负责人表示：“智慧眼专门设立AI技术委员会，关注领域包括但不限于AI大模型、自然语言处理(NLP)、深度学习训练和推理等。此外，在相关规范中也加强数据安全、模型透明度、算法可解释性和用户隐私等关键等方面的技术研究，我们将坚守安全合规原则，确保应用和服务在最大程度上减少歧视、偏见，以促进人工智能健康高质量发展。‘’

在“AI+医疗”领域，智慧眼砭石大模型伦理方面做了重点考量，一方面，采用知识图谱与大模型相结合的技术路线，通过在训练过程中加入知识图谱对训练过程进行知识增强，结合RLHF技术，在500亿参数条件下比单纯使用大模型技术，医学问题回答准确度提升近40%。另一方面，隐私计算条件下的大模型联邦训练，保证了数据的多样化和高质量，充分释放数据要素价值，真正做到数据的“可用不可见”、“数据不出域”。此外，砭石医疗大模型能够支持医疗领域多模态的输入，包括医疗领域文本、图像、视频和音频形式，可以有机整合不同的信息，相比单模态信息更加全面，让AI充分施展拳脚，方便医药机构使用。

关于未来在伦理问题的治理路径，智慧眼人工智能科技伦理审查委员会将重点着手风险能力建设和技术能力建设。风险能力建设，包括建设算法评估、风险检测、干预机制的全生命周期风险管理流程，以及技术安全性、鲁棒性、公平性、可解释与可干预性等科技伦理审查和治理工具。技术能力建设，包括增加在隐私保护、安全可靠、可信可控等关键方向前沿技术的布局和探索。

智慧眼希望通过技术创新与治理创新，构建负责任、可信赖的大模型发展生态，进一步推动大模型在各个领域、行业的深度应用，使其真正造福社会。