中国 AI 伦理新规即将发布

2025-08-27 15:25

人工智能

详细内容

近日,工信部等部门发布《人工智能科技伦理管理服务办法(试行)》公开征求意见稿,拟进一步推动 AI 技术的治理工作。


该办法是《关于加强科技伦理治理的意见》、《科技伦理审查办法(试行)》等文件在 AI 领域的细化和落实,在编制过程中充分听取了企业、高校、研究机构的意见,顺应 AI 发展趋势和伦理治理需求,并参考国内外 AI 科技伦理治理经验,接轨国际、符合国情。


该文件明确了 AI 科技活动的伦理要求,强化标准建设、中小微企业服务等支持措施,帮助企业切实提升科技伦理风险防范能力,鼓励负责任创新,助力企业更快更稳融入全球市场,推动 AI 产业创新发展和赋能应用。


该办法明确的核心伦理原则是:开展 AI 科技活动应将科技伦理要求贯穿全过程,遵循增进人类福祉、尊重生命权利、尊重知识产权、坚持公平公正、合理控制风险、保持公开透明、确保可控可信、强化责任担当的 AI 科技伦理原则,遵守我国宪法、法律法规和有关规定。


AI 伦理合规,已经成为一个新的课题。


事实上,AI 在各行各业应用已经产生了很大的伦理道德挑战,在法律行业尤为典型。


生成式 AI 的出现让很多任务比仅靠人类手动操作更容易完成,法律行业也不例外。目前,许多法律专业人士已经将 AI 整合到日常工作中,并受益于服务效率和质量的提高。


但是,法律人仍然需要遵守职业道德义务,对 AI 生成的内容承担最终责任


自 2023 年 6 月,一名纽约律师向法院提交 AI 生成的虚假案例以来,截至目前全球法律行业已发生超过 300 起 AI 幻觉案例,其中一半是律师提交的,这直接违反了职业伦理,将面临纪律处分或职业责任诉讼


AI 幻觉、偏见和数据泄露等问题,严重影响了法律生态系统正常运营的秩序。AI 应用的伦理道德问题,已经成为一个巨大的挑战。


随着 AI 技术在法律行业迅速渗透,全球各地的律师协会和法院纷纷组建“AI 特别工作组”、发布指导文件,旨在规范在法律实践中使用 AI 的行为,确保法律人在享受技术带来便利的同时,能够遵守职业道德义务。


据不完全统计,全球各地已经有超过 200 家律师协会和法院,推出了关于 AI 在法律行业应用的指南、政策、指令、规则(含拟议),要求律师在使用 AI 时遵守保密、职业素养、沟通与坦诚、监督、广告与费用等义务。


对于法律人如何拥抱 AI,全球各地的律协和法院提出了以下建议:


1. 主动学习

主动学习是法律人拥抱 AI 的基础。

只有深入了解 AI 的工作原理、优点与不足,我们才能在实践中合理运用 AI 工具,避免因对技术的无知而导致的风险出现,如盲目相信 AI 生成的不准确内容。通过学习,法律从业者将能够更好地将 AI 技术与自身专业知识相结合,提升工作效率和服务质量。当下,AI 技术更新迭代迅速,法律人只有不断补充相关知识,才能准确把握技术的发展方向。

同时,法律从业者也有义务对不断发展的技术(包括 AI)保持充分了解。具体来说,法律人可以参加专业培训、研讨会,或者向了解 AI 用途以及局限性的专业人士(如 IT 专家)寻求帮助,持续学习 AI 在法律领域落地应用的知识,了解不同工具的功能特点,结合自身需求选择适配的工具,同时学习借鉴其他同行的成功经验,快速掌握工具的使用方法。


2. 建立内部规范与协作机制

建立内部规范与协作机制,可以让组织内部的 AI 应用更加有序。明确的职责划分可以避免责任真空,团队协作与反馈则能促进 AI 工具与业务深度融合,最大化发挥技术的价值。

例如,在引入 AI 工具前,律所可以组织律师和技术人员等进行多方面评估,分析工具可能带来的收益与风险。在使用过程中,定期收集反馈,根据实际情况调整 AI 工具的使用流程和规范,让工具能更好地服务于业务开展。


同时,律所还可以在内部建立 AI 使用规范,明确不同岗位人员在 AI 应用过程中的权限和职责,比如律师助理可以使用 AI 辅助工作,而律师需要负责最终审核。此外,还可以鼓励团队分享 AI 使用经验,这样有助于形成良好的协作氛围,提升律所整体的 AI 应用水平。


3. 注重风险防控与合规应用

风险防控与合规应用,安全使用 AI 的保障。AI 技术带来了便利,也伴随着诸多潜在风险(如幻觉、数据泄露等),只有提前做好风险评估和合规审查,才能在享受 AI 技术红利的同时,避免陷入法律或职业道德纠纷。

对此,法律从业者应该建立风险评估机制,对使用 AI 技术可能导致的信息泄露、输出错误等风险进行预判,并制定相关应对措施。

例如,律师在使用 AI 工具处理敏感案件信息前,需要对工具的安全性进行全面检测,审查工具的使用条款,确保符合保密要求,并明确双方在数据安全保护、责任承担等方面的权利义务,避免选择缺乏足够保密性和安全性的 AI 工具,以降低潜在风险。同时,不得输入客户的任何机密信息,必须匿名化处理。


4. 以客户利益为导向优化服务

以客户利益为导向是律师行业的核心原则,在使用 AI 方面也应围绕这一原则展开。

具体来说,律师可以通过 AI 技术提升服务的速度和质量,结合客户的实际需求调整和优化自身服务模式,这样不仅可以更好地满足客户需求,也能增强律师自身的市场竞争力,实现技术应用与业务发展的良性循环。

例如,对于注重成本控制的客户,律师可考虑通过 AI 优化工作流程以降低服务费用;对于追求高效解决问题的客户,律师可以利用 AI 快速响应客户咨询、加快案件处理进度,实现个性化服务;对于追求服务质量的客户,律师还可以借助 AI 对案件进行多维度分析,从而为客户提供更全面的解决方案。

同时,律师还可以考虑将 AI 的使用情况如实告知客户,让客户直观感受到技术带来的服务升级,增强对律师工作的满意度。


总的来看,监管机构针对 AI 在法律行业应用发布的指导文件,从保密、职业素养、沟通与坦诚、监督、律师广告与费用等多个方面进行了规范。这些规定虽然存在一定差异,但总体目标一致,即确保法律从业者在使用 AI 技术的同时,也要遵守职业道德,保护客户权益,维护法律行业的公正与诚信。


然而,AI 的飞速发展也对监管带来了挑战,现有的监管框架可能很快过时,需要适应 AI 的发展而不断优化,法律专业人士、技术专家和监管机构之间的对话与合作,至关重要。


来源:法律修音机

评论列表(0)
暂无提问

发表提问 取消回复