用AI要小心以下五件事

法律方法论 · AI工具使用边界

用AI要小心以下五件事

——谈普通用户使用大语言模型时最该警惕的地方

大语言模型能够帮助人迅速进入陌生领域,补齐知识短板、拓展认知边界,但法律问题的风险,恰恰在于很多看似简单的词,一旦进入具体法律关系、具体诉讼程序和具体犯罪构成,就不再是日常语言,而是具有严格适用条件、证明路径和裁判后果的技术性概念。

导语

这段时间,和不少朋友交流时,我越来越强烈地感受到一个现象:很多人已经习惯于用大语言模型去补知识、找概念、查思路。这本身当然是好事。它确实能帮助人迅速进入一个陌生领域,也能让许多原本晦涩的专业问题先变得“看得懂”。但在法律领域,真正值得警惕的,不是模型偶尔说错几个常识,而是它可能把“看起来像法律的话”说得很顺,却没有真正落到法律判断所需要的法源、事实、证据和程序位置上。

本文要点
  1. 不要把大语言模型当成“法律结论生成器”
  2. 所有法律术语都必须放回具体语境中理解
  3. 要区分法条术语、司法解释术语、学理术语和实务俗称
  4. 涉及案件材料和客户信息时,必须坚持脱敏与最小化输入
  5. 凡是准备对外使用的内容,都必须经过法源复核

一、法律中的“普通词”,实际意义往往并不普通

很多人之所以会在使用大语言模型时产生误判,一个重要原因就在于:法律中的很多词,表面上都很简单,甚至日常生活中人人都会说,可一旦进入具体法律关系、具体诉讼程序、具体罪名构成,它们就不再是普通语言,而是带有严格技术含义的法律概念。

比如民事诉讼中的“举证责任”,并不等于“谁有理谁解释清楚”,更不等于“谁先开口谁负责证明到底”。它真正对应的,是谁对哪些待证事实承担证明义务,在证据不足的情况下,最终由谁承受不利后果。再比如刑事案件中的“明知”,也绝不是一句“你应该知道”就能解决的问题。它常常需要放到具体罪名、具体行为方式、客观情节、资金流向、交易习惯乃至供述辩解中综合判断。

正因为如此,法律风险很多时候并不来自明显的错误,而是来自一种更隐蔽的偏差:一个词听起来对,解释得也很顺,但它所依附的法律语境已经悄悄变了。对普通人来说,这会造成误解;对律师来说,这种误解一旦进入咨询、谈案、写作甚至具体案件判断,就可能直接影响思路和结果。

需要特别警惕的一点
法律问题里最危险的,往往不是“完全说错”,而是“说得差不多对”。因为“差不多”最容易让人放松警惕,进而把模糊的表述误当成可以直接适用的法律判断。

二、不要把它当成“结论生成器”

大语言模型最擅长的,是帮助人开路。它可以帮你整理概念、搭建框架、归纳争点、生成检索思路,也可以把原本零散、难读的内容先梳理成一个可以进入思考的轮廓。对于刚接触某一领域的人来说,这种能力非常有价值。

但问题在于,它并不天然具备替人作出最终法律判断的能力。因为法律判断从来不是孤立地解释几个词,而是要结合事实是否完整、证据是否可靠、争点如何归纳、程序走到哪一步、适用的是哪一层规范。离开这些前提,它给出的很多“结论”,实质上只是语言层面的推演,而不是法律层面的判断。

所以,正确的使用方式应当是:把它当作研究助手,而不是把它当作结论机器。让它帮你铺路、帮你拆解、帮你提示风险点,这是有效率的;直接让它替你回答“这个案子到底是不是这样”“这个行为到底能不能定”,则很容易把复杂问题过度简化。

三、所有法律术语,都必须放回具体语境里理解

法律术语一旦脱离具体语境,就很容易失真。真正有用的问题,不是“什么叫举证责任”“什么叫明知”,而是“在什么类型的案件里,这个概念具体起什么作用”“它是在哪一个程序阶段发挥作用”“它对应的证明标准和认定路径到底是什么”。

同一个词,在不同部门法中,含义可能不同;在同一部门法下,不同案件类型中,功能也可能不同。你只问一个抽象定义,模型就很容易给出一个“听起来没问题”的概括;但一旦把概念放回到具体案由、具体罪名、具体程序阶段中,它的含义往往会变得细致而复杂。

因此,使用大语言模型时,一个很重要的习惯,就是不要满足于“词义解释”,而要继续追问:这个词放在本案里,到底是实体法问题、程序法问题,还是证明法问题?它到底是在帮助确定责任归属,还是在帮助判断事实成立?这个追问过程,恰恰决定了你最后得到的是泛泛之谈,还是对办案真正有用的东西。

四、要分清法条术语、司法解释术语、学理术语和实务俗称

法律交流中,很多词大家都在用,但这些词未必处于同一个层级。有的来自法律条文,有的来自司法解释,有的属于学理分析,有的只是长期实务交流中形成的方便说法。平时说话时大家可能不会刻意区分,但在正式法律判断中,这种区分非常重要。

大语言模型最容易出现的问题之一,就是把不同层级的话揉在一起。它可能把学理上的归纳说成现行法标准,把个别裁判思路说成普遍规则,把某类案件中的经验判断推广到所有案件中。读起来很顺,逻辑似乎也完整,但层级一旦乱了,后面的分析就会跟着偏。

对律师来说,这一点尤其关键。因为律师的工作,不只是表达“差不多合理”的看法,而是要能够说清楚:这句话到底站在哪一个规范层级上,它是观点、解释、经验总结,还是可以直接援引的依据。层级一旦模糊,论证就很难真正扎实。

五、涉及案件材料和客户信息时,默认先脱敏、再输入

在法律工作场景中,效率从来不能脱离保密义务去谈。案卷材料、客户陈述、病历、银行流水、企业内部资料、聊天记录,这些内容一旦进入外部工具,就不仅仅是“能不能分析”的问题,更是“能不能这样处理”的问题。

所以,更稳妥的做法永远是:先抽象问题,再输入事实;先脱敏,再讨论;先让工具协助你形成研究框架,再由人回到原始材料中逐项核查。不要把完整身份信息、完整账户信息、完整病历、完整案卷原文直接丢进工具里,更不要把尚未公开的企业经营数据、交易资料或客户隐私材料不加处理地输入外部系统。

这不只是技术习惯问题,更是职业底线问题。对于律师而言,保密义务始终是基本要求;对于普通用户而言,涉及个人信息和敏感资料时,也必须有最起码的风险意识。很多时候,真正负责的做法,并不是“什么都不问”,而是“先处理,再去问”。

六、凡是准备对外使用的内容,都必须认真核实来源

这一点,我认为是最重要的。法律问题里最怕的,不是不会说,而是“说得太像”。一段文字只要语气稳、结构顺、术语齐全,就很容易给人一种“已经可以拿去用”的错觉。可真正能够进入法律咨询、法律文书、办案沟通和公开表达的内容,绝不能停留在“看起来像对”这个层面。

凡是准备对外使用的内容,都应当至少经过三个步骤:先核法条,再核司法解释或规范性文件,最后再看是否与具体案情和程序位置真正契合。这个过程不能省。因为模型可以帮助你更快找到方向,但无法替你承担专业责任。真正对外负责的,始终是使用它的人。

也正因为如此,越是复杂、越是关键、越是可能影响当事人重大权益的问题,越不能把“模型说得挺有道理”当成落点。法律工作的可靠性,最终不是建立在表达是否顺畅上,而是建立在依据是否准确、判断是否审慎、论证是否经得起检验上。

归纳起来,就是一句话
大语言模型可以帮助人更快地接近法律问题,但不能代替人完成法律判断。它可以帮我们理解概念、搭建框架、提示风险,却不能代替我们把一个词准确地放回法源、事实、证据和程序的位置上。

结语

我并不反对大家使用大语言模型,相反,我认为它对于学习、研究和工作效率的提升,已经是一个非常现实的变化。问题从来不在于“能不能用”,而在于“怎么用,才不至于把方便变成风险”。

对普通用户而言,要避免把模型输出误当成最终法律意见;对律师而言,更要避免把“语言上的相似”误当成“法律上的成立”。越是看起来简单的词,越可能藏着复杂的法律后果。越是在这些地方,越需要慢下来,问得更具体一些,看得更深一层,核得更扎实一点。

说到底,工具可以帮助我们更快进入一个陌生领域,但真正决定法律工作质量的,始终不是几个漂亮的术语,而是判断是否准确、边界是否清楚、依据是否扎实。把词说对,只是开始;把法律说对,才是真正的功夫。

作者说明

本文旨在讨论大语言模型在法律学习和法律工作中的使用边界,重点提示术语理解、法源复核、信息保护和专业判断等方面的注意事项。

如涉及具体案件、具体证据审查或个案法律策略,仍应结合完整材料进行专业分析,避免将一般性讨论直接替代个案法律意见。

👨‍⚖️

张建华律师

司法实务经验:20年
专业领域:刑事辩护、刑事控告、反舞弊调查、商业秘密保护

本文仅供法律知识普及,不构成法律意见。如需专业法律服务,请联系张建华律师

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注