原告代理人援引的“完美”案例竟是AI编造?法院精准识别虚假援引案例
格式具有典型的‘AI编写’特征。”负责审理该案的法官郑吉喆告诉《法治日报》记者,“人工智能语言模型兴起后,通州法院成立了人工智能司法应用案例与理论兴趣小组,研讨之余也会结合工作场景进行测试,其中就包含用AI软件对法律问题进行类案检索,我们之前就发现AI工具时常会提供虚假信息,也有一定的规律性和特征,法官对AI生成的
律师用AI生成虚假案例,裁判观点完美支持其诉请,被法院识穿!他该...
在承办法官的质询下，原告代理律师终于承认，参考案例是他提炼本案的事实情节，然后反复向某AI大模型软件提问，由软件生成的参考案例。北京市通州区人民法院法官 郑吉喆：AI给她生成了这两个案例，她觉得看着跟这个要求是一样的，就忽视了这部分核实的过程，就直接把这个案例复制粘贴整合到了书面意见，就向法院进行了...
“AI幻觉”侵入法庭,多地法院探索治理机制
“AI幻觉”在法律领域已造成多层面冲击,最常见的是生成虚假或错误的案例和法条。 在北京市通州区人民法院审理的一起看似寻常的商事纠纷中,承办法官郑吉喆发现,原告代理律师提交的两个案例的案号所对应的真实案件情况,与其援引内容风马牛不相及。在法官的追问下,原告代理律师终于承认,这些所谓的案例竟是AI工具根据其检...
法治观察:伪造证据虚构法条编造案例,当AI入侵司法,我们该怎么办
然而,该法官查遍法条也未找到,咨询行政庭资深法官后确认,该司法解释纯属AI编造。 不止是缺乏专业法律知识的当事人,就连律师也有中招的时候。今年,北京市通州区人民法院披露,原告代理人为了进一步佐证其观点,在向法庭提交的书面意见中,援引了最高人民法院某案例及上海市第一中级人民法院的(2022)沪01民终12345号案件...
AI生成虚假案例混入司法审判太荒谬,AI好用也不能哪里都用
这两日，一起略显荒谬的AI幻觉事件在法律圈中引发讨论。据北京市高级人民法院发布的消息，近日北京市通州区人民法院在审理一起由股权代持引发的商事纠纷案件中，原告代理人提交给法庭的书面材料里竟然出现了AI生成的虚假案例。根据北京市通州区人民法院对这起案件的介绍，原告代理人为了进一步佐证其观点，在向法庭提交的...
律师频频被AI挖坑,提交虚假司法案例留下职业污点
在美国，多名律师因提交AI生成的虚假案件而被训诫和罚款。最近一起发生在10月中旬：名叫詹姆斯·约翰逊（James Johnson）的律师在提交法庭的文件中，援引了不存在的案例。阿拉巴马州一位联邦法官对其处以5000美元罚款，并责令其向现有和未来的客户披露这一错误。该法官还提到，全美已有数十名律师犯下类似错误。今年9月...
律师用AI「作弊」,被法官抓现行 | 法律先生 - 知乎
不过这次出事的,不是AI「本人」,而是一个太信任AI的律师。 最近,通州法院审理一起股权转让纠纷案。 原告代理人在提交书面意见时,为了论证观点更充分,引用了几份「最高法、上海一中院」的案例作为佐证。 看起来挺专业,还特地列上了案号:(2022)沪01民终12345号。
AI生成虚假判例警示了什么-新华网
AI生成虚假判例警示了什么 AI无中生有,律师竟也“中招”。北京市通州区人民法院近日披露的一起案件,让人啼笑皆非:原告代理人在书面代理意见中援引了两份裁判文书。经核查,这两起所谓的司法案例实为AI杜撰生成。据记者了解,该代理人是一名职业律师。
“完美案例”竟是AI编造!司法公正容不得算法谎言_人民日报
“完美案例”竟是AI编造!司法公正容不得算法谎言 一份书面意见中援引的两起“权威案例”,事实细节与涉案情况高度契合,却在司法审查中露出马脚——据近日《法治日报》报道,日前,北京市通州区人民法院审结的一起股权代持纠纷中,原告代理人为佐证观点而提交的最高法案例及上海一中院相关判例,竟为AI编造的虚假信息。
AI编造“完美”案例,为司法带来虚假信息风险|新京报快评
然而，“完美”案例却是AI编造的。11月12日法治日报报道的北京市通州区人民法院审结的一起案件，揭示了AI虚假信息进入司法程序，给司法公正带来的风险。援引以往裁判中对本方有利的观点，用以说服法官作出有利于本方的判决，这是当事人及其代理人的权利。司法实践中，法官对这方面的陈述也会比较重视。这是因为，...
国内首例!律师用AI编造虚假案例提交法院:法律AI应用要有边界
通过核查发现，所谓的“最高法院案例”根本无对应裁判文书；而（2022）沪01民终12345号案虽真实存在，却是一起与股权代持毫无关联的民间借贷纠纷，案情细节与律师所述完全不符。面对质询，原告律师最终承认：这两份案例是其将本案事实输入某AI软件后，由AI模型直接生成的；因轻信AI输出内容，未进行任何核实便复制粘贴至
“AI幻觉”侵入法庭,多地法院探索治理机制_江苏检察网
在北京市通州区人民法院审理的一起看似寻常的商事纠纷中,承办法官郑吉喆发现,原告代理律师提交的两个案例的案号所对应的真实案件情况,与其援引内容风马牛不相及。在法官的追问下,原告代理律师终于承认,这些所谓的案例竟是AI工具根据其检索生成的。 北京市第二中级人民法院推动落实全员、全面、全程“三全”释法说理机制,...
新华网视评|拿AI编造案例当诉讼依据,荒唐!-新华网
被法官识破后,代理人承认,案例是他提炼案件事实后,反复向AI提问生成的。他未经核实,就直接复制粘贴提交法院。 这样滥用AI,实在荒唐。一旦这类AI生成的虚假信息蒙混过关,被参照适用,司法公信力将受到质疑,法治公平与正义将受到严峻挑战。法官对此严肃批评,指出其行为是“放任AI生成或编造虚假信息扰乱司法秩序”。
律师用AI虚构案例打官司 法官:警惕AI生成虚假案例干扰司法审理
中国青年报客户端北京10月28日电（中青报·中青网记者 刘胤衡）打官司靠的是真凭实据，但有律师动起“高科技”歪脑筋。近日，一名律师在北京市通州区人民法院审理的商事纠纷案中，提交多个案例支持自己的观点。法官经甄别发现，这些案例竟是他利用AI凭空编造的。承办法官在判决书中对这一行为提出批评。本案原告...
AI生成的虚假司法案例大行其道,案件代理人遭法官批评
同年9月，新加坡最高法院、家事法庭、州法院同时发布一份《生成式人工智能工具使用指南》，要求包括案件当事人、代理律师在内的案件相关人员在使用AI时，必须确保生成内容的准确性与真实性、没有创造虚假案例，更不应用此途径来生成或编造证据。若发现有不当使用情况，法庭可以对相关使用者进行惩戒。目前，中国尚无...
以案说法:向法院提交通过AI获取的虚假案例的处理规则_诉讼_杨某...
以案说法:向法院提交通过AI获取的虚假案例的处理规则 陕西浩公律师事务所 民商事研究院 文章/张佳琦 入库案例:(2024)京0112民初19067号 一、主要观点 诉讼参与人在民事诉讼活动中应当遵循诚信原则。诉讼参与人提交通过人工智能技术获取且未经甄别核实的虚假案例的,应当承担相应的法律后果。情节轻微的,人民法院可以对其...
拿AI编造案例当诉讼依据,荒唐!
被法官识破后,代理人承认,案例是他提炼案件事实后,反复向AI提问生成的。他未经核实,就直接复制粘贴提交法院。 这样滥用AI,实在荒唐。一旦这类AI生成的虚假信息蒙混过关,被参照适用,司法公信力将受到质疑,法治公平与正义将受到严峻挑战。法官对此严肃批评,指出其行为是“放任AI生成或编造虚假信息扰乱司法秩序”。
AI生成虛假判例警示了什麼-新華網
AI無中生有,律師竟也“中招”。北京市通州區人民法院近日披露的一起案件,讓人啼笑皆非:原告代理人在書面代理意見中援引了兩份裁判文書。經核查,這兩起所謂的司法案例實為AI杜撰生成。據記者了解,該代理人是一名職業律師。 這可不是個例。用過生成式AI的人,多少都領教過它那套功力:儘管回答往往條...
太荒唐!澳大利亚律师用AI生成辩护材料
主审法官詹姆斯·埃利奥特（James Elliott）批评称，律师提交文件的准确性是司法公正的根本，不应依赖未经核实的人工智能生成内容。他强调，除非经过独立且彻底的核查，否则AI生成的材料不能用于法庭。事实上，维多利亚州最高法院去年已发布律师使用人工智能的相关指引。2023年，美国也出现类似案例。一名联邦法官曾因律师使用...