法治在線丨律師用AI生成虛假案例被法院發(fā)現(xiàn) 將承擔(dān)何種責(zé)任

　　大家有沒(méi)有這樣的經(jīng)歷，當(dāng)你向人工智能模型提問(wèn)的時(shí)候，有時(shí)會(huì)生成一些看似合理連貫，但實(shí)際上是錯(cuò)誤捏造的內(nèi)容。這一現(xiàn)象也被稱為AI幻覺(jué)，說(shuō)白了就是虛構(gòu)事實(shí)，無(wú)中生有。但是這種AI幻覺(jué)生成的內(nèi)容，如果用到法庭上，它的后果可難以想象。北京市通州區(qū)人民法院的法官，在審理一起民事糾紛的案件時(shí)，就遇到了這樣的陷阱。

　　“AI幻覺(jué)”干擾司法秩序

　　這是一起由代持股引發(fā)的民事糾紛案件，由于原告的訴訟請(qǐng)求在司法審判中并不常見(jiàn)，因此法官鄭吉喆提出，原告律師可以在庭審后，提交補(bǔ)充代理意見(jiàn)。

　　北京市通州區(qū)人民法院法官 鄭吉喆：我們也是出于慎重，因?yàn)楫吘惯@個(gè)訴求不是一個(gè)很常見(jiàn)的訴求，我們當(dāng)時(shí)也提到說(shuō)你對(duì)這部分的訴訟請(qǐng)求，你們回去可以向法院提交書面的補(bǔ)充的意見(jiàn)以及相應(yīng)的這種案例，這樣的話供法院裁判時(shí)參考。

　　很快，法官收到了原告代理律師郵寄過(guò)來(lái)的代理意見(jiàn)，意見(jiàn)書里還附帶名為最高人民法院與上海一中院的兩個(gè)參考案例。

　　北京市通州區(qū)人民法院法官 鄭吉喆：當(dāng)時(shí)法官助理先做了一個(gè)審核，還是挺震驚的，跟我們這個(gè)案子好像描述的觀點(diǎn)，包括描述的內(nèi)容、情形都特別像，完美地還原這個(gè)案例目前的事實(shí)情況，裁判觀點(diǎn)是完美支持了他的訴請(qǐng)。

　　那么原告代理律師提交的這份書面代理意見(jiàn)，以及參考案例，在案件的審判中，會(huì)產(chǎn)生什么樣的影響呢？

　　北京市通州區(qū)人民法院法官 鄭吉喆：對(duì)于不太常見(jiàn)的這種訴求，我們也希望律師能夠提供相應(yīng)的判例，如果確實(shí)說(shuō)有道理，那么我們?cè)撘婪ㄖС?，就?yīng)該依法支持。這也是在一個(gè)轄區(qū)之內(nèi)，那么統(tǒng)一裁判尺度的必要的一個(gè)手段。

　　兩個(gè)參考案例的事實(shí)細(xì)節(jié)、法律爭(zhēng)議與裁判邏輯，與審理中的案件高度契合，完美佐證了原告代理人的主張觀點(diǎn)，初看之下極具參考價(jià)值。但很快，法官發(fā)現(xiàn)了案例中一些不尋常的地方。

　　北京市通州區(qū)人民法院法官 鄭吉喆：我看到感覺(jué)是這個(gè)案子是AI生成的，這個(gè)格式像早年的AI生成的，左邊都帶一個(gè)實(shí)心點(diǎn)，包括當(dāng)事人的這種模糊性。

　　參考案例格式異常

　　AI生成特征被識(shí)穿

　　參考案例格式異常，這引起了法官的注意。出于職業(yè)敏感，法官對(duì)這兩起案件進(jìn)行查詢，發(fā)現(xiàn)兩起案件雖然存在，但真實(shí)的裁判文書與原告代理律師提交的內(nèi)容，完全不同。

　　北京市通州區(qū)人民法院法官 鄭吉喆：特別是當(dāng)時(shí)她援引了上海一中院的2022滬01民終12345號(hào)，這是一個(gè)民間借貸的案件，這個(gè)跟現(xiàn)在原告代理人向我們提交的股權(quán)代持是一點(diǎn)關(guān)系都沒(méi)有，可以說(shuō)叫風(fēng)馬牛不相及。

　　AI生成虛假案例

　　律師未經(jīng)核實(shí)就提交

　　在承辦法官的質(zhì)詢下，原告代理律師終于承認(rèn)，參考案例是他提煉本案的事實(shí)情節(jié)，然后反復(fù)向某AI大模型軟件提問(wèn)，由軟件生成的參考案例。

　　北京市通州區(qū)人民法院法官 鄭吉喆：AI給她生成了這兩個(gè)案例，她覺(jué)得看著跟這個(gè)要求是一樣的，就忽視了這部分核實(shí)的過(guò)程，就直接把這個(gè)案例復(fù)制粘貼整合到了書面意見(jiàn)，就向法院進(jìn)行了提交。

　　使用虛假意見(jiàn)材料

　　涉案律師承擔(dān)何種責(zé)任

　　事實(shí)雖已查清，一個(gè)新的問(wèn)題又?jǐn)[在了法官的面前，該如何判定律師的這一行為呢？因?yàn)榇硪庖?jiàn)與訴訟中的證據(jù)，在法律性質(zhì)上，還是有著明顯的區(qū)別。

　　北京市通州區(qū)人民法院法官 鄭吉喆：這個(gè)證據(jù)我們說(shuō)要對(duì)真實(shí)性、合法性、關(guān)聯(lián)性、證明目的來(lái)進(jìn)行審核。像這種書面意見(jiàn)不需要這些，它更多的是通過(guò)梳理之后，有沒(méi)有類似的觀點(diǎn)，有沒(méi)有值得借鑒的，或者更多的是一種審判輔助性的行為，所以應(yīng)該說(shuō)還是有比較大的差別。

　　根據(jù)民事訴訟法的規(guī)定：訴訟參與人偽造、毀滅重要證據(jù)，妨礙人民法院審理案件的，人民法院可以根據(jù)情節(jié)輕重予以罰款、拘留；構(gòu)成犯罪的，依法追究刑事責(zé)任。

　　北京市通州區(qū)人民法院法官 鄭吉喆：民事訴訟法明確規(guī)定是對(duì)于偽造重要證據(jù)的，明顯妨礙民事訴訟行為的，最嚴(yán)重的法院可以處以罰款或者拘留。但是對(duì)于其他的相當(dāng)于意見(jiàn)，特別是這種書面材料，確實(shí)現(xiàn)行法律是沒(méi)有對(duì)這個(gè)問(wèn)題的規(guī)定。

　　考慮到這一行為在法律上沒(méi)有明確的規(guī)定，且律師無(wú)明顯惡意，情節(jié)輕微，沒(méi)有造成嚴(yán)重后果，法院將這一情節(jié)寫進(jìn)了案件的判決書，予以批評(píng)?！跋Ｍ娲砣艘詾榻洌谙蚍ㄔ禾峤粎⒖及咐?、法條時(shí)，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序?！狈ü僖罁?jù)查明的事實(shí)，依法對(duì)案件作出裁判，對(duì)原告的部分請(qǐng)求不予采納。一審判決后，雙方均未提出上訴，判決已經(jīng)生效。

　　使用虛假參考案例

　　浪費(fèi)司法資源

　　AI幻覺(jué)為了契合預(yù)設(shè)結(jié)果，編造法律依據(jù)或案情，這是技術(shù)工具的局限性帶來(lái)的結(jié)果。而部分當(dāng)事人或者法律從業(yè)者，對(duì)AI過(guò)度依賴和盲目信任，反而忽視對(duì)信息真實(shí)性的核驗(yàn)義務(wù)。近一段時(shí)期，AI生成的“證據(jù)”與“案例”入侵法庭，已并非個(gè)例，面對(duì)這一沖擊，除了依靠法官的慧眼，法律和相關(guān)的訴訟主體，也應(yīng)當(dāng)劃定紅線，守護(hù)不容模糊的法律邊界。

　　使用虛假參考案例

　　浪費(fèi)司法資源

　　在通州法院的這起案例中，律師為滿足自身訴求，反復(fù)向AI提問(wèn)，最終生成虛假參考案例。有專家認(rèn)為，這樣的行為，不僅違反了律師的職業(yè)準(zhǔn)則，也浪費(fèi)了司法資源。

　　中國(guó)社會(huì)科學(xué)院法學(xué)研究所研究員 謝鴻飛：對(duì)律師來(lái)說(shuō)他違反了律師職業(yè)的謹(jǐn)慎勤勉的義務(wù)，即便法院最后沒(méi)有參考這樣一個(gè)虛假的案例，但是也確實(shí)浪費(fèi)了司法資源，所以我想就這樣的一種行為，它主要對(duì)司法的一個(gè)公信力以及司法資源的損傷可能最大的。

　　利用AI偽造證據(jù)

　　受到訓(xùn)誡

　　比生成參考案例更嚴(yán)峻的是，利用人工智能偽造證據(jù)、虛構(gòu)事實(shí)的情況已經(jīng)出現(xiàn)。在湖北孝感大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告作為證據(jù)提交的水電表照片，帶有“AI生成”的水??；在法官的質(zhì)詢下，原告最終承認(rèn)，自己利用AI技術(shù)偽造證據(jù)，受到了訓(xùn)誡。

　　中國(guó)政法大學(xué)教授 譚秋桂：他要給法庭提交了AI生成的這種圖片，他一定是給了機(jī)器一個(gè)指令要生成什么圖片，它就生成了。如果說(shuō)他是當(dāng)事人或者訴訟代理人向法院法庭提交了，明顯是通過(guò)AI生成的圖片的話，那是非常嚴(yán)重的妨害民事訴訟的行為了。

　　人工智能引發(fā)風(fēng)險(xiǎn)

　　亟須明確審判規(guī)則

　　面對(duì)這一由人工智能帶來(lái)的新問(wèn)題，在司法實(shí)踐中，也亟須明確審判規(guī)則。

　　2025年12月，北京市通州區(qū)人民法院的這起案例入選人民法院案例庫(kù)。裁判要旨中寫明：

　　訴訟參與人在民事訴訟活動(dòng)中應(yīng)當(dāng)遵循誠(chéng)信原則。

　　訴訟參與人提交通過(guò)人工智能技術(shù)獲取且未經(jīng)甄別核實(shí)的虛假案例的，應(yīng)當(dāng)承擔(dān)相應(yīng)的法律后果。

　　情節(jié)輕微的，人民法院可以對(duì)其進(jìn)行批評(píng)教育；情節(jié)較重的，可以參照民事訴訟法第一百一十四條第一款的規(guī)定處理。

　　中國(guó)政法大學(xué)教授 譚秋桂：通過(guò)AI搜索到的材料，它的真實(shí)性，它是屬于民訴法規(guī)定的誠(chéng)信原則的調(diào)整范圍，來(lái)源要講清楚，你不能說(shuō)本來(lái)是自己用AI生成的，你說(shuō)是自己調(diào)取的。對(duì)于案件甄別和核實(shí)的責(zé)任，在于訴訟參與人自己，如果不真實(shí)，有虛假成分或者是虛假的，相應(yīng)的主體，就是提供者，還要承擔(dān)相應(yīng)的法律責(zé)任。

　　除了在法律上明晰此類問(wèn)題的審判原則和法律依據(jù)，也有專家建議，司法機(jī)關(guān)與各法律主體都需探索建立相應(yīng)規(guī)則，劃定邊界，應(yīng)對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)。

　　北京航空航天大學(xué)法學(xué)院副教授 趙精武：人民法院等司法機(jī)關(guān)應(yīng)當(dāng)更加謹(jǐn)慎客觀地評(píng)估證據(jù)的法律效力，司法行政部門應(yīng)當(dāng)適時(shí)規(guī)范律師的從業(yè)行為，并不是直接禁止其使用AI工具，而是禁止其在司法活動(dòng)中非法使用AI合成內(nèi)容。訴訟當(dāng)事人、律師等法律主體應(yīng)當(dāng)嚴(yán)格遵守法律法規(guī)，尊重司法權(quán)威，不得利用AI工具從事偽造證據(jù)等違法犯罪活動(dòng)。

　　技術(shù)可以“幻想”，證據(jù)必須真實(shí)！

　　AI生成的虛假參考案例被法官識(shí)破，因其典型性，而作為“反面教材”真實(shí)入選人民法院案例庫(kù)。這種對(duì)不準(zhǔn)確信息來(lái)源的依賴，削弱了法律規(guī)范的權(quán)威性，損害司法公信力。更需警惕的是，這項(xiàng)技術(shù)可能被刻意用于炮制虛假證據(jù)，從無(wú)心之失升級(jí)為主動(dòng)欺詐。法庭的莊嚴(yán)與法律的權(quán)威，永遠(yuǎn)建立在無(wú)可撼動(dòng)的真實(shí)之上。無(wú)論是疏忽還是故意，都是對(duì)司法紅線的觸碰。在法庭之上，每份材料都關(guān)乎公正，心存敬畏、堅(jiān)守真實(shí)，是對(duì)誠(chéng)信原則的踐行，更是對(duì)司法尊嚴(yán)的捍衛(wèi)。面對(duì)“AI幻覺(jué)”的沖擊，司法機(jī)關(guān)已在積極行動(dòng)，也需探索一套完善的治理機(jī)制。

　　來(lái)源：央視新聞客戶端