新聞1+1丨全國首例AI“幻覺”侵權(quán)案 為何這么判

　　一位高考生的哥哥梁某在查詢高校信息后，發(fā)現(xiàn)AI平臺(tái)生成的信息存在錯(cuò)誤，AI則表示，內(nèi)容有誤將賠償10萬元。一氣之下，梁某將AI平臺(tái)的研發(fā)公司告上法庭。近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請求。法院為什么會(huì)這么判？看似聰明的人工智能，為何會(huì)產(chǎn)生“幻覺”？怎樣為生成式人工智能服務(wù)厘清責(zé)任的邊界？《新聞1+1》帶來分析解讀。

　　為何提供AI服務(wù)的公司不需要負(fù)責(zé)？

　　全國首例AI“幻覺”侵權(quán)案一審結(jié)束，法院的判決結(jié)果中說，AI不是一個(gè)民事主體，所以它不能作出意思表示。AI它不是人，所以它自己不能負(fù)責(zé)，那為什么提供AI服務(wù)的公司本身也不負(fù)責(zé)呢？

　　全國首例AI“幻覺”案主審法官 杭州互聯(lián)網(wǎng)法院一級法官 肖芄：AI生成的內(nèi)容不準(zhǔn)確有很多原因，其中最根本的原因是AI模型在訓(xùn)練的過程中，教會(huì)了它預(yù)測概率，而不是教會(huì)它理解事實(shí)。因此，生成內(nèi)容不準(zhǔn)確，在當(dāng)前的技術(shù)情況下具有不可避免性。但也不代表服務(wù)提供者就可以免責(zé)。如果服務(wù)提供者盡到了法律規(guī)定的注意義務(wù)、社會(huì)交往過程中的注意義務(wù)、合同約定的注意義務(wù)后，生成的信息仍然不準(zhǔn)確，通常還是不能認(rèn)定服務(wù)提供者存在過錯(cuò)。

　　AI不具有民事主體資格，這在民法典中有明確的規(guī)定。但是AI生成的內(nèi)容是不是可視為服務(wù)提供者的意思，這個(gè)需要分情況討論。在本案的咨詢問答場景中，我們認(rèn)為不能視為服務(wù)提供者的意思。

　　這起案子審理的難點(diǎn)是什么？

　　回過頭來看這起案子的整個(gè)審理過程，因?yàn)樗俏覀儑业氖桌嘘P(guān)AI“幻覺”的判例，在審理案件的過程中，最有挑戰(zhàn)的地方在哪里？

　　肖芄：我個(gè)人覺得，最難的點(diǎn)在于AI科技創(chuàng)新和產(chǎn)業(yè)發(fā)展與當(dāng)事人合法權(quán)益之間的平衡。通過在AI侵權(quán)責(zé)任案件中適用一般侵權(quán)責(zé)任原則，也就是過錯(cuò)責(zé)任原則，更好地為AI的服務(wù)提供者提供明確的邊界標(biāo)準(zhǔn)，使他們能夠在一個(gè)相對明確的標(biāo)準(zhǔn)中更好地創(chuàng)造和應(yīng)用AI。

　　AI“幻覺”產(chǎn)生的原因是什么？

　　在普通人的認(rèn)知里面，AI是一個(gè)更高級的大腦，它懂得更多、算得更快，而且可能會(huì)更加聰明，不生病也沒有情緒，更加穩(wěn)定。但為什么會(huì)有AI“幻覺”，它產(chǎn)生的原因是什么？

　　中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：AI“幻覺”，一方面，現(xiàn)在生成式人工智能基礎(chǔ)的技術(shù)原理、技術(shù)規(guī)律，導(dǎo)致它是一個(gè)預(yù)測式的，而不是像人腦一樣去理解的過程。另外，也跟AI訓(xùn)練過程有關(guān)，比如數(shù)據(jù)優(yōu)化訓(xùn)練的過程，比如AI是“討好型人格”，實(shí)際上AI會(huì)希望更好地為用戶解答問題，這時(shí)它可能發(fā)揮想象空間，產(chǎn)生了一些“幻覺”。

　　如何平衡創(chuàng)新和保護(hù)公眾權(quán)益之間的關(guān)系

　　未來，從監(jiān)管的角度來看，怎么來鼓勵(lì)創(chuàng)新和保護(hù)公眾的權(quán)益，在風(fēng)險(xiǎn)防控和促進(jìn)發(fā)展之間去做好平衡？

　　劉曉春：首先，這個(gè)案例給出的底線，或者說基礎(chǔ)的規(guī)則還是蠻好的，我們并不要求產(chǎn)業(yè)界給到一個(gè)百分之百?zèng)]有“幻覺”的交付標(biāo)準(zhǔn)。產(chǎn)業(yè)是可以在這個(gè)基礎(chǔ)之上更好地放開手腳發(fā)展。

　　另一方面，比如這個(gè)案例提到的是一個(gè)并不存在高風(fēng)險(xiǎn)的場景，也就是說，用戶用完可能有一些不準(zhǔn)確的信息，但是有辦法通過其他的驗(yàn)證手段去避免。所以在這種情況之下，不屬于高風(fēng)險(xiǎn)，也不屬于嚴(yán)格的產(chǎn)品責(zé)任。實(shí)際上，在法律或者監(jiān)管的過程當(dāng)中，可能有一些場景，比如說像關(guān)系到人民生命健康的，或者關(guān)系到財(cái)產(chǎn)安全的，像醫(yī)療健康、金融投資，包括法律領(lǐng)域，其實(shí)希望人工智能能夠給出更加準(zhǔn)確的、容錯(cuò)率更低的回答。

　　在這些應(yīng)用過程當(dāng)中，法律實(shí)際上可以去區(qū)別基礎(chǔ)模型和模型應(yīng)用兩個(gè)場景?；A(chǔ)模型，比如案子當(dāng)中涉及的，可以更快地往前去跑一跑，不用承擔(dān)那么重的責(zé)任。但是如果有應(yīng)用方把人工智能的工具，比如應(yīng)用到比較嚴(yán)格、高風(fēng)險(xiǎn)場景的時(shí)候，這個(gè)時(shí)候可能需要法律能夠去給它更清晰的標(biāo)準(zhǔn)，比如說特定行業(yè)的技術(shù)標(biāo)準(zhǔn)，來預(yù)防高風(fēng)險(xiǎn)的，或者說給人民群眾造成更大意義上的損失。

　　從法律角度 如何提前化解AI“幻覺”風(fēng)險(xiǎn)

　　像AI“幻覺”會(huì)是AI技術(shù)在狂飆突進(jìn)當(dāng)中的一個(gè)階段性的產(chǎn)物，還是說會(huì)始終伴隨AI技術(shù)的發(fā)展，是一個(gè)無法去改變和完全消除的技術(shù)缺陷？未來假如是第二種情況的話，那從法律的角度上，怎么樣更好地去界定這個(gè)權(quán)責(zé)，能夠提前去化解風(fēng)險(xiǎn)？

　　劉曉春：在技術(shù)的原理上看，如果技術(shù)基礎(chǔ)的模型沒有產(chǎn)生本質(zhì)性變化的話，AI“幻覺”有可能會(huì)伴隨著人工智能產(chǎn)業(yè)一直發(fā)展。也不是說不能完全消除，只是說如果要降低“幻覺”，也是要付出相應(yīng)的成本?？赡苷麄€(gè)產(chǎn)業(yè)需要在某些領(lǐng)域投入更多的成本，去限制或者降低AI“幻覺”。

　　在法律上其實(shí)很重要的是識(shí)別出一些隨著產(chǎn)業(yè)的發(fā)展，能看到的一些跟老百姓的生命安全、財(cái)產(chǎn)安全等根本利益相關(guān)的領(lǐng)域，識(shí)別出這些高風(fēng)險(xiǎn)的領(lǐng)域。然后針對高風(fēng)險(xiǎn)，要求產(chǎn)業(yè)去投入更多的資本，針對性地去降低“幻覺”。同時(shí)包括產(chǎn)業(yè)也需要去進(jìn)行一些提示，特別在一些比較敏感的，比如大家進(jìn)行情感陪伴，或者把自己很多基礎(chǔ)的信賴放在AI上，這個(gè)時(shí)候是需要建立更清楚的責(zé)任的邊界，使得產(chǎn)業(yè)能夠去更好地降低“幻覺”帶來的損害。

　　(央視新聞客戶端)