I仿冒孫穎莎、王楚欽、全紅嬋帶貨，打的是什么算盤？一條評論引發(fā)全國首例AI誤判案，創(chuàng)作者如何自證“我不是AI”？當技術應用的門檻越來越低，當內(nèi)容檢測的難度越來越大，AI亂象治理，如何加速加力？《新聞1+1》連線中國社會科學院大學互聯(lián)網(wǎng)法治研究中心主任劉曉春、北京互聯(lián)網(wǎng)法院綜合審判一庭法官張倩，共同分析解讀。

01

AI仿冒奧運冠軍聲音帶貨

法律上怎么看？

短視頻平臺上，奧運冠軍全紅嬋、孫穎莎、王楚欽的聲音都遭遇了仿冒，被用來帶貨土雞蛋。這種行為在法律上怎么去界定？面臨哪些法律責任？

中國社會科學院大學互聯(lián)網(wǎng)法治研究中心主任 劉曉春：借用知名運動員的聲音，或者叫盜用這個聲音去帶貨，法律上至少有兩個層面的問題。第一是對運動員人格權益的侵犯，比如聲音權的侵犯。第二對公眾來說，比如粉絲、購買雞蛋的消費者，實際上是有一個誤導、虛假宣傳，甚至是欺詐存在的。

• 盜用名人的聲音構成虛假宣傳，可能市場監(jiān)管部門需要去追究他行政上的責任。

• 盜用名人的聲音去散播謠言，有可能達到刑事責任，會觸犯刑法。

• 我國《民法典》當中明確規(guī)定了聲音權，盜用別人的聲音會導致對其人格權益的侵犯，從而要去承擔相應的民事責任。

02

盜用聲音進行正能量宣傳

可以嗎？

另一個視頻用了白巖松的聲音，既也沒有帶貨，也沒有謀利，只是進行一種正能量的宣傳，這樣做可不可以？

劉曉春：這樣做看起來沒有什么傷害，只是傷害到了當事人的人格權益，但也會誤導公眾。如果一個“新聞”用白老師的聲音來播，大家會覺得它很可靠，肯定就是真的新聞。包括用名人的聲音去做科普，大家會誤以為這個科普的權威性比它應該有的更高。所以整體上對用戶、公眾有一個誤導，對他們的認知會產(chǎn)生一個不同方向的引導，還是有危害性的。

03

9月要施行的辦法

能解決什么問題？

《人工智能生成合成內(nèi)容標識辦法》將于今年9月1日起施行，這個辦法能夠解決什么樣的問題？

劉曉春：這個辦法有一個非常明顯的特點，把治理的方式往前端移了。考慮到大家事后再去起訴的成本太高，這個辦法是說，AI軟件在生成內(nèi)容的時候，要強制給這個文件打上標。打上以文字、聲音、圖形等方式呈現(xiàn)的顯式標識，提示它是AI生成的；或者采取技術措施在數(shù)據(jù)中添加隱式標識，大家可能看不見，但是平臺包括公眾可以有比較方便的方式，識別出它是AI生成的。

04

原創(chuàng)作品被判定為AI生成

法院判了

網(wǎng)友李先生發(fā)布的評論被平臺判定因“包含AI生成內(nèi)容但未標識”而違規(guī)，李先生人工復核無果后將平臺告上了法庭。這也是全國首例平臺運用算法工具進行AI生成合成內(nèi)容檢測識別引發(fā)的案件。

最終北京互聯(lián)網(wǎng)法院判定原告李先生勝訴，但沒有認定內(nèi)容是原創(chuàng)還是AI，而是認定被告平臺沒有對算法決策依據(jù)和結果進行適度的解釋和說明，在沒有事實依據(jù)的情況下對用戶進行了處理，應承擔違約責任。

北京互聯(lián)網(wǎng)法院綜合審判一庭法官張倩介紹，這個案件法院首先肯定了平臺審核的正當性。對AI生成合成內(nèi)容進行標記，既有利于公眾準確區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，滿足公眾的知情權，也便利平臺通過標識追溯內(nèi)容來源，明確責任主體，降低侵權、違法犯罪等社會風險。

但本案也同時強調，平臺應當就其判定結果進行充分的舉證和說明，尤其是有義務對平臺算法決策的過程和結果進行相應的解釋。這涉及舉證責任分配的問題。對于像涉案這種簡短的網(wǎng)絡即時創(chuàng)作內(nèi)容，創(chuàng)作主體基本上都是在線編輯之后立即發(fā)布，很少會保留創(chuàng)作底稿、原件這些證據(jù)。所以很難要求本案的原告舉證證明內(nèi)容是由人類創(chuàng)作的。

但是平臺是算法工具的掌控方，以及這個結果的判斷方，有能力也有義務對算法工具的運算過程和審查結果進行充分解釋說明。當然，這也并不是要求平臺把和算法相關的全部內(nèi)容，甚至是技術秘密都披露出來。而是要求平臺就涉案內(nèi)容AI判定相關的算法運行機制，進行必要的、可以為一般公眾理解的解釋說明。本案被告敗訴，就是因為法院認定被告沒有盡到這樣的解釋說明義務。

05

涉AI糾紛有哪些特點？

近年來AI亂象導致的一些糾紛，有哪些趨勢或者特點？主要集中在什么方面？

張倩：近兩年北京互聯(lián)網(wǎng)法院受理的涉AI糾紛，絕對數(shù)量仍然不多，但是也確實呈現(xiàn)出明顯的增多趨勢，并且涉及各種各樣的案件類型。占比較大的幾類案件是：

• 涉AI的人格權糾紛，比如AI聲音權案、AI換臉案、AI陪伴案、AI惡搞案等，都涉及使用AI軟件侵害他人的肖像權、名譽權、聲音權、個人信息權益等人格權利或者權益的問題。

• 涉AI的著作權糾紛，涉及使用AI軟件生成的圖片視頻等是不是構成作品，以及未經(jīng)許可使用他人利用AI軟件生成的前述內(nèi)容，是否侵害著作權的問題。或者涉及AI大模型使用他人作品進行訓練是否構成侵權的問題。

• 像本案這類合同糾紛，存在合同關系的雙方之間，比如平臺和用戶，由于一方使用了AI技術所引發(fā)的糾紛。

北京互聯(lián)網(wǎng)法院受理案件的情況充分反映出來，近兩年我國AI技術確實處在一個高速發(fā)展，而且應用場景不斷豐富的階段。對于法院來說，樹立既有利于AI技術發(fā)展，又有助于當事人權益保護的裁判規(guī)則，是一個非常大的挑戰(zhàn)。