前不久，“AI孫燕姿”“AI王菲”們爆火出圈，成為短視頻平臺新一輪的流量密碼。與此同時，能以假亂真、掩人耳目的AI技術(shù)也在頻頻觸及法律紅線。近日，北京市通州區(qū)人民法院調(diào)研發(fā)現(xiàn)，平臺流量背后有人正在利用AI換臉擬聲實施不法行為，如偽造不雅視頻、換臉詐騙等。

AI違法行為防不勝防，民事方面易引發(fā)肖像權(quán)等侵權(quán)行為，刑事方面易引發(fā)詐騙罪、侵犯公民個人信息罪等犯罪行為。據(jù)此，通州法院法官通過兩起典型案例揭示AI技術(shù)亂象背后的法律問題，以能動司法擊敗“AI魔法”，提醒公眾提高維權(quán)和反詐意識?！?/p>

案例1

利用AI技術(shù)使用他人形象視頻

涉事公司構(gòu)成肖像侵權(quán)被判賠

陳某在某網(wǎng)絡平臺注冊賬號，發(fā)表諸多唯美造型視頻，有粉絲上萬人。某公司利用AI技術(shù)運營某款APP，該APP向用戶提供拍攝視頻時的提詞功能以及提供面部替換的視頻模板。某公司未經(jīng)陳某許可在該APP中使用陳某發(fā)布在其賬號中的多個唯美視頻作為視頻模板，供軟件用戶進行面部替換。陳某發(fā)現(xiàn)后提起訴訟，某公司刪除相關(guān)視頻。

法院經(jīng)審理認為，某公司運營的該款APP具有明顯的商業(yè)屬性，其未經(jīng)陳某許可使用陳某個人形象視頻進行運營，并非法律規(guī)定的合理使用，對陳某構(gòu)成肖像侵權(quán)，應承擔相應的侵權(quán)責任。判令被告某公司在該APP首頁置頂處刊登道歉聲明向原告陳某賠禮道歉，并賠償陳某1000元。

法院調(diào)研發(fā)現(xiàn)，AI換臉擬聲技術(shù)用于商業(yè)盈利時極易引發(fā)肖像權(quán)、姓名權(quán)等人格權(quán)糾紛，一些營銷短視頻、音頻的商家經(jīng)常在未經(jīng)當事人許可和同意的情況下進行換臉、換聲操作，以此獲利。這種行為屬于侵權(quán)行為。

法官介紹，人格權(quán)是民事主體享有的生命權(quán)、身體權(quán)、健康權(quán)、姓名權(quán)、名稱權(quán)、肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)等權(quán)利。自然人享有肖像權(quán)，有權(quán)依法制作、使用、公開或者許可他人使用自己的肖像。肖像是通過影像、雕塑、繪畫等方式，在一定載體上所反映的特定自然人可以被識別的外部形象。任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、復制、發(fā)行、出租、展覽等方式使用或者公開肖像權(quán)人的肖像。

法官提示

如遭遇被換臉、換聲的民事侵權(quán)行為，要有主動維權(quán)意識，要關(guān)注侵權(quán)方相關(guān)作品發(fā)布時間、數(shù)量、范圍，主動搜集網(wǎng)站/APP截圖、音頻、視頻等作為證據(jù)，向侵權(quán)方提出嚴正交涉，積極運用法律途徑維護自身合法權(quán)益。如在本案中，法院經(jīng)審理查明某公司的行為構(gòu)成肖像侵權(quán)，不僅判令某公司公開賠禮道歉，并且要求某公司賠償損失。擊敗“AI魔法”，交出公正答卷，人民法院隨時嚴陣以待。

案例2

用AI智能軟件詐騙近百萬四被告人獲刑

2022年2月，被告人郭某在A省某區(qū)成立未經(jīng)審批登記的“公司”，并雇用被告人黃某、江某、田某等人通過某AI智能軟件篩選有意向炒股的股民“資源”（被害人），用于出售給下游公司獲利。郭某負責將其員工篩選、添加好的股民微信提供給其他同伙的“公司”進行電信網(wǎng)絡詐騙活動；其他同伙負責用微信小號進行角色扮演，對所謂的炒股資深專家“王某”進行吹捧以取得被害人信任，誘導添加了微信的被害人在虛假投資平臺上投資，以此騙取被害人的投資款。至2022年7月，郭某等人共騙取投資款人民幣近百萬元。法院經(jīng)審理認為，被告人郭某構(gòu)成詐騙罪、侵犯公民個人信息罪；黃某、江某、田某等人構(gòu)成非法利用信息網(wǎng)絡罪。

法官指出，AI犯罪手段越發(fā)高明，犯罪分子通常會通過AI技術(shù)進行聲音合成和換臉，并用AI程序篩選受害人，再用盜號或角色扮演等方式騙取信任，甚至生產(chǎn)出定制化的犯罪腳本，進一步實施不法行為，受害人往往難以在第一時間分辨出真?zhèn)?，落入違法者圈套。這種違法犯罪形式往往構(gòu)成多種罪名，最終被數(shù)罪并罰。

法官表示，違反國家有關(guān)規(guī)定，向他人出售或者提供公民個人信息，情節(jié)嚴重的，處三年以下有期徒刑或者拘役，并處或者單處罰金；情節(jié)特別嚴重的，處三年以上七年以下有期徒刑，并處罰金。詐騙公私財物，數(shù)額較大的，處三年以下有期徒刑、拘役或者管制，并處或者單處罰金；數(shù)額巨大或者有其他嚴重情節(jié)的，處三年以上十年以下有期徒刑，并處罰金；數(shù)額特別巨大或者有其他特別嚴重情節(jié)的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產(chǎn)。

法官提示

警惕此類AI犯罪行為，如遇“微信好友通過視頻借款”情形，切記多渠道核實“好友”身份，勿輕易轉(zhuǎn)賬，如您已經(jīng)轉(zhuǎn)賬，及時報警或撥打反詐中心電話96110；如遇“低風險高回報的投資理財”情形，莫存在僥幸和投機心理，為了所謂高回報的收益，輕易將錢款轉(zhuǎn)賬至不明來路的“投資平臺”。理財要通過正當合法手段進行；如遇“×××邀請您進入群聊/視頻會議/直播間”情形，不要輕易加入全是陌生人的微信群聊、視頻會議，容易陷入犯罪分子提前制作好的角色扮演和犯罪劇本之中，成為待宰羔羊。