許多消費者曾質(zhì)疑，為什么并不是旅游旺季，機票價格卻越搜越高；為什么聊天時隨口提到某款商品，轉(zhuǎn)眼就會在各大平臺上看到相關(guān)的廣告推送？為什么使用一款A(yù)pp，會彈出幾十頁翻不完也讀不懂的隱私政策，而要使用它，你必須點擊“同意”？當有一天你不想再使用它時，卻怎么也找不到注銷按鈕在哪里？

大數(shù)據(jù)時代，我們總能更快地找到自己想要的信息，卻似乎越來越難躲開其中暗藏的算法陷阱。

會員價比非會員價還高？平臺運用算法進行“殺熟”

不久前，一篇質(zhì)疑某外賣平臺運用算法進行“殺熟”的文章引發(fā)熱議。該平臺的一位會員用戶肖先生指出，同樣的訂單，他的配送費定價時常比非會員用戶的更高。

肖先生：經(jīng)常點同一家（的外賣），有一天我開了會員之后發(fā)現(xiàn)配送費價格一下就較之前漲出了三倍。然后那天我試了幾乎一小時，配送費一直是比平時高出了六元。

肖先生告訴記者，之后的一周，他在點外賣的時候，經(jīng)常同時用兩部手機，分別登錄會員賬號和非會員賬號，進行對比實驗，發(fā)現(xiàn)配送費上的差別總是存在。于是他將這些觀察總結(jié)成一篇文章發(fā)表了在個人公眾號上。

肖先生：后來我這篇文章出來之后，很多網(wǎng)友在我后臺留言都有這種會員“殺熟”的情況。比如說一個鼠標，非會員購買的時候100元，但是用會員買價格變成了110元。結(jié)果我開了會員之后，反而比非會員價格還要高，那我開會員的意義在哪。

文章引發(fā)熱議后，相關(guān)外賣平臺聯(lián)系了肖先生。針對他提出的質(zhì)疑，平臺方給出的回復(fù)是：配送費上的價格差異是由于系統(tǒng)緩存而導(dǎo)致的誤差。

肖先生：我嘗試了很多次，在一周之內(nèi)都是這種情況。那緩存的說法肯定說不過去。何來的位置緩存呢？在同一個地方，差異就是存在于會員和非會員之間。咨詢了一些技術(shù)方面的朋友，造成這么大的誤差是不可能的。

“殺熟”≠差別定價，相關(guān)投訴不斷增多

肖先生的疑惑，最終還是沒能得到一個明確的解答。但是他的經(jīng)歷，卻讓大數(shù)據(jù)殺熟這個話題再次走進公眾的視野。圍繞這個問題，記者對中國消費者協(xié)會和有關(guān)法學(xué)專家進行了采訪。

中國消費者協(xié)會投訴部主任陳劍：經(jīng)常會有消費者抱怨說我是老會員了，可是我的價格卻比普通會員（用戶）的價格要高。比如說在一些網(wǎng)約車的平臺、電影訂票平臺、訂機票的平臺等等，都會出現(xiàn)這類問題。第二種情形就是有一些消費者如果多次瀏覽一個頁面，會出現(xiàn)（商品）價格上漲的情況。消費者可能基于害怕漲價或者是發(fā)現(xiàn)比如機票很緊張的情況，就匆忙下單，結(jié)果等他下單之后發(fā)現(xiàn)，很快地這個價格又回落了。

據(jù)專家介紹，大數(shù)據(jù)殺熟，最關(guān)鍵的一步就是要對客戶非?！笆煜ぁ?，并由此提供差異化選擇，這在以往的一些商業(yè)模式中其實早已存在，而且很少有負面評價。

北京航空航天大學(xué)法學(xué)院副教授裴煒：大數(shù)據(jù)殺熟本身來說，它背后的現(xiàn)象其實是差異化定價。比如說保險，不同的人的保金、保額或者保險的強制期限都會不一樣。所以如果單純用差異化的定價來說的話，它不一定構(gòu)成一個負面性的東西。我們所反感的是沒有正當性基礎(chǔ)的差別定價。

清華大學(xué)人工智能國際治理研究院副院長梁正：交通保險會根據(jù)你的事故狀況、你的駕駛行為，來決定是否給你折扣，還是要加價。這個行為可能還在大家所接受的是客觀的行為，或者是客觀的個人差別上?，F(xiàn)在大家更關(guān)注的是，我的個人信息被利用去生成我的數(shù)據(jù)畫像，然后對我進行定價上的這種區(qū)分。

據(jù)專家介紹，大數(shù)據(jù)殺熟與常見的差別定價不同，當它無視消費者的知情權(quán)和主動權(quán)時，也就違背了消費者貢獻數(shù)據(jù)的初衷。而在我國現(xiàn)行法律體系下，《價格法》《消費者權(quán)益保護法》和《反壟斷法》都針對“大數(shù)據(jù)殺熟”可能涉嫌違法的情形進行了規(guī)制。

北京航空航天大學(xué)法學(xué)院副教授裴煒：2020年的時候，我們專門針對在線旅游服務(wù)出了一個相應(yīng)的規(guī)范，要求在線旅游經(jīng)營服務(wù)者，不能夠濫用大數(shù)據(jù)或者是相應(yīng)的技術(shù)，針對用戶他的個性化的特征來進行一個差異化的待遇?！断M者保護法》里面本身就有相應(yīng)的規(guī)定，我們有獲得公平交易的權(quán)利，這本身就意味著要有一個價格的合理性。同時這個“殺熟”有可能還會涉及到比如說反壟斷法上的一些相關(guān)內(nèi)容。問題是存在的，但是我們也看到我們國家的立法，確實也是在不斷地去回應(yīng)這些現(xiàn)實的問題，努力地去保護我們用戶的一些合法權(quán)益。

據(jù)中消協(xié)介紹，消費者對“大數(shù)據(jù)殺熟”等問題投訴不斷增多，問題的核心是互聯(lián)網(wǎng)平臺對算法技術(shù)的應(yīng)用問題，集中體現(xiàn)在推薦算法、價格算法、評價算法、排名算法、概率算法和流量算法等方面。

中國消費者協(xié)會投訴部主任陳劍：比如說消費者在買商品或者服務(wù)的時候，平臺會根據(jù)消費者瀏覽過的頁面、消費者一些喜好，包括他的行蹤軌跡，來對他形成一些個性化的推薦。其實可能經(jīng)營者對他進行了一些精準的個人數(shù)據(jù)畫像。這種畫像相關(guān)的商品和服務(wù)只推薦給了他，所以他所獲取的知情權(quán)就是存在很大的缺陷。

互聯(lián)網(wǎng)平臺是如何“熟悉”每一位用戶的呢？答案是通過用戶畫像。在精準的用戶畫像背后，是平臺所累積的大量個人數(shù)據(jù)。

清華大學(xué)人工智能國際治理研究院副院長梁正：用我的這些數(shù)據(jù)，你最后對我作的這樣的一個（刻畫），這個是不是準確？太準確了的話，大家會擔心被操控。稍微深入一點討論就會發(fā)現(xiàn)，我在意的到底是本身這個叫做歧視性的定價，還是說背后所反映出來的我的信息被不當?shù)夭杉屠茫?/p>

平臺累積大量個人數(shù)據(jù)“算”制用戶畫像

基于大數(shù)據(jù)的用戶畫像，能讓商家摸清你更愛吃辣還是酸，并通過算法把更符合你口味的餐廳排序靠前。用戶數(shù)據(jù)，往往是通過一個個手機App被互聯(lián)網(wǎng)平臺所采集的。而在我們和這些App打交道的過程中，同樣也有令大家擔憂的問題不斷出現(xiàn)。

App究竟是如何實現(xiàn)高精度地智能推送？普遍被用戶感知的“App偷聽”是否真實存在呢？

App治理工作組由全國信息安全標準化技術(shù)委員會、中國消費者協(xié)會、中國互聯(lián)網(wǎng)協(xié)會、中國網(wǎng)絡(luò)空間安全協(xié)會的一批網(wǎng)絡(luò)安全法律、技術(shù)專家組成。

技術(shù)專家首先通過一款由他們開發(fā)的模擬“App偷聽測試程序”。通過測試，證實了當測試程序置于前臺運行時，“偷聽”是可以實現(xiàn)的。

此外，經(jīng)過對比實驗，技術(shù)人員告訴我們，在測試程序退至后臺，或者在手機處于鎖屏的情況下，錄音依然可以持續(xù)進行一段時間，但都會自行終止。只是不同的手機操作系統(tǒng)，鎖屏下持續(xù)錄音的時長略有不同。

那么，在技術(shù)上可以實現(xiàn)的“偷聽”手段，是否在市面上的App中被濫用了呢？

App治理工作組技術(shù)專家何延哲：我們在做實際地對偷聽的這種檢測的時候，發(fā)現(xiàn)目前還沒有發(fā)現(xiàn)真正意義上哪款A(yù)pp有這種，把語音信息上傳之后的偷聽行為。

App治理工作組專家介紹，偷拍、偷錄雖然在技術(shù)上可以實現(xiàn)，但是這種方式成本高昂、效率低下，而且存在高昂的法律風(fēng)險。

App治理工作組專家表示，目前無論是行業(yè)標準還是技術(shù)層面，都在進一步強化對手機麥克風(fēng)等敏感權(quán)限調(diào)用的透明度，以做到讓手機使用者知情。

App治理工作組技術(shù)專家何延哲：現(xiàn)在我們看到有一些手機操作系統(tǒng)，已經(jīng)實現(xiàn)了對麥克風(fēng)使用的實時提示。我們叫攝錄指示器，也就是說當你要調(diào)用麥克風(fēng)的時候，有一個狀態(tài)欄，有一個紅點或者說有一個提醒。

剛剛和朋友聊起健身計劃，轉(zhuǎn)眼網(wǎng)購平臺都開始向你推薦健身用品；或者在一個平臺檢索過火鍋底料，許多平臺都開始向你頻繁推薦涮鍋食材甚至是鍋具。如此精準的個性化推薦是如何實現(xiàn)的呢？

App治理工作組技術(shù)專家何延哲：一個App可以把一個用戶做360度的畫像。這個畫像我相信，它是一個常年積累的結(jié)果，這是第一；第二，是多個渠道匯聚的結(jié)果。

據(jù)專家介紹，畫像的準確性，主要是通過對我們的購買記錄、瀏覽記錄、搜索記錄，甚至是下載過的應(yīng)用程序清單等信息進行大數(shù)據(jù)分析，最終得以實現(xiàn)的。

App治理工作組技術(shù)專家何延哲：為什么說有時候你會感覺被偷聽呢？提供大數(shù)據(jù)的這個來源，它不是當前的這個App，它可能是其他App。你去做過一些操作，它會把相應(yīng)的信息匯總到一起，它可能還會關(guān)聯(lián)你的好友、關(guān)聯(lián)你同一個區(qū)域內(nèi)的人員。然后他們有的一些動作，也可能會成為它推送廣告的一個方向。

專家提示，用戶可以在手機操作系統(tǒng)的權(quán)限設(shè)置里，找到麥克風(fēng)權(quán)限，檢查目前有哪些App被授權(quán)使用麥克風(fēng)。根據(jù)自己的需要，用戶是可以隨時關(guān)閉對App使用麥克風(fēng)的授權(quán)的。

App違法違規(guī)收集個人信息更應(yīng)被重視

即使是原本不屬于個人信息的數(shù)據(jù)，在大量匯聚之后，也能挖掘出事物之間不為人知的聯(lián)系。因此在App治理工作組專家看來，更應(yīng)該被重視的，是App違法違規(guī)收集使用個人信息的行為。而在他們近日對市面上的App進行檢測時，發(fā)現(xiàn)了隱私政策篇幅長、用戶難以讀懂；賬戶無法注銷等諸多問題。

App治理工作組技術(shù)專家何延哲：治理工作會非常關(guān)注收集個人信息最小化的問題。事實上這個問題我們從實際上來看，從這兩年來看的話，其實是解決了一部分問題。但是解決問題的速度包括效果可能還不太理想，包括那個隱私政策，確實有了，但是它寫得好不好？注銷有了，那他注銷的條件合不合理等，這方面有一些問題。

我們舉一個例子。在測試的過程中，我們發(fā)現(xiàn)這一款壁紙的App，它的隱私政策竟然有一萬多字。那我們看它到底寫了什么。我相信沒有任何一個人，會把這個隱私政策讀完的。即便是像我們這種每天讀隱私政策的人看得都很頭疼。就比如說，這個隱私政策中寫的這個位置信息。App說我要位置信息，它說了一大堆理由，但是我看它這個理由和壁紙都沒有什么關(guān)系。

北京航空航天大學(xué)法學(xué)院副教授裴煒：隱私政策究竟有沒有真的服務(wù)到用戶，有沒有真的保護到個人，這塊其實是屬于一個斷裂的狀態(tài)。所以未來比較擔心的一點，就是這種保護的形式化。

App治理工作組設(shè)有“App個人信息舉報”微信公眾號平臺和專用舉報郵箱。專家告訴記者，賬號注銷難，是目前用戶投訴量很大的另一個問題。

中國人民大學(xué)未來法治研究院副院長丁曉東：我們從信息法律的研究上來說，經(jīng)常有一個術(shù)語叫做“數(shù)字烙印”。在這個網(wǎng)絡(luò)社會上，踩的腳印全部都是被永久留痕的。在我們國家的個人信息保護法里專門作出了規(guī)定，這個我們說從法律權(quán)益上來說，它是屬于個人的一種刪除權(quán)。

北京航空航天大學(xué)法學(xué)院副教授裴煒：信息技術(shù)安全國標，其中涉及到個人信息安全規(guī)范里面，就專門提到關(guān)于這個注銷。就是說用戶你在注銷或者是停止使用某種服務(wù)的時候，它的途徑和方式應(yīng)該盡可能地與你使用這個服務(wù)的時候，它的這個途徑和方式是相同的。那么同時你在注銷的過程中被要求提供的信息，不應(yīng)該比你在使用App的時候使用的這些信息、提供的身份信息更多。

專家介紹，在數(shù)據(jù)要素的流通過程中，個人信息的采集，只是其中一個環(huán)節(jié)。保護個人信息安全，數(shù)據(jù)的儲存、處理和流通環(huán)節(jié)，同樣需要關(guān)注。

中國人民大學(xué)未來法治研究院副院長丁曉東：如果把前端環(huán)節(jié)（數(shù)據(jù)搜集）就給封閉的話，其實對于人工智能和數(shù)據(jù)產(chǎn)業(yè)的發(fā)展，其實會造成很大的影響。那怎么樣去調(diào)和呢？我想一個很重要的方面就在于說個人信息的搜集之后，一定要對它進行一個非常嚴格的全生命周期的一個管理。我們要有匿名化機制、模糊化機制。處理的時候我們可能要采取一些數(shù)據(jù)最小化的處理原則，處理必要的數(shù)據(jù)。在儲存和流通環(huán)節(jié)以及保護泄露的問題上，尤其要采取一個非常高的標準。

法律還存一定短板，安全邊界該劃定還需探索

現(xiàn)在，技術(shù)帶來的便利和個人信息的保護，正處在一個搖擺天平的兩端。在這個天平的“配平”過程中，法律扮演什么樣的角色？

中國人民大學(xué)未來法治研究院副院長丁曉東：我們傳統(tǒng)上的消費者保護法，還要包括合同法對于格式條款上的應(yīng)用、侵權(quán)法對于侵權(quán)問題上的應(yīng)用，以及行政監(jiān)管里面的很多問題。在這些法律里面都可以在一定程度上去援引。但是另一方面，由于很多問題都是由于個人信息和算法這些新技術(shù)所帶來的，所以在一定程度上來說，也還存在著一定的短板，立法機關(guān)也在積極跟進當中。我們的民法典生效，可能會對個人信息的保護，會提供很多法律上的支撐。那么個人信息保護法（草案）、還有數(shù)據(jù)安全法（草案）的制定，未來的話肯定也會提供很多的額外的保護。

如今，我們每個人都在大量地生產(chǎn)信息。專家表示，在當下這個由算法和大數(shù)據(jù)驅(qū)動的社會生活里，法律扮演的更多是兜底保障的角色。安全邊界的劃定，需要監(jiān)管機構(gòu)、平臺和用戶三方在互動中來探尋。

清華大學(xué)人工智能國際治理研究院副院長梁正：我們也不是一味地通過比如說一些禁止的方式，就能解決它。技術(shù)的進步你都會看到它會帶來新問題，但是這個問題的解決呢，也是靠這些技術(shù)本身去給我們解決的。

業(yè)內(nèi)人士田天：數(shù)據(jù)要素作為一項很重要的生產(chǎn)力，去通過數(shù)據(jù)賦能產(chǎn)業(yè)鏈的上下游，促進數(shù)據(jù)的流通，包括去促進數(shù)據(jù)的交易等等。由于存在大量的個人隱私信息，或者說一些商業(yè)的數(shù)據(jù)資產(chǎn)等等，就導(dǎo)致數(shù)據(jù)的分享、流通和利用，其實中間存在很大的困難?，F(xiàn)在其實在學(xué)術(shù)界相應(yīng)的一些聯(lián)邦學(xué)習(xí)等等，這種技術(shù)都是在解決這個問題，推動相關(guān)的標準規(guī)范等等，就是并不希望大家因為這種數(shù)據(jù)安全的一些問題，就因噎廢食。

從事人工智能安全研究的技術(shù)專家告訴記者，目前，技術(shù)手段上，已經(jīng)能夠做到在數(shù)據(jù)依然儲存在原始位置的情況下，達到同樣的分析效果。

業(yè)內(nèi)人士田天：相當于數(shù)據(jù)明文并不出庫，但是通過加密的一些方式，就可以實現(xiàn)人工智能在加密數(shù)據(jù)上的運算。能夠感知到的效果就是說，我的數(shù)據(jù)資產(chǎn)并沒有泄露，也沒給到別人。沒有任何隱私信息的泄露，但同時我得到一個在更加豐富的數(shù)據(jù)上訓(xùn)練得出來的模型。

清華大學(xué)人工智能國際治理研究院副院長梁正：從法律法規(guī)的層面來講呢，應(yīng)該是兜底。然后我們劃定一些紅線，不能夠去影響到公共的安全。像數(shù)字經(jīng)濟的甚至有一些商業(yè)模式的迭代是很快的，這方面不能完全等到法律制定出來。針對每一個問題都可以有相應(yīng)的技術(shù)解決方案來應(yīng)對它，不是沒解的。關(guān)鍵是我們要把規(guī)則制定清楚。