美團“大數據殺熟”事件思考:如何救贖被算法左右、信息泄露的人們
宰你不是因為你有錢,而是因為你“熟”!
其實除了電商購物,點外賣、訂酒店、訂機票,買電影票都可能發生“殺熟”。而上述提到的這些,幾乎美團都有涉及,大數據殺熟的誘惑實在太大,于是美團最近兩天深陷大數據殺熟質疑的困擾。
12月17日,一篇名為《我被美團會員割了韭菜》的文章刷屏,該文作者基于自己點外賣的經歷發現,在美團上的同一家店鋪,用同一個配送地址,在同樣的時間點單,會員比非會員的配送費更高。文章中稱,本以為開通外賣會員會省錢,但附近幾乎所有外賣商戶的配送費都比非會員高1-5元。
一時間,買了美團會員的“打工人”覺得感情受到了傷害,在微博、知乎、黑貓投訴、朋友圈里發出了聲淚俱下的“控訴”:“價格歧視”、“割會員韭菜”、“吃相難看”。同時,#美團被爆殺熟外賣會員#迅速登上當日微博熱搜榜第五名。
實話說,美團的態度還是比較誠懇的:道歉,成立團隊了解問題,解決問題。其實的就留待時間檢驗吧。
實際上,本文成稿是在美團發生這件事之前,寫作目的也不是深扒美團的大數據殺熟。而是在智能技術和大數據廣泛應用的當下,面對誘惑,去考驗創始人的人性,去考驗一家商業企業的人性,未必合適。數據和技術是中性的,但最終的走向卻讓人深感憂慮!?。?/p>
以下是思考全文:
現在智能技術和大數據廣泛應用在互聯網行業中,個人信息被濫用已經不是什么新鮮事了。人們似乎已經習慣了依照個人信息訂制的廣告推送,也習慣了自己的隱私數據在外“裸奔”。但隱私數據的現狀,卻沒有最壞,只有更壞。
12月5日,中國裁判文書網公布一份判決書顯示,北京某網絡公司負責人朱某找到金立子公司致璞科技,由朱某開發木馬病毒,金立負責在手機出廠前植入到手機中。植入這種“拉活木馬”的病毒之后,手機就變成了可以被黑客遠程操控的“肉雞”。用戶無法想像,一些不法廠商,已經把在手機出廠前植入病毒當成一種常規操作。
一方面是無良廠商收集乃至沒有底線的竊取用戶數據,另一方面是一些人還在用收集來的數據進行算法操縱。這背后是國內隱私數據保護的缺失,亟需完善。
但是,我們真的無法改變現狀,任由機器控制我們的一切嗎?或許如同電影《終結者》曾經給我們演示的那樣,改變,就將從今天開始。
讓人不安的數據
一直在北京市望京地區工作的王昕(化名)是一個輕度數據控厭惡者。一些電商網站根據她的用戶信息進行的廣告推送,王昕從不點開。但這種厭惡還是隨著各類應用的推送,而在不斷加深。
冬日里白天短,天黑的早,這讓身處偏僻小區的王昕不得不選擇網約車出行。一是公司規定用網約車有一定的報銷額度,二是這樣算下來也確實實惠。于是,幾年過去了,王昕的手機換了三、四部,但手機上總是至少有兩家網約車平臺,方便她約車。
讓王昕記憶猶新的是,兩年前,她打開某網約車平臺,輸入上車地點后,突然發現平臺顯示的下車地點處出現一行小字,正是她家小區地址,也是她經常輸入的下車地址。這讓王昕心有余悸,不斷曝出的用戶信息泄露的新聞,讓王昕感到隱隱的不安。
從此王昕選擇了跟網約車平臺玩捉迷藏,不斷把自己下車的地點在公司和家附近變化,公司所處的園區和家所在的小區,再也沒有在網約車平臺上出現過。
盡管如此,王昕還是感到了無奈。她發現用了一款APP后,在沒有打開任何應用而只是開機的狀態下,她和同事或家人談話中提及的商品,就會在電商平臺推送的廣告中出現。盡管王昕迅速刪除了這款APP,但她還是感慨:自己這么小心翼翼,卻并不能避開個人信息的泄露。自己也無法弄清楚,電子設備里到底有多少陷阱在等待著她。
事實上,一些有心的用戶,對于數據隱私的抗爭從來就沒有停止過,政策層面對此也有動作。2020年3月6日,國家標準化管理委員會正式發布《信息安全技術個人信息安全規范》,并于2020年10月1日起實施。
王昕對于信息泄露非常敏感,而性格大條的周洋(化名)卻遇到了不少怪事。一次周洋打開好久沒用過的訂票APP,迅速彈出了一個要求周洋授權同意APP采集用戶信息的協議,當周洋選擇拒絕時,此訂票APP也做出了讓周洋無法繼續應用此APP的反應。無奈之下,周洋只好選擇同意。而在另一款移動運營商的APP中,周洋發現了同樣的問題。
深究之下,周洋才發現:《信息安全技術個人信息安全規范》只是屬于國家推薦標準而非強制性約束,其中有一個條款:個人信息主體通過書面、口頭等方式主動作出紙質或電子形式的聲明,或者自主作出肯定性動作,對其個人信息進行特定處理作出明確授權的行為,不在《信息安全技術個人信息安全規范》管轄之內。
各類APP商家,早就研究透了此類法規,在法規發生效力之前,就巧妙地進行了規避。從而,用戶的數據信息始終處于一種“裸奔”的狀態,任由各類商家出于各種目的使用,甚至濫用。
作惡的算法
與過去不同,智能時代重塑了人與技術的關系,技術不再僅僅是“制造”和“使用”,他能在人類的需求下,不斷的自我進化。
這其中就要用到大量算法,算法是解決現實問題進行分析、計算、求解的程序。首先要對數據信息(包含了個人隱私等)進行獲取、占有和處理,并作出判斷,產生新的信息。而個人的信息則在這個過程中被不斷的編輯、分類和處理。
按常理分析,算法本可以把我們從繁雜的勞動中解放出來,或者通過數據處理獲得更大的能力。但失去了中立性的算法,更容易被資本和商家所操縱。
算法已經從過去單一的分析工具,蛻變成可以對社會產生重要影響的力量。它或許在幫助人們,改善人們的生活,或許在作惡,給人們制造麻煩,甚至讓人處于恐懼之中。
當人們默認了人工智能的判斷,讓數據為我們篩選喜好,任憑算法還原,依托于技術而產生的算法,就限制了人們對自我的認知、意識和價值的評判。
于是,越來越多的王昕、周洋們,要么選擇在忐忑中生活,要么在算法面前繳械投降。
人們一開始可能會對千人千面的界面感到驚奇,但深入下去,卻是幾億用戶的數據被使用和分析。用戶的瀏覽行為,在鞋子、包包等不同商品面前,停留的不同時間,都已被歸入了不同的算法,進而可以引發新推送界面的秒級更新。
即便如此,這與Negflix相比,還算不上作惡。
Netflix(網飛)是一家會員訂閱制的流媒體播放平臺,用戶可以通過免費快遞信封租賃及歸還Netflix庫存的大量影片實體光盤。Negflix運用大數據技術,進行用戶畫像后,可以歸納出用戶所樂意承受的價格空間,進而在價格呈現上做到千人千面。
老用戶看到的價格甚至會高于新用戶,Negflix的利潤由此提高了14.55%,背后是大數據技術的無情殺熟。商家獲利后,也就更加傾向于采用大數據技術操控價格。
當數據濫用以一種更為隱密的方式表現出來之后,往往帶來的危害性更大。谷歌曾經以“不作惡”為使命,谷歌郵箱也曾被看做是效率的提升工具,但卻沒有人注意到它的另一個危害——致癮。
當用戶早上醒來,谷歌郵箱告訴他們,應該這樣工作。沉溺其中的用戶根本無從察覺這一點,直到谷歌前道德倫理設計師的特里斯坦揭示了這一點。對于具備相當抵抗力的成人來說,致癮只會導致不同程度的沉迷,但對心智還不成熟的未成年人來說,致癮所改變的,可能是他們的一生。
互聯網的奶頭效應明顯,喂養型的用戶越來越多。這種喂養是經過大數據分析、機器學習決策后,推送給人們的。
而這種喂養推送都有一個前提,這就是預判人們行為軌跡的模型,然后讓人們上癮,將人們還沒想到的部分,用算法推送給他們,最終成為思想的一部分,甚至讓他們以為這就是他們心之所想,這也正是算法操控的本質。
拯救之路
用戶數據讓互聯網商家獲利,而為了獲得更多數據,那些商業平臺,更樂于監視用戶去過的每個地方、每種喜好、每種行為數據,無限追蹤、分析、評估,無限逐利。
從人工智能的影響要素來看,算法、算力、數據構成了人工智能的三要素。因此在算力越來越強,算法越來越精良的條件下,擺脫算法操縱的關鍵,還是創造一個監管的環境,控制用戶數據的應用范圍。
事實上,在世界范圍內,反抗算法操控的行動從來沒有停止過。
在美國,主要采取了行業自律模式,即由公司或行業內部制定行為規章或最佳實踐指南,為行業的隱私保護提供示范和標桿。
在歐盟,《通用數據保護條例》(GDPR)成為影響最大的法規。歐盟在個人信息保護方面要嚴格得多,它對互聯網環境下個人信息的隱私保護,算得上是世界上最為全面和嚴格的。歐盟法規對數據泄露的定義較為寬泛,同時還規定了數據控制者和數據處理者在泄露事件中的義務,其懲罰措施也是全球最嚴格的。
在中國大陸,2017年出臺的《網絡安全法》中對個人信息的定義和范圍進行了統一,同時也提出了個人信息保護的要求,并與《APEC個人隱私保護框架》等國際條例接軌?,F在,《個人信息保護法》和《數據安全法》也已經在路上了。
另一方面,即使有相應的法規出臺,個人隱私數據保護還是會面臨不少問題。
在互聯網應用已經日漸形成壟斷的當下,用戶在使用某類應用之初,就可能被要求簽訂數據授權協議。于是,用戶在無應用可用,或被迫簽約的兩難選擇之下,可能選擇后者。
這一點,《信息安全技術個人信息安全規范》,甚至歐洲的GDPR也沒有從根本上解決?;ヂ摼W商家通過一鍵簽約,就讓自己的APP成為數據濫用的法外之地。我們期待國內的《個人信息保護法》和《數據安全法》能夠解開這個難題。
此外,給弱勢的網民提供法律救濟,如通過集體訴訟尋求補償,使公司承擔責任,幫助公司成為負責任的個人信息管理者。同時,應建立以行政救濟為主,民事救濟、刑事救濟相結合的多途徑救濟機制,全面保障個人信息主體的權利。
歐洲的GDPR之所以被包括Facebook和Google在內的所有企業重視,是因為它規定:沒有保護好數據而導致數據泄露的,處以1000 萬歐元或者上一年度全球營業收入 2%的處罰,兩者取其高;自主泄露侵犯用戶數據的,處以最高 2000 萬歐元或者企業上一年度全球營業收入4%的處罰,二者取其高。
信息泄露與個人隱私保護,或許會成為互聯網行業的永恒話題?;蛟S正應了那句話:我們之所以麻木不仁地與這個世界抵抗,不是為了改變世界,而是不被它改變。
人們的美好生活,一定不能被信息濫用所左右,如果必須被濫用,那么互聯網是讓人類更幸福,還是更悲催?
-
創略科技胡世杰:AI驅動下的數據中臺如何助力企業實現智慧應用[2020-12-31]
-
神州數碼與PingCAP簽署戰略合作,將打造自有品牌分布式數據庫一體機[2020-12-29]
-
萬基控股用能數據“聯網”河南省能源大數據中心[2021-02-02]
-
合肥高新區大數據產業園交付運營[2021-06-01]
-
平臺經濟應在規范中發展[2021-04-12]
-
投訴數據告訴你,“大數據殺熟”有哪些套路?[2021-07-30]
-
大數據殺熟,殺的是互聯網經濟的未來[2021-07-19]
-
浙江出臺平臺企業競爭合規指引,點名大數據殺熟、“二選一”[2021-08-27]
-
騰訊與清華大學牽手大數據科研 構建衛生健康智慧管理模式[2021-05-20]
-
專訪每日互動CTO 葉新江丨數據智能的未來,是不提大數據但其無所不在的時代[2020-12-28]
-
全國人大代表楊松:建議立法規制大數據殺熟[2021-03-03]
-
“大數據殺熟”“虛假種草”如何避坑?消費維權大咖支招[2022-03-15]
-
圓通被約談 個人信息如何保護?[2020-11-26]
-
2021年首張罰單:農業銀行因數據泄露等被罰420萬[2021-02-04]
-
大數據之下如同“裸體”,萬字長文解析手機APP都在背著你做什么[2021-01-29]
-
創略科技胡世杰:AI驅動下的數據中臺如何助力企業實現智慧應用[2020-12-31]
-
神州數碼與PingCAP簽署戰略合作,將打造自有品牌分布式數據庫一體機[2020-12-29]
-
萬基控股用能數據“聯網”河南省能源大數據中心[2021-02-02]
-
合肥高新區大數據產業園交付運營[2021-06-01]
-
平臺經濟應在規范中發展[2021-04-12]
-
投訴數據告訴你,“大數據殺熟”有哪些套路?[2021-07-30]
-
大數據殺熟,殺的是互聯網經濟的未來[2021-07-19]
-
浙江出臺平臺企業競爭合規指引,點名大數據殺熟、“二選一”[2021-08-27]
-
騰訊與清華大學牽手大數據科研 構建衛生健康智慧管理模式[2021-05-20]
-
專訪每日互動CTO 葉新江丨數據智能的未來,是不提大數據但其無所不在的時代[2020-12-28]
-
全國人大代表楊松:建議立法規制大數據殺熟[2021-03-03]
-
“大數據殺熟”“虛假種草”如何避坑?消費維權大咖支招[2022-03-15]
-
圓通被約談 個人信息如何保護?[2020-11-26]
-
2021年首張罰單:農業銀行因數據泄露等被罰420萬[2021-02-04]
-
大數據之下如同“裸體”,萬字長文解析手機APP都在背著你做什么[2021-01-29]