亞馬遜司機,也困在算法里
跟車過近,記1分;闖紅燈,記10分……
別誤會,這不是交警在進行扣分,而是AI在對司機打分。
甚至,一旦AI打分結果“不太樂觀”,輕則影響薪酬,重則丟掉工作。
“這是徹底的人格侮辱?!币晃粺o法忍受被監控,而最終選擇辭職的司機憤懣表示。
送貨司機,正在被車內攝像頭“監控”
以上評分系統來自于一份被曝光的機密文件,而這份文件的歸屬者是海外電商物流巨頭亞馬遜。
文件內容顯示,亞馬遜在送貨車內安裝了4個攝像頭。
這4個攝像頭中,1個直接對準司機,另外3個則分別面向擋風玻璃和兩個側窗。
這意味著,除了汽車尾部,不管司機在車身周圍什么方位,一舉一動都可以被攝像頭捕捉到。同樣的,是否闖紅燈、跟車距離等駕駛行為也會被拍下。
行車過程中,攝像頭會始終處于打開狀態,并實時監督駕駛員的肢體語言、車輛速度,當檢測到違規行為,系統就會使用“語音警報”來告知駕駛員,并記錄在案。
而依據這些行為,系統會進行評分,比如跟車過近等多數情況會記1分,而闖紅燈等違反停止標志的情況則會被記10分。
基于這套評分系統,亞馬遜的簽約配送公司每周都會收到駕駛員的記分卡,最好表現是“驚艷”,最差則會是“糟糕”。
而配送公司的老板也會參考這一評分決定司機的薪酬,甚至如果安全分數被評為“糟糕”,司機還有可能丟失續聘資格。
面對攝像頭,司機感覺到“人格侮辱”,亞馬遜繼續標榜“安全”
這已經不是第一次亞馬遜嘗試用AI評估司機了。
而在這一方針的執行上,亞馬遜是循序漸進的。
它先是使用開發出了應用程序“Mentor”,該程序會不斷監控司機的駕駛、電話使用和位置,并為配送公司反饋得分,以作為評估司機表現的參考。
雖然這一系統的推行遭到了來自司機和其他一些群體的反對,但是亞馬遜方面并沒有放棄。
與此同時,在這套算法系統下,不少已經工作數年時間的亞馬遜司機遭遇了“不合理的”解雇。
比如已經遞送包裹近4年,卻在去年被解雇的斯蒂芬·諾曼丁,解雇理由是“算法判定他沒有做好自己的工作”。
而實際情況是,諾曼丁之所以沒有“做好工作”,是因為派單時間太早,在大樓沒開門顧客電話未能接通、亞馬遜送貨柜出現故障打不開的前提下,沒有完成貨物配送。
“這真的讓我很難過,這事關我的名譽。他們說我沒干活兒,但我很清楚我干了。”
這之后,諾曼丁多次嘗試給亞馬遜,甚至貝佐斯發送郵件,要求撤銷解雇。但無一例外的,他總是收到系統自動回復的郵件。
雖然諾曼丁的故事引起了大眾的關注,但是亞馬遜并沒有停止“監控”司機,更是在今年2月份宣布,將在車內安裝AI攝像頭。并且強制規定,司機要不接受被攝像頭實時拍攝,要不就失去這份工作。
該決定一經宣布,再次引起了亞馬遜快遞司機的不滿。
比如選擇辭職的Vic,他明確表示,遠程或許行車數據還尚可接受,但是實時獲取個人視頻就是完全的“人格侮辱”了。
同時,數據安全也是Vic所擔心的,因為這些數據在當地的交付中心是一個獨立的亞馬遜承包商,而他們根本無法確定,亞馬遜是否會保護司機的匿名性。
在Vic將事情發布在論壇,并被路透社等廣泛報道后,“亞馬遜用攝像頭監控司機”一事也引起了美國國會議員的關注,有5名民主黨參議員聯名表達了對視頻監控的擔憂,并在公開信中要求貝佐斯提供有關攝像頭使用環境和透明度的更多信息。
對于這些問題,亞馬遜方面并沒有明確給出答案,僅表示攝像頭將能夠為駕駛員提供實時警報,從而幫助他們在路上保持安全。
此次秘密文件和評分系統曝光后,亞馬遜發言人進一步表示:“我們在200多萬英里的駕駛路徑上試點了這項技術,結果顯著提升了安全性——事故減少了48%,違反停止標志的情況減少了20%,不系安全帶的情況減少了60%,駕駛分心的情況減少45%?!?/p>
亞馬遜員工,被困在算法里
在“考察員工”,尤其是基層員工這件事上,亞馬遜可謂是非常喜歡用AI,甚至可以排上頭部。
除了以上提到的,用軟件、攝像頭跟蹤司機動態、記錄司機行為,比如在物流中心的十幾萬名員工,他們的一切行為也要接受AI的跟蹤與評估。
依據2019年的報道,亞馬遜內部構建了一套AI系統,可以追蹤每一名物流倉儲部門員工的工作效率,統計每一名員工的“摸魚時間”(因為休息時間外喝水、上廁所等而太長時間沒有接觸包裹)。
而一旦系統判定“摸魚時間”太長,就會在線生成解雇指令,直接繞過主管開除員工。據悉,2019年曝光時,已經有近900名員工因為被這套AI系統判定“工作效率低”而被解雇。
這一“壓力”下,有調查顯示,74%的亞馬遜倉庫員工根本不敢正常去上廁所,因為太耽擱時間。
此外,亞馬遜還在利用AI算法管理平臺上的數百萬第三方商家,并由此引發了一些來自賣家的投訴,因為他們被系統錯誤地指控銷售假貨和抬高價格,從而被趕出平臺。
以上種種案例可以看到,亞馬遜在利用AI“監控”員工上已經是一個老玩家了。
至于因為系統誤判而造成的負面影響,甚至引發社會性輿論,有前亞馬遜經理表示亞馬遜并不在乎:它知道把工作委托給機器會導致誤判,可能還會鬧出頭條新聞,但公司認為,繼續相信算法,比雇人逐一調查、改正錯誤便宜得多。
最后
就事論事而言,在“用AI監控員工”這件事上,亞馬遜雖然是典型代表,但卻并不是唯一的。
有數據統計,早在2018年,全球就有22%的企業在用AI監控員工的活動數據;17%的企業監控員工的電腦使用;16%的企業則會記錄員工的電子郵件。
比如沃爾瑪,會依據包裝袋的聲音和掃條碼的速度,由AI系統來判定員工是否在認真工作。
再看國內,此前也有一家清潔公司要求員工佩戴智能手表,并通過手表監測員工的活動范圍與勞動時間。
只不過,從越來越多的公司開始將AI用于公司業務、員工管理來看,這已經成為一個趨勢,而在智能化時代,這也會是一個常規現象。
只是看到這里我們不禁疑惑:用AI監控員工,就只能這樣“壓迫”員工嗎?
這其中并沒有絕對的答案。就比如要求員工佩戴智能手表,除了前面提到的監測員工活動軌跡和勞動時間,還可以實時監測員工心肺情況,一旦出現緊急狀況,便能夠第一時間通報處理。
又比如亞馬遜用于監控司機的攝像頭與后臺系統,從安全性角度出發,這一系統的實施警告功能確有其正面效用,確保司機的人身安全,而出于資本家的考量,將司機表現與評分掛鉤也無可厚非,但完全依賴AI而“不在乎”結果的準確性,以及隱私安全的保護,卻是不該出現的。
最終,關于“AI監控員工”的話題,還是走向了這幾個字——人性與安全。