開(kāi)學(xué)后, 是時(shí)候喚起你的恐怖回憶了。

　　也許《黑鏡》的編劇怎么也沒(méi)想到，這部曾一度被封神，但口碑一路下滑的科幻電視劇，終于迎來(lái)了“戲言”一語(yǔ)成讖的時(shí)刻。

　　在2018年播出的第四季第二集中，為了更好監(jiān)護(hù)自己的女兒, 一位母親給她的眼睛植入了芯片控制器，自己可以透過(guò)一個(gè)類似iPad的硬件查看其身體的各項(xiàng)生命體征，也可以轉(zhuǎn)播它的視覺(jué)信號(hào)。

　　換句話說(shuō)，她可以通過(guò)iPad看到任何女兒看到的畫(huà)面。假如后臺(tái)顯示因?yàn)榕畠嚎吹娇植喇?huà)面而導(dǎo)致皮質(zhì)醇上升，她可以按下屏蔽按鈕，用馬賽克抹除掉女兒看到的特定物體，譬如一只兇猛的大狗。

　　現(xiàn)在，讓我們偷換一下里面的技術(shù)細(xì)節(jié)。

　　把植入的芯片，換成教室里可以做到十幾個(gè)小時(shí)連續(xù)監(jiān)控的人臉識(shí)別攝像頭。通過(guò)人臉識(shí)別的實(shí)時(shí)分析，作為家長(zhǎng)和老師，你可以隨時(shí)獲得她更加細(xì)致的多達(dá)十幾條指標(biāo)結(jié)論：

　　趴桌子2次，玩手機(jī)2次，睡覺(jué)1次，聽(tīng)講0次，閱讀0次，舉手0次，笑了0次，厭惡表情出現(xiàn)了10次……

　　最后機(jī)器可能得出一個(gè)綜合結(jié)論：她是個(gè)有問(wèn)題的孩子。

　　以上，便是曠視科技在前天晚上引發(fā)微博軒然大波的產(chǎn)品圖片以及被截取的視頻內(nèi)容。

　　而這已經(jīng)不是一部電影，也不是一個(gè)停留在宣傳片層面的demo，因?yàn)轭愃祈?xiàng)目，已經(jīng)進(jìn)駐部分小學(xué)與大學(xué)。

　　在微博與知乎上的討伐聲此起彼伏時(shí)，曠視科技很快便發(fā)布了一則正式聲明，表示網(wǎng)上出現(xiàn)的圖片僅僅是技術(shù)場(chǎng)景概念演示，公司在教育領(lǐng)域的產(chǎn)品專注于保護(hù)孩子在校園的安全。

　　這則聲明中，關(guān)鍵詞是“安全”。而最具爭(zhēng)議的討論點(diǎn)之一，也恰恰是“安全”。

　　要解決孩子的人身安全， 需要我們?nèi)シ治鏊�睡了多少次覺(jué)，舉了多少次手以及瞟了同桌多少眼的問(wèn)題嗎?

　　或者反過(guò)來(lái)說(shuō)，這些強(qiáng)加的條條框框，是否能夠有效解決校園霸凌?

　　再或者說(shuō)，我們知道這個(gè)孩子或許有幾個(gè)表現(xiàn)不達(dá)標(biāo)，那么我們有沒(méi)有準(zhǔn)備好對(duì)癥下藥的解決方法?即便作為一名老師可能很了解一個(gè)孩子上課有不聽(tīng)講的毛病，但是對(duì)于改變他的毛病卻通常無(wú)能為力。

　　我們的關(guān)注點(diǎn)從談及“安全”的一開(kāi)始，就已經(jīng)本末倒置了。

　　這也是《黑鏡》里植入芯片與人臉識(shí)別分析上課表現(xiàn)與行為的共同點(diǎn)：

　　拿捏不好分寸，將所謂的“保護(hù)”轉(zhuǎn)變?yōu)?ldquo;過(guò)度保護(hù)”，以保護(hù)之名行“監(jiān)禁”之實(shí)，將會(huì)在未成年人的心理上留下怎樣的痕跡?最壞的結(jié)果，還請(qǐng)參見(jiàn)黑鏡這一集的結(jié)局。

　　技術(shù)本沒(méi)有任何錯(cuò)誤，根本在于我們的命運(yùn)掌握在有權(quán)使用技術(shù)的人手里。

　　曠視“冤”嗎?

　　當(dāng)輿論炮火被引到曠視身上時(shí)，我們其實(shí)需要了解更多真相。

　　2018年在北京舉行的安博會(huì)上，除了“人臉識(shí)別技術(shù)”成為硬件與方案的標(biāo)配，幾乎現(xiàn)場(chǎng)可提供場(chǎng)景解決方案的安防廠商中，有一半都表示可以做以校園場(chǎng)景為基礎(chǔ)的人臉識(shí)別監(jiān)控。

　　而在百度與天眼查上搜索“校園智慧解決方案”，聲稱可以提供室內(nèi)人臉識(shí)別監(jiān)控方案的企業(yè)不在少數(shù)。

　　實(shí)際上，在國(guó)內(nèi)各省的平安校園建設(shè)持續(xù)多年，出發(fā)點(diǎn)是預(yù)防各類侵害學(xué)生權(quán)益的事件發(fā)生，譬如阻止社會(huì)人員滋擾在校師生，再有就是讓人痛恨的校園霸凌。

　　與此同時(shí)，2018年教育信息化2.0行動(dòng)計(jì)劃的頒布，也讓提高教學(xué)質(zhì)量與效率的目標(biāo)與更多更復(fù)雜的技術(shù)手段建立了聯(lián)系。

　　然而，在技術(shù)應(yīng)用愈加成熟與便捷的過(guò)程中，有些東西正在發(fā)生變質(zhì)。

　　學(xué)校與家長(zhǎng)的關(guān)注點(diǎn)從學(xué)生的人身安全，逐漸轉(zhuǎn)向更加符合個(gè)人利益的要素上，譬如如何讓學(xué)生更加高效地學(xué)習(xí)，預(yù)防早戀等等，這些在他們看來(lái)都與更好的成績(jī)，孩子們更好的未來(lái)以及學(xué)校更好的名聲直接掛鉤。

　　早在2017年，國(guó)內(nèi)就有不少中小學(xué)安裝了聯(lián)網(wǎng)攝像頭，家長(zhǎng)在家里下個(gè)app，就可以通過(guò)教室黑板上方那個(gè)攝像頭，看自己的孩子到底在教室里做些什么。

　　也曾有學(xué)生在微博上控訴類似的事情，但并沒(méi)有引起多少關(guān)注。

　　而在app遠(yuǎn)程監(jiān)控的基礎(chǔ)上，加入更加強(qiáng)大的人臉識(shí)別及分析，只不過(guò)是一種“變本加厲”，而不是一家技術(shù)公司創(chuàng)造的原罪。

　　有行業(yè)人士曾告訴虎嗅，校園安防建設(shè)與信息化建設(shè)的盤(pán)子很大，各個(gè)階段政府與學(xué)校都需要有一定的項(xiàng)目資金投入，這是一個(gè)前景很可觀的市場(chǎng)。但至于這樣如此高技術(shù)含量的東西能不能用得上，就另當(dāng)別論了。

　　另一方面也有人認(rèn)為，作為一家將要IPO，但營(yíng)收并不好看還存在虧損的人臉識(shí)別技術(shù)公司之一，業(yè)績(jī)壓力也讓他們想尋找各個(gè)途徑實(shí)現(xiàn)技術(shù)變現(xiàn)，對(duì)于一些產(chǎn)品設(shè)計(jì)的思考可能欠妥當(dāng)。

　　“只能說(shuō)用這種方法去吸引采購(gòu)方，用各種高大上的語(yǔ)言去包裝，也許有些不會(huì)買(mǎi)賬，但也可能有人會(huì)被產(chǎn)品提升教育質(zhì)量與安全都能兼顧的說(shuō)法給打動(dòng)。” 據(jù)一位不具名的安防人士表示，從這個(gè)市場(chǎng)來(lái)看，一個(gè)巴掌是拍不響的。

　　“但另一方面，企業(yè)的技術(shù)并沒(méi)有那么好，很有可能忽悠客戶。實(shí)際上，你看到的那些分析維度，其實(shí)在實(shí)際場(chǎng)景中結(jié)果并不準(zhǔn)確。”

　　技術(shù)的局限性

　　技術(shù)創(chuàng)業(yè)公司通常都有一個(gè)毛病，就是喜歡把宣傳視頻或廣告圖片“修”得趨于完美。

　　除了吸引投資，這些視頻也是向客戶推銷產(chǎn)品的一大“伴手禮”，但實(shí)際上，很多時(shí)候在上手一試后，就會(huì)發(fā)現(xiàn)效果大都需要減半。

　　以情緒檢測(cè)為例，在一次試用人臉識(shí)別公司的表情檢測(cè)軟件的過(guò)程中，我們發(fā)現(xiàn)“快樂(lè)”和“開(kāi)心”更容易被算法定義，只要我咧開(kāi)大嘴，嘴角朝上，那么系統(tǒng)就會(huì)判定我目前是開(kāi)心的。

　　而悲傷，厭惡，或者是“面無(wú)表情”，根本沒(méi)有一個(gè)可以被標(biāo)準(zhǔn)化的基礎(chǔ)結(jié)構(gòu)，因此檢測(cè)成功率也較低。工程師也承認(rèn)，除了“笑”，其他表情其實(shí)都無(wú)法給出非常精準(zhǔn)的結(jié)果。

　　更何況以上所有情緒，都可以“造假”。譬如強(qiáng)顏歡笑，或者是故意張大嘴表示憤怒，都可能騙過(guò)機(jī)器。

　　此外，我們也比較好奇像“睡覺(jué)”這個(gè)維度是如何做到精準(zhǔn)分析的。那學(xué)生們困了，可能只需要一個(gè)曾在日本很流行的上班族必備神器——假眼貼紙，解一時(shí)之急。

　　2017年曾經(jīng)轟動(dòng)一時(shí)的上班族必備神器

　　最有意思的是，與國(guó)內(nèi)對(duì)人臉識(shí)別大部分的正向宣傳相反，由于人臉識(shí)別技術(shù)在有色人種、民族、兒童老人等維度的準(zhǔn)確率方面存在巨大差異，人臉識(shí)別技術(shù)應(yīng)用在國(guó)外的推廣略顯艱難。

　　作為國(guó)外反人臉識(shí)別風(fēng)潮中最有名的攻擊對(duì)象，曾被美國(guó)警方使用的亞馬遜計(jì)算機(jī)視覺(jué)平臺(tái) Rekognition被自家股東在今年年初開(kāi)始持續(xù)施壓，他們強(qiáng)制要求亞馬遜停止向執(zhí)法部門(mén)出售人臉識(shí)別軟件。

　　而這股風(fēng)潮也在今年8月初吹到了英國(guó)，有房地產(chǎn)商在倫敦國(guó)王十字區(qū)安裝了人臉識(shí)別硬件后遭到強(qiáng)烈反對(duì)，因?yàn)楹笳邔?duì)此毫不知情。

　　在美國(guó)，這項(xiàng)技術(shù)正面臨著來(lái)自立法者越來(lái)越大的阻力。

　　加利福尼亞州參議院正在考慮立法禁止在警用隨身攝像機(jī)中使用人臉識(shí)別軟件，而舊金山監(jiān)事會(huì)(美國(guó)中西部及東部各州)也已經(jīng)開(kāi)始禁止執(zhí)法部門(mén)使用這項(xiàng)技術(shù)。

　　因此，包括亞馬遜、谷歌以及亞馬遜等技術(shù)公司雖然很不情愿，認(rèn)為“新技術(shù)不應(yīng)該因?yàn)榭赡鼙粸E用而遭到禁止和譴責(zé)”，但卻達(dá)成了一個(gè)共識(shí)：

　　制定相關(guān)合乎道德的指導(dǎo)方針，要跑在真正能使用這項(xiàng)技術(shù)之前。

　　因?yàn)橐粋�(gè)明確的監(jiān)管框架不僅能確保人臉識(shí)別只用于完成合法的任務(wù)，也能夠幫助消費(fèi)者理解這項(xiàng)技術(shù)的好處。

　　讓人臉識(shí)別“走上正路”，一邊是法律的強(qiáng)勢(shì)介入，而另一邊則是來(lái)自民間個(gè)人的智慧。

　　俄羅斯搜索巨頭 Yandex 的技術(shù)開(kāi)發(fā)總監(jiān)Grigory Bakunov發(fā)明了一種反面部識(shí)別方法。其實(shí)這種方法理解起來(lái)很簡(jiǎn)單，就是在臉上用特殊顏料多添幾筆，干擾系統(tǒng)對(duì)人臉特征的提取。

　　而日本一位名叫 Isao Echizen的教授為了保護(hù)隱私，發(fā)明了一種利用紅外發(fā)光二極管來(lái)干擾人臉識(shí)別的眼鏡。 因?yàn)檫@種人類看不見(jiàn)的紅外光可以在攝像頭的“眼”中呈現(xiàn)出明亮的紫色。

　　當(dāng)然，還有多種“殺馬特”造型供學(xué)生們以及不愿意泄露面部數(shù)據(jù)的成年人們選擇：

　　隱私保護(hù)的漫漫長(zhǎng)路

　　如何保護(hù)隱私?這個(gè)問(wèn)題存在很長(zhǎng)時(shí)間，但似乎無(wú)解。

　　因?yàn)樗�處的環(huán)境不同，以及每個(gè)人對(duì)隱私的定義也不同，導(dǎo)致我們不能做過(guò)多解讀。

　　譬如，援引美國(guó)獨(dú)立研究員Stephanie Hare的話來(lái)解釋，人臉識(shí)別系統(tǒng)的最大問(wèn)題之一是涉及到生物特征數(shù)據(jù)，換句話說(shuō)，就是人體信息，這無(wú)疑與我們的隱私有關(guān)。

　　但這次曠視引發(fā)的討論中，有小部分人對(duì)“這種做法是否真的侵犯了隱私”提出了質(zhì)疑。

　　譬如“既然家長(zhǎng)可以把學(xué)生的情況反映給家長(zhǎng)，為什么機(jī)器不能匯集更豐富的信息給家長(zhǎng)?”，再譬如“未成年人到底有沒(méi)有獨(dú)立于成年人的隱私權(quán)”?

　　這個(gè)時(shí)候，只能搬出最“教條”的東西來(lái)了：

　　《教師法》賦予了老師管理學(xué)生的權(quán)利，法律賦予了機(jī)器什么?

　　而第二個(gè)問(wèn)題本身就是有問(wèn)題的。《未成年人保護(hù)法》明確表示未成年人具有隱私權(quán)，之所以一直被侵犯，跟成長(zhǎng)教育環(huán)境有很大關(guān)系。

　　從本質(zhì)來(lái)看，這些質(zhì)疑聲恰恰凸顯出隨著技術(shù)發(fā)展，法律一定要強(qiáng)勢(shì)介入的必要性。

　　但是每次涉及到隱私問(wèn)題，我們的擔(dān)憂都會(huì)在一次集中爆發(fā)后，又迅速銷聲匿跡。

　　2016年Facebook人臉識(shí)別被控侵犯隱私如此，2018年亞馬遜智能音箱等企業(yè)被爆偷聽(tīng)偷錄用戶日常數(shù)據(jù)也是如此。如今，在換臉視頻app Zao的使用熱度過(guò)去，對(duì)AI教室監(jiān)控產(chǎn)品的討伐聲結(jié)束，大概對(duì)隱私被侵犯的控訴仍然會(huì)不了了之。

　　所以我們根本不應(yīng)該去指責(zé)百度CEO李彥宏在去年中國(guó)高層發(fā)展論壇上發(fā)表的“中國(guó)大多用戶愿用隱私來(lái)?yè)Q取便捷服務(wù)”的言論，捫心自問(wèn)，我們有多少人心里是這么想?yún)s不敢說(shuō)?

　　而回到這個(gè)問(wèn)題上，當(dāng)學(xué)生們即便同意自己的身體信息被收集和分析，那么參與方有沒(méi)有征求過(guò)這些機(jī)器直接作用方的意見(jiàn)呢?

　　是的，這就像我們?nèi)ビ糜?jì)算機(jī)視覺(jué)去檢測(cè)桃子的大小形狀以及腐爛程度，用人臉識(shí)別以及多種生物識(shí)別方法來(lái)監(jiān)測(cè)豬的生長(zhǎng)情況與肥壯健康程度，最終我們也把這套固化的標(biāo)準(zhǔn)，用在了我們自己身上。

　　是的，我舉手0次，打瞌睡10次，笑了0次，我就是一個(gè)壞學(xué)生。

　　而孩子們會(huì)不會(huì)在這樣隱形的壓力下有了更加符合人性的“特長(zhǎng)”，譬如學(xué)會(huì)裝模作樣，學(xué)會(huì)接受把這套機(jī)器用在下一代身上。

　　因此，在釀成大錯(cuò)之前，我們更應(yīng)該著手去做的，是讓隱私保護(hù)問(wèn)題引起更多人的重視和推動(dòng)相關(guān)法律的確立，而不是把口水噴到一家公司的身上。

　　最后，引用知乎上一位回答“如何看待曠視科技新產(chǎn)品監(jiān)視學(xué)生上課?”得到最高贊的匿名人士的一段感概作為結(jié)語(yǔ)：

　　“這不是產(chǎn)品經(jīng)理或者程序員的問(wèn)題，不是一家公司的問(wèn)題，甚至不是一個(gè)技術(shù)問(wèn)題。這是我們社會(huì)的價(jià)值觀的問(wèn)題，是我們?cè)趺纯创�自身�?quán)益的問(wèn)題。”