• 深度
  • 行業
  • 行業
  • 互動

人臉識別潛入課堂,AI過度“入侵”如何承受隱私之重?

科技云報道 2019-11-20

技術并不是惡的化身,只是對人性惡的又一次考驗。

?

一直以來,關于AI技術和AI倫理的爭辯從未停止,這也是不斷有“技術向善”訴求表達出來的社會現實背景。

或許《黑鏡》的編劇怎么也沒想到,故事中的“戲言”終于一語成讖。

在第四季第二集中,為了更好監護自己的女兒,一位母親給她的眼睛植入了芯片控制器,自己可以透過一個類似iPad的硬件查看其身體的各項生命體征,也可以轉播它的視覺信號。

換句話說,她的母親可以通過iPad監控她的女兒。

冰冷的機器給人定性

抵御AI“入侵”迫在眉睫

如今,這種場景沒有出現在親子之間,而是真實出現在了課堂之上。

近日,一組課堂上學生課堂行為分析的視頻截圖在微博引發熱議,這張圖片再次刺激了用戶對于在AI技術籠罩下,保護個人隱私倍感無力的神經。

照片中,攝像頭通過計算機視覺算法獲取兩名學生的課堂表現,并以標簽的形式計算出“聽講、閱讀、舉手,趴桌子、玩手機、睡覺”等動作次數,截圖顯示該技術方案來自曠視科技。

?

趴桌子2次、玩手機2次、睡覺1次、聽講0次、閱讀0次、舉手0次、笑了0次、厭惡表情出現了10次……

最后機器可能得出一個綜合結論:她這是個有問題的孩子。

用機器去給人定性,AI是否已經過度入侵人們的生活了?是否已經成為當今社會新的枷鎖?

事實上,隨著AI技術獲取門檻的降低和智慧課堂概念的興起,包括好未來、新東方等諸多教育企業都將AI技術應用在對學生表情、肢體動作的識別中,來了解學生對學習專注的情況。

這類應用的設計之初,只是為了幫助老師了解課堂授課反饋情況、幫助學生提高學習效率。但同時,學生個人信息數據被大量獲取和存儲,也引發用戶對隱私安全的擔憂。

可以看到,AI發展至今在人權和隱私權等權利的保護方面仍然缺乏清晰邊界,同時缺乏相關法律法規對AI應用更為明確的規范。

如今,AI“入侵”中國教育體系已經到了令人擔憂的地步,貴州省仁懷市第十一中學的學生們現在都穿上了“智能校服”。

這套智能校服能精準、及時記錄學生的出勤和活動。只要身著這套校服,學生進出校門的準確時間,就會自動發送給學校老師和家長。如果未經許可出校門,也會激活自動語音報警器。

而且校服還會配合校門口的智能攝像頭一起使用,假如學生互換校服,警報也會響起。總之,人臉、校服和攝像頭,三合一確保學生身份。

?

與這一應用類似,之前亞馬遜被曝光構建了一套AI系統,可以追蹤每一名物流倉儲部門員工的工作效率,統計每一名員工的“摸魚”時間,然后自動生成解雇的指令。

亞馬遜曾經用AI來決定招人與否,不過最終因為反對的聲浪而廢止,但現在亞馬遜用AI來決定該不該解雇一個員工。而更令人震驚的是,亞馬遜的系統還能管理和限制員工離開崗位的時間。

換句話說,亞馬遜的員工是去是留,全由一個沒有感情、冰冷的自動化程序全權操控。

特斯拉CEO馬斯克之前的“AI威脅論”今天看來并非危言聳聽,但其可怕之處并非來自于AI本身,更多的則來自于人類對于AI的態度。

隱私保護長路漫漫

AI面前需保持克制與敬畏之心

人工智能這個人類一手締造的尤物,就如同《機械姬》中的美女,如此強烈地誘惑者人類,但當美女撕下面皮露出鋼鐵的內部時,她又是那么的可怖。

人類本應該讓技術服務于人類,如今卻將這套固化標準用在了自己身上,到底是技術解放了人類,還是技術奴役了人類?

在AI面前,我們更多的需要保持克制以及對技術的敬畏之心。在這方面,國外正在出現一股抵御AI的風潮。

與國內對人臉識別大部分的正向宣傳相反,由于人臉識別技術在有色人種、民族、兒童老人等維度的準確率方面存在巨大差異,人臉識別技術應用在國外的推廣略顯艱難。

作為國外反人臉識別風潮中最有名的攻擊對象,曾被美國警方使用的亞馬遜計算機視覺平臺 Rekognition,被自家股東在今年年初開始持續施壓,他們強制要求亞馬遜停止向執法部門出售人臉識別軟件。

而這股風潮也在今年8月初吹到了英國,有房地產商在倫敦國王十字區安裝了人臉識別硬件后遭到強烈反對,因為后者對此毫不知情。

?

在美國,這項技術正面臨著來自立法者越來越大的阻力。加利福尼亞州參議院正在考慮立法禁止在警用隨身攝像機中使用人臉識別軟件,而舊金山監事會也已經開始禁止執法部門使用這項技術。

因此,包括亞馬遜、谷歌等在內的技術公司雖然很不情愿,認為“新技術不應該因為可能被濫用而遭到禁止和譴責”,但卻達成了一個共識:

制定相關合乎道德的指導方針,要跑在真正能使用這項技術之前。

一個明確的監管框架不僅能確保人臉識別只用于完成合法的任務,也能夠幫助消費者理解這項技術的好處。讓人臉識別“走上正路”,一邊是法律的強勢介入,而另一邊則是來自民間個人的智慧。

如何保護隱私?這個問題存在很長時間,但似乎無解。因為所處的環境不同,以及每個人對隱私的定義也不同,導致我們不能做過多解讀。

援引美國獨立研究員Stephanie Hare的話來解釋,人臉識別系統的最大問題之一是涉及到生物特征數據,也就是人體信息,這無疑與人們的隱私有關。

但這次曠視引發的討論中,有小部分人對這種做法是否真的侵犯了隱私提出了質疑。

比如,既然家長可以把學生的情況反映給家長,為什么機器不能匯集更豐富的信息給家長?未成年人到底有沒有獨立于成年人的隱私權?一系列道德與倫理問題接踵而來。

從本質來看,這些質疑聲恰恰凸顯出隨著技術發展,法律一定要強勢介入的必要性。

但是每次涉及到隱私問題,我們的擔憂都會在一次集中爆發后,又迅速銷聲匿跡。

隨著換臉軟件Zao的使用熱度過去,對AI教室監控產品的討伐聲結束,大概對隱私被侵犯的控訴仍然會不了了之。

回到這個問題上,當學生們即便同意自己的身體信息被收集和分析,那么參與方有沒有征求過這些機器直接作用方的意見呢?孩子們會不會在這樣隱形的壓力下學會裝模作樣,學會接受把這套機器用在下一代身上?

在一切還尚未有明確答案之前,我們更應該讓隱私保護問題引起更多人的重視并推動相關法律的確立。

對于如何看待用AI技術監視學生上課這一行為,我們認為,這不是產品經理或者程序員的問題,不是一家公司的問題,更不是一個技術問題。

這是整個社會的價值觀的問題,是我們怎么看待自身權益的問題。

【科技云報道原創】

微信公眾賬號:科技云報道

(免責聲明:此文內容為第三方自媒體作者發布的觀察或評論性文章,所有文字和圖片版權歸作者所有,且僅代表作者個人觀點,與極客網無關。文章僅供讀者參考,并請自行核實相關內容。投訴郵箱:editor@fromgeek.com)

來源:科技云報道

標簽云計算
  • 科技云報道
    郵箱:caoceng@fromgeek.com
    有10年以上科技在記者、云計算專家傾情加盟,世界500強與4A公司營銷人所組成的前沿科技媒體,深入報道云計算、人工智能、大數據、AR/VR等垂直領域
    分享本文到