英國作家歐威爾(George Orwell)的反烏托邦鉅作“一九八四”裡那句:“老大哥在看著你(老大哥在看著你)。”因象徵極權統治對公民無所不在的監控,成為流傳後世的金句;但在大數據當道的時代,政治人物,商人恣意使用客戶授權的數據,讓這句名言在這世代有了「新解」,可謂是「大數據在看著你」 。
令社會擔憂的是,“大數據在看著你”並非未來式,而是現在進行式,如臉書(Facebook)與劍橋分析公司(Cambridge Analytica)醜聞,中國大陸「社會信用體系建設」僅是大數據與人類隱私的衝突案例之一,真正讓「大數據在看著你」的原因在於當今社會已經被演算法包圍,數據,數學模型決定了人們臉書塗鴉牆優先出現誰的貼文,網頁看到什麼樣的廣告,人們也發現數據越來越了解自己,知道個人的網路閱覽愛好,甚至是政治傾向。
挑戰與爭議
但大數據的使用也可能剝奪一些群體的權利,凱西•歐尼爾(Cathy O'Neil)在“大數據的傲慢與偏見”(數學毀滅武器)一書中提到,2009年教育改革者推行一個方案,目的是開除表現最差的一群教師,站在考核角度來看,這方案很正常,表現最差的教師辭職,如此能「優化」學校系統,改善學生成績。教育改革者開發出一套教師評價系統,但這個看似合理,追求科學客觀的評價機制,卻讓一位深獲校長與家長好評的教師被迫辭職。
基本上,一台電腦需要做出預測,需要「餵食」它極大量的數據,並讓它從大量的數據中進行學習,才能做出預測;但由大量數據構成的數學模型,也可能簡化了現實,讓一些人被排斥在充滿著演算法的現代社會之外。如書中另一個例子是2013年美國賓州的一個小城,當地警局為了節省警力,引入一套犯罪預測軟體,該軟體透過分析犯罪歷史數據,進而推測出最可能發生犯罪活動的地帶。過了一陣子,該城市整體犯罪率確實下降,不過主要下降的是那些常發生微罪的貧困社區,因為數據呈現,讓這些社區成為警力加強部署的重點,讓生活在該區的窮人們接受不合理的盤查。
大數據應用帶來的問題,還不只是基於演算法產生對特定群體的歧視或排除,而是當大數據成為一個產業,分析技術越來越成熟,有更多奠基於大數據的分析跟應用時,即便個人能接受自身的數據被他人「利用」,如何別讓海量數據能夠拼湊,識別出個人,避免侵犯隱私,這需要仰賴個資相關規定是否重視數據「去識別化」。
更多提一旦大數據發展到極致,對人類生存價值的傷害,“人類大命運”(Homo Deus)的作者哈拉瑞(Yuval Noah Harari)指出,人類正逐漸將手中的權力交由利伯維爾場(利伯維爾),交給群眾智慧和外部演算,某些原因就出在人類無力處理大量數據。而大數據的發展也引發了以下三個關鍵問題。
1.生物真的只是演算法?生命也僅是數據處理?
2.智慧和意識,到底哪一項更有價值?
3.一旦無意識但具高度智慧的演算法比我們更了解我們,社會,政治和日常生活將會有什麼變化?
人將失去主體性?
這三個問題投射出作者哈拉瑞憂慮人類在大數據發展下,失去身為人的主體性,僅成為「提供數據者」的擔憂。
在大數據產業蓬勃發展之下,人們從掌握即時到預測分析未來,真的讓人有種「信大數據者得永生」之感,但如今天人們竭盡心力思考如何榨取大數據所衍生經濟價值的同時,也發現了大數據經濟對人的影響,於是人們在運用大數據時,也該思考:高速發展下,如何運用科技,卻不成為科技發展的俘虜?
本文來源:《多維TW》月刊035期