侵權投訴
訂閱
糾錯
加入自媒體

微軟刪除人臉識別數據庫 如何平衡城市安全和個人隱私成關鍵

2019-06-13 04:31
AiChinaTech
關注

微軟刪除人臉識別數據庫 如何平衡城市安全和個人隱私成關鍵

近日,英國《金融時報》報道,微軟悄然刪除MS Celeb人臉識別數據庫,微軟稱該數據庫是全球最大的公開人臉識別數據庫。該數據庫于2016年公開,含有約10萬人的1000萬張照片,用于輔助全球科技公司和軍事研究人員面部識別工作,但這些照片未獲得本人許可。4月媒體曝光其商業用途后,微軟將其刪除。

微軟一直公開反對將人臉識別技術作為監督方式,但2018年12月,微軟曾呼吁各公司建立保障措施,督促各國政府立法,要求對人臉識別技術進行獨立測試。今年4月份,微軟拒絕了加利福尼亞州一家執法機構在警車和便攜攝像頭上安裝人臉識別設備的要求。

近兩年是人工智能的爆發年,隨著人工智能的賦能,人臉識別技術以其不可復制性、非接觸性、可擴展性和快速性等特點在多種生物識別技術中脫穎而出。國內更是誕生了許多計算機視覺領域的優質企業,如曠視科技、商湯科技、極鏈科技、依圖科技、云從科技等。

雖然人臉識別技術便于機構觀察和跟蹤個人,但新的問題也將隨之而來,從技術水平看,人臉是唯一不需要用戶主動配合就可以采集到的生物特征信息,人們每天被不同的監控拍攝成百上千次,隨時面臨著個人隱私的暴露。如何保證城市生活安全和個人隱私之間做到平衡,成為了當前社會關注的重點。

人臉識別技術難點

當前,人臉識別的過程依次為活體檢測—人臉檢測拍攝—上傳服務器對比或本地處理—面部特征點定位—提取和分類—校驗和識別—分析返回結果,但這些過程中依然會找到突破點來實現欺騙或者繞過人臉識別,人臉識別隱私問題依然存在技術難點。

1、活體檢測攻擊和繞過

SecID的員工使用錄制的視頻,就輕松繞過了俄羅斯著名人臉識別公司VisionLabs的活體檢測。

這個方法毫無技術門檻,只要有目標用戶的音視頻即可剪輯出一段視頻實現活體檢測的攻擊。用應用注入的方式,甚至可以實現繞過活體檢測,因為活體檢測肯定是先于人臉識別發生的,可以在程序中打斷點,通過試驗演示整個流程觸發斷點,分析并修改程序存儲的一些關鍵數值,就能達到繞過活體檢測的目的。而一旦活體檢測被繞過,一張普通的照片都能通過靜態的人臉識別。

2、服務器交互過程攻擊

很多APP或SDK在上傳拍攝的照片時,明文傳輸,且沒有對圖像數據進行簽名,導致圖像數據可以被截獲篡改,有的在數據報文沒有加入時間戳,可以通過重放數據報文的方式來實施破解。

我們在測試某款應用的過程中,甚至出現過這樣的情況:本地上傳人臉數據到服務器,服務器返回一個匹配度,本地通過匹配度來決定人臉識別是否通過,該應用沒有對數據報文加簽名,導致返回數據可以被輕松篡改,最終繞過人臉檢測。

3、3D打印繞過檢測

iPhoneX發布后一周,越南安全公司Bkav用3D打印的臉部大面具輪廓、硅樹脂材料制作的鼻子、2D打印的眼眶區域和部分面部的化妝,制作成了一個假的人體面具成功破解了蘋果的Face ID系統。隨著3D打印技術的低成本化和普及化,可以預料的是,未來會出現越來越多的人臉識別系統被破解的案例,即使3D結構光的在旗艦手機上的逐漸普及也無法挽回這個趨勢。說到底,人臉識別只能作為一種弱加密手段來使用,他無法改變人臉可以被復制的屬性,破解人臉識別只是時間和成本問題,而不是技術問題。

4、對抗網絡破壞人臉識別

多倫多大學的教授Parham Aarabi 和研究生Avishek Bose 5月31日在Arxiv上提交了一篇論文,該論文演示了一種“對抗性訓練”,建立起兩種相互對抗的算法。

Aarabi 和 Bose 創建了兩個神經網絡,一個是識別人臉的網絡,另一個是破壞其既定目標的神經網絡。這兩個網絡互相學習,相互提升效果。其實就是當初對抗樣本的原理,利用對抗原理,只要輕微改動幾個關鍵像素的值,這樣的改動對人類來說甚至無法察覺,但完全可以達到欺騙神經網絡的作用。

當前人臉識別技術的壁壘

1.人臉識別率參差不齊

人臉識別技術屬于生物特征識別技術,是對人本身的生物特征來區分生物體個體。人臉識別技術是指利用分析比較的計算機技術識別人臉。但人臉識別系統在用戶配合且采集條件理想的情況下可以取得令人滿意的結果。但在用戶不配合的情況下,現有的系統識別率將參差不齊。也就是人臉如果發生一些變化,系統很可能會認真失敗。隨著年齡的變化,面部外觀也會發生變化,特別是對于青少年,這種變化更加明顯,對于不同的年齡段,人臉識別算法的識別率也不同。年齡變化對人臉識別算法的影響也是當前人臉識別率參差不齊的主要原因。

2.隱私問題嚴峻

從微軟悄然刪除MS Celeb人臉識別數據庫時間就可以看出,通過人臉識別技術思然可以獲取相應的用戶信息,但也在一定程度上會造成用戶信息泄露,有侵犯用戶隱私的嫌疑。

從技術層面講,人臉識別技術的大規模使用,人臉是無法復制的,但是基于人臉特征點的信息是以數字化信息進行存儲的,相關數據庫就面臨著被黑客攻擊或者自身防范不力導致泄露事件。人臉特征數據庫的外泄將面臨更大的隱患。以往密碼被竊取,可通過重新設置實現密碼更改,并提高安全防范級別。但人臉等生物特征信息是唯一且終身不變的,因此,一旦泄露就將導致人們個人財產、或者隱私等被公開,造成重大損失。當前人們逐漸開始了解人臉識別這個領域,并對于個人隱私的信息的重視日益增長,而如何平衡個人隱私和保證城市生活安全成為了人臉識別技術的巨大技術壁壘。

小結:

在當前的情況下,人臉識別的確一定程度上滿足了便捷性要求,但卻是以犧牲安全性為代價的,所以,人臉識別并非是一種完全安全的驗證方式。如何破解人臉識別隱私安全問題,有沒有一種技術可以讓人臉識別打破當前技術壁壘?答案還未知。未來,人臉識別技術必將會應用到更加廣泛的應用中去,然而技術的升級不能解決一切問題,或許還會誕生出新的問題。中國作為人臉識別技術大國,還是應該盡快確立相應的法律法規和行業生產標準,以此平衡城市安全和個人隱私之間的平衡。

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯系舉報。

發表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續

暫無評論

暫無評論

文章糾錯
x
*文字標題:
*糾錯內容:
聯系郵箱:
*驗 證 碼:

粵公網安備 44030502002758號

pc28am参考结果