AI換臉風波之后,刷臉支付能否確保萬無一失

2019年12月05日10:19  來源:工人日報
 

  使用AI技術,用戶隻需提供一張正面人臉照片上傳到該軟件,就可以把選定視頻中的明星面部替換掉,生成以自己為主角的視頻片段——一款新推出的AI換臉軟件迅速火爆社交網絡,但同時也引發關於用戶隱私的爭議。雖然目前該軟件已被叫停,但搜索“換臉”仍可看到其他眾多相似的商品信息。有媒體報道,目前在網絡平台上,售賣明星換臉的淫穢視頻、提供視頻定制換臉服務、教授換臉技術等已經成為一門生意。

  眼下,刷臉支付已成為各大科技公司未來爭奪的戰場,這一事件也再次把外界普遍關注的用戶隱私問題拋了出來。當換臉算法更加高明,現有的刷臉支付能否確保萬無一失?

  支付寶生物識別技術負責人留招表示,現在生物識別與支付已經成為了社會主流方式,為用戶的生活提供了便利,但用戶的隱私與信息安全是生命線。

  也就是說,無論技術如何發展,用戶安全底線不能突破。

  該換臉軟件規定,用戶上傳發布內容后,意味著同意授予某些相關方在“全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”,一些網友和法律人士認為其涉嫌非法收集信息。

  在數字經濟形態下,數據已經成為新的生產要素,數據優勢是競爭優勢也是商業優勢,未來以數據為基礎的人工智能將是商業藍海,但如果相關監管沒有跟上,數據濫用就會出大問題。

  在這個過程中,隨著AI等技術的進步,人臉作為數據不但是有價值的,而且還會帶來新的風險。因此,“有技術也不能濫用,有技術也不能任性”應該成為各大企業必須遵守的准則。

  從這個角度看,AI換臉軟件所引發的爭議表面上是圍繞隱私保護,但在本質上卻反映了一個永恆的命題,即技術飛速進步帶來便利的同時也會產生破壞,這對人類現有制度體系、運行機制、法律規則和社會秩序等都造成前所未有的挑戰。尤其是在大數據和算法之下,所有人都是“裸露”的,個人隱私無處逃遁,普通人也無力抵抗。

  北京市安理律師事務所高級合伙人王新銳曾表示,這類利用深度學習技術換臉的軟件,最大的問題是大規模收集生物識別信息和“真假難辨”的呈現方式給社會帶來的安全風險,而這種風險目前被公眾廣泛低估,但已經帶來嚴重的后果。

  人工智能不僅是一個技術問題,也是一道治理考題,這意味著有必要正視、 預判和直面技術倫理與法律風險,盡快在技術、 市場和規則間尋找可大可久的平衡點,而一種理想的狀態是人工智能技術與相關立法齊頭並進,科技企業更要自發地承擔倫理責任,保持敬畏之心,堅持科技向善,維護人類價值。

(責編:喬雪峰、呂騫)