使用AI技術，用戶只需提供一張正面人臉照片上傳到該軟件，就可以把選定視頻中的明星面部替換掉，生成以自己為主角的視頻片段——一款新推出的AI換臉軟件迅速火爆社交網絡，但同時也引發關于用戶隱私的爭議。雖然目前該軟件已被叫停，但搜索“換臉”仍可看到其他眾多相似的商品信息。有媒體報道，目前在網絡平臺上，售賣明星換臉的淫穢視頻、提供視頻定制換臉服務、教授換臉技術等已經成為一門生意。
眼下，刷臉支付已成為各大科技公司未來爭奪的戰場，這一事件也再次把外界普遍關注的用戶隱私問題拋了出來。當換臉算法更加高明，現有的刷臉支付能否確保萬無一失?
支付寶生物識別技術負責人留招表示，現在生物識別與支付已經成為了社會主流方式，為用戶的生活提供了便利，但用戶的隱私與信息安全是生命線。
也就是說，無論技術如何發展，用戶安全底線不能突破。
該換臉軟件規定，用戶上傳發布內容后，意味著同意授予某些相關方在“全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”，一些網友和法律人士認為其涉嫌非法收集信息。
在數字經濟形態下，數據已經成為新的生產要素，數據優勢是競爭優勢也是商業優勢，未來以數據為基礎的人工智能將是商業藍海，但如果相關監管沒有跟上，數據濫用就會出大問題。
在這個過程中，隨著AI等技術的進步，人臉作為數據不但是有價值的，而且還會帶來新的風險。因此，“有技術也不能濫用，有技術也不能任性”應該成為各大企業必須遵守的準則。
從這個角度看，AI換臉軟件所引發的爭議表面上是圍繞隱私保護，但在本質上卻反映了一個永恒的命題，即技術飛速進步帶來便利的同時也會產生破壞，這對人類現有制度體系、運行機制、法律規則和社會秩序等都造成前所未有的挑戰。尤其是在大數據和算法之下，所有人都是“裸露”的，個人隱私無處逃遁，普通人也無力抵抗。
北京市安理律師事務所高級合伙人王新銳曾表示，這類利用深度學習技術換臉的軟件，最大的問題是大規模收集生物識別信息和“真假難辨”的呈現方式給社會帶來的安全風險，而這種風險目前被公眾廣泛低估，但已經帶來嚴重的后果。
人工智能不僅是一個技術問題，也是一道治理考題，這意味著有必要正視、 預判和直面技術倫理與法律風險，盡快在技術、 市場和規則間尋找可大可久的平衡點，而一種理想的狀態是人工智能技術與相關立法齊頭并進，科技企業更要自發地承擔倫理責任，保持敬畏之心，堅持科技向善，維護人類價值。
