傳動網 > 新聞頻道 > 行業資訊 > 資訊詳情

警惕“AI換臉”

時間:2021-12-23

來源:

導語:進入人工智能時代,網友們的自娛自樂不再只是寫同人文和畫漫畫了,他們已經與時俱進地用上了AI技術。

  隨著科技的發展,AI技術已經被廣泛應用于各行各業中,其中有一項技術在今年爆火,即“AI換臉”:在一些視頻平臺上,不少網友以AI換臉為樂;在影視領域,這項技術解決了因為某些因素導致電視劇無法播出的問題。但與此同時,這項技術也是一把雙刃劍,比如利用其偽造人臉識別認證、制造虛假新聞等。在法律人士看來,AI作為新興科技本身在法律上是不受禁止的,但不管是經營者還是使用者,都要秉持科技向善的原則,避免利用這項技術從事違法犯罪行為。

  從自娛自樂到行業應用

  進入人工智能時代,網友們的自娛自樂不再只是寫同人文和畫漫畫了,他們已經與時俱進地用上了AI技術。

  不少B站或者短視頻用戶肯定在平臺上看到過這樣的現象,每當有一個視頻爆火,就會有網友將自己喜歡的明星的臉通過AI技術“移花接木”到原視頻的人物身上;一些網友還愛將一些喜劇明星的臉通過AI技術換到《甄嬛傳》等宮廷劇的角色身上;還有人將自己的臉換到動漫人物身上……

  當然,這里的AI換臉技術并不需要網友自行學編程、寫代碼,只要下載一個AI換臉的App,將自己想要用的臉和身體的照片放上去,就能實現換臉。北京商報記者在軟件商店搜索“換臉”兩字,可以看到很多相關的App,比如“換臉寶”“一鍵AI換臉”“愛臉秀”“AI換臉秀”“臉拍AI換臉”“AI換臉大師”等。

  北京商報記者就AI換臉的一些技術和應用問題采訪了云從科技、依圖科技等AI公司,但截至發稿對方未給出回復。

  除了被網友們用來娛樂,AI換臉技術也有正經用途。在今年熱播的一部電視劇《突圍》中,因飾演劇中一個重要角色的演員曾公開發表不當言論,劇組便動用了AI換臉技術將其相關出場鏡頭盡數“換臉”。不過,限于當下的技術水平,劇中但凡有這個角色的鏡頭,仔細觀察還是能看出一些不自然的細節。

  可以說,AI換臉技術在特定背景下確實有其存在的必要性。然而,隨著這項技術的廣泛應用,不法分子也學會了利用這項技術鉆空子。

  近日,常州警方發現,當地一家非法從事證書掛靠行業的公司,竟然使用AI換臉技術“偽造人臉”,幫助想要掛靠的專業人員在相關政務網站上進行識別認證。正常的人臉識別需要本人親自進行識別認證,這個犯罪團伙便想到利用AI換臉技術“騙過”人臉識別認證,實施作案,犯罪嫌疑人在審訊過程中,還向警方演示了用多個制圖軟件讓圖片動起來的過程。

  此外,還有一些人開始利用AI換臉技術造謠,尤其是用在公眾人物身上。今年8月,演員劉昊然的工作室報警,稱網友利用AI換臉技術傳播對劉昊然帶有侮辱性的視頻、截圖,同時還有含有存在誹謗言論的聊天記錄。

  “移花接木”要有法律界限

  “AI換臉技術本身是一項中性技術,提供了一種解決問題的方式。” 中國互聯網協會法工委副秘書長、中消協律師胡鋼對北京商報記者表示,但要注意,使用這項技術的人,可能出于不同的目的、有不同的動機,雖然采用同樣的技術,但所產生的社會效果和法律效果是不同的。

  胡鋼認為,網友通過某種方式創作一些內容、完成一些表演,是憲法規定公民所享有的權利,但任何一項言論或行為自由都和相關義務和責任匹配,自由的邊界是不得侵犯其他個人或組織的利益,也不能損害公共利益,要有一個清晰的法律界限。“如果AI技術被用于詐騙,比如偽裝成另外一個人并虛構一些內容,輕則損害他人的名譽權、肖像權,重則形成了傳播謠言、擾亂公共秩序的危害,相關行為人利用現代科技信息技術時,一定要秉持科技向善的原則,牢牢守住法律的底線,不能利用這樣的技術從事違法犯罪的活動。”

  除了使用者要規范自己的行為,胡鋼指出,AI換臉技術的開發者和經營者在授權他人使用相關產品時,一定要明白科技倫理的概念,考慮這項技術在法律上、倫理上是否可能被濫用,在開放過程中應當采取更加合法合規的措施和方式,以及注意后期的預防措施。“產品所展現的圖像本身或者聲音本身,開發運營者是否可以強制在其中凸顯出這是經過AI技術處理的內容,存在不真實的可能性,或者標注僅用于表演,這種重要的提示完全可以嵌入到相關開發技術運營單位的經營流程之中,這點如果能牢牢守住,就能避免一些麻煩。”

  關于這一點,北京商報記者查閱資料注意到,2019年,百度安全推出了國內首個基于人臉搜索、人臉屬性提取、語音識別和OCR識別的深偽檢測平臺,采用多種算法和專利保護技術,對主流“深度偽造”數據識別準確率在99%以上,能及時地協助監管部門檢測相關風險與問題。 不過,即便有識別技術,人們還是應該保持警惕心理,不以此技害人,也不被此技所害。


中傳動網版權與免責聲明:

凡本網注明[來源:中國傳動網]的所有文字、圖片、音視和視頻文件,版權均為中國傳動網(www.hysjfh.com)獨家所有。如需轉載請與0755-82949061聯系。任何媒體、網站或個人轉載使用時須注明來源“中國傳動網”,違反者本網將追究其法律責任。

本網轉載并注明其他來源的稿件,均來自互聯網或業內投稿人士,版權屬于原版權人。轉載請保留稿件來源及作者,禁止擅自篡改,違者自負版權法律責任。

如涉及作品內容、版權等問題,請在作品發表之日起一周內與本網聯系,否則視為放棄相關權利。

關注伺服與運動控制公眾號獲取更多資訊

關注直驅與傳動公眾號獲取更多資訊

關注中國傳動網公眾號獲取更多資訊

最新新聞
查看更多資訊

熱搜詞
  • 運動控制
  • 伺服系統
  • 機器視覺
  • 機械傳動
  • 編碼器
  • 直驅系統
  • 工業電源
  • 電力電子
  • 工業互聯
  • 高壓變頻器
  • 中低壓變頻器
  • 傳感器
  • 人機界面
  • PLC
  • 電氣聯接
  • 工業機器人
  • 低壓電器
  • 機柜
回頂部
點贊 0
取消 0