微軟推出新 AI 程式,辨識相片影片真假

分享你的喜好:

隨科技持續進步,演算技術日益改善,AI 換面的技術變得成熟,到近年網上 deepfakes 片段愈來愈多,我們已開始分不清一些網上相片影片的真偽。微軟近日就推出一款新 AI 工具 Video Authenticator,可以分析相片影片是否真偽,解決日益嚴重的 deepfakes 問題。

Deepfake 是指使用 AI 工具修改的相片,影片或是音頻。儘管這種科技具有無窮無盡的創造性地,但也會衍生很多問題的,呈現現實生活中未發生的事情。例如,早前也有一些政客演講片段,製作者運用 Deepfake ,讓畫面前的政客說了他們從未說過的說話或做他們從未做過的行為,隨意捚造事實,令人混淆的影片,是一個非常令人不安的技術。

加上,由於 Deepfake 是透個 AI 學習算法創造,因此它們所生成的畫面質量通常很高,令人很難辦認真偽。

所以今次 Video Authenticator 的原理就是分析影片中的每一格以及相片,並為它們測試一個信任度分數,分數會表明這些相片及影片會被 AI 修改的可能性。在分析影片時,Video Authenticator 會為用戶提供每個格數的實時百分比。

不過,微軟也解釋新推出 Video Authenticator 僅僅是開始。微軟表示由於所有 AI 的檢測方法都有失敗的可能性,因此他們必須了解並準備好應對通過檢測方法的漏洞。因此,從長遠來看,他們必須不斷革新程式維護及證明新聞報導和其他媒體的真實性。

最後,Microsoft 表示不會將 Video Authenticator 公開提供給公眾使用,以保護檢測方法,避免有人重中更改 AI 技術。


分享你的喜好:

發表回覆

你的電郵地址並不會被公開。 必要欄位標記為 *