當你的朋友打來視頻電話，自然流露著熟悉的表情、聲音、語調(diào)……這時，你會懷疑畫面中就是你的朋友本人嗎?你會認為眼見必定為實嗎?

近日，福州一家科技公司的老板郭某，接到一位好友的微信視頻邀請，對方說自己的朋友在外地競標，需要430萬元的保證金，想走他公司的賬戶過個賬。郭老板在視頻通話中確認了人和聲音都是他的朋友之后便同意了。隨后，對方就給郭老板發(fā)了一張銀行卡轉賬成功的截圖，說是錢已經(jīng)轉到郭老板的賬戶中。由于郭老板之前已經(jīng)在視頻通話中確認了朋友的身份，并未起疑，在沒有確認錢到賬與否的情況下，沒有多想，直接將430萬轉到了好友的銀行卡上。整個過程僅用短短的十分鐘……

轉賬完成后，郭老板打電話跟朋友確認錢是否到賬，才發(fā)現(xiàn)自己中了騙子的圈套!經(jīng)過警方的調(diào)查取證分析，郭老板是被犯罪分子利用人工智能深度合成換臉、變聲技術，實施了電信詐騙。幸運的是，接到郭某的報警后，福州、包頭兩地警銀迅速啟動止付機制，成功攔截了336.84萬元，但仍有96.16萬元被轉移 ，目前仍在全力追繳中。

近年來，人工智能各項技術飛速發(fā)展，應用更加普及多元。其中，深度合成和生成式AI技術作為人工智能領域的創(chuàng)新應用技術，以其較低的應用門檻、較強的娛樂屬性、豐富的應用場景備受關注。AI“換臉”、AI繪畫、虛擬主播等為人所熟知的場景都使用了深度合成和生成式AI技術。

在深度合成和生成式AI技術向社會生活的各個領域滲透之時，AI安全的負面風險持續(xù)加劇且產(chǎn)生實質(zhì)危害。隨著深度合成和生成式AI技術的開放開源、深度合成和生成產(chǎn)品及服務的增多，此類內(nèi)容制作的技術門檻越來越低，實現(xiàn)了技術的“平民化”。通過深度合成和生成式AI技術偽造音視頻圖像進行誣陷、誹謗、詐騙、勒索等違法行為已屢見不鮮。

阻止AI濫用，防止AI作惡，也需發(fā)揮技術能力，用“魔法”打敗“魔法”。作為國投集團數(shù)字/科技板塊的重要企業(yè)、國內(nèi)電子數(shù)據(jù)取證行業(yè)龍頭和公共安全大數(shù)據(jù)領先企業(yè)、網(wǎng)絡空間安全與社會治理領域國家隊，美亞柏科2017年成立AI研發(fā)中心，深度開展人工智能技術研究。為了應對利用人工智能技術可能帶來的安全問題，2019年針對深度合成技術又特別成立專項研究團隊(下稱“專項團隊”)。

專項團隊通過對深度合成和生成式AI技術的深入研究以及在人工智能安全方向的經(jīng)驗積累，自主研發(fā)深度偽造視頻圖像檢測鑒定的核心引擎，打造出一系列視頻圖像檢測鑒定的一體化智能裝備，如“AI-3300慧眼視頻圖像鑒真工作站”等。

AI-3300"慧眼"視頻圖像鑒真工作站是一款以人工智能技術為核心的視頻圖像檢驗鑒定設備，配備了美亞柏科人工智能團隊自主研發(fā)的核心AI智能檢測引擎，支持當前絕大部分深偽視頻圖像篡改方法的檢測，檢測精度處于國內(nèi)領先水平。

該設備涵蓋40余種視頻圖像真?zhèn)舞b定算法，近10種深偽鑒定算法，同時具有智能鑒定和專業(yè)鑒定兩種鑒定模式，支持卷宗管理和三種鑒定文書生成，為司法鑒定人員提供一站式視頻圖像檢驗鑒定服務。它不僅對利用傳統(tǒng)偽造手段篡改的影像能生成理想的鑒定效果，而且對利用深度偽造技術進行換臉、美顏、生成人臉、同圖或異圖復制篡改的影像具有十余種理想的鑒定效果。"慧眼"視頻圖像鑒真工作站可為公安、司法行業(yè)及相關領域的技術人員和影像鑒定人員提供一站式影像真?zhèn)螜z驗鑒定解決方案。

未來，美亞柏科將聚焦生成式人工智能和AI生成內(nèi)容的檢測識別技術，踔厲奮發(fā)，持續(xù)發(fā)力，按照《中華人民共和國網(wǎng)絡安全法》、《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理辦法》(征求意見稿)的管理要求，針對深度合成文本、視頻、圖像的檢測鑒定技術、生成式人工智能技術、人工智能安全取證技術等方面的應用需求，不斷打磨推出更為安全、可信、可靠的人工智能技術產(chǎn)品，為打擊利用人工智能的新興涉網(wǎng)犯罪，提供有力的技術武器，為維護和保障人工智能的健康發(fā)展和規(guī)范應用貢獻力量!

免責聲明：市場有風險，選擇需謹慎!此文僅供參考，不作買賣依據(jù)。

關鍵詞：