|
此外，還有不少商家以9.9元、19.9元等價(jià)格出售高清AI視頻換臉制作的教程，并提供多套模板和數(shù)字虛擬人面部捕捉工具。但記者發(fā)現(xiàn)，這類商品大多差評(píng)多多。“不要買，沒有用”“騙人的，誰(shuí)買誰(shuí)上當(dāng)”“資料包沒有想象中那么簡(jiǎn)單，也沒有人工售后，全靠自學(xué)”，網(wǎng)友們?cè)u(píng)價(jià)道。
“找人定制AI換臉視頻，看起來成片效果好，但實(shí)際上有很大的安全隱患。”陳玉表示，這一過程需要搜集大量的面部識(shí)別信息，而這恰恰是用戶最核心的個(gè)人信息。“個(gè)人信息一旦被比對(duì)之后，如果落到不法分子的手里，極易威脅到財(cái)產(chǎn)安全和人身安全。”
加強(qiáng)防范
AI詐騙有待更高層面監(jiān)管
AI換臉技術(shù)的可及性，讓AI詐騙頻發(fā)。近日，包頭市公安局發(fā)布一起使用AI技術(shù)進(jìn)行電信詐騙的案件，受害人郭先生10分鐘內(nèi)被騙430萬元。5月25日，4月發(fā)生的一起AI換臉詐騙事件又被媒體曝光。在這起安徽安慶經(jīng)開區(qū)發(fā)生的“冒充熟人”詐騙案中，詐騙分子使用了一段9秒鐘的智能AI換臉視頻佯裝“熟人”，詐騙金額達(dá)245萬元。
基于AI換臉的詐騙手段已發(fā)展到什么地步？對(duì)此，奇安信首席反詐騙專家裴智勇對(duì)記者表示，不法分子在使用AI換臉進(jìn)行詐騙時(shí)，大多以發(fā)送或展示AI換臉視頻片段作為手段。“比如最近警方提到的9秒AI換臉視頻，它其實(shí)沒有和受害人發(fā)生真實(shí)交互，由于時(shí)間很短，受害人也很難詳細(xì)分辨。”
“但我們無需過分恐慌及妖魔化AI換臉的可用范圍。”裴智勇表示，以目前技術(shù)來看，想要盜取微信賬號(hào)、劫持微信鏡頭并在實(shí)時(shí)視頻聊天中運(yùn)用AI實(shí)時(shí)換臉和變聲技術(shù)，難度和成本都極高。“騙子通常都是用很低的成本博取很高的收益，不太可能花費(fèi)高昂代價(jià)去批量尋找受害者。”
陳玉表示，普通用戶防范AI詐騙，關(guān)鍵在保護(hù)個(gè)人面部信息，防止被不法分子所獲取。“用戶不要在互聯(lián)網(wǎng)上隨意公開發(fā)布包含自己高清正面人臉的照片和視頻，或與不熟悉的人隨意進(jìn)行線上視頻等。”
“沒有經(jīng)過訓(xùn)練的普通人想要用肉眼識(shí)別視頻是否為AI合成，難度極高。騙子甚至不會(huì)給你詳細(xì)判斷的機(jī)會(huì)，幾秒就掛斷。”裴智勇認(rèn)為，公眾與其花費(fèi)大量精力分辨騙子發(fā)來視頻的真假，不如在有懷疑時(shí)直接換一種渠道驗(yàn)證對(duì)方身份，業(yè)內(nèi)稱為“雙因子身份驗(yàn)證”。“比如好友視頻聊天后要求轉(zhuǎn)賬，你就撥打?qū)Ψ诫娫捥?hào)碼再次確認(rèn)；對(duì)方使用微信談?wù)摻灰祝憔筒环劣肣Q再找他問問。多渠道驗(yàn)證要比肉眼分辨視頻容易得多，也可靠得多。”
同時(shí)，業(yè)內(nèi)專家認(rèn)為，AI詐騙亟待更高層面監(jiān)管，比如監(jiān)管部門應(yīng)該建立專門的人工智能安全機(jī)構(gòu)，監(jiān)督AI技術(shù)在不同領(lǐng)域內(nèi)的應(yīng)用。技術(shù)企業(yè)也應(yīng)該加強(qiáng)數(shù)據(jù)合規(guī)建設(shè)，在人工智能設(shè)計(jì)中嵌入個(gè)人信息保護(hù)機(jī)制，并采用技術(shù)措施和管理制度，確保個(gè)人信息安全。
來源：北京日?qǐng)?bào)客戶端 共2頁(yè) 上一頁(yè) [1] [2]
紅商網(wǎng)優(yōu)質(zhì)內(nèi)容還將同步分發(fā)到公眾號(hào)、視頻號(hào)、頭條號(hào)、西瓜抖音、網(wǎng)易號(hào)、搜狐號(hào)、企鵝號(hào)、百家號(hào)、好看視頻、新浪微博等國(guó)內(nèi)主力流量平臺(tái)。
|
