最近，有網(wǎng)友發(fā)消息稱(chēng)

“張文宏是不是帶貨了？”

視頻中

張文宏在賣(mài)一種蛋白棒

家里的老人信以為真已經(jīng)下單

還轉發(fā)了很多群

據媒體報道

這個(gè)賬號名為“般畫(huà)234”

在視頻中

“張文宏”反復介紹一種產(chǎn)品

口型是他的，聲音也是他的

但稍微懂點(diǎn)AI的小伙伴們

一眼就能分辨

這是AI合成的視頻！

目前

這段視頻已在該賬號內不可見(jiàn)

但商品櫥窗內

還保留著(zhù)蛋白棒售賣(mài)的頁(yè)面

并顯示已售出1266件

近年來(lái)

AI剪輯冒充明星的案例屢見(jiàn)不鮮

也有不少人因此上當

今年11月，江西一位老人來(lái)到銀行辦理銀行卡，但手續不全又不肯離開(kāi)，警方到現場(chǎng)后，老人表示要到銀行貸款200萬(wàn)元給自己的男朋友“靳東”拍戲。

民警隨即拿起老人的手機進(jìn)行查看，發(fā)現老人所謂的大明星“靳東”是騙子冒充的，其所發(fā)布的視頻也是由電腦AI合成，但老人對網(wǎng)絡(luò )知之甚少，對于騙子所說(shuō)所做深信不疑。

最終，民警通過(guò)向老人展示網(wǎng)絡(luò )上一些冒充“靳東”詐騙的新聞和現場(chǎng)利用AI合成照片等方式，老人才幡然醒悟，表示不會(huì )再相信網(wǎng)絡(luò )上的“靳東”，并放棄了開(kāi)卡貸款的念頭。

今年10月

老牌港星黃百鳴

在社交媒體上發(fā)布聲明表示

有人盜用他過(guò)去的影片

并利用人工智慧技術(shù)替換掉原有聲音

假借自家名義代言一個(gè)

不知名的藥膏品牌

這種行為純屬欺詐

旨在誤導公眾并從中取利

學(xué)會(huì )三招識別AI“換臉換聲”

我們可以要求對方在視頻對話(huà)的時(shí)候，在臉部面前，通過(guò)揮手的方式去識別實(shí)時(shí)偽造的視頻。在揮手的過(guò)程中會(huì )造成面部的數據干擾，他所偽造的人臉會(huì )產(chǎn)生一定的抖動(dòng)或者閃現，或是一些其他異常的情況。

在點(diǎn)對點(diǎn)的溝通過(guò)程中，可以問(wèn)一些只有對方知道的問(wèn)題，驗證對方的真實(shí)性。

還可以讓對方通過(guò)按鼻子按臉的方式，觀(guān)察其面部變化，真人的鼻子按下去是會(huì )變形，但AI生成的鼻子并不會(huì )，同樣臉部也是一樣的。

值得注意的是，以上鑒別方式都是基于現有算法的局限性。未來(lái)隨著(zhù)AI技術(shù)的發(fā)展，“動(dòng)起來(lái)”“揮手”“比數字”等有可能難不倒新技術(shù)，“數字人”同樣能順利完成以上動(dòng)作，從而更加具備迷惑性。所以，防范AI詐騙，還是要從自己出發(fā)，做好信息保護，提高警惕。

例如，不要泄露個(gè)人信息，尤其要注意圖像、聲音、指紋等生物信息的保護。“AI換臉”的數據基礎是被模仿人的照片、視頻等，個(gè)人公開(kāi)在外的照片、視頻越多，意味著(zhù)AI算法參考的數據越多，生成的“數字人”會(huì )更真實(shí)。

同時(shí)，在涉及資金交易等場(chǎng)景下，需要多留心眼，不輕易相信視頻、聲音。很多時(shí)候，傳統的識別方式要比技術(shù)識別更有效。