?
您好 ,歡迎您來(lái)到邯鄲之窗! 

被“熟人”敲詐,AI詐騙能有多逼真?

來(lái)源:中新網(wǎng)編輯:保存2023-11-08 16:30:57
分享:
  中新網(wǎng)北京11月8日電(張鈺惠)近日,有媒體曝光了一起詐騙案件,被詐騙者遭遇AI換臉詐騙,10分鐘被“好友”騙走430萬(wàn)元。近年來(lái),AI換臉、換聲視頻在網(wǎng)絡(luò)上流行起來(lái),AI的技術(shù)門檻逐漸降低。隨著人工智能技術(shù)的廣泛應(yīng)用,一些不法分子開始利用其實(shí)施新型網(wǎng)絡(luò)詐騙。

  AI詐騙能有多逼真?如何識(shí)別和預(yù)防AI詐騙?

  網(wǎng)絡(luò)上的AI教學(xué)

  從號(hào)碼到聲音,

  AI詐騙能有多逼真?

  在家里午睡時(shí),王欣(化名)突然接到了母親同事的微信語(yǔ)音電話,對(duì)方問(wèn)她現(xiàn)在在哪里、在做什么。在王欣還不知道發(fā)生了什么的時(shí)候,她從電話里聽到了母親的聲音,聲音聽起來(lái)很著急。雖然王欣之前和母親說(shuō)好了下午會(huì)去看牙醫(yī),母親也知道她在做什么,但她還是接到了這樣一通詢問(wèn)行程的電話。

  母親告訴她,自己接到了一通號(hào)碼和王欣手機(jī)號(hào)一模一樣的來(lái)電。接通電話后,“王欣”的聲音從電話那邊傳來(lái),母親聽到她的女兒在哭喊。電話那邊的人對(duì)母親說(shuō),王欣被他們綁架了,讓母親馬上給他們轉(zhuǎn)賬30萬(wàn)元,不然就“撕票”。母親嚇壞了,立馬打算給對(duì)方轉(zhuǎn)錢,被旁邊的同事攔下,就這樣,午睡中的王欣被叫醒。

  據(jù)王欣所說(shuō),“這個(gè)人還挺高明的,一開始我想,難道看不出來(lái)不是我的電話嗎?我后來(lái)看了一下,那個(gè)電話號(hào)碼就是我的手機(jī)號(hào),連我自己都辨別不出來(lái)”。一模一樣的電話號(hào)碼瞞過(guò)了母親,神似王欣的聲音讓母親更加確信,“我媽媽說(shuō),那就是我的聲音。”母親還提到,對(duì)方一開始先詢問(wèn)她身邊有沒(méi)有人,并要求她走到?jīng)]有人的地方。幸好通過(guò)微信語(yǔ)音電話及時(shí)確認(rèn)了王欣在家,母親才放下心來(lái)。

  “一年之前為了留學(xué)辦簽證,我需要30萬(wàn)的存款證明,我第一反應(yīng)就是這個(gè)。”王欣回憶起,曾和母親有過(guò)關(guān)于30萬(wàn)元的對(duì)話。此外,王欣偶爾會(huì)在朋友圈和其它社交媒體上發(fā)自己的照片、視頻和聲音,身邊還有朋友喜歡在社交媒體上發(fā)類似的內(nèi)容,曾在社交媒體上被冒充向身邊的人索要錢財(cái)。

  此后,母親再一次收到了類似的電話。“現(xiàn)在,我媽媽都不太敢接我打的電話了,如果是微信電話的話還可能會(huì)接一下。”王欣說(shuō)。

  如何識(shí)別和預(yù)防AI詐騙?

  涉及資金往來(lái)應(yīng)多途徑核對(duì)

  中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春認(rèn)為,涉及資金往來(lái)等風(fēng)險(xiǎn)場(chǎng)景應(yīng)多途徑核對(duì)。上海申倫律師事務(wù)所夏海龍律師表示,在AI詐騙中,獲取受害人面容及聲音素材的途徑比較多,一般是從受害人在社交媒體上分享的照片、短視頻中獲取,的確很難直接識(shí)別視頻或聲音的真假,最好的辦法就是在接到可疑電話后直接跟本人核實(shí)。

  還有專家表示,在使用互聯(lián)網(wǎng)服務(wù)或者在社會(huì)生活中,要求輸入人臉等生物特征數(shù)據(jù)的時(shí)候,要看對(duì)方收集生物特征數(shù)據(jù)是不是符合《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》的要求,是不是合法、正當(dāng)和必要。

  近年來(lái),國(guó)家出臺(tái)一系列規(guī)定防范AI詐騙。2022年11月,網(wǎng)信辦、工信部和公安部發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度管理規(guī)定》明確,深度服務(wù)者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任,建立健全用戶注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度,具有安全可控的技術(shù)保障措施。

  今年8月開始施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定,者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù),不得收集非必要個(gè)人信息,不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄,不得非法向他人使用者的輸入信息和使用記錄。

  針對(duì)深度服務(wù)的平臺(tái),夏海龍指出,如果侵權(quán)、違法行為由用戶個(gè)人實(shí)施,則相關(guān)服務(wù)的平臺(tái)一般不需要承擔(dān)責(zé)任,但應(yīng)履行相關(guān)法律義務(wù),深度服務(wù)者和技術(shù)支持者具有生成或者編輯人臉、人聲等生物識(shí)別信息功能的模型、模板等工具的,應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開展安全評(píng)估。人聲、仿聲等語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)可能導(dǎo)致公眾混淆或者誤認(rèn)的,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí),向公眾提示深度情況。(完)

相關(guān)文章

地址:河北省邯鄲市人民路新時(shí)代商務(wù)大廈10樓 客服熱線:0310-3181999
邯鄲之窗  m.evokeinteriorspace.com  版權(quán)所有 未經(jīng)同意不得復(fù)制或鏡像 在線交流

冀公網(wǎng)安備 13040302001161號(hào) 冀ICP備12015509號(hào)-8