生成式AI技術，如GPT-4等強大的語言模型的廣泛普及，已經逐步開展應用。這種對未來技術的期待之余，不得不面對AI技術可能被濫用的風險，甚至已經有一些犯罪分子已開始巧妙地利用AI技術進行電信詐騙。

當下最積極學習的除了學生，就是騙子了，隨著人工智能的迅猛發(fā)展，詐騙團伙的詐騙手段也越來越科技化。

近日，兩起利用AI換臉實施詐騙的案例引發(fā)關注。福州市某科技公司法人代表郭先生10分鐘內被人用AI換臉詐騙430萬元；5月25日，某詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”，導致何先生被詐騙245萬。

隨著AI技術的進步，AI換臉的門檻確實也越來越低?！耙郧癆I換臉還需要一兩百張圖片，現(xiàn)在不同角度的照片，一般5到8張就可以生成很不錯的模型了?！?/p>

人工智能興起，我們正處于尋找最佳應用場景與商業(yè)落地的關鍵期。如果不能妥善解決相關的安全和隱私問題，也許會對人工智能的前景產生負面影響，形成對AI發(fā)展的壓力。

AI詐騙：為何成功率極高？

AI詐騙者能夠逐步訓練出能夠模擬人類行為和語言的AI，甚至能制作出極為逼真的虛假視頻或音頻。這些偽造的內容極度真實，讓識別真假變得異常困難，從而大大提高了詐騙者的欺騙效果。

數(shù)字化社會，每個人都在生成大量的數(shù)字化信息，詐騙者可以通過大數(shù)據(jù)分析來獲取被詐騙對象的行為習慣。因為詐騙者往往擁有比受害者更多的信息和技術資源，信息和技術的不對稱性，無疑成為了AI詐騙的一大優(yōu)勢。

AI詐騙與傳統(tǒng)詐騙相比，成本更低

AI技術的發(fā)展，改變了許多領域的工作方式。還深刻地改變了詐騙的形態(tài)，使得電信詐騙更加難以防范。并且AI詐騙具有高度自動化的特點，經過適當訓練的AI模型能夠在無人工干預的情況下自動運行。

GitHub等開源社區(qū)上，有開源使用的AI換臉軟件等等，很多相關的技術社區(qū)、論壇、貼吧，有大量小白入門系列教程，價格甚至只要幾塊錢。

魔法打敗魔法，發(fā)掘技術的價值

AI技術顯然已成為詐騙的主要戰(zhàn)場，人們在社交平臺上進行大量的在線活動和社交互動，為詐騙者提供了豐富的目標選擇和信息來源，一旦被識別出來，他們往往已經騙取了大量財富，并逃之夭夭。

正如同一把錘子可以用來建房子也可以用來破壞房子，AI技術為社交平臺帶來更好的用戶體驗，本身是一件好事，關鍵在于借助機器學習等先進技術，如何使用。顯然，騙子們比普通人更用心鉆研，更早意識到技術的價值。

面對AI技術濫用風險，如何整治AI詐騙，防止AI作惡？

關鍵在一個“法”字。這個“法”既包括科學技術方法的應用，也包括剛性治理的法律法規(guī)。

在科學技術方面，打擊電信網絡詐騙的科技裝備發(fā)展迅速。此類裝備不僅能鑒定利用傳統(tǒng)偽造手段篡改的影像，而且對利用深度偽造技術進行了換臉、美顏、生成人臉、同圖或異圖復制篡改的影像也能夠進行鑒定，可以為公安、司法行業(yè)提供技術支持。

而在法律法規(guī)方面，2022年12月，《互聯(lián)網信息服務深度合成管理規(guī)定》發(fā)布，對人臉生成、替換、操控，合成人聲、仿聲等都進行了明確約束。該項規(guī)定發(fā)布實施后，此前一款主打AI換臉的App在被監(jiān)管部門約談后進行下架處理，處理原因為“如此換臉侵犯了公民的肖像權”。

及時掌握網絡安全態(tài)勢 盡在傻蛋網絡安全監(jiān)測系統(tǒng)

【網絡安全監(jiān)管部門】免費試用

本文來源:互聯(lián)網

如涉及侵權，請及時與我們聯(lián)系，我們會在第一時間刪除或處理侵權內容。
電話：400-869-9193 負責人：張明