2024年8月8日，研究人員在GPT-4o發(fā)布前進(jìn)行的安全防護(hù)與風(fēng)險(xiǎn)評(píng)估工作，其后OpenAI在官網(wǎng)發(fā)布了關(guān)于GPT-4o的安全技術(shù)報(bào)告。報(bào)告首次表明GPT-4o會(huì)模仿用戶聲音、發(fā)出詭異尖叫等若干失控行為，整體風(fēng)險(xiǎn)評(píng)級(jí)為中級(jí)。

    ChatGPT-4o是OpenAl的最新AI模型，它帶來了新的增強(qiáng)功能，如集成文本、語音和視覺輸入和輸出。GPT-4o是OpenAI為聊天機(jī)器人ChatGPT發(fā)布的語言模型，能夠?qū)σ纛l、視覺和文本進(jìn)行推理，其中可以處理50種不同的語言，甚至能讀取人的情感。

    近期研究人員表明ChatGPT-4o實(shí)時(shí)語音API很有可能會(huì)被濫用，來進(jìn)行低到中等成功率的金融詐騙。網(wǎng)絡(luò)犯罪分子利用ChatGPT-4o的實(shí)時(shí)語音API，通過模仿語音功能模擬真實(shí)用戶進(jìn)行操作，繞過安全認(rèn)證措施，進(jìn)行銀行轉(zhuǎn)賬、禮品卡提取以及加密貨幣轉(zhuǎn)賬等等形式網(wǎng)絡(luò)詐騙，成功率高達(dá)20%-60%之間。

    目前為止，這類型詐騙已經(jīng)造成數(shù)百萬美元的損失，而執(zhí)行這些騙局的成本低至0.75美元一例。

    OpenAI對(duì)此表示，最新研發(fā)的o1模型已經(jīng)增強(qiáng)了防范惡意使用的功能，安全性也提高了很多。然而，網(wǎng)絡(luò)詐騙分子濫用AI進(jìn)行詐騙的風(fēng)險(xiǎn)仍然存在，這對(duì)研發(fā)人員帶來巨大的挑戰(zhàn)性。

及時(shí)掌握網(wǎng)絡(luò)安全態(tài)勢(shì) 盡在傻蛋網(wǎng)絡(luò)安全監(jiān)測(cè)系統(tǒng)

【網(wǎng)絡(luò)安全監(jiān)管部門】免費(fèi)試用

本文來源:互聯(lián)網(wǎng)

如涉及侵權(quán)，請(qǐng)及時(shí)與我們聯(lián)系，我們會(huì)在第一時(shí)間刪除或處理侵權(quán)內(nèi)容。
電話：400-869-9193 負(fù)責(zé)人：張明