一、ChatGPT數(shù)據(jù)泄露事件經(jīng)過(guò)

美國(guó)時(shí)間3月25日，OpenAI官方發(fā)布了3月20日ChatGPT臨時(shí)中斷服務(wù)的調(diào)查報(bào)告，并表示有1.2%的ChatGPT Plus的用戶數(shù)據(jù)可能被泄露。

根據(jù)OpenAI官網(wǎng)公告表示，3月20日前，因開源數(shù)據(jù)庫(kù)存在的錯(cuò)誤導(dǎo)致了緩存出現(xiàn)問(wèn)題，一些用戶可能看到其他人聊天記錄的片段，以及其他用戶信用卡的最后四位數(shù)字、到期日期、姓名、電子郵件地址和付款地址等信息。最初該問(wèn)題僅波及到個(gè)別用戶，但是由于OpenAI在對(duì)服務(wù)器進(jìn)行更改時(shí)再度出現(xiàn)失誤，導(dǎo)致問(wèn)題進(jìn)一步加劇，受影響的用戶可能擴(kuò)大至1.2%的比例。

以下為OpenAI對(duì)此事件的說(shuō)明：

“由于開源庫(kù)中的一個(gè)錯(cuò)誤，我們本周早些時(shí)候?qū)?ChatGPT下線，該錯(cuò)誤允許一些用戶看到另一個(gè)活躍用戶的聊天記錄中的標(biāo)題。如果兩個(gè)用戶大約同時(shí)處于活動(dòng)狀態(tài)，那么新創(chuàng)建的對(duì)話的第一條消息也可能在其他人的聊天記錄中可見。該錯(cuò)誤現(xiàn)已修補(bǔ)。除了幾個(gè)小時(shí)的歷史記錄外，我們已恢復(fù)ChatGPT服務(wù)以及聊天記錄功能。

經(jīng)過(guò)更深入的調(diào)查，我們還發(fā)現(xiàn)，同樣的錯(cuò)誤可能導(dǎo)致 1.2%的ChatGPT Plus訂閱者在特定的9小時(shí)窗口內(nèi)處于活躍狀態(tài)，從而無(wú)意中看到了與支付相關(guān)的信息。在周一我們關(guān)閉ChatGPT之前的幾個(gè)小時(shí)內(nèi)，一些用戶可能會(huì)看到另一個(gè)活躍用戶的名字和姓氏、電子郵件地址、支付地址、信用卡號(hào)的最后四位(僅)和信用卡到期時(shí)間日期。但任何時(shí)候都不會(huì)暴露完整的信用卡號(hào)碼。

我們認(rèn)為，數(shù)據(jù)實(shí)際泄露給其他人的用戶數(shù)量極少。要訪問(wèn)此信息，ChatGPT Plus 訂閱者需要執(zhí)行以下操作之一：

· 打開3月20日星期一凌晨1點(diǎn)到10點(diǎn)發(fā)送的訂閱確認(rèn)電子郵件。由于該錯(cuò)誤，該窗口期間生成的一些訂閱確認(rèn)電子郵件被發(fā)送給了錯(cuò)誤的用戶。這些電子郵件包含另一個(gè)用戶信用卡號(hào)的最后四位數(shù)字，但沒(méi)有顯示完整的信用卡號(hào)。在3月20日之前，可能有少量訂閱確認(rèn)電子郵件被錯(cuò)誤地處理，盡管我們尚未確認(rèn)任何此類情況。

· 在3月20日星期一凌晨1點(diǎn)到10點(diǎn)之間，在ChatGPT 中單擊“我的帳戶”，然后單擊“管理我的訂閱”。在此窗口中，另一個(gè)活躍的 ChatGPT Plus用戶的名字和姓氏、電子郵件地址、付款地址、信用卡號(hào)碼的最后四位(僅)和信用卡到期日期可能是可見的。這也可能發(fā)生在3月20日之前，盡管我們尚未確認(rèn)任何此類情況。

我們已聯(lián)系受影響的用戶通知他們的付款信息可能已被泄露。我們相信用戶數(shù)據(jù)不會(huì)持續(xù)存在風(fēng)險(xiǎn)。

OpenAI致力于保護(hù)用戶隱私并確保數(shù)據(jù)安全。這是我們非常認(rèn)真對(duì)待的責(zé)任。不幸的是，本周我們沒(méi)有兌現(xiàn)這一承諾，也沒(méi)有達(dá)到用戶的期望。我們?cè)俅蜗蛭覀兊挠脩艉驼麄€(gè) ChatGPT社區(qū)致歉，并將努力重建信任。”

此前，數(shù)據(jù)安全公司Cyberhaven的研究人員分析了不同行業(yè)客戶的160萬(wàn)員工使用ChatGPT的情況。在其發(fā)布的報(bào)告中表示，自ChatGPT公開發(fā)布以來(lái)，5.6%的知識(shí)工作者在工作中至少嘗試使用過(guò)一次，4.9%的員工曾向ChatGPT提供了企業(yè)數(shù)據(jù)。受事件影響，一些美國(guó)和日本企業(yè)已開始限制在商業(yè)運(yùn)營(yíng)中使用ChatGPT等互動(dòng)人工智能服務(wù)。美國(guó)銀行、花旗集團(tuán)、德意志銀行、高盛集團(tuán)、富國(guó)銀行、摩根大通和Verizon 等越來(lái)越多的機(jī)構(gòu)禁止員工使用ChatGPT聊天機(jī)器人處理工作任務(wù)。日本軟銀之前就使用ChatGPT和其他類似應(yīng)用警告員工稱：“不要輸入公司的可識(shí)別信息或機(jī)密數(shù)據(jù)”。

二、ChatGPT數(shù)據(jù)泄露原因分析

（一）錯(cuò)誤原理

從公布的技術(shù)細(xì)節(jié)可以看出，錯(cuò)誤是在Redis客戶端開源庫(kù)redis-py中被發(fā)現(xiàn)的。OpenAI對(duì)錯(cuò)誤原理進(jìn)行如下說(shuō)明：

· OpenAI 使用Redis在他們的服務(wù)器中緩存用戶信息，所以ChatGPT不需要為每個(gè)請(qǐng)求檢查數(shù)據(jù)庫(kù)。

· OpenAI使用Redis Cluster將這一負(fù)載分布到多個(gè)Redis實(shí)例上。

· OpenAI使用redis-py庫(kù)，以便讓用了Asyncio的Python服務(wù)器與 Redis對(duì)接。

· 該庫(kù)在服務(wù)器和集群之間維護(hù)一個(gè)共享的連接池，并在完成后回收連接以用于另一個(gè)請(qǐng)求。

· 當(dāng)使用 Asyncio時(shí)，redis-py的請(qǐng)求和響應(yīng)表現(xiàn)為兩個(gè)隊(duì)列：調(diào)用者將請(qǐng)求推送到傳入隊(duì)列，并從傳出隊(duì)列中彈出響應(yīng)，然后將連接返回到池中。

· 如果在請(qǐng)求被推送到傳入隊(duì)列之后，但在響應(yīng)從傳出隊(duì)列中彈出之前，請(qǐng)求被取消，就會(huì)看到錯(cuò)誤：連接因此被破壞，下一個(gè)為不相關(guān)的請(qǐng)求出列的響應(yīng)可以接收連接中留下的數(shù)據(jù)。

· 在大多數(shù)情況下，這會(huì)導(dǎo)致一個(gè)無(wú)法恢復(fù)的服務(wù)器錯(cuò)誤，而用戶將不得不重新嘗試他們的請(qǐng)求。

· 但在某些情況下，損壞的數(shù)據(jù)恰好與請(qǐng)求者所期望的數(shù)據(jù)類型相匹配，因此從緩存中返回的數(shù)據(jù)看起來(lái)是有效的，即使這些數(shù)據(jù)屬于另一個(gè)用戶。

· 3月20日星期一凌晨1點(diǎn)，OpenAI無(wú)意中給他們的服務(wù)器引入了一個(gè)變化，導(dǎo)致Redis請(qǐng)求取消的情況激增。這在一定程度上引發(fā)了每個(gè)連接返回錯(cuò)誤數(shù)據(jù)的可能性。

· 這個(gè)錯(cuò)誤只出現(xiàn)在Redis Cluster的Asyncio redis-py客戶端，現(xiàn)在已經(jīng)被修復(fù)。

（二）補(bǔ)救措施

OpenAI表示采取了以下措施以改進(jìn)系統(tǒng)：

· 廣泛測(cè)試了對(duì)潛在錯(cuò)誤的修復(fù)情況。

· 添加了冗余檢查以確保Redis緩存返回的數(shù)據(jù)與請(qǐng)求用戶匹配。

· 以編程方式檢查日志，以確保所有消息僅對(duì)正確的用戶可用。

· 關(guān)聯(lián)多個(gè)數(shù)據(jù)源以準(zhǔn)確識(shí)別受影響的用戶，以通知用戶。

· 改進(jìn)日志記錄以識(shí)別何時(shí)發(fā)生。

· 提高了Redis的穩(wěn)健性，以減少在極端負(fù)載下出現(xiàn)連接錯(cuò)誤的可能性。

三、數(shù)據(jù)泄露趨勢(shì)分析

數(shù)據(jù)泄露是指，數(shù)據(jù)處理者喪失對(duì)其掌握數(shù)據(jù)的控制力，造成數(shù)據(jù)范圍的擴(kuò)散和用途的不可控。近年來(lái)，數(shù)據(jù)泄露事件屢有發(fā)生，呈現(xiàn)出泄露規(guī)模大、行業(yè)多、持續(xù)長(zhǎng)等特點(diǎn)，數(shù)據(jù)泄露已經(jīng)成為網(wǎng)絡(luò)安全的主要威脅。

一是數(shù)據(jù)泄露規(guī)模體量增大。近年來(lái)，隨著數(shù)據(jù)處理者業(yè)務(wù)上云的普及，線上業(yè)務(wù)持續(xù)增長(zhǎng)，導(dǎo)致受數(shù)據(jù)泄露影響的個(gè)體數(shù)量不斷擴(kuò)大，少則數(shù)千萬(wàn)，多達(dá)數(shù)億。

二是數(shù)據(jù)泄露涉及行業(yè)增多。隨著越來(lái)越多的設(shè)備、平臺(tái)相互聯(lián)通，以及云計(jì)算、物聯(lián)網(wǎng)的不斷融合，數(shù)據(jù)泄露涉及的行業(yè)越來(lái)越廣泛，已滲透至互聯(lián)網(wǎng)、物流、金融、教育、醫(yī)療、酒店、娛樂(lè)等行業(yè)。其中，互聯(lián)網(wǎng)、金融行業(yè)作為信息化、數(shù)字化發(fā)展程度最高的行業(yè)，已成為數(shù)據(jù)泄露的重災(zāi)區(qū)。

三是數(shù)據(jù)泄露持續(xù)時(shí)間較長(zhǎng)。由于大部分個(gè)人信息處理者并沒(méi)有應(yīng)對(duì)數(shù)據(jù)泄露的響應(yīng)機(jī)制，無(wú)法迅速發(fā)現(xiàn)個(gè)人信息遭到泄露。據(jù)IBM《2021年數(shù)據(jù)泄露成本報(bào)告》顯示，數(shù)據(jù)處理者發(fā)現(xiàn)數(shù)據(jù)泄露平均需要212天，控制影響平均還需要75天，比去年長(zhǎng)一周。此外，不同行業(yè)響應(yīng)時(shí)間存在較大差異。

四是數(shù)據(jù)泄露引發(fā)原因多樣。數(shù)據(jù)泄露原因多種多樣，既有黑客利用系統(tǒng)漏洞進(jìn)行攻擊，又有數(shù)據(jù)庫(kù)配置錯(cuò)誤、企業(yè)人員非授權(quán)訪問(wèn)、第三方維護(hù)人員錯(cuò)誤操作、“內(nèi)鬼”主動(dòng)泄露以及辦公網(wǎng)絡(luò)邊界不再固定等諸多原因。此次，ChatGPT數(shù)據(jù)泄露事件即屬于其中的數(shù)據(jù)庫(kù)配置錯(cuò)誤問(wèn)題。

四、人工智能將引發(fā)網(wǎng)絡(luò)安全進(jìn)入智能化對(duì)抗時(shí)代

ChatGPT作為當(dāng)下最熱的人工智能技術(shù)，受到業(yè)界及公眾追捧。越來(lái)越多的行業(yè)和領(lǐng)域逐步接入GPT技術(shù)，代表著相關(guān)行業(yè)的數(shù)據(jù)逐步為類GPT服務(wù)平臺(tái)所共享，并且會(huì)隨著應(yīng)用范圍和頻率的增加，類GPT服務(wù)平臺(tái)將獲得海量的數(shù)據(jù)。ChatGPT數(shù)據(jù)泄露事件也是一種警示：技術(shù)的先進(jìn)性并不與網(wǎng)絡(luò)的安全性成正比，若技術(shù)應(yīng)用越廣泛、帶來(lái)的不可控風(fēng)險(xiǎn)則越高。

人工智能技術(shù)是把雙刃劍，在數(shù)字化浪潮下迎來(lái)廣闊發(fā)展機(jī)遇的同時(shí)，隨著與各領(lǐng)域融合應(yīng)用不斷深入，也引發(fā)安全方面的新問(wèn)題。《2023產(chǎn)業(yè)互聯(lián)網(wǎng)安全十大趨勢(shì)》報(bào)告認(rèn)為人工智能技術(shù)將對(duì)網(wǎng)絡(luò)安全形勢(shì)帶來(lái)前所未有的挑戰(zhàn)，呈現(xiàn)“ChatGPT大規(guī)模人工智能計(jì)算廣泛應(yīng)用于安全領(lǐng)域，攻防進(jìn)入智能化對(duì)抗時(shí)代”的新趨勢(shì)。報(bào)告指出，ChatGPT基于強(qiáng)大的基礎(chǔ)模型、高質(zhì)量的樣本數(shù)據(jù)、基于人類反饋的強(qiáng)化學(xué)習(xí)三大能力，帶來(lái)了巨大的可能性。然而隨著生成式人工智能技術(shù)的進(jìn)步，網(wǎng)絡(luò)攻擊者可以輕松地進(jìn)行微調(diào)和針對(duì)性的攻擊，因此ChatGPT將對(duì)網(wǎng)絡(luò)安全構(gòu)成嚴(yán)重的威脅。目前，網(wǎng)絡(luò)攻擊者已開始使用ChatGPT創(chuàng)建惡意軟件、暗網(wǎng)站點(diǎn)和其他實(shí)施網(wǎng)絡(luò)攻擊的工具。此外，使用ChatGPT編寫用于網(wǎng)絡(luò)攻擊的惡意代碼軟件，將會(huì)大大降低攻擊者的編程或者技術(shù)能力門檻，將導(dǎo)致即使沒(méi)有技術(shù)基礎(chǔ)也能成為攻擊者。同時(shí)，人工智能賦能網(wǎng)絡(luò)攻擊與傳統(tǒng)網(wǎng)絡(luò)攻擊在技術(shù)與手法上相比，將使過(guò)去勞動(dòng)密集型、成本高昂的攻擊手法開始徹底轉(zhuǎn)型，朝著分布式、智能化、自動(dòng)化方向發(fā)展，從而形成更為精準(zhǔn)和快速的自動(dòng)化攻擊手法。未來(lái)，隨著大模型人工智能計(jì)算被廣泛應(yīng)用于網(wǎng)絡(luò)攻擊各個(gè)領(lǐng)域，網(wǎng)絡(luò)安全形勢(shì)將更加嚴(yán)峻，攻防真正進(jìn)入智能化對(duì)抗時(shí)代。

當(dāng)前，如何加強(qiáng)人工智能安全治理，保障人工智能安全健康發(fā)展，已成為各界關(guān)注的課題。未來(lái)生命研究所（Future of Life Institute）29日公布一封題為“暫停巨型人工智能實(shí)驗(yàn)”的公開信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。辛頓、馬庫(kù)斯和馬斯克均簽署了這封公開信。公開信中提出，廣泛的研究表明，具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。高級(jí)人工智能可能代表地球生命史上的深刻變化，應(yīng)以輔以相應(yīng)的資源進(jìn)行規(guī)劃和管理。然而，這種級(jí)別的規(guī)劃和管理并沒(méi)有發(fā)生，只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。這種確信必須有充分的理由，并隨著系統(tǒng)潛在影響的規(guī)模而增加。

及時(shí)掌握網(wǎng)絡(luò)安全態(tài)勢(shì) 盡在傻蛋網(wǎng)絡(luò)安全監(jiān)測(cè)系統(tǒng)

【網(wǎng)絡(luò)安全監(jiān)管部門】免費(fèi)試用

本文來(lái)源:互聯(lián)網(wǎng)

如涉及侵權(quán)，請(qǐng)及時(shí)與我們聯(lián)系，我們會(huì)在第一時(shí)間刪除或處理侵權(quán)內(nèi)容。
電話：400-869-9193 負(fù)責(zé)人：張明