ChatGPT 爆火4個月，已逐漸成為各路打工人的“輔助神器”：能寫代碼、能編小說、還能給出策劃方案……而事實證明，ChatGPT 提升的不僅是工作效率，還有安全隱患。

上周，據(jù)韓媒報道：三星剛引入ChatGPT還不到 20天，就發(fā)生了3起機密數(shù)據(jù)泄漏事件，其中涉及三星半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率等信息。

韓媒認為，這些三星的機密資料已“完整地”傳給了美國，被存入ChatGPT學(xué)習(xí)數(shù)據(jù)庫中。

不到20天，發(fā)生3起數(shù)據(jù)泄露事件

實際上，最初三星因擔(dān)心內(nèi)部機密外泄，一直禁止員工在工作中使用ChatGPT。

然而，隨著ChatGPT進入各個企業(yè)的步伐加速，越來越多員工認為技術(shù)需要迭代變化，加之半導(dǎo)體本身就是構(gòu)建“生成式 AI”的核心要素，于是三星決定：3月11日起，半導(dǎo)體設(shè)備解決方案（DS）部門可開始使用ChatGPT。

一般來說，企業(yè)在引入新技術(shù)時，都會對員工進行相關(guān)的培訓(xùn)和教育，讓員工了解新技術(shù)的使用方法和注意事項，避免因為員工的不當(dāng)操作而導(dǎo)致機密泄漏等安全問題。所以，三星向員工發(fā)出了提醒：“注意公司內(nèi)部信息安全，不要輸入私人內(nèi)容?！?/p>

但所謂“怕什么就來什么”，三星剛允許員工使用ChatGPT不到20天，光掌握到的數(shù)據(jù)泄露事件就有3起—— 2起設(shè)備信息泄露和 1 起會議內(nèi)容泄露：

DS 部門的A員工在運行半導(dǎo)體設(shè)備計量數(shù)據(jù)庫（DB）下載程序的源代碼時，發(fā)現(xiàn)有 Bug，便將代碼復(fù)制到了ChatGPT中找解決方法。據(jù)韓煤報道，這個操作將使三星半導(dǎo)體設(shè)備測量相關(guān)代碼成為ChatGPT的學(xué)習(xí)資料。

DS 部門的B員工為了解設(shè)備產(chǎn)量和產(chǎn)品良率等信息，將所有相關(guān)代碼復(fù)制到 ChatGPT 中，并要求 ChatGPT 優(yōu)化其代碼。

DS 部門的C員工通過相關(guān)應(yīng)用將會議錄音轉(zhuǎn)成文字，然后將文字輸入到 ChatGPT 中，要求其整理成一份完整的會議記錄。對此，韓媒稱：“雖然不是技術(shù)秘密，但也可能導(dǎo)致會議內(nèi)容泄露?！?/p>

三星啟動“緊急措施”：提問不得超過1024字節(jié)

根據(jù)OpenAI網(wǎng)站上ChatGPT的常見問題解答，其確實指出與ChatGPT的對話可能會用作訓(xùn)練數(shù)據(jù)：

提問：你們會使用我的對話進行培訓(xùn)嗎？

答：是的，我們的 AI 培訓(xùn)師可能會審核你的對話，以改進我們的系統(tǒng)。

但有些令人費解的是，盡管韓媒對此言之鑿鑿，許多網(wǎng)友卻提出了關(guān)鍵疑問：“你們是怎么確認這些機密數(shù)據(jù)已被泄露了的？”，“就算這些對話被用作 ChatGPT 的學(xué)習(xí)數(shù)據(jù)，會這么快就出現(xiàn)在回答中嗎？”

對于這個疑問，三星方面沒有給出正面回答：“因為是公司內(nèi)部情況，所以很難確認?！本W(wǎng)友對此猜測，很可能是三星員工在內(nèi)部承認了這些行為，由此引發(fā)了公司擔(dān)憂。

對于這 3 起數(shù)據(jù)泄露事件，三星迅速向員工進行了通報：“在 ChatGPT 中輸入內(nèi)容的瞬間，數(shù)據(jù)就會被發(fā)送到外部服務(wù)器并存儲，公司無法回收。如果 ChatGPT 學(xué)習(xí)了三星內(nèi)部資料，敏感內(nèi)容就可能會提供給其他人。”

與此同時，三星還啟動了“緊急措施”：將向 ChatGPT 提問的上傳容量限制在 1024 字節(jié)以內(nèi)；調(diào)查信息泄露的原委，必要時給予員工處罰；若采取緊急措施后仍發(fā)生類似事故，三星可能會切斷 ChatGPT 服務(wù)。

據(jù)了解，由于使用 ChatGPT 的這些隱患，三星正考慮通過 DS 部門的創(chuàng)新中心，研發(fā)一個三星專屬的內(nèi)部 AI 服務(wù)。

有關(guān) ChatGPT 的爭議一直沒停

回顧 ChatGPT 問世的這4個月，其實有關(guān)它的爭議一直沒有定論：提高工作效率是真的，但它會把對話內(nèi)容作為訓(xùn)練數(shù)據(jù)也是真的。

據(jù) Cyberhaven 統(tǒng)計結(jié)果顯示，近160萬名打工人中，有 8.2% 的員工在工作場所使用過它——許多人稱，因為使用 ChatGPT，他們的工作效率“提高了 10 倍”。同時，有 6.5% 的員工表示會將公司數(shù)據(jù)復(fù)制到 ChatGPT 中，更有 3.1% 的員工表示曾將公司的機密數(shù)據(jù)放入 ChatGPT。

“在2月26日至3月4日的一周內(nèi)，平均有10萬名員工的公司職員將機密文件放入 ChatGPT 中共199次，放入客戶數(shù)據(jù) 173 次，放入源代碼159次?！?/p>

因此，與之相對應(yīng)的，越來越多企業(yè)因擔(dān)心機密數(shù)據(jù)外泄，禁止員工訪問 ChatGPT，正如之前的三星，還有摩根大通、美國銀行、花旗集團、高盛、德意志銀行等。近期軟銀也向全體員工通報了禁止向 ChatGPT 輸入機密信息等注意事項。甚至，意大利個人數(shù)據(jù)保護局（Garante）也在3 月31日宣布，即日起禁止使用聊天機器人 ChatGPT，并限制 OpenAl 處理意大利用戶信息。

對于這些企業(yè)及國家的禁用動作，部分業(yè)內(nèi)人士表示：“因為 ChatGPT 是熱門話題，現(xiàn)在大家都在使用和學(xué)習(xí)，但對于信息泄露的憂慮等，國內(nèi)企業(yè)也需要更加警惕?！?/p>

及時掌握網(wǎng)絡(luò)安全態(tài)勢 盡在傻蛋網(wǎng)絡(luò)安全監(jiān)測系統(tǒng)

【網(wǎng)絡(luò)安全監(jiān)管部門】免費試用

本文來源:互聯(lián)網(wǎng)

如涉及侵權(quán)，請及時與我們聯(lián)系，我們會在第一時間刪除或處理侵權(quán)內(nèi)容。
電話：400-869-9193 負責(zé)人：張明