三星半導體導入ChatGPT后引發泄密，芯片數據直傳美國

作者：小編更新時間：2023-04-04 點擊數：

ChatGPT能遵照簡單的書面指令，搜集數據并生成程序，能使營運更有效率并且提高生產力。其開發商Open AI在3月1日釋出應用程序編程接口(API)，允許企業付費將ChatGPT整合進入自家公司的服務后，強大功能讓很多人找到了讓其代替部分工作的偷懶方法，就連不少大企業都再考慮給內部系統接入這么一個AI大模型以提高工作效率。

但有些公司卻因為接入ChatGPT后卻出大事了，比如三星電子(Samsung Electronics)，自3月11日起引入ChatGPT 僅僅20多天，工作上的問題沒解決，反倒發生了泄密事件。

機密是如何“不經意間”泄漏的

4月2日，據韓國媒體報道，三星引入ChatGPT不到20天便曝出機密資料泄漏，傳已經被存入ChatGPT的數據庫中。涉及半導體設備測量資料、產品良率等總共3起事故，其中2個與半導體設備相關，1個與會議內容有關。

據報道，三星半導體暨設備解決方案(Device Solutions，DS)部門的A職員(匿名)，日前執行半導體設備測量數據庫(DB)下載軟件時，因原始碼出現錯誤，A職員便復制出有問題的原始碼到ChatGPT，并向ChatGPT請教解決方法，但這一操作反而讓三星設備測量相關的原始碼成為ChatGPT的訓練數據。

其余2件案例也是相似情形，如三星DS部門的B職員(匿名)為了解設備良率等信息，將制作的程序碼輸入進ChatGPT中，并要求ChatGPT優化其程序碼;另外三星DS部門的C職員(匿名)則是先用AI語音助手Naver Clova將自己的會議錄音轉成文字，再要求ChatGPT幫他總結一下會議內容，做成會議紀錄。

目前三星DS部門仍允許使用ChatGPT，但設備體驗部門(DX)是禁用該服務的。為杜絕類似事故再發生，三星緊急制定相關保護措施，將ChatGPT提問限制在1024字節以下以降低數據外泄風險。并告知員工謹慎使用ChatGPT，若之后又發生類似事故可能會對相關人員進行懲處，三星內部也可能會在內網切斷ChatGPT服務，并透過DS部門中的創新中心研發三星專屬AI服務。

企業員工太把ChatGPT當自己人了

消息一經釋出馬上引發各界熱議，尤其是韓國方面。韓版《經濟學人》的文章中直接寫道：

"這導致半導體設備測量資料、產品良率原封不動傳輸給了美國公司。"

韓媒方面甚至表示，因為三星員工直接將企業機密信息以提問的方式輸入到ChatGPT中，會導致相關內容進入學習數據庫，從而可能泄漏給更多人。

這一點在OpenAI上周更新的數據使用說明中確實有提到，對于非API產品如ChatGPT、DALL-E，平臺確實會使用用戶數據來進一步提升模型效果;但如果是API類產品，則確定不會使用用戶提交的數據。

而用ChatGPT問企業內部事件導致數據泄漏的事，并不止三星一家公司員工干過。據統計，不少企業員工都正在將公司數據直接傳給ChatGPT，讓它幫忙處理。

Cyberhaven是一家數據分析服務提供商，他們開發了一個保護企業數據的方法，能幫助公司觀察和分析數據流向、實時了解數據丟失原因。據他們統計了160萬名員工使用ChatGPT的情況，發現有3.1%的打工人都會將企業內部數據直接輸入給ChatGPT分析。

他們發現，隨著ChatGPT的應用率越來越高，給它上傳企業數據的打工人數量也越來越多。僅3月14日一天之內，每10萬名員工就平均給ChatGPT發送了5267次次企業數據，其中11%涉敏;在這一周內，10萬名員工給ChatGPT上傳了199份機密文件、173份客戶數據和159次源代碼。

也有人看透了ChatGPT的本質

這也給其他公司提了個醒，ChatGPT很方便，但規范使用還是必要的。實際上在3月末，ChatGPT曾被曝出現bug會導致用戶對話數據、支付信息丟失泄露，一度導致短暫關閉。OpenAI在回應中表示，這一漏洞可能導致了1.2% ChatGPT Plus用戶的支付信息(包含用戶姓名、郵件、支付地址、信用卡號最后四位及信用卡過期時間)被暴露了約9個小時。漏洞還導致了用戶的對話主題及記錄能被別人看到，如果里面包含隱私信息，則有泄露的風險。

為了規避數據泄露風險，已有不少企業甚至國家明確禁止員工使用ChatGPT，如軟銀、日立、富士通、Verizon、摩根大通等都發出了相關通知。

晶圓代工龍頭臺積電也在幾天前表示，員工使用ChatGPT時不準詢問與公司營業秘密相關事項，以防泄露公司專屬信息，注意個人隱私。

臺積電相關人員表示，ChatGPT具備深度學習程序，如果不控管員工使用，恐怕讓有心窺探臺積電先進工藝開發進度的友商，在掌握臺積電可能碰到的問題后，會從對話中找到解決方法。當然他們在發出這樣擔憂的時候，可能還不知道最大競爭對手三星也被ChatGPT擺了一道。

軟件等日本企業也已開始限制在其業務營運中，使用ChatGPT這類交互式AI服務。

軟銀上月已就ChatGPT和其他商業應用程序的使用，向員工發出警告，要求“不得輸入可辨識的企業信息或機密數據”。軟銀還打算制定規則，以規范哪些營運能使用這項技術、以及可以使用的應用程序。

瑞穗金融集團、三菱日聯銀行、三井住友銀行也均禁用ChatGPT與其他服務。瑞穗不讓員工從工作計算機終端連上相關網站，避免因員工不當使用，導致客戶數據和金融交易等重要信息外泄。

此外3月底的信息泄露事件后，意大利個人數據保護局也宣布禁止使用ChatGPT，并限制OpenAI公司處理意大利用戶信息。同時個人數據保護局開始立案調查，這也是第一起政府禁止使用聊天機器人的案例。

意大利個人數據保護局認為，ChatGPT泄露了用戶對話數據和付款服務支付信息，沒有告知用戶將收集處理其信息，缺乏大量收集和存儲個人信息的法律依據，同時缺乏年齡驗證系統，因此未成年人可能接觸到非法信息。OpenAI公司必須在20天內通過其在歐洲的代表，向意大利個人數據保護局通報公司執行保護局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

END

上一篇：美國FCC出新招！“講好中國故事”刻不容緩

下一篇：中國市場關于CCC認證 CTA認證最新認證動態

返回列表

三星半導體導入ChatGPT后引發泄密，芯片數據直傳美國

相關資訊

認證推薦

2023年巴塞羅那MWC（2月27日-3月2日, Fira Barcelona）五大主題已揭曉，探索移動通信科技最前沿話題

咨詢在線客服