1 月 25 日消息，自從人工智能研究公司 OpenAI 于 2022 年 11 月發(fā)布 AI 聊天機器人 ChatGPT 以來，后者在科技領(lǐng)域受到熱捧，但科技巨頭亞馬遜卻對其充滿了警惕，甚至警告員工不要與 ChatGPT 分享機密信息。
亞馬遜內(nèi)部 Slack 頻道有許多員工關(guān)于如何使用 ChatGPT 的問題。有些員工詢問亞馬遜，是否制定了關(guān)于在工作設(shè)備上使用 ChatGPT 的官方指導。而其他人則想知道，他們是否被允許使用 AI 工具工作。一位員工敦促亞馬遜云計算部門 AWS 澄清其對使用“生成性 AI（AIGC）工具”的立場。
很快，亞馬遜一名公司律師加入了討論。Slack 頻道的內(nèi)部交流截圖顯示，這位律師警告員工不要向 ChatGPT 提供“任何亞馬遜機密信息”，包括正在編寫的亞馬遜代碼。他還建議員工遵循公司現(xiàn)有的保密政策，因為 ChatGPT 的某些回復看起來與亞馬遜內(nèi)部情況十分相似。
這位律師寫道：“這一點至關(guān)重要，因為你的輸入可能會被用作 ChatGPT 的迭代訓練數(shù)據(jù)，我們不希望它的輸出中包含或類似于我們的機密信息?！?/p>
這些交流表明，ChatGPT 突然出現(xiàn)后引發(fā)了許多新的倫理問題。ChatGPT 是一種對話式 AI 工具，可以用更清晰、更智能化的答案回應查詢。ChatGPT 的迅速擴散有可能顛覆多個行業(yè)，包括媒體、學術(shù)和醫(yī)療保健行業(yè)等，促使人們努力尋找聊天機器人的新用例及其可能產(chǎn)生的影響。
員工如何與 ChatGPT 共享機密信息，以及其開發(fā)者 OpenAI 如何處理這些信息，可能會成為非常棘手的問題。這對亞馬遜來說尤其重要，因為其主要競爭對手微軟已經(jīng)在 OpenAI 投入了大量資金，包括本周新一輪的融資，據(jù)報道總計達 100 億美元。
在華盛頓大學教授計算語言學的艾米麗?本德（Emily Bender）說：“OpenAI 在如何使用數(shù)據(jù)方面還遠遠不夠透明，但如果這些數(shù)據(jù)被用于訓練，我預計企業(yè)會這樣想：在廣泛使用 ChatGPT 幾個月后，是否可能通過精心設(shè)計的提示來獲取私人公司的機密信息？”
亞馬遜為員工使用 ChatGPT 設(shè)置了許多內(nèi)部防護措施。例如，交流的信息截圖顯示，當員工使用工作設(shè)備訪問 ChatGPT 網(wǎng)站時，會彈出一條警告消息，稱他們即將訪問一項第三方服務，該服務“可能未被亞馬遜安全部門批準使用”。
參與 Slack 頻道聊天的員工表示，他們只需點擊“Acknowledge”選項卡，就可以繞過這條消息。工作人員猜測，該警告彈出窗口是為了防止員工將機密信息粘貼到 ChatGPT 上，特別是因為他們還沒有看到公司關(guān)于內(nèi)部使用的政策。
盡管如此，有些亞馬遜員工已經(jīng)在將 AI 工具用作軟件“編碼助手”，以幫助改進內(nèi)部代碼行。一位亞馬遜員工在 Slack 頻道上寫道：“我認為，如果現(xiàn)在能直接使用這一功能，那就太棒了！因此，任何指導意見都將是非常棒的?！?/p>
既擔憂又興奮
另一名員工說，他在 ChatGPT 上分享了亞馬遜對一個公開編程職位的面試問題。根據(jù)這位員工在 Slack 上的帖子，該 AI 模型為其中幾個技術(shù)問題提供了正確的解決方案。他說：“看到這將對我們進行編程面試的方式產(chǎn)生什么影響，我既感到擔憂又覺得興奮?！?/p>
總體而言，參與 Slack 頻道聊天的亞馬遜員工對 ChatGPT 的潛力感到興奮，并想知道亞馬遜是否正在開發(fā)與之競爭的產(chǎn)品。警告員工不要使用 ChatGPT 的公司律師表示，亞馬遜正在加速開發(fā)“類似的技術(shù)”，并引用了語音助手 Alexa 和代碼推薦服務 CodeWhisperer 為例。
一名 AWS 員工寫道，Enterprise Support 團隊最近在內(nèi)部成立了小型工作組，以“了解高級聊天 AI 對我們業(yè)務的影響”。研究顯示，ChatGPT 在回答 AWS 支持問題方面“表現(xiàn)非常好”，包括解決 Aurora 數(shù)據(jù)庫問題等。與此同時，它在為 AWS 認證的云架構(gòu)師考試創(chuàng)建培訓材料方面、提出客戶的公司目標方面也非常出色。
“遠不夠透明”
華盛頓大學的本德表示，在工作中越來越多地使用 ChatGPT 引發(fā)了嚴重的問題，即 OpenAI 計劃如何使用與 AI 工具共享的材料。
OpenAI 的服務條款要求用戶同意其可以使用用戶和 ChatGPT 所產(chǎn)生的所有輸入和輸出。它還表示，OpenAI 從使用的數(shù)據(jù)中刪除了所有個人身份信息 (PII)。
但本德稱，考慮到 ChatGPT 的規(guī)模迅速增長，在推出一周內(nèi)就突破了 100 萬用戶，很難看出 OpenAI 如何識別和刪除所有個人信息。更重要的是，公司的知識產(chǎn)權(quán)可能不屬于 PII 定義的一部分。
對于亞馬遜的員工來說，數(shù)據(jù)隱私似乎是他們最不關(guān)心的問題。他們說，在工作中使用聊天機器人已經(jīng)使工作效率提高了 10 倍，許多人都希望能加入開發(fā)類似服務的內(nèi)部團隊。
其中一名員工在 Slack 上寫道：“如果現(xiàn)在有建立類似服務的計劃，我非常希望能加入其中，在有需要的時候略盡綿薄之力。”
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。