1 月 25 日消息，自從人工智能研究公司 OpenAI 于 2022 年 11 月發(fā)布 AI 聊天機器人 ChatGPT 以來，后者在科技領(lǐng)域受到熱捧，但科技巨頭亞馬遜卻對其充滿了警惕，甚至警告員工不要與 ChatGPT 分享機密信息。
亞馬遜內(nèi)部 Slack 頻道有許多員工關(guān)于如何使用 ChatGPT 的問題。有些員工詢問亞馬遜，是否制定了關(guān)于在工作設(shè)備上使用 ChatGPT 的官方指導(dǎo)。而其他人則想知道，他們是否被允許使用 AI 工具工作。一位員工敦促亞馬遜云計算部門 AWS 澄清其對使用“生成性 AI（AIGC）工具”的立場。
很快，亞馬遜一名公司律師加入了討論。Slack 頻道的內(nèi)部交流截圖顯示，這位律師警告員工不要向 ChatGPT 提供“任何亞馬遜機密信息”，包括正在編寫的亞馬遜代碼。他還建議員工遵循公司現(xiàn)有的保密政策，因為 ChatGPT 的某些回復(fù)看起來與亞馬遜內(nèi)部情況十分相似。
這位律師寫道：“這一點至關(guān)重要，因為你的輸入可能會被用作 ChatGPT 的迭代訓(xùn)練數(shù)據(jù)，我們不希望它的輸出中包含或類似于我們的機密信息?！?/p>
這些交流表明，ChatGPT 突然出現(xiàn)后引發(fā)了許多新的倫理問題。ChatGPT 是一種對話式 AI 工具，可以用更清晰、更智能化的答案回應(yīng)查詢。ChatGPT 的迅速擴散有可能顛覆多個行業(yè)，包括媒體、學(xué)術(shù)和醫(yī)療保健行業(yè)等，促使人們努力尋找聊天機器人的新用例及其可能產(chǎn)生的影響。
員工如何與 ChatGPT 共享機密信息，以及其開發(fā)者 OpenAI 如何處理這些信息，可能會成為非常棘手的問題。這對亞馬遜來說尤其重要，因為其主要競爭對手微軟已經(jīng)在 OpenAI 投入了大量資金，包括本周新一輪的融資，據(jù)報道總計達(dá) 100 億美元。
在華盛頓大學(xué)教授計算語言學(xué)的艾米麗?本德（Emily Bender）說：“OpenAI 在如何使用數(shù)據(jù)方面還遠(yuǎn)遠(yuǎn)不夠透明，但如果這些數(shù)據(jù)被用于訓(xùn)練，我預(yù)計企業(yè)會這樣想：在廣泛使用 ChatGPT 幾個月后，是否可能通過精心設(shè)計的提示來獲取私人公司的機密信息？”
亞馬遜為員工使用 ChatGPT 設(shè)置了許多內(nèi)部防護措施。例如，交流的信息截圖顯示，當(dāng)員工使用工作設(shè)備訪問 ChatGPT 網(wǎng)站時，會彈出一條警告消息，稱他們即將訪問一項第三方服務(wù)，該服務(wù)“可能未被亞馬遜安全部門批準(zhǔn)使用”。
參與 Slack 頻道聊天的員工表示，他們只需點擊“Acknowledge”選項卡，就可以繞過這條消息。工作人員猜測，該警告彈出窗口是為了防止員工將機密信息粘貼到 ChatGPT 上，特別是因為他們還沒有看到公司關(guān)于內(nèi)部使用的政策。
盡管如此，有些亞馬遜員工已經(jīng)在將 AI 工具用作軟件“編碼助手”，以幫助改進內(nèi)部代碼行。一位亞馬遜員工在 Slack 頻道上寫道：“我認(rèn)為，如果現(xiàn)在能直接使用這一功能，那就太棒了！因此，任何指導(dǎo)意見都將是非常棒的?！?/p>
既擔(dān)憂又興奮
另一名員工說，他在 ChatGPT 上分享了亞馬遜對一個公開編程職位的面試問題。根據(jù)這位員工在 Slack 上的帖子，該 AI 模型為其中幾個技術(shù)問題提供了正確的解決方案。他說：“看到這將對我們進行編程面試的方式產(chǎn)生什么影響，我既感到擔(dān)憂又覺得興奮?！?/p>
總體而言，參與 Slack 頻道聊天的亞馬遜員工對 ChatGPT 的潛力感到興奮，并想知道亞馬遜是否正在開發(fā)與之競爭的產(chǎn)品。警告員工不要使用 ChatGPT 的公司律師表示，亞馬遜正在加速開發(fā)“類似的技術(shù)”，并引用了語音助手 Alexa 和代碼推薦服務(wù) CodeWhisperer 為例。
一名 AWS 員工寫道，Enterprise Support 團隊最近在內(nèi)部成立了小型工作組，以“了解高級聊天 AI 對我們業(yè)務(wù)的影響”。研究顯示，ChatGPT 在回答 AWS 支持問題方面“表現(xiàn)非常好”，包括解決 Aurora 數(shù)據(jù)庫問題等。與此同時，它在為 AWS 認(rèn)證的云架構(gòu)師考試創(chuàng)建培訓(xùn)材料方面、提出客戶的公司目標(biāo)方面也非常出色。
“遠(yuǎn)不夠透明”
華盛頓大學(xué)的本德表示，在工作中越來越多地使用 ChatGPT 引發(fā)了嚴(yán)重的問題，即 OpenAI 計劃如何使用與 AI 工具共享的材料。
OpenAI 的服務(wù)條款要求用戶同意其可以使用用戶和 ChatGPT 所產(chǎn)生的所有輸入和輸出。它還表示，OpenAI 從使用的數(shù)據(jù)中刪除了所有個人身份信息 (PII)。
但本德稱，考慮到 ChatGPT 的規(guī)模迅速增長，在推出一周內(nèi)就突破了 100 萬用戶，很難看出 OpenAI 如何識別和刪除所有個人信息。更重要的是，公司的知識產(chǎn)權(quán)可能不屬于 PII 定義的一部分。
對于亞馬遜的員工來說，數(shù)據(jù)隱私似乎是他們最不關(guān)心的問題。他們說，在工作中使用聊天機器人已經(jīng)使工作效率提高了 10 倍，許多人都希望能加入開發(fā)類似服務(wù)的內(nèi)部團隊。
其中一名員工在 Slack 上寫道：“如果現(xiàn)在有建立類似服務(wù)的計劃，我非常希望能加入其中，在有需要的時候略盡綿薄之力?！?/p>
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。