1 月 25 日消息，自從人工智能研究公司 OpenAI 于 2022 年 11 月發(fā)布 AI 聊天機(jī)器人 ChatGPT 以來，后者在科技領(lǐng)域受到熱捧，但科技巨頭亞馬遜卻對(duì)其充滿了警惕，甚至警告員工不要與 ChatGPT 分享機(jī)密信息。
亞馬遜內(nèi)部 Slack 頻道有許多員工關(guān)于如何使用 ChatGPT 的問題。有些員工詢問亞馬遜，是否制定了關(guān)于在工作設(shè)備上使用 ChatGPT 的官方指導(dǎo)。而其他人則想知道，他們是否被允許使用 AI 工具工作。一位員工敦促亞馬遜云計(jì)算部門 AWS 澄清其對(duì)使用“生成性 AI(AIGC)工具”的立場。
很快，亞馬遜一名公司律師加入了討論。Slack 頻道的內(nèi)部交流截圖顯示，這位律師警告員工不要向 ChatGPT 提供“任何亞馬遜機(jī)密信息”，包括正在編寫的亞馬遜代碼。他還建議員工遵循公司現(xiàn)有的保密政策，因?yàn)?ChatGPT 的某些回復(fù)看起來與亞馬遜內(nèi)部情況十分相似。
這位律師寫道：“這一點(diǎn)至關(guān)重要，因?yàn)槟愕妮斎肟赡軙?huì)被用作 ChatGPT 的迭代訓(xùn)練數(shù)據(jù)，我們不希望它的輸出中包含或類似于我們的機(jī)密信息。”
這些交流表明，ChatGPT 突然出現(xiàn)后引發(fā)了許多新的倫理問題。ChatGPT 是一種對(duì)話式 AI 工具，可以用更清晰、更智能化的答案回應(yīng)查詢。ChatGPT 的迅速擴(kuò)散有可能顛覆多個(gè)行業(yè)，包括媒體、學(xué)術(shù)和醫(yī)療保健行業(yè)等，促使人們努力尋找聊天機(jī)器人的新用例及其可能產(chǎn)生的影響。
員工如何與 ChatGPT 共享機(jī)密信息，以及其開發(fā)者 OpenAI 如何處理這些信息，可能會(huì)成為非常棘手的問題。這對(duì)亞馬遜來說尤其重要，因?yàn)槠渲饕偁帉?duì)手微軟已經(jīng)在 OpenAI 投入了大量資金，包括本周新一輪的融資，據(jù)報(bào)道總計(jì)達(dá) 100 億美元。
在華盛頓大學(xué)教授計(jì)算語言學(xué)的艾米麗?本德(Emily Bender)說：“OpenAI 在如何使用數(shù)據(jù)方面還遠(yuǎn)遠(yuǎn)不夠透明，但如果這些數(shù)據(jù)被用于訓(xùn)練，我預(yù)計(jì)企業(yè)會(huì)這樣想：在廣泛使用 ChatGPT 幾個(gè)月后，是否可能通過精心設(shè)計(jì)的提示來獲取私人公司的機(jī)密信息?”
亞馬遜為員工使用 ChatGPT 設(shè)置了許多內(nèi)部防護(hù)措施。例如，交流的信息截圖顯示，當(dāng)員工使用工作設(shè)備訪問 ChatGPT 網(wǎng)站時(shí)，會(huì)彈出一條警告消息，稱他們即將訪問一項(xiàng)第三方服務(wù)，該服務(wù)“可能未被亞馬遜安全部門批準(zhǔn)使用”。
參與 Slack 頻道聊天的員工表示，他們只需點(diǎn)擊“Acknowledge”選項(xiàng)卡，就可以繞過這條消息。工作人員猜測，該警告彈出窗口是為了防止員工將機(jī)密信息粘貼到 ChatGPT 上，特別是因?yàn)樗麄冞€沒有看到公司關(guān)于內(nèi)部使用的政策。
盡管如此，有些亞馬遜員工已經(jīng)在將 AI 工具用作軟件“編碼助手”，以幫助改進(jìn)內(nèi)部代碼行。一位亞馬遜員工在 Slack 頻道上寫道：“我認(rèn)為，如果現(xiàn)在能直接使用這一功能，那就太棒了!因此，任何指導(dǎo)意見都將是非常棒的。”
既擔(dān)憂又興奮
另一名員工說，他在 ChatGPT 上分享了亞馬遜對(duì)一個(gè)公開編程職位的面試問題。根據(jù)這位員工在 Slack 上的帖子，該 AI 模型為其中幾個(gè)技術(shù)問題提供了正確的解決方案。他說：“看到這將對(duì)我們進(jìn)行編程面試的方式產(chǎn)生什么影響，我既感到擔(dān)憂又覺得興奮。”
總體而言，參與 Slack 頻道聊天的亞馬遜員工對(duì) ChatGPT 的潛力感到興奮，并想知道亞馬遜是否正在開發(fā)與之競爭的產(chǎn)品。警告員工不要使用 ChatGPT 的公司律師表示，亞馬遜正在加速開發(fā)“類似的技術(shù)”，并引用了語音助手 Alexa 和代碼推薦服務(wù) CodeWhisperer 為例。
一名 AWS 員工寫道，Enterprise Support 團(tuán)隊(duì)最近在內(nèi)部成立了小型工作組，以“了解高級(jí)聊天 AI 對(duì)我們業(yè)務(wù)的影響”。研究顯示，ChatGPT 在回答 AWS 支持問題方面“表現(xiàn)非常好”，包括解決 Aurora 數(shù)據(jù)庫問題等。與此同時(shí)，它在為 AWS 認(rèn)證的云架構(gòu)師考試創(chuàng)建培訓(xùn)材料方面、提出客戶的公司目標(biāo)方面也非常出色。
“遠(yuǎn)不夠透明”
華盛頓大學(xué)的本德表示，在工作中越來越多地使用 ChatGPT 引發(fā)了嚴(yán)重的問題，即 OpenAI 計(jì)劃如何使用與 AI 工具共享的材料。
OpenAI 的服務(wù)條款要求用戶同意其可以使用用戶和 ChatGPT 所產(chǎn)生的所有輸入和輸出。它還表示，OpenAI 從使用的數(shù)據(jù)中刪除了所有個(gè)人身份信息 (PII)。
但本德稱，考慮到 ChatGPT 的規(guī)模迅速增長，在推出一周內(nèi)就突破了 100 萬用戶，很難看出 OpenAI 如何識(shí)別和刪除所有個(gè)人信息。更重要的是，公司的知識(shí)產(chǎn)權(quán)可能不屬于 PII 定義的一部分。
對(duì)于亞馬遜的員工來說，數(shù)據(jù)隱私似乎是他們最不關(guān)心的問題。他們說，在工作中使用聊天機(jī)器人已經(jīng)使工作效率提高了 10 倍，許多人都希望能加入開發(fā)類似服務(wù)的內(nèi)部團(tuán)隊(duì)。
其中一名員工在 Slack 上寫道：“如果現(xiàn)在有建立類似服務(wù)的計(jì)劃，我非常希望能加入其中，在有需要的時(shí)候略盡綿薄之力。”
關(guān)鍵詞： 亞馬遜
