來源：云云眾生s

人們?cè)絹碓揭庾R(shí)到在不受管理的情況下使用生成式人工智能所涉及的風(fēng)險(xiǎn)，以及在這個(gè)快速發(fā)展領(lǐng)域中尋找可信賴的合作伙伴和解決方案的必要性。

譯自3 Reasons Tech Execs Are Slowing Down GenAI Projects，作者 Mandi Walls,。

眾所周知,，IT 趨勢(shì)難以預(yù)測,，但自 2022 年底 ChatGPT 發(fā)布以來,，生成式 AI (GenAI) 已呈指數(shù)級(jí)增長,。IDC預(yù)測企業(yè)今年將在全球范圍內(nèi)花費(fèi) 400 億美元,，三年后將增長近四倍至 1510 億美元,。它得到了另一項(xiàng)PagerDuty 研究的支持,，該研究發(fā)現(xiàn) 64% 的財(cái)富 1000 強(qiáng)高管在其組織的大部分或所有部門部署了GenAI。幾乎所有 (98%) 這些公司都在嘗試用例,。

但這并不是全部,。Wakefield Research 對(duì) 100 位財(cái)富 1000 強(qiáng)高管進(jìn)行的同一項(xiàng)研究顯示，98% 的組織在制定準(zhǔn)則和政策時(shí)暫停了內(nèi)部計(jì)劃,。它表明人們?cè)絹碓揭庾R(shí)到未管理的 GenAI 使用所涉及的風(fēng)險(xiǎn),，以及企業(yè)需要在這個(gè)快速發(fā)展的新興領(lǐng)域找到值得信賴的合作伙伴和解決方案。

GenAI 如何改變 ITOps

GenAI 如此之新,，以至于組織仍在研究部署該技術(shù)的最佳方式,。IT 已被吹捧為在營銷、軟件開發(fā)和客戶服務(wù)等用例中具有潛在變革性,。但它還可以為 ITOps 團(tuán)隊(duì)極大地提高生產(chǎn)力,。

我們?cè)谌齻€(gè)關(guān)鍵領(lǐng)域看到了這一點(diǎn)：

• 網(wǎng)絡(luò)運(yùn)營中心，其中手動(dòng)操作和過時(shí)的流程可能導(dǎo)致過度升級(jí)和較長的平均解決時(shí)間 (MTTR),。GenAI 可以幫助將診斷信息匯總在一起,，為利益相關(guān)者生成定期狀態(tài)更新，簡化事件管理工作流程和通信,，同時(shí)釋放 ITOps 以專注于手頭的工作,。
• 重大事件管理團(tuán)隊(duì)經(jīng)常難以應(yīng)對(duì)復(fù)雜性、警報(bào)噪音和缺乏上下文,，這會(huì)延長 MTTR,。GenAI 使響應(yīng)者能夠快速創(chuàng)建工作流以進(jìn)行狀態(tài)更新，將高優(yōu)先級(jí)事件路由到合適的專家,。它還可以通過對(duì)加速 MTTR 所需的流程自動(dòng)化進(jìn)行編碼來提供幫助,。
• 分布式服務(wù)所有團(tuán)隊(duì)由于警報(bào)噪音、不同的監(jiān)控工具和有限的上下文,，經(jīng)常承受著極大的壓力,，以提供改進(jìn)的客戶體驗(yàn)。GenAI 可以通過生成狀態(tài)更新和事后報(bào)告來提供幫助——后者對(duì)于推動(dòng)持續(xù)改進(jìn)至關(guān)重要,。

高管們?yōu)楹沃?jǐn)慎

我們交談過的財(cái)富 1000 強(qiáng)技術(shù)高管敏銳地意識(shí)到需要利用這些能力來獲得競爭優(yōu)勢(shì),。近一半 (46%) 的人認(rèn)為，如果不盡快采用 GenAI,，他們就有落后的風(fēng)險(xiǎn),。即便如此，對(duì)于過快地這樣做還是持謹(jǐn)慎態(tài)度,。速度很重要，但不能不惜一切代價(jià),。組織暫停 GenAI 項(xiàng)目的前三個(gè)原因是：

1. 版權(quán)和法律風(fēng)險(xiǎn) (51%)

GenAI 模型可能在受版權(quán)保護(hù)的作品上進(jìn)行訓(xùn)練,，這意味著使用此類模型輸出的組織可能會(huì)不知不覺地陷入法律糾紛,。2023 年底，紐約時(shí)報(bào)起訴OpenAI 和 Microsoft 侵犯版權(quán),。

組織可能越來越需要在與 GenAI 提供商的合同中寫明法律保證,，規(guī)定模型接受訓(xùn)練的任何作品都已獲得許可并擴(kuò)展到該工具的用戶。他們可能還需要加強(qiáng)對(duì)潛在 GenAI 供應(yīng)商的盡職調(diào)查,，以檢查其風(fēng)險(xiǎn)敞口,，并可能運(yùn)行檢查以確保任何 AI 生成的軟件不會(huì)侵犯先前發(fā)布的代碼。

2. 敏感信息泄露 (48%)

基于大型語言模型 (LLM)構(gòu)建的 GenAI 應(yīng)用程序可能會(huì)意外泄露敏感信息,，例如專有算法或其他知識(shí)產(chǎn)權(quán) (IP),。三星禁止去年 5 月內(nèi)部使用 ChatGPT 和類似工具，此前開發(fā)人員將敏感代碼上傳到該工具以幫助他們調(diào)試和優(yōu)化它,。摩根大通和亞馬遜等公司也限制了員工使用此類工具,。

組織必須制定可接受的使用政策和更新的員工意識(shí)培訓(xùn)，以規(guī)范員工如何使用基于 LLM 的工具,。他們可能還希望更新數(shù)據(jù)丟失預(yù)防 (DLP) 解決方案,，以部署細(xì)粒度控制并限制員工的訪問權(quán)限。企業(yè)許可證對(duì)于通過對(duì) AI 模型對(duì)任何用戶輸入/提示的操作施加嚴(yán)格限制來減輕此類風(fēng)險(xiǎn)可能變得越來越重要,。

3. 數(shù)據(jù)隱私違規(guī) (47%)

與上述示例類似,，用戶可能無意中將敏感信息輸入到 GenAI 模型中。如果這是受監(jiān)管的個(gè)人信息,，則可能使企業(yè)面臨違反 GDPR 或 CCPA（加州消費(fèi)者隱私法）等法律的風(fēng)險(xiǎn),。OpenAI 在其隱私政策中聲明，它可能會(huì)使用此類輸入來提供,、分析和改進(jìn)其服務(wù),，以及開發(fā)新程序和服務(wù)。它還可能在不另行通知的情況下與供應(yīng)商和服務(wù)提供商等第三方共享該信息,。

如上所述,，企業(yè)將需要制定水密的用戶政策和程序，并結(jié)合更新的員工培訓(xùn),，以最大程度地降低其風(fēng)險(xiǎn)敞口,。他們甚至可能需要阻止使用“泄漏”模型，而只堅(jiān)持使用經(jīng)過嚴(yán)格審查的企業(yè)級(jí) GenAI 提供商,，這些提供商承諾不會(huì)以這種方式使用個(gè)人信息,。

信任至上

最后，我們應(yīng)該贊揚(yáng)那些正在放慢 GenAI 項(xiàng)目的技術(shù)主管,。超過一半 (51%) 的人認(rèn)為,，只有在制定了正確的準(zhǔn)則后，他們才應(yīng)該采用 GenAI,。這表明他們意識(shí)到了這些風(fēng)險(xiǎn),，并希望確保以負(fù)責(zé)任且合規(guī)的方式使用該技術(shù),。

下一步將至關(guān)重要：即他們制定的政策和程序以及他們選擇合作的技術(shù)公司。越來越多的旅行方向?qū)⑹悄軌蛱峁﹥?nèi)置了適當(dāng)護(hù)欄以減輕版權(quán),、數(shù)據(jù)丟失,、合規(guī)性和幻覺等其他風(fēng)險(xiǎn)的工具的專業(yè)提供商。好消息是,，這些提供商今天已經(jīng)存在,。

本文在云云眾生（https://yylives.cc/）首發(fā)，歡迎大家訪問,。