來源：云云眾生s

人們越來越意識到在不受管理的情況下使用生成式人工智能所涉及的風險,，以及在這個快速發(fā)展領域中尋找可信賴的合作伙伴和解決方案的必要性,。

譯自3 Reasons Tech Execs Are Slowing Down GenAI Projects，作者 Mandi Walls。

眾所周知,，IT 趨勢難以預測，但自 2022 年底 ChatGPT 發(fā)布以來，生成式 AI (GenAI) 已呈指數級增長,。IDC預測企業(yè)今年將在全球范圍內花費 400 億美元，三年后將增長近四倍至 1510 億美元,。它得到了另一項PagerDuty 研究的支持,，該研究發(fā)現 64% 的財富 1000 強高管在其組織的大部分或所有部門部署了GenAI。幾乎所有 (98%) 這些公司都在嘗試用例,。

但這并不是全部,。Wakefield Research 對 100 位財富 1000 強高管進行的同一項研究顯示，98% 的組織在制定準則和政策時暫停了內部計劃,。它表明人們越來越意識到未管理的 GenAI 使用所涉及的風險,，以及企業(yè)需要在這個快速發(fā)展的新興領域找到值得信賴的合作伙伴和解決方案。

GenAI 如何改變 ITOps

GenAI 如此之新,，以至于組織仍在研究部署該技術的最佳方式,。IT 已被吹捧為在營銷、軟件開發(fā)和客戶服務等用例中具有潛在變革性,。但它還可以為 ITOps 團隊極大地提高生產力,。

我們在三個關鍵領域看到了這一點：

• 網絡運營中心，其中手動操作和過時的流程可能導致過度升級和較長的平均解決時間 (MTTR),。GenAI 可以幫助將診斷信息匯總在一起,，為利益相關者生成定期狀態(tài)更新，簡化事件管理工作流程和通信,，同時釋放 ITOps 以專注于手頭的工作,。
• 重大事件管理團隊經常難以應對復雜性、警報噪音和缺乏上下文,，這會延長 MTTR,。GenAI 使響應者能夠快速創(chuàng)建工作流以進行狀態(tài)更新，將高優(yōu)先級事件路由到合適的專家,。它還可以通過對加速 MTTR 所需的流程自動化進行編碼來提供幫助,。
• 分布式服務所有團隊由于警報噪音、不同的監(jiān)控工具和有限的上下文,，經常承受著極大的壓力,，以提供改進的客戶體驗,。GenAI 可以通過生成狀態(tài)更新和事后報告來提供幫助——后者對于推動持續(xù)改進至關重要。

高管們?yōu)楹沃斏?/h2>

我們交談過的財富 1000 強技術高管敏銳地意識到需要利用這些能力來獲得競爭優(yōu)勢,。近一半 (46%) 的人認為,，如果不盡快采用 GenAI，他們就有落后的風險,。即便如此,，對于過快地這樣做還是持謹慎態(tài)度。速度很重要,，但不能不惜一切代價,。組織暫停 GenAI 項目的前三個原因是：

1. 版權和法律風險 (51%)

GenAI 模型可能在受版權保護的作品上進行訓練，這意味著使用此類模型輸出的組織可能會不知不覺地陷入法律糾紛,。2023 年底,，紐約時報起訴OpenAI 和 Microsoft 侵犯版權。

組織可能越來越需要在與 GenAI 提供商的合同中寫明法律保證,，規(guī)定模型接受訓練的任何作品都已獲得許可并擴展到該工具的用戶,。他們可能還需要加強對潛在 GenAI 供應商的盡職調查，以檢查其風險敞口,，并可能運行檢查以確保任何 AI 生成的軟件不會侵犯先前發(fā)布的代碼,。

2. 敏感信息泄露 (48%)

基于大型語言模型 (LLM)構建的 GenAI 應用程序可能會意外泄露敏感信息，例如專有算法或其他知識產權 (IP),。三星禁止去年 5 月內部使用 ChatGPT 和類似工具,，此前開發(fā)人員將敏感代碼上傳到該工具以幫助他們調試和優(yōu)化它。摩根大通和亞馬遜等公司也限制了員工使用此類工具,。

組織必須制定可接受的使用政策和更新的員工意識培訓,，以規(guī)范員工如何使用基于 LLM 的工具。他們可能還希望更新數據丟失預防 (DLP) 解決方案,，以部署細粒度控制并限制員工的訪問權限,。企業(yè)許可證對于通過對 AI 模型對任何用戶輸入/提示的操作施加嚴格限制來減輕此類風險可能變得越來越重要。

3. 數據隱私違規(guī) (47%)

與上述示例類似,，用戶可能無意中將敏感信息輸入到 GenAI 模型中,。如果這是受監(jiān)管的個人信息,，則可能使企業(yè)面臨違反 GDPR 或 CCPA（加州消費者隱私法）等法律的風險,。OpenAI 在其隱私政策中聲明，它可能會使用此類輸入來提供,、分析和改進其服務,，以及開發(fā)新程序和服務。它還可能在不另行通知的情況下與供應商和服務提供商等第三方共享該信息,。

如上所述,，企業(yè)將需要制定水密的用戶政策和程序,，并結合更新的員工培訓，以最大程度地降低其風險敞口,。他們甚至可能需要阻止使用“泄漏”模型,，而只堅持使用經過嚴格審查的企業(yè)級 GenAI 提供商，這些提供商承諾不會以這種方式使用個人信息,。

信任至上

最后,，我們應該贊揚那些正在放慢 GenAI 項目的技術主管。超過一半 (51%) 的人認為,，只有在制定了正確的準則后,，他們才應該采用 GenAI。這表明他們意識到了這些風險,，并希望確保以負責任且合規(guī)的方式使用該技術,。

下一步將至關重要：即他們制定的政策和程序以及他們選擇合作的技術公司。越來越多的旅行方向將是能夠提供內置了適當護欄以減輕版權,、數據丟失,、合規(guī)性和幻覺等其他風險的工具的專業(yè)提供商。好消息是,，這些提供商今天已經存在,。

本文在云云眾生（https://yylives.cc/）首發(fā)，歡迎大家訪問,。