一、AI 應用是更現代的現代應用程式 AI 應用應被視為現代應用
雖然 AI 應用的核心是模型，但其組成部分還包括推理伺服器、資料來源、解碼器、編碼器等，這些元件通常以現代應用的形式部署。這也代表它們需要使用 Kubernetes 等架構來實現擴展性、調度及安全性。
不同的 AI 工作負載有著不同的資源需求，例如某些工作負載可能需要 GPU 加速，而其他工作負載則只需 CPU 資源。因此，將 AI 應用作為現代應用進行部署，可以更靈活地分配資源，確保每個組件都能根據其特定的運算需求進行最佳化部署及擴展。
●策略重點：利用現有的應用交付及安全性知識，並擴展至 AI 應用。確保考慮到不同 AI 組件的資源需求，例如運算密集型任務的 GPU 加速或低運算需求工作負載的 CPU 資源，這樣可以在性能與成本效益間取得最佳平衡。
二、AI 應用與現代應用的不同
儘管 AI 應用屬於現代應用的一部分，但在架構、操作及安全性方面，它們確實存在顯著差異。 首先，AI 應用處理的是非結構化資訊。這些輸入無固定格式、長度或資料類型需求，且隨著多模型態大型語言模型（LLM）的普及，這種情況變得更加混亂。儘管許多 AI 應用使用 JSON 格式來包裝請求與回應，但實際內容的非結構化性質仍然帶來挑戰。
其次，AI 應用幾乎完全透過 API 與模型通訊。因此，傳統的基於「人」或「機器」來識別存取的機器人檢測方案可能不再適用。新的安全服務將需要針對「好的機器人」與「惡意機器人」進行區分，API 安全因此成為保護 AI 模型的重要部分。
最後，AI 應用程式的交互模式通常是動態的、可變的且難以預測。目前的安全服務主要透過監控滑鼠點擊率及每頁輸入速度來推斷「機器人」行為，但這在使用對話視窗時難以適用。許多現有的安全解決方案依賴於行為分析，因此需要做出相應調整。
●策略重點：你需要額外的安全功能來妥善治理 AI 應用程式。重新思考傳統安全方法，考慮創新的方案，如即時監控交互模式及基於上下文內容的自適應存取控制機制。強調 API 在 AI 模型通訊中的關鍵作用，並投資健全的 API 安全解決方案，以防止未經授權的存取、資料外洩及惡意攻擊。
三、不同的 AI 應用程式將使用不同的模型
正如多雲環境的現況，企業很難制定單一 AI 模型的標準化。因為不同的模型更適合特定的使用案例。
調查顯示，企業平均使用近三個（2.9個）不同的模型，包括開源及專有模型。當我們深入研究基於使用案例的模型應用時，會發現一種現象，例如，在需要依賴敏感企業資料的使用案例中，如安全操作和內容生成，開源模型的使用比例明顯較高。而在自動化的使用案例中，由於微軟模型能與許多企業現有的工具及流程整合，因此被採用較廣。
依照需求正確的部署至關重要，因為管理 SaaS 託管 AI 模型、雲端託管 AI 模型及自我管理 AI 模型所需的執行、工具及技術有所不同。儘管在安全性方面存在相似之處，但每種部署模式需要針對其特定特徵進行相應的調整。
●策略重點：分析企業內的使用案例，識別不同 AI 模型的採用模式。考慮資料敏感性、整合能力及與現有工具和流程的協同。根據每種部署模式的特點，調整部署及安全策略。
總結來說，建構、操作及保護 AI 應用需要考慮許多因素，帶來了交付、安全性和操作方面所有既有經驗的挑戰，尤其是模型安全及擴展性的新要求。過去數十年來，標準化一直是企業加速向市場交付新功能、提高營運效率、同時讓企業更有效地管理和分配人力資源，使其能夠更好地應對 AI 應用架構的變化和要求。這也是我們看到一些共享服務，尤其是應用和 API 安全性正在轉向邊緣，也就是安全即服務。
過往我們從跨核心、雲端服務及邊緣應用部署現代應用的許多經驗，將有助於企業成功實施 AI 技術。在這過程中，保持對差異的關注，並制定至少半正式的策略來應對交付及安全挑戰，是實現成功的關鍵。
在 CIO Taiwan 官網閱讀全文 : 掌握 AI 時代的應用關鍵策略：CIO 應該知道的三大要點 https://www.cio.com.tw/mastery-of-the-ai-era-application-key-strategy-the-three-main-points-cios-should-know/