- 為 AI 服務的使用者與提供者管理安全性，提供身份驗證與零信任能力。
- 優先考慮跨團隊、應用程式與 API 對 AI 服務的使用優先順序。
- 透過來自 OpenAI、雲端供應商、開源等的 AI 服務和模型實現整合自動化。
西雅圖—F5（NASDAQ: FFIV）宣布推出 F5 AI 閘道的試用版本，以簡化應用程式、API 和大型語言模型（LLM）之間的交互，加速企業採用 AI。這項功能強大的容器化解決方案優化了效能、可觀測性和防護能力，進一步降低成本。結合 F5 的產品組合，AI 閘道為安全與營運團隊提供無縫的 AI 服務採用路徑，顯著提升數據輸出品質與用戶體驗。
根據 F5 的《AI 應用策略現狀報告》，75% 的企業正在實施 AI。與眾多現代應用一樣，AI 服務主要透過 API 提供與使用。然而，企業在設計和擴展 AI 適配應用與服務時面臨諸多挑戰。例如，高效的營運需要密切監控越來越重要的指標，如 GPU 運算成本與系統響應性，以及應對新興的合規性問題。
F5 的首席技術與 AI 總監 Kunal Anand 表示：「大型語言模型（LLM）為客戶解鎖了全新的生產力水平並提升用戶體驗，但它們同時需要監控、推理時的深入檢測，以及對新型威脅的防禦。」，「透過解決這些新需求並整合 F5 在 API 流量管理方面值得信賴的解決方案，我們幫助客戶能夠在更廣泛的威脅環境中，自信且高效地部署 AI 驅動的應用程式。」
實際的 AI 解決方案需要針對整個數據生態系統優化請求、回應及提示的互動。F5 AI 閘道可監控、優化並保護大量用戶和自動化變數，以降低成本、緩解惡意威脅並確保合規性。
F5 AI 閘道旨在於客戶 AI 發展歷程的理想階段，與其應用程式緊密結合。該方案可部署於任意雲端或資料中心，並能原生整合 F5 的 NGINX 和 BIG-IP 平台，充分利用 F5 在傳統、多雲或邊緣部署環境中的領先應用安全與傳遞服務。此外，該解決方案的開放擴展性使企業能夠開發和自訂由 F5 AI 閘道執行的可編程安全與控制機制。這些流程可輕鬆更新並動態應用，實現即時符合安全政策與合規要求。
IDC 資深 AI 與自動化總監 Shari Lava 表示：「AI 驅動的應用程式將在未來數年成為幾乎每家企業與組織的基石。」，「F5 在其應用服務堆疊中引入 AI 閘道，為客戶提供了更大的靈活性來建立 AI 應用結構，同時仍能確保更強大的保護與模型優化。」。
F5 AI 閘道
- 提供針對 LLM 應用的 OWASP 十大風險的自動檢測與修復功能，實現安全與合規政策的執行。
- 透過語意快取卸載 LLM 的重複任務，提升用戶體驗並降低營運成本。
- 簡化整合流程，使開發者能專注於建立 AI 驅動的應用程式，而非管理複雜的基礎架構。
- 優化本地及第三方 LLM 的負載平衡、流量路由與速率限制，以維持服務可用性並提升效能。
- 提供單一 API 介面，開發者可透過該介面存取任意選擇的 AI 模型。
WorldTech IT 技術長 Austin Geraci 表示：「F5 的 AI 閘道是我們 AI 策略中的重要一環。」，「藉由這項技術，我們的客戶能夠開發面向內部與外部的 AI 應用程式，在處理激增的查詢時，依然維持網站與應用效能不受影響。F5 提供領先的應用安全與傳遞能力，加速大規模 AI 體驗的實現。透過 F5 AI 閘道，僅語意快取與智慧流量路由就能帶來顯著的成本節省，而 F5 服務的統合更可為客戶節省數百小時的整合工作。」。
新聞來源：F5
相關資源文章：
F5 AI Gateway product page
F5 AI Gateway overview
F5 AI Gateway blog post