F5 推出AI网关，管理并保护快速增长的AI流量和应用需求

2024-11-20 17:33:23 发布于：北京市

　　·保障AI的用户和AI服务提供商安全，监管身份验证和零信任功能

　　·在跨团队、应用和API中优先考虑AI服务的使用

　　·实现基于OpenAI、云服务提供商、开源社区等AI服务和模型的集成自动化

　　西雅图，2024年11月20日– F5(NASDAQ: FFIV)日前宣布推出抢先体验版F5 AI网关(AI Gateway)，以简化企业在推动AI部署过程中应用、API和大语言模型(LLMs)间的交互。这一强大的容器化解决方案能够优化性能、可观测性和保护能力，从而显著降低成本。通过与F5的产品组合深度集成，AI网关为安全和运营团队提供了采用 AI 服务的无缝途径，以大幅提升数据输出质量并带来卓越的用户体验。

　　根据 F5 发布的《人工智能应用策略现状报告》显示，75% 的企业正在部署AI。与众多现代应用一样，AI服务主要通过 API 进行交付和使用。然而，企业在设计和扩展支持AI的应用和服务时，却面临着更多额外挑战。例如，高效运营需要密切监控GPU计算成本、系统响应速度等日益重要的指标，同时还需应对不断涌现的合规性要求。

　　F5首席创新官Kunal Anand表示，“LLM正在为用户打造全新的生产力水平，并提升用户体验，但它们同时也需要在推理阶段进行监督、深度检查，并防御新型威胁。通过满足这些新要求并与F5值得信赖的API流量管理解决方案集成，我们将帮助客户在日益复杂的威胁环境中，自信且高效地部署 AI 驱动的应用。”

　　现实世界中的AI解决方案需要在整个数据生态系统中优化请求、响应和快速交互。F5 AI网关通过观察、优化并保护大量用户和自动化变量，从而降低成本、减少恶意威胁并确保合规性。

　　F5 AI网关旨在于客户及其应用的 AI 发展中找到最佳契合点。该网关可部署在任何云或数据中心，并原生集成F5 NGINX及BIG-IP平台，从而在传统、多云或边缘部署中充分利用F5领先的应用安全和交付服务。此外，该解决方案的开放可扩展性将允许企业开发和定制由F5 AI网关执行的可编程安全和控制。这些流程可轻松更新并动态应用，以实现对安全策略和合规要求的即时响应。

　　IDC人工智能和自动化高级总监Shari Lava表示，“AI驱动的应用将在未来几年成为几乎所有企业和组织的基石。F5在其应用堆栈服务中引入AI网关，为客户提供了在构建 AI 应用架构方面更大的灵活性，同时实现更强的保护和模型优化。”

　　F5 AI网关可为用户带来以下价值：

　　· 通过自动检测和修复提供安全和合规性策略实施，以应对OWASP发布的大语言模型应用程序十大风险;

　　· 利用语义缓存卸载LLM中的重复任务，提升用户体验并降低运营成本;

　　· 简化集成流程，允许开发人员得以专注于构建AI驱动的应用，而不是管理复杂的基础架构;

　　· 优化本地和第三方LLM的负载平衡、流量路由和速率限制，以保持服务可用性并提升性能;

　　· 提供单一 API 接口，供开发人员用于访问他们选择的AI模型。

　　WorldTech IT首席技术官Austin Geraci表示，“F5 的AI网关是我们AI战略中不可或缺的一部分。借助该项技术，我们的客户能够开发内部和外部的AI应用，这些应用能够处理大量查询，而不降低站点和应用性能。F5 提供的领先应用安全和交付能力，可加速大规模AI体验。通过采用F5 AI网关，仅语义缓存和智能流量路由即可显著降低成本，同时F5服务的统一性也为客户节省了数百小时的集成工作。”

　　更多资源：

　　· F5 AI网关产品页面

　　· F5 AI网关概述

　　· F5 AI网关博客文章