F5 Korea 常务 Jinwon Lee

“很多企业都在做AI概念验证(PoC),但真正进入生产环境的比例仍然不高。原因在于,企业尚未做好如何强化并持续维持安全的准备。一旦在治理或关键企业数据保护上出现问题,就可能演变成风险。”

近日,F5 Korea常务Jinwon Lee在接受采访时表示,企业AI要从测试阶段走向正式落地,安全始终是绕不开的关键议题,而不少企业至今仍未找到清晰的应对路径。

在他看来,AI安全之所以难以像传统安全那样快速形成标准答案,根本原因在于两者的风险路径并不相同。

Jinwon Lee指出,传统安全更多围绕WAF部署和漏洞防护展开,但AI安全不仅要关注漏洞本身,还要应对提示词带来的风险。某些不当提示词在传统安全框架下未必会被视为漏洞,但从风险管理角度看同样不可忽视。即便系统本身不存在漏洞,也可能发生敏感信息泄露。他强调,这类问题不能仅靠应用层第7层安全控制解决,开发团队也必须同步参与。

他还表示,AI与既有IT系统在运行环境和架构特性上存在本质差异,但不少企业安全负责人在进入AI安全领域时,仍沿用过去部署传统安全方案的思路。

在此背景下,Jinwon Lee认为,企业首先需要梳理AI整体架构,再据此判断各类安全威胁的优先级。F5目前也在通过面向客户的工作坊帮助企业更深入理解AI,总部层面则已启动AI Academy项目。他强调,只有先理解AI,才能真正做好AI安全。

对于基于大语言模型(LLM)的生成式AI系统,Jinwon Lee特别提到提示词注入(Prompt Injection)风险。他表示,这类攻击通过自然语言指令操控模型行为,要实现有效防御,对技术能力要求较高,也需要按不同链路和不同节点进行针对性防护。F5目前也在根据所处架构位置分别开发相应方案。

“先把系统搭起来,安全以后再补”的思路,在AI场景下同样行不通。Jinwon Lee表示,AI安全必须从一开始就与AI建设同步推进;如果安全准备不到位,项目就很难进入生产环境。现在,越来越多客户也已经形成“AI安全必须前置”的共识。

作为一家长期深耕应用交付与应用安全的厂商,F5近期明显加大了在AI安全领域的投入,并将其视为新的增长动力。除自研外,F5也在通过并购加快AI安全产品布局,近期还发布了补丁管理解决方案F5 Insight。

Jinwon Lee表示,Anthropic Mitus除渗透测试相关能力外,还可实现对敏感信息访问的自动化处理。随着威胁变化加快,企业对补丁响应速度的要求也越来越高,F5已将补丁发布节奏由季度更新调整为按月更新。与此同时,F5 Insight还可与LLM联动,支持利用AI进行运维和分析。

在AI安全策略上,F5认为,只有覆盖前端入口、编排和推理三大控制点,才能建立起更完整的防护体系。

其中,前端入口指用户与聊天机器人交互的界面层。为强化这一环节的安全能力,F5对原有WAF架构进行了重新设计,在保留签名、攻击特征和威胁情报能力的同时,新增了基于自有数据训练的神经网络层。

编排层则对应AI为补充提示词上下文而与企业内部系统联动的区域,核心在于API安全。

为加强这一环节的防护,F5于去年收购Calypso AI,并推出F5 AI Red Team和F5 AI Guardrails。

在推理环节,重点是尽可能在推理阶段前端阻断错误决策。Jinwon Lee表示,如果问题能够在推理前端被识别和处理,整体效率就会更高。围绕最新的AI工厂架构,F5也在持续加强网络、安全和负载均衡能力建设,以支持企业AI实现高效扩展。

他同时强调,平台整合战略也是F5当前AI布局中的关键一环。

据介绍,F5 ADSP(Application Delivery and Security Platform)可在同一平台上提供F5各项方案,并通过统一控制台下发和更新一致的安全策略。考虑到AI带来的流量激增,平台还提供AI流量可视化能力,不仅能够区分人类流量与AI流量,还可识别AI流量来源于ChatGPT、Claude等不同模型服务。

对于企业管控范围之外的AI,即“影子AI(Shadow AI)”,F5同样将其视为具有增长潜力的方向。为此,F5近期收购了影子AI探测公司Sure Path AI。公司表示,通过这笔收购,F5已形成覆盖Guardrails、Red Team、AI Remediate和Sure Path AI的整合式AI安全平台。

在韩国市场扩张方面,F5还计划在当地直接建设POP(Point of Presence)。POP是F5为提供F5 Distributed Cloud Services而在全球主要节点部署的网络基础设施。Jinwon Lee表示,韩国POP落地后,F5将在SaaS平台成本和服务质量方面为客户提供更具竞争力的服务。

F5围绕AI的布局也已从安全延伸至治理和成本管理。公司正在强化F5 AI Gateway能力,并将其整合至F5 AI Security Platform之中。

F5 AI Gateway提供统一控制平面,可对所有AI请求施加一致的策略,并管理AI模型、智能体及工具的访问权限和使用方式。公司表示,这将有助于企业在大规模AI运营环境中提升成本效率。

Jinwon Lee表示,如果企业无法掌握不同团队、模型和供应商维度的token使用情况,就很难准确评估AI应用带来的价值与成本;F5 AI Gateway可帮助企业更有效地管理“token经济(tokenomics)”。

关键词

#F5 #F5 Korea #企业AI #AI安全 #提示词注入 #LLM #F5 ADSP #F5 AI Gateway #F5 AI Security Platform #F5 Distributed Cloud Services #影子AI
版权所有 © DigitalToday。未经授权禁止转载或传播。