2025年已过半，我们看到了AI应用的爆发，各种Agent和Vibe Coding工具满天飞，还有一票软硬件结合的AI原生硬件出现。
在工具层，AI安全工具是创业和融资最活跃的领域。最近一个月就有Cyera又获得5亿美元，估值60亿美元；Guardz获5600万美元B轮融资和Trustible获460万美元种子轮融资等新融资消息。
AI安全工具持续活跃的内在原因，是因为安全是科技行业的根本需求之一，没有安全作为基础，产品和应用的生态就不可能繁荣。
例如，云安全：当云计算越安全，企业将业务部署在云上的信心越足；数据越安全，企业和个人用户越能够无负担的多用AI产品，这就促进了整个应用生态的发展。
可以这么说，AI安全不是加分项，而是AI应用落地的必要一环。
安全工具已覆盖AI的全产业链
安全技术随着威胁的进化和产品形态的变迁而进化；在过去已经出现了电脑安全，网络安全，云安全等领域，AI安全是最新的。
例如电脑安全领域主要的安全产品是杀毒软件，我们熟悉的典型产品有360杀毒，它的主要功能就是对电脑病毒的检测、清除和实时防护。
企业网络安全，主要是在组织的内部网络（可信区域）和外部的互联网（不可信区域）之间建立一道清晰的“边界”；其主要目标是保护这道边界，防止未经授权的访问和恶意流量从外部进入内部，同时对内部网络进行监控和管理。典型的公司有思科。
自云计算出现，安全出现了一个较大的转变，也催生了新一代的云安全巨头，例如被谷歌320亿美元收购的Wiz。它做的是云原生应用保护平台CNAPP；能够对云平台和云平台上的应用进行全方位的保护，其核心在于对云平台上的所有数字资产的可见性，态势管理，以及全面的保护和授权管理。
到了AI时代，新的技术对于安全又提出了新的需求。例如，要保护AI模型，要防止企业的数据因为AI应用而泄露，要防御AI驱动的新型攻击，还有AI的安全治理与合规性需求。
从模型层面保护AI的公司
ProtectAI
融资：完成由Evolution Equity Partners领投的6000万美元B轮融资，公司累计融资额达1.085亿美元。
产品：Protect AI创造了MLSecOps（机器学习+安全+运营）这个全新品类，AI Radar是Protect AI的旗舰产品，它主要解决的关键挑战是：让企业用户的AI系统更可视化，更方便审计，也更好管理。
首先，AI Radar使组织能够通过评估其ML供应链的安全性并迅速识别和减轻风险，从而更安全地部署AI。它通过实时监控和洞察ML系统的攻击面，生成和更新防篡改的ML物料清单（MLBOM），与SBOM不同，它提供了ML系统中所有组件和依赖关系的列表，使客户完全了解AI/ML的来源。它还能跟踪公司的“软件供应链”组件：运营工具、平台、模型、数据、服务和云基础设施。
此外，AI Radar使用集成的模型扫描工具来检测大模型和其他ML推理工作负载中的安全政策违规、模型漏洞和恶意代码注入攻击。它也可以与第三方AppSec和CI/CD编排工具以及模型稳健性框架集成。
HiddenLayer
融资：获得M12和Moore Strategic Ventures联合领投的5000万美元A轮融资
产品：HiddenLayer的旗舰产品是检测和预防针对机器学习驱动系统的网络攻击的安全平台（MLSec），它是业界首款MLDR（机器学习检测与响应）解决方案，能够保护企业及其客户免受新兴攻击手段的侵害。
MLSec平台可以防范模型参数提取，模型盗取，模型训练数据提取，数据投毒，模型注入，模型劫持等恶意攻击。本质可以将它理解成对模型进行全面保护的平台。
Haize Labs
融资：获得General Catalyst领投的新融资，投后估值达1亿美元。
产品：在AI安全中，防止AI“越狱”是一个重要但未被完美解决的方向；当AI被越狱后，会被用来生成大量的不雅文字、血腥图片等，甚至可以自动攻击其他网络，这对于商业化AI和社交媒体是“噩梦”。
防止AI“越狱”的方法是通常是模型红队测试，具体方法是让红队“评估模型”攻击目标模型，以触发不安全响应的方式。它的主要挑战在于仍需人类来判断“评估模型”的评价是否正确，而有人类参与的红队测试难以规模化，并且需要大量训练。
Haize Labs的核心技术Haizing将红队测试和压力测试自动化，这样不仅降低了成本，还会让AI公司们有意愿对自己的AI系统做更加完善的检查和改进。
保护AI应用和数据的公司
Cyera
融资：在2024年连续获得C、D两轮总共6亿美元融资后，又获得Lightspeed 、Greenoaks和Georgian领投的5亿美元融资，估值达到60亿美元，累计融资额超过12亿美元。
产品：Cyera开创了DSPM（数据安全态势管理）这个安全类别，它的核心理念就是数据的发现+分类+态势。功能包括数据发现与分类，数据可见性，数据风险评估，数据安全策略管理，数据修复与响应等。
具体来说，它的平台通过AI实时学习企业的专有数据及其业务用途，帮助安全团队了解数据的存在位置、用途及访问权限，并应用合适的控制措施确保安全。它的大模型能够自动发现、分类和保护各处的敏感数据，再加上平台的策略引擎，可以识别配置错误、推荐具体的访问控制，并生成新的数据安全策略，确保合规性并管理敏感数据访问。
Cyberhaven
融资：Cyberhaven获得由StepStone Group领投的1亿美元D轮融资，估值超过10亿美元。
产品：Cyberhaven主要解决的问题，是员工在企业内部使用不被管理的AI应用，导致企业的敏感数据泄露。它通过追踪跨不同用户和端点的数据溯源（Data Lineage）或数据生命周期来解决这一问题。数据溯源指的是追踪数据在整个组织内的起源、移动和转换过程。
Cyberhaven的核心技术是大型溯源模型 (Large Lineage Model, LLiM)，这个模型并非用语言数据集来训练，而是用数据流程数据集训练，它可以识别出哪些数据或数据流程处于风险之中，并作出解释说明。而当识别和追踪到敏感数据的流动后，Cyberhaven的平台能够实时阻止数据外泄至未经授权的AI工具。
Reco
融资：获得Insight Partners、Zeev Ventures、Boldstart Ventures、Angular Ventures和Redseed参投的2500万美元A+轮融资，累计融资5500万美元。
产品：Reco使用“动态SaaS安全”的新安全策略革新传统的SaaS安全态势管理（SSPM）工具；传统的工具更新缓慢，集成度有限已经不适应AI和AI代理涌现带来的新的安全漏洞。
具体到产品上，Reco提供了全面的应用发现引擎，能够识别和分类超过50000个应用程序，为企业提供其SaaS生态系统的全景可见性。
其专有的SaaS App Factory目前已能保护超过175个应用程序，并且能在3-5天内集成新的应用——这远快于传统供应商动辄数月的集成周期。
Reco的运行速度比竞争对手快10倍，同时部署与维护成本降低80%，即使在不断引入或更新新应用和AI代理的情况下，也能提供持续的安全与合规性保障，以企业所需的速度，为他们提供必要的保护。
此外，它也为企业提供了两个安全类AI代理，警报代理的职责是对海量警报进行分类和丰富信息，让安全分析师免于此劳。身份代理负责监控客户的 SaaS 生态系统中谁拥有哪些访问权限，以及这些访问权限是否构成风险。
从AI的安全治理与合规性保护企业业务的公司
Vanta
融资：获得了Sequoia Capital领投的1.5亿美元C轮融资，估值达24.5亿美元，累计融资额达到3.53亿美元。
产品：Vanta是一个AI驱动的合规平台，它的产品Vanta AI有供应商安全评估、生成式问卷回复和智能控制映射等功能，可以自动从SOC 2报告、定制安全问卷和其他文件中提取发现内容，帮助客户在极端的时间内完成供应商安全审核。
它还可以从企业的资料库和过去的AI响应见解中学习，并快速响应客户，并提供智能建议，将现有测试和政策映射到相关控制措施，使其易于证明符合新框架。
Vanta信任中心是Vanta的客户向其潜在客户展示安全性和合规性的平台，它能自动化每笔交易中耗时的安全审核，确保潜在客户无缝访问所需的安全信息，以做出购买决策。通过Vanta的持续监控，客户可以提供实时证据来证明其控制措施已通过。 与Vanta AI配合，Vanta信任中心还能为客户的潜在客户提供文档和各种个性化的安全答案。
Trustible
融资：完成Lookout Ventures领投的460万美元种子轮融资。
产品：Trustible通过其一站式软件平台，帮助企业在加速AI应用的同时，管理风险并遵守全球各类法规。它的产品是Trustible AI治理平台，它能够记录和追踪企业内部AI用例、模型、数据源；管理AI系统的各种风险与危害；确保企业满足并适应全球不断变化的AI法规要求，如欧盟的《AI法案》、美国的NIST AI风险管理框架；还能系统性地评估AI系统和供应商的风险与合规性。
总之，其软件平台将复杂的治理工作（如资产盘点、风险评估、法规遵从）变得自动化、流程化和可视化，最终目标是让企业在建立信任的基础上，加速AI创新。
AI安全不是加分项，而是AI应用落地的必要一环
目前AI的技术和应用仍在早期，而AI技术带来的新威胁也是层出不穷。
例如，随着AI技术降低了攻击门槛，让攻击的速度与规模的指数级提升，根据思科最新的报告，74%的组织已感受到AI威胁的现实影响，90%预计未来1-2年内这种影响将持续加剧。而且攻击者对于模型和训练数据等方向进行了重点攻击，这类攻击往往更具隐蔽性和破坏性。
此外，对于数据隐私的顾虑，对于用户，尤其是企业用户普遍存在，大概有84%的人偏好不依赖外部数据共享的AI解决方案。
新的产品形式，也带来了新的担忧，OpenAI创始成员Andrej Karpathy就说他不敢用AI Agent，因为Agent能够访问私人数据，能够接触不受信任的内容，还具备外部通信能力，这就很容易造成数据泄露。
当AI Agent成为2025年AI应用的主流形式，最顶尖的AI专家却因为安全问题而不敢用，这进一步凸出了AI安全的重要性。（Cyera等企业的价值又显现出来了。）
当然，AI带来的也不全是坏消息，例如它带来了威胁检测能力和安全团队运营效率的全面提升。88%的安全团队通过AI节省了大量时间，主要体现在自动化警报聚合(将数千条警报浓缩为关键事件)、加速威胁调查(35%)和加快恢复流程等方面。
那么，在AI安全领域，哪些领域是肥水田，最具有创业的价值呢？显然是AI应用的保护和数据隐私保护方向，因为这个方向是AI应用普及的最大拦路石；当然，云安全也是很重要，因为将模型部署在云上，并以API方式提供，已经是一种主流方式。而在这两个方向上，即便海外已经有领跑者，国内的创业者也有足够的创业空间。
当然，在安全领域创业，创业者除了技术外，还需有丰富的经验，因为具有解决问题的能力固然重要，找准方向和找到客户对于企业更是生死存亡。
