托管平安办事供给商Bridewell的首席施行官Anthony Young暗示：回到2020年，预测人工智能将沉塑防御策略似乎过于乐不雅；而今天看来，这些预测显得过于保守了。虽然目前仍难以精确量化人工智能正在现实世界收集中阐扬的切当感化，以及这些的严沉程度，但很难辩驳人工智能将成为收集防御根本的概念。Aryaka公司平安工程和AI策略副总裁Aditya Sood回首2025年时说：AI驱动的代码生成加快了开辟过程，但当模子基于不完整指令填补空白时，也引入了逻辑缺陷。AI辅帮变得愈加定制化和可扩展，使得垂钓和欺诈勾当更难检测。2025年的教训不是人工智能本身不平安，而是人工智能会放大其四周的节制办法或节制办法的缺失。AI平安更多关乎整个生态系统，包罗狂言语模子、生成式AI使用和办事、AI智能体以及底层根本设备，Sood说。Forescout公司平安谍报副总裁Rik Ferguson暗示，我预期正在防御方面会看到更庄重、更少炒做驱动的AI采用：联系关系IT、OT运营手艺、云和身份识别中的微弱信号，持续映照和优先处置资产和风险，通过从动化分类减轻阐发师的认知承担，Ferguson说。然而他弥补道，这并不料味着赋闲的收集阐发师会坐正在街角举着愿为食物做红队测试的牌子。若是做得得当，而是给他们思虑的空间，让他们深切研究更成心义的工做，Ferguson说。Hack The Box结合创始人兼首席施行官Haris Pylarinos弥补道：人工智能不只正在加快响应，它还将完全从头定义平安专业人员若何提拔技术、若何摆设以及最终若何承担义务。行业正进入一个技术从检测转向判断、转向学会若何进修的阶段。成功的组织不是那些从动化程度最高的，而是那些环绕智能系统从头设想工做模式和决策机制的组织。对于Pylarinos来说，这些新的工做模式将以证明人机AI夹杂团队的无效性为焦点。他认为，将来的收集平安专业人员不会是手艺专家，而是验证者、匹敌性思维者和行为审计师。最有价值的收集平安从业者将是那些可以或许正在现实前提下压力测试AI行为的人，确保机械速度不会超越人类判断，他说。对于Bugcrowd首席施行官Dave Gerry来说，企业AI采用的扩散是连结更多人员参取的来由。生成式AI网坐的流量正在2024年2月到2025年1月期间跃升了50%，68%的员工利用免费东西，57%认可将数据粘贴到这些东西中。因而，环节要记住AI生成的缝隙操纵和虚假消息曾经存正在，他说。平安社区需要专注于模子操控手艺，如提醒注入，并通过者的视角自动测试这些AI系统。众包测试仍然是我们最强的防御之一，即便面临新的和不竭演进的向量。多样化的人类研究者可以或许发觉其他人错过的问题。他认为，跟着组织越来越依赖AI——出格是以智能体形式呈现的AI——平安团队将看到其优先级从响应和修复缺陷及其他问题，转向节制组织内的决策径。这将引入一系列新防御策略，他说。起首，我们将看到平安团队环绕AI智能体工做流建立管理层，以认证、授权、察看并可能逆转任何从动化步履。收集团队还需要处理寂静数据延伸的风险、影子数据集的建立和不测拜候径，由于智能体和其他AI系统会挪动、转换和复制数据。强大的数据血缘和更严酷的拜候节制将是必需的。正如用户行为阐发正在人类账户方面成长和成熟一样，它也需要再次如许做，为AI成立预期和答应的行为。2026年的防御策略还需要顺应不竭变化的信赖。AI企业需要跨所有层面的信赖验证，因而Sood说平安团队该当寻求信赖最小化架构，此中AI身份、输出和从动化决策都遭到持续审计和验证。正在身份方面，必需优先考虑类身份的更强生命周期办理。零信赖做为合规要求也将变得越来越主要。最初，Sood说，因为收集将正在2026年继续操纵东西，需要加强的基于企图的检测，系统被要求阐发步履发生的缘由，而不只仅是确认它们确实发生了。若是2025年我们信赖能够被兵器化，那么2026年将我们若何以更平安、更慎沉的体例沉建信赖。还关乎驱动系统的逻辑、身份和自从性，他说。正在2026年，具备AI学问的买家也将向IT供应商提出越来越严酷的问题，Advent IM商务总监Ellie Hurst如是说。Hurst说，仅仅复制粘贴一些关于负义务利用AI的模板文本到幻灯片中，正在几年前可能还行得通，但正在2026年，敢于测验考试这种做法的发卖人员将被理所当然地赶到泊车场。企业买家，出格是、国防和环节国度根本设备范畴的买家，现正在本人也正在大量利用AI。他们理解风险言语。他们正正在成立AI、数据、运营弹性和供应链之间的联系，Hurst说。正在2026年，采购团队仅仅扣问供应商能否利用AI是不敷的，而是要领会他们若何管理AI，她注释道。Hurst说，正在整个2025年，环绕AI的提案请乞降投标邀请中的措辞显著强化，买家越来越多地扣问数据从权、人工监视、模子问责制，以及取数据、平安和学问产权律例合规等问题。这种变化的发生是由于人们认识到AI正在很大程度上是姑且利用的，大大都IT带领者无法确定地说出他们切当晓得正在本人的监视下发生了什么。所有这些都导致了庞大的管理、风险和合规性问题。但好动静是，Hurst说，这种环境能够扭转。AI管理，若是做得准确，不是要减缓或立异，而是将其纳入组织的GRC实践中，以便其利用能够获得注释、扩展，环节是能够获得。买家该当考虑扣问供应商正在其办事中何处利用AI、哪些工做流触及数据、利用了哪些第三方AI模子或平台，以及人类有什么监视权等问题。Hurst还买家寻找合适ISO IEC 42001尺度的供应商，这是AI生命周期办理的新尺度，包罗收集平安。最终，她说，若是潜正在供应商预备充实，他们该当可以或许清晰地申明AI若何做为更普遍平安和GRC框架的一部门进行管理。新年才刚起头一周，2026年的完整故事当然还有待书写。毫无疑问，这对收集平安世界来说将是又一个动荡的年份，但Bridewell的Young说，即便2026年不必然是平安范畴最灾难性的一年，AI曾经将我们带到了悬崖边，接下来展开的环境可能使即将到来的12个月很是环节。组织现正在做出的选择——恢复投资、沉建收集平安技术和负义务地管理AI——将决定曲线是向弹性仍是向进一步懦弱性弯曲，Young总结道。A：人工智能将通过联系关系IT、云和身份识别中的微弱信号，持续映照和优先处置资产风险，并通过从动化分类减轻阐发师认知承担来沉塑防御策略。平安团队的沉点将从数据扩展到行为，需要建立AI智能体工做流的管理层。A：不会完全代替。将来的收集平安专业人员脚色将改变为验证者、匹敌性思维者和行为审计师。最有价值的从业者将是那些可以或许正在现实前提下压力测试AI行为的人，确保机械速度不会超越人类判断。AI是给专业人员思虑空间，让他们专注于更成心义的工做。A：企业买家需要扣问供应商若何管理AI，而不只仅是能否利用AI。该当关心数据从权、人工监视、领会AI正在供应商办事中的利用、哪些工做流触及数据，以及利用了哪些第三方AI模子。寻找合适ISO IEC 42001尺度的供应商。