No início deste ano, durante o Cisco Live Amsterdam, anunciamos a maior atualização do Cisco AI Defense desde seu lançamento inicial. Embora a atualização incluísse uma série de novos recursos, o tema subjacente era singular: segurança para agentes de IA.
Nos meses seguintes, vimos nossos clientes adotarem agentes em uma velocidade inimaginável para uma variedade de casos de uso: assistentes pessoais, copilotos de engenharia, suporte ao cliente, integração de funcionários, otimização da cadeia de suprimentos de IA e muito, muito mais. Embora a AI Defense pudesse ajudar as empresas a desenvolver e implementar estes agentes de forma segura, era bastante claro que não havia dois agentes iguais – e que a nossa abordagem de segurança tinha de refletir essa singularidade.
Hoje, estamos compartilhando a atualização mais recente do Cisco AI Defense — e estamos nos familiarizando com a segurança do agente. Desde a arquitetura de nossa solução até nossos testes algorítmicos e proteções de tempo de execução, esta próxima iteração do AI Defense é profundamente personalizável e consciente do contexto. Quer seus agentes estejam simplificando operações internas, prestando atendimento personalizado aos pacientes ou prestando serviços bancários essenciais aos clientes, seus comportamentos e riscos são únicos. Agora, com AI Defense, sua segurança também estará.
Vamos dar uma olhada mais aprofundada nas novidades do AI Defense.
Simular e proteger contra riscos de IA adaptativa
Desde o dia em que lançamos o AI Defense, oferecemos testes algorítmicos de equipe vermelha e proteções de tempo de execução para o amplo espectro de ameaças enfrentadas pelos sistemas de IA. A realidade é que os agentes são suscetíveis a riscos únicos em diferentes setores, aplicações e cenários de implantação.
Hoje, a AI Defense está trazendo segurança personalizada e sensível ao contexto, adaptada a cada agente, com red teaming e proteções adaptáveis.
A equipe vermelha adaptável permite que um usuário forneça objetivos personalizados para testar vulnerabilidades de seus agentes. A AI Defense interpretará esses objetivos, avaliará o sistema alvo, idealizará, planejará e executará um ataque sofisticado em vários estágios. Os resultados são analisados para determinar a viabilidade e o impacto potencial do ataque.
A mesma capacidade de personalização é transferida para proteções adaptativas, que um usuário pode construir no novo Policy Studio. Basta descrever a ameaça contra a qual você deseja se proteger em linguagem natural e fazer upload de quaisquer documentos de política organizacional que possam ser relevantes. O agente do Policy Studio fará perguntas de acompanhamento para refinar sua política e garantir uma proteção precisa.
Vejamos um exemplo rápido: você é uma instituição financeira que usa IA de agência para ajudar os clientes com gerenciamento de dinheiro e ativos. Por motivos de conformidade, você está preocupado com o fato de seu agente fornecer conselhos de investimento prescritivos, como recomendações de ações.
Primeiro, você aproveita a equipe vermelha adaptativa no AI Defense para ver se essa é uma preocupação realista. Na verdade, numa interação simples de duas voltas, a nossa simulação obtém com sucesso conselhos de negociação de ações. Você vai para o Policy Studio e diz: “Crie uma política para evitar conselhos financeiros prescritivos, como dicas de negociação de ações”. Por sua vez, pede-lhe que considere vários cenários relacionados: hipotéticos, análise de dados de mercado, definições de produtos financeiros, orientação financeira geral e muito mais. Ao definir esses limites, você cria uma proteção precisa e altamente eficaz para evitar que seu agente receba conselhos prescritivos arriscados, ao mesmo tempo que mantém sua utilidade como assistente do cliente.
Proteja cadeias de suprimentos de agentes perfeitamente em desenvolvimento
A personalização de um agente de IA é impulsionada em grande parte pelos principais componentes que constituem o seu equipamento – o modelo, as ferramentas, as competências, o sistema de ficheiros, a memória e outros recursos aos quais tem acesso. Um agente com um amplo arsenal de capacidades, acesso a dados internos e permissões abrangentes pode ser extremamente útil — e igualmente perigoso. À medida que as cadeias de abastecimento de IA se tornam cada vez mais complexas, as empresas precisam de equilibrar a utilidade com a segurança.
A atualização mais recente do AI Defense torna mais fácil do que nunca atingir esse equilíbrio sem impedir a velocidade da inovação. Os agentes e seus gráficos de dependência completos agora são descobertos automaticamente em bases de código de clientes, plataformas de agentes em nuvem e imagens de contêiner. Cada ativo é catalogado em um inventário central de IA e verificado em busca de vulnerabilidades sistêmicas. Os desenvolvedores podem acionar essas verificações diretamente de seus pipelines de CI/CD por meio da CLI ou SDK do AI Defense. Ao validar a segurança de cada componente do agente, incluindo modelos, servidores MCP, ferramentas e habilidades, o AI Defense ajuda a garantir que seus agentes estejam seguros desde o projeto.
Um único componente comprometido pode prejudicar a segurança de todo um sistema de agente. Considere uma organização de saúde que implanta um agente para auxiliar na triagem de pacientes. A AI Defense descobre que o agente depende de um servidor MCP com acesso aos registros dos pacientes e de uma habilidade de terceiros para análise de sintomas. Uma varredura revela que a habilidade solicita permissões mais amplas do que o necessário, criando um risco potencial de exposição de dados. Cada um desses ativos é visível centralmente no inventário do AI Defense, e a vulnerabilidade da habilidade é destacada para análise de segurança. Essas informações capacitam sua equipe para entender o raio potencial da explosão e corrigir problemas antes que o agente entre em operação.
Faça do AI Defense uma parte de qualquer plataforma de agente
Quando se trata de implantar o AI Defense, reconhecemos que os requisitos de cada cliente são únicos. Ambientes em nuvem, ferramentas de segurança, infraestrutura computacional, soberania de dados – cada plataforma é profundamente pessoal.
Agora, a AI Defense lidera o setor com uma abordagem verdadeiramente independente de plataforma, protegendo agentes em qualquer plataforma, nuvem ou provedor de modelo. Mas a infra-estrutura é apenas metade da batalha; os desenvolvedores hoje criam agentes em estruturas como Amazon Bedrock AgentCore, Google Agent Development Kit e LangChain. Cada uma dessas plataformas tem suas próprias convenções de chamada de ferramentas, padrões de orquestração e limites de confiança para navegar.
O AI Defense integra-se nativamente com esses ecossistemas de agentes e com todos os três principais provedores de nuvem. AI Defense também oferece suporte para computação acelerada NVIDIA na nuvem ou para implantações locais como um componente integral do Cisco Secure AI Factory com NVIDIA. Isso inclui a integração do AI Defense com os guardrails NVIDIA NeMo e o software NVIDIA AI Enterprise, bem como com o chicote de agente NVIDIA OpenShell de código aberto.
Juntos, estamos trazendo segurança consistente e robusta onde quer que seus agentes sejam criados e executados.
Uma abordagem abrangente e profundamente pessoal à segurança do agente
Os agentes são uma das tecnologias transformadoras que definem o nosso tempo. Com capacidade e autonomia sem precedentes, os agentes prometem um enorme valor potencial e risco – as medidas de segurança que implementamos acabarão por ditar o caminho a seguir.
No final das contas, a segurança do agente tem muitas facetas: segurança de rede e infraestrutura, gerenciamento de identidade, validação da cadeia de suprimentos, testes de equipe vermelha, proteções de tempo de execução e muito mais. Soluções díspares não são suficientes: os agentes exigem uma abordagem de segurança abrangente e profundamente integrada, desenvolvida especificamente para seu novo cenário de riscos.
A Cisco está combinando décadas de liderança em redes e segurança com profundo conhecimento em IA para oferecer segurança abrangente aos agentes de uma forma que só a Cisco pode fazer. Com esta atualização mais recente do AI Defense, as organizações podem proteger os agentes em suas plataformas, aplicativos e requisitos operacionais exclusivos.
Nas próximas semanas, compartilharemos detalhes sobre esses recursos aqui mesmo em nosso blog Cisco AI. Se você estiver se juntando a nós no Cisco Live Las Vegas, visite o estande da AI Defense para experimentar a segurança do agente verdadeiramente pessoal.
Alguns produtos ou recursos descritos podem estar em vários estágios de desenvolvimento e ser oferecidos quando e se estiverem disponíveis.