Os sistemas de IA estão evoluindo mais rápido do que a maioria dos programas de segurança consegue acompanhar. Os modelos mudam, as ferramentas se multiplicam e os comportamentos dos agentes emergem em bases de código e contêineres. Isso cria uma questão simples, mas urgente: do que é composto um sistema de IA e como é construído?
A resposta para isso é o AI BOM (AI Bill of Materials) da Cisco, agora disponível como parte do Cisco AI Defense e como uma ferramenta de código aberto. Ele fornece às equipes de segurança e engenharia um inventário claro dos ativos de IA e o contexto necessário para entender como esses ativos de IA são orquestrados em um fluxo de trabalho de agente.
A lacuna no inventário de IA
O SBOM (lista de materiais de software) tradicional concentra-se em pacotes e dependências. Por outro lado, as plataformas de visibilidade na nuvem fornecem visibilidade da infraestrutura implantada na nuvem, que pode incluir ativos de IA, como modelos, ferramentas MCP, agentes e prompts. Isso não é suficiente para uma visibilidade abrangente da IA. Por exemplo, um aplicativo de bate-papo de IA pode se conectar a vários agentes, usar várias ferramentas MCP e outras construções e armazenamentos de dados de MCP, como bancos de dados vetoriais, para construir uma resposta coesa às consultas do usuário. As organizações precisam de visibilidade profunda dos blocos de construção específicos da IA, como modelos, agentes, ferramentas, prompts e os fluxos de trabalho que se conectam a eles, mudando para a esquerda, para a origem do aplicativo de IA, digitalizando o código em repositórios de código ou imagens de contêiner para produzir uma BOM de IA abrangente.
Sem essa visibilidade profunda, as equipes enfrentam riscos na cadeia de suprimentos de IA, como:
- Modelos não aprovados ou inesperados introduzidos em produção
- Ferramentas paralelas ou recursos de agente que se expandem além do escopo pretendido
- Fluxos de trabalho de IA que abordam dados confidenciais sem linhagem clara
- Governança e trilhas de auditoria incompletas para sistemas de IA
AI BOM da Cisco: uma abordagem diferenciada
O AI BOM da Cisco foi desenvolvido especificamente para mapear os ativos de IA usados no aplicativo de IA. Em sua versão inicial, ele verifica bases de código e imagens de contêineres para identificar ativos de IA, como agentes, prompts, modelos e ferramentas, para produzir um relatório estruturado de como esses ativos de IA são usados juntos. Isso estabelece a base para uma análise mais profunda de linhagem e dependência.
A abordagem do AI BOM da Cisco centra-se em três princípios:
- Descoberta de ativos de IA
Isso se concentra nos ativos de IA que são importantes para a segurança e a governança, e não apenas nas dependências genéricas. Os SBOMs tradicionais concentram-se nas dependências de pacotes usadas em um produto de software. - Uma base de conhecimento com curadoria
Ele é alimentado por uma base de conhecimento que é frequentemente atualizada com uma categorização abrangente de todas as construções de código, incluindo mais de 10 estruturas populares de IA e agentes como Langchain, OpenAI, AWS BedRock, Autogen, Anthropic SDK e Google GenAI, para mencionar alguns. Isso fornece informações básicas valiosas para mapear ativos de IA descobertos no código-fonte. - Gráfico de dependência de ativos de IA
AI BOM constrói gráficos de dependência que mostram como os ativos de IA são orquestrados em um aplicativo de IA. Isso inclui relacionamentos entre agentes, modelos, ferramentas MCP e prompts, com base em varreduras de código.
Essa combinação torna o AI BOM exclusivamente acionável. Ele mostra quais ativos existem, como são usados pelos aplicativos de IA e onde estão no seu ecossistema de IA.
Abordagem da Cisco para segurança de IA
O Cisco AI Defense protege o ciclo de vida do aplicativo de IA por meio de uma abordagem unificada que abrange Descoberta, detecção e proteção.
Proteger o ciclo de vida do aplicativo de IA usando AI Defense começa com descoberta que se concentra na identificação de ativos de IA e na compreensão de como eles são usados. O AI Defense fornece visibilidade da nuvem de IA em modelos, agentes e fontes de dados conectadas. O AI-BOM amplia essa descoberta identificando como os aplicativos de IA são construídos a partir de código-fonte e imagens de contêiner, capturando visibilidade dos ativos de IA, como modelos, agentes, ferramentas MCP e estruturas.
Detecção usa essa visibilidade de ativos para identificar riscos antes do impacto na produção. O AI Defense verifica arquivos de modelo, agentes, prompts e ferramentas MCP para detectar ativos de IA maliciosos ou inseguros como parte do gerenciamento de riscos da cadeia de suprimentos de IA. Ele também executa red teaming algorítmico por meio de validação de IA, que identifica vulnerabilidades de segurança e privacidade em ativos e aplicativos de IA.
Proteção mitiga ameaças em tempo de execução. Com visibilidade total dos ativos de IA, o AI Defense Runtime aplica proteções aos aplicativos e agentes de IA de produção, bloqueando respostas e ataques prejudiciais em tempo real para proteger os aplicativos de IA implantados. Juntos, esses recursos ajudam as equipes a ir além das auditorias ad hoc em direção a práticas de segurança de IA consistentes e repetíveis em todo o ciclo de vida do aplicativo de IA.
Comece
O AI BOM da Cisco é um utilitário de código aberto baseado em CLI disponível agora para experimentação inicial, extensão e integração em fluxos de trabalho de desenvolvedores. Explore o projeto, revise a abordagem e contribua com a comunidade no repositório GitHub: https://github.com/cisco-ai-defense/aibom