Acelerando o desenvolvimento e a experimentação de IA em escala empresarial


Com agradecimentos especiais a Arkaprabho Ghosh e David Reed.

À medida que a IA continua a transformar o cenário empresarial, o desafio para as grandes organizações não é apenas adotar a tecnologia – é escalá-la de forma eficaz. Na Cisco, reconhecemos que, embora nossas equipes estivessem ansiosas para criar aplicativos de geração aumentada de recuperação (RAG), o processo muitas vezes era fragmentado. Os desenvolvedores passaram meses juntando diferentes componentes de um pipeline RAG, como carregadores, divisores, modelos incorporados e bancos de dados vetoriais. Cada componente carregou sua própria curva de aprendizado e sobrecarga operacional. O fardo de avaliar um número esmagador de ferramentas de código aberto e de experimentar incessantemente várias configurações para encontrar o ajuste certo para casos de uso específicos acabou levando a padrões inconsistentes, dívida técnica e “fadiga tecnológica” generalizada.

Para resolver isso, a Cisco IT criou DRIFT (Kit de ferramentas da estrutura de recuperação e ingestão de documentos)uma plataforma padronizada e escalonável que oferece suporte ao rápido desenvolvimento e experimentação em fluxos de trabalho RAG com capacidade de escalabilidade para atender às cargas de trabalho padrão da empresa.

Simplificando a jornada da IA

O DRIFT foi construído com uma premissa simples: as equipes de aplicação devem se concentrar na construção de experiências e lógica de negócios que priorizam a IA, e não no trabalho pesado de infraestrutura. Estamos eliminando as barreiras de entrada ao fornecer uma plataforma que lida com a complexidade da orquestração de pipeline de dados, permitindo que as equipes acelerem sua jornada de IA sem a necessidade de um longo tempo de aceleração em tecnologias subjacentes e complexas.

Quer você seja um desenvolvedor dedicado que exige controle profundo no nível da API ou um usuário empresarial que procura uma interface intuitiva, o DRIFT oferece um verdadeiro ambiente de desenvolvimento e experimentação de ponta a ponta.

A vantagem Cisco-on-Cisco: desenvolvida para escala e segurança

DRIFT é um exemplo poderoso da vantagem Cisco-on-Cisco – onde o software Cisco é desenvolvido para ser executado na própria infraestrutura de IA da Cisco. Construído em uma arquitetura de microsserviços nativa da nuvem e implantado no Kubernetes, o DRIFT foi projetado para oferecer agilidade, resiliência e desempenho em escala empresarial. Sua arquitetura assíncrona de ingestão e upload de arquivos foi projetada para lidar com grandes volumes de dados corporativos com eficiência, permitindo pipelines de alto rendimento sem sacrificar a confiabilidade.

No coração desta fundação estão IA da Cisco PODs distribuído por Cisco UCS-C885A hardware. Isso dá ao DRIFT o backbone de computação de alto desempenho necessário para cargas de trabalho exigentes de IA, como inferência, incorporação e reclassificação. Correndo no local em vários Centros de dados Ciscoo DRIFT combina escala, segurança robusta, alta disponibilidade e controle operacional de uma forma que atende às necessidades da IA ​​corporativa.

O resultado é mais do que apenas uma plataforma de IA moderna: é uma demonstração clara de como o software de IA da Cisco e a infraestrutura de IA da Cisco se unem para oferecer desempenho pronto para produção em escala. Com o DRIFT rodando em Cisco AI PODs construídos em UCS-C885A, a Cisco está apresentando uma pilha de IA ponta a ponta que é escalonável, segura e desenvolvida especificamente para inovação empresarial.

A metodologia DRIFT: potencializando o RAG seguro

O DRIFT agiliza o caminho do documento bruto ao assistente inteligente por meio de uma arquitetura de pipeline robusta e modular:

  • Pré-processamento de documentos: Oferecemos suporte a diversas fontes e formatos de documentos, padronizando diversos dados corporativos em um formato consistente e pronto para modelo. Nós até aproveitamos o Vision Language Models (VLM) para converter imagens dentro de documentos em representações de texto.
  • Divisão Inteligente e Processamento Híbrido: DRIFT suporta uma variedade de algoritmos de divisão, incluindo a capacidade de preservar a formatação estrutural de um documento durante o processo de divisão. Para documentos com conteúdo misto, também permite uma abordagem híbrida que processa imagens seletivamente, servindo como uma técnica de otimização de custos altamente eficaz.
  • Incorporação e ingestão: As equipes podem escolher entre um conjunto de modelos de incorporação padrão ou trazer os seus próprios. Oferecemos integração perfeita com bancos de dados de múltiplos locatários compartilhados e também com bancos de dados Vector dedicados para atender a uma variedade de casos de uso de negócios. Nossa plataforma oferece suporte a algoritmos de pesquisa semântica e por palavras-chave, garantindo ingestão e recuperação eficientes que atendem aos SLAs corporativos.
  • Recuperação e reclassificação: O DRIFT permite pesquisa híbrida configurável e filtragem de metadados, garantindo que os dados recuperados sejam precisos. Nossos recursos de reclassificação refinam ainda mais os resultados com base na relevância, aumentando significativamente a precisão.
  • Arquitetura Adaptativa: Projetado para o futuro, o DRIFT oferece suporte a casos de uso em evolução, incluindo Agentic RAG e Graph RAG, garantindo que os aplicativos de negócios possam ser dimensionados à medida que as arquiteturas de IA avançam.
  • Teste e avaliação integrados: Os desenvolvedores podem testar recuperadores em consultas de amostra e interagir com LLMs diretamente na plataforma para validar resumos generativos antes da implantação.

Por que o DRIFT é uma virada de jogo:

  • Arquitetura API-First: O DRIFT foi construído do zero com uma abordagem que prioriza a API. Fornecemos APIs abrangentes e prontas para uso para cada etapa do ciclo de vida, incluindo upload, ingestão, recuperação e configuração de documentos, permitindo integração perfeita em aplicativos e fluxos de trabalho empresariais existentes.
  • Transparência total e experimentação: Afastamo-nos da abordagem de “caixa preta” para uma verdadeira plataforma de desenvolvimento e experimentação ponta a ponta que capacita os desenvolvedores com total visibilidade. As equipes têm controle total sobre as opções de configuração de todos os componentes de seus pipelines, permitindo-lhes ajustar, testar e otimizar para obter a máxima precisão.
  • IA responsável e com curadoria: Eliminamos as suposições de avaliação de bibliotecas de código aberto. O DRIFT fornece modelos que já foram avaliados e aprovados pela IA responsável (RAI) e pelas equipes de governança da Cisco.
  • Fadiga tecnológica reduzida: Ao fornecer um conjunto selecionado de componentes padrão do setor, salvamos as equipes da “paralisia da análise”. Cuidamos da integração para que eles possam se concentrar na inovação.
  • Flexibilidade e escalabilidade: Embora forneçamos opções padrão de alta qualidade, o DRIFT permanece totalmente flexível. As equipes podem integrar seus próprios bancos de dados de vetores personalizados ou modelos ajustados, como aqueles especializados em terminologia financeira ou técnica específica da Cisco.

Impulsionando o impacto no mundo real

Desde o lançamento do MVP em janeiro de 2025, a adoção do DRIFT tem sido extraordinária. Nos primeiros 12 meses, vimos uma adoção significativa com mais de 600 desenvolvedores tendo construído mais de 1.500 oleodutos em diversas unidades de negócios, incluindo Finanças, Cadeia de Suprimentos, Engenharia, Jurídico, Operações de TI e Pessoas e Comunidades.

Ao reduzir o tempo necessário para construir um pipeline de dados de meses para minutos, o DRIFT tornou-se um mecanismo crítico para a estratégia de IA da Cisco, permitindo que as equipes experimentem rapidamente e forneçam soluções de IA de alta precisão em escala.

Olhando para o futuro

O sucesso do DRIFT é uma prova do espírito colaborativo da Cisco. Ao trabalhar entre equipes, desde TI e Operações até nossas diversas unidades de negócios, criamos uma ferramenta que não apenas capacita assistentes internos de IA (como nosso assistente de RH em toda a empresa), mas também fornece uma base para futuras integrações de produtos.

À medida que continuamos a iterar, a DRIFT continua comprometida em ajudar as equipes da Cisco a avançar mais rapidamente, experimentar mais e fornecer a próxima geração de soluções baseadas em IA para nossos funcionários, clientes e parceiros.

Leave a Reply

Your email address will not be published. Required fields are marked *