Por dentro da estratégia de IA da Blip com William Collen - Diretor de IA da Blip
🎯 Summary
Resumo Detalhado do Podcast: Por dentro da estratégia de IA da Blip com William Collen
Este episódio do podcast Protegulus, apresentado por Paulo Chaudi, foca em desmistificar a aplicação prática da Inteligência Artificial (IA) na estratégia de produtos, recebendo William Collen, Diretor de IA da Blip, uma das empresas líderes em interações digitais no Brasil. A conversa navega desde a definição de IA aplicada a produtos até os desafios de governança e a estratégia de investimento em inovação.
1. Foco da Discussão
O foco principal foi a transição da IA de um conceito de pesquisa para uma aplicação concreta e escalável em produtos digitais, especificamente no domínio das interações conversacionais (chatbots). Abordou-se como a Blip integra IA Generativa (GenAI) em sua plataforma, os desafios de manter a relevância em um mercado de rápida evolução e a importância da camada de produto que envolve os modelos de IA.
2. Key Technical Insights
- Evolução dos Motores de Intenção: A IA em chatbots não é nova; motores de intenção (baseados em Machine Learning) já eram usados para classificar o que o usuário queria (compra, reclamação). A GenAI acelerou drasticamente a capacidade de treinar e ajustar esses modelos, reduzindo o tempo de semanas/meses para dias.
- A Camada de Produto é o Diferencial: O limite da IA reside no produto construído ao seu redor. Modelos brutos (como GPT-4) precisam de uma camada de software robusta (guardrails, integrações, usabilidade, persistência de contexto) para se tornarem experiências satisfatórias e úteis para o negócio.
- Frameworks e Padronização: A adoção de tecnologias de agentes se tornou mais segura com a emergência de frameworks padronizados (como LangChain e protocolos como MCP e Google ADK), que facilitam a migração entre modelos e a construção de sistemas não determinísticos.
3. Business/Investment Angle
- IA como Potencializador de Produto: Para a Blip, IA não é um fim em si, mas uma ferramenta para potencializar o que o software já faz, atingindo limites antes complexos de alcançar, focando em resolver necessidades reais do cliente.
- Estratégia de Investimento 70/20/10 (Implícita): A Blip aloca investimentos em três frentes: 50% no produto atual (focando em necessidades imediatas), frentes de inovação (20%) e exploração de novas oportunidades (30%), com a pressão para que inovações rápidas migrem rapidamente para o produto principal.
- Mitos da IA: Os principais mitos atuais são a crença de que a IA resolverá tudo e a subestimação do investimento inicial necessário para alcançar eficiência real.
4. Notable Companies/People
- William Collen (Diretor de IA, Blip): Especialista com 20 anos de experiência em Processamento de Linguagem Natural (PLN), fornecendo a perspectiva técnica e estratégica da Blip.
- Paulo Chaudi (Host, Protegulus): Focado em extrair insights práticos sobre a aplicação de tecnologia em produtos.
- Satya Nadella: Mencionado brevemente ao comentar sobre a perda de relevância dos benchmarks tradicionais de IA devido à velocidade das atualizações dos modelos.
- Empresas Maduras Mencionadas: VTEX, E-foge, Cadore (citadas como exemplos de empresas maduras na adoção de IA).
5. Future Implications
A tendência é que a IA se torne cada vez mais abstraída e transparente para o usuário final. O foco futuro será em produtos onde a IA trabalha nos bastidores para atingir objetivos de negócio (KPIs), como aumentar vendas ou satisfação do cliente, sem que o usuário precise interagir diretamente com os comandos da IA. A produtividade dos desenvolvedores também será impulsionada por copilots, facilitando as migrações e atualizações de sistemas baseados em IA.
6. Target Audience
Profissionais de Produto (PMs), Líderes de Tecnologia, Engenheiros de Machine Learning e Executivos interessados em como integrar GenAI de forma estratégica, governada e escalável em plataformas de software existentes, especialmente no setor de Customer Experience (CX) e interações digitais.
Narrativa e Pontos Chave da Conversa
William Collen iniciou desmistificando a IA, definindo-a como uma potencializadora do produto que resolve necessidades reais. Ele traçou a evolução da Blip, que historicamente já utilizava ML em motores de intenção, mas que viu uma aceleração massiva com a GenAI desde 2022, permitindo ciclos de feedback mais rápidos e conversas mais naturais.
Um ponto central foi a governança e o desafio de direcionar a IA. Collen enfatizou que a IA sem uma camada de produto controladora é ineficaz. Ele usou o exemplo do ChatGPT para ilustrar que a experiência do usuário (salvar conversas, anexar arquivos) é construída pelo software em torno do modelo.
A Blip adota uma abordagem rigorosa para selecionar novos modelos, utilizando baterias de testes (custo, velocidade, qualidade) para sistemas não determinísticos, complementada pela crescente estabilidade dos frameworks de agentes.
Collen detalhou a aplicação da IA em
🏢 Companies Mentioned
💬 Key Insights
"O custo de tokens de fato está diminuindo, então cada modelo que sai, os tokens são mais baratos. Mas a quantidade de tokens que as aplicações usam está subindo muito mais."
"Porque quando teve o boom, todo mundo esperava que conforme o tempo, o custo ia diminuir. E tem alguns portais, algumas sites de tecnologia que tem abordado a relação de que... Não. Ou tenha aumentado ou tenha mantido um preço elevado..."
"Como você lida com esses *trade-offs* de personalização, performance, custo? Porque é uma polêmica hoje em relação de AI para custo, porque quando teve o boom, todo mundo esperava que conforme o tempo, o custo ia diminuir."
"Hoje tem as suas complicações extras, que se mistura com como é que esse comportamento agente, como é que esses motores, esses os elementos, vão se comportar na chamada de funções, vão se comportar na busca de informações através de uma RAG, então isso coloca um pouco mais de tempero aí nessas análises."
"Dentro de caso, assim, vamos pensar na tecnologia como todo, quando chega um novo modelo, o meu trabalho vai ser o seguinte: eu tenho uma série de benchmarks, eu sei casos, né, de clientes assim, que eu sei que foram muito difíceis de tratar. Então, a gente tem ali uma base de testes, que a gente pega esse modelo e vê como ele se comporta naquele caso."
"Com a generativa, você atingia esses níveis de 90% que ficou muito mais fácil. Porque, vamos dizer, tantas automações, assim, em termos de fluxo, você consegue fazer essas temas que são mais versáteis, e consegue atingir mais facilmente esse *preto transbordo*, num nível que você consegue atingir coisas que como essa, atingiam 90%, sempre há de um ciclo de desenvolvimento muito longo para atingir isso."