IA no mobile: rodando modelos dentro do aplicativo
Nem toda IA precisa de nuvem. Quando faz sentido embarcar o modelo no celular, o que muda em custo e privacidade, e o que aprendemos rodando visão computacional offline em produção.
As duas formas de colocar IA num app
Via API (o app manda o dado, a nuvem responde) ou embarcada (o modelo roda dentro do aparelho). A primeira é mais rápida de implementar; a segunda muda o jogo em três dimensões: custo, privacidade e disponibilidade.
Quando embarcar ganha
- Custo por uso: API cobra por requisição — em apps de uso intenso (câmera contínua, por exemplo), a conta explode. Modelo embarcado custa desenvolvimento uma vez e roda de graça para sempre.
- Privacidade: o dado nunca sai do aparelho. Para saúde, acessibilidade e qualquer câmera apontada para a vida do usuário, isso não é detalhe — é requisito.
- Offline: campo, fábrica, estrada e metrô não têm sinal garantido. IA embarcada funciona em todos.
- Latência: sem ida e volta à nuvem, a resposta é imediata — essencial para experiências em tempo real.
Quando a nuvem ganha
Modelos grandes demais para o aparelho (LLMs de ponta), tarefas esporádicas onde o custo por chamada é irrelevante, e casos em que o modelo precisa ser atualizado com frequência sem depender de release do app.
O que aprendemos em produção
Rodamos visão computacional embarcada em produção — inclusive num assistente de acessibilidade que descreve o mundo em voz alta, 100% offline. As lições: otimizar o modelo (quantização, ONNX/TensorFlow Lite) importa mais que o modelo em si; o pipeline de pré-processamento (OpenCV) costuma ser o gargalo escondido; e testar em aparelho modesto desde o início evita surpresas — o público real não usa flagship.
Por onde começar
Com uma prova de conceito: escolhemos a tarefa de maior valor, medimos qualidade e latência num aparelho representativo e só então decidimos embarcado × nuvem × híbrido. É parte do nosso diagnóstico de IA — sem hype, com número.