---
title: "Google lança LiteRT Tensor API para IA no dispositivo"
author: "Gustavo Ramos O. Klein"
date: "2026-11-04 06:12:49.689-03"
category: "Inteligência Artificial & Dados"
url: "http://desbugados.scale.press/portal/desbugados/post/2026/11/04/google-lanca-litert-tensor-api-para-ia-no-dispositivo/md"
---

## Resumo
- A LiteRT Tensor API foi anunciada pelo Google em 19 de outubro de 2026.
- A API permite construir grafos de computação operação por operação em C++.
- Os mesmos grafos podem ser transportados entre CPU, GPU e NPU sem reescrita.
- O fluxo reúne pré-processamento, inferência e pós-processamento e usa buffers zero-copy.
- A ferramenta aceita pesos em arquivos .safetensors e foi desenhada para agentes de codificação de IA.
- Um teste com o SAM 2 registrou desempenho aproximadamente 1,5 vez superior ao Apple MLX em fp16.
- O Google planeja suporte ao ML Drift, quantização automática e operações otimizadas para NPU.

---

O **Google** anunciou em **19 de outubro de 2026** a LiteRT Tensor API, uma camada leve da LiteRT para construir e otimizar modelos de aprendizado de máquina diretamente no dispositivo. O ponto que interessa a quem desenvolve é a portabilidade: o mesmo grafo de computação pode ser levado a diferentes unidades de processamento sem reescrever o código para cada arquitetura. [No anúncio oficial](https://developers.googleblog.com/native-model-authoring-for-edge-with-litert-tensor-api/), a proposta aparece como uma forma de aproximar o modelo do hardware disponível.


## Uma mesma lógica para diferentes chips


Por baixo da tela, a API permite montar um **grafo de computação** operação por operação em C++. Grafo é a sequência de cálculos que o modelo executa. Em vez de manter implementações separadas, o desenvolvedor pode transportar essa estrutura entre **CPU e GPU**. A ponte desloca o trabalho da reescrita para a escolha das operações que realmente precisam ser otimizadas.


A portabilidade alcança também a **NPU**. Para a GPU, o LiteRT usa o ML Drift como caminho de execução, enquanto o grafo permanece o mesmo. A pergunta prática passa a ser: quem decide quais dados e operações atravessam essa ponte? Pela proposta, o controle fica no nível do grafo, sem exigir uma versão nova do modelo para cada destino.


## O que muda na integração


A API reúne **pré-processamento, inferência e pós-processamento** no mesmo fluxo e usa buffers compartilhados para evitar cópias de dados, técnica chamada zero-copy. Isso reduz etapas intermediárias entre os cálculos e ajuda a manter o pipeline no dispositivo. A mudança é menos visível para quem usa o aplicativo, mas afeta diretamente o trabalho de quem precisa ajustar latência e consumo de memória.


A ferramenta também aceita pesos de checkpoints em arquivos **.safetensors** e foi desenhada para agentes de codificação de IA. Esses agentes podem gerar e otimizar modelos automaticamente, trabalhando sobre o grafo em vez de partir de uma implementação específica. O desenvolvedor ganha, assim, uma linguagem comum para negociar entre o modelo e o hardware disponível.


## O teste com o SAM 2 e os próximos passos


Para demonstrar o recurso, o Google usou o **SAM 2** em tarefas de segmentação e rastreamento de múltiplos objetos. Em testes realizados em um MacBook Pro, a implementação rodou aproximadamente **1,5 vez mais rápido que o Apple MLX em fp16**, formato numérico de 16 bits. A [reportagem da InfoQ](https://www.infoq.com/news/2026/11/litert-tensor-api/) também relata que decisões sobre frames antes feitas na CPU foram movidas para o próprio grafo. É um benchmark específico, não uma promessa para qualquer modelo.


O Google planeja suporte direto ao backend **ML Drift** e quantização automática do grafo completo, processo que reduz a precisão numérica dos cálculos para buscar eficiência. As fontes também citam operações otimizadas para NPU, mas não informam prazo para essas melhorias. Para quem desenvolve IA local, vale acompanhar se a portabilidade se mantém quando modelos diferentes forem executados em dispositivos variados.