A IA é uma despesa comercial em rápido crescimento. Algumas empresas estão cortando custos mudando para modelos chineses de IA mais baratos.
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
ocultar legenda
alternar legenda
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
SÃO FRANCISCO – Lindy.ai, startup de Flo Crivello com sede em São Francisco, cria “assistentes” de inteligência artificial para gerenciar seu e-mail e calendário. No início, a empresa confiou fortemente nos modelos de IA de ponta da Anthropic.
Mas durante reuniões com o seu gestor financeiro, Crivello disse que uma coisa ficou clara: “De longe, a nossa principal despesa foi antropogénica”, disse ele. “Tipo, mais do que apenas o contracheque.”
Mais do que folha de pagamento – para mais de duas dezenas de funcionários. Mais que aluguel. Mais do que qualquer outra coisa. Então, no mês passado, Crivello anúncio que Lindy migrou 100% de seu tráfego para o modelo chinês de IA DeepSeek-V4.
“Foi apenas 10 vezes mais barato”, disse ele, acrescentando que economizou milhões de dólares para a empresa. “Portanto, foi uma decisão de negócios muito, muito simples.”
A inteligência artificial tornou-se um dos — este não é o caso O – os custos que mais crescem para as empresas americanas. Mas para muitas empresas, é uma faca de dois gumes: necessária, mas dispendiosa. Para sobreviver, um número crescente de empresas está a abandonar os modelos americanos em favor da IA chinesa, mais barata.
Na corrida para criar os melhores modelos de IA, empresas americanas como Anthropic, OpenAI e Google estão liderando o mundo. Especialistas dizem que os modelos chineses estão de seis a 12 meses atrasados em termos de capacidades.
Mas a China conquistou um lugar para si nos modelos de código aberto, que podem ser baixados e adaptados gratuitamente. “O cenário do código aberto atualmente é absolutamente dominado pelos chineses. Não chega nem perto”, disse Crivello.
Ele disse que todos os fundadores que conhece que trabalham com IA estão considerando mudar para modelos chineses ou já o fizeram.
E os custos exorbitantes da IA também não são apenas um problema inicial. O CEO do Uber, Dara Khosrowshahi, falou sobre isso no mês passado no Invista como o melhor podcast. “Nós estouramos nosso orçamento de IA em um trimestre, basicamente durante todo o ano. E isso está nos forçando a fazer ajustes”, disse ele.
(A Uber não respondeu ao pedido da NPR para comentar se usa modelos chineses.)
Bloomberg relatado Brian Chesky, CEO do Airbnb, disse que no ano passado a empresa contou com o modelo Qwen do Alibaba, que era “bom”, “rápido e barato”. Perplexidade E Nvidia também usei Qwen.
Como uma Ferrari ou uma Honda
Muitas empresas estão relutantes em anunciar a utilização de modelos chineses devido a sensibilidades políticas, mas estes modelos estão amplamente disponíveis em centros de modelos de IA. como Hugging Face, na plataforma de hospedagem de código GitHub e por meio de agregadores de modelos e provedores de inferência baseados fora da China.
Isso inclui Featherless, com sede em São Francisco, que oferece acesso a cerca de 30.000 modelos de IA. O fundador e CEO Eugene Cheah disse que os modelos chineses são populares, mesmo que não sejam modelos “de fronteira” ou os melhores da categoria.
“É como a diferença entre dirigir uma Ferrari e uma Honda. Você pode ter o melhor carro de luxo ou apenas uma Honda completa que funcione”, disse ele.
“Na verdade, muitos grupos de IA de código aberto estão perfeitamente bem sendo N-1, com N sendo onde está o limite”, continuou ele. “Porque à medida que a diferença continua a diminuir, em algum momento surge a questão: isso realmente importa?”
Para muitos, como Lindy, isso não importa. A Honda da IA é perfeitamente boa.
OpenRouter, outra plataforma onde as startups podem acessar uma variedade de modelos de IA, informou que o uso do DeepSeek da China aumentou de cerca de 9% para quase 20% desde janeiro. Também aumentou a utilização de modelos das empresas chinesas MiniMax, Xiaomi e Tencent.
Alguns usuários baixam e hospedam eles próprios modelos de IA chineses de código aberto, mas muitos os usam por meio de empresas de hospedagem de IA pagas, como Featherless e OpenRouter, de modo que os dados do usuário são mantidos nos Estados Unidos.
Victor Su-Ortiz, chefe de marketing global de produtos da MiniMax, com sede em Xangai, participou recentemente de uma conferência de engenheiros de IA em São Francisco. As empresas pagam para usar modelos de IA pagando por tokens ou unidades de trabalho de IA. Su-Ortiz disse que tudo se resume ao custo por token.
“Muitas tarefas repetitivas podem ser realizadas com um modelo igualmente capaz, mas com um custo por token muito menor” em comparação com os principais modelos de IA, disse ele. “E foi basicamente isso que trouxe esses modelos abertos para os Estados Unidos.”
Ele disse que as empresas estão se afastando do “tokenmaxxing” – usando o máximo de IA possível – para reduzir custos limitando o uso, mudando para modelos mais baratos ou roteando diferentes tipos de trabalho de IA para diferentes tipos de modelos.
Para pesquisa ou “raciocínio profundo”, por exemplo, modelos de ponta podem ter melhor desempenho, disse Su-Ortiz. “Mas se você estiver realizando uma tarefa de codificação repetitiva e de alto volume… é aí que um de nossos modelos, especialmente o MiniMax M3, terá um desempenho excepcionalmente bom por apenas um décimo do custo.”
Economizar alguns dólares não vale a pena para todos
Para algumas empresas, os modelos chineses ainda não são suficientes. Jon Gordner é CEO e cofundador da Comment.io, que foi fundada há apenas algumas semanas e está desenvolvendo um produto que ele diz ser como o Google Docs para programadores e agentes de IA.
“Precisamos construir o melhor software possível o mais rápido possível. E para nós, economizar alguns dólares em um modelo mais barato não vale a pena se tivermos que gastar mais duas ou três semanas corrigindo seus erros”, disse ele.
Gordner disse que sua empresa obtém valor dos modelos Antrópico e OpenAI, em parte porque ambas as empresas subsidiam usuários para atrair clientes. Ele disse que as assinaturas mensais agora oferecem tokens com um grande desconto – mas isso provavelmente não durará para sempre.
“Portanto, para nós fará muito mais sentido começar a avaliar os modelos chineses e os modelos de código aberto”, disse ele.
Ara Kharazian é economista-chefe da Ramp, empresa que ajuda empresas a rastrear, controlar e automatizar suas despesas. Kharazian disse acreditar que as empresas norte-americanas continuarão a adaptar-se – por outras palavras, poderão controlar os preços ou introduzir modelos de código aberto de alta qualidade num esforço para suplantar os rivais chineses.
“A ascensão destes modelos chineses é indicativa do facto de que as empresas querem algo que não é oferecido hoje pelas empresas modelo americanas”, disse ele. “A única razão pela qual estou pessimista em relação aos modelos chineses é porque presumo que as empresas modelo americanas responderão de forma competitiva”.
Gordner, do Comment.io, tem menos certeza. Ele acha que as grandes empresas de IA dos EUA podem ter que começar a cobrar mais para a IA à medida que a pressão para demonstrar a rentabilidade aumenta, talvez à medida que se aproxima do seu IPO. Ambos Antrópico e a OpenAI apresentaram documentos confidenciais ao governo dos EUA para dar início a possíveis IPOs.
“Em algum momento”, disse Gordner, “a música vai parar”.
A Anthropic é uma apoiadora financeira da NPR.
