A materialização da inteligência artificial: já chegamos?

Houve um tempo em que o Facebook parecia caloroso e pessoal. Você abre o aplicativo e verá atualizações reais de seus amigos e familiares.

No entanto, a dinâmica do Facebook mudou ao longo dos anos. Agora, ele mostra postagens irrelevantes de páginas que você gostou anos atrás, anúncios de produtos com os quais você não se importa e atualizações de pessoas com quem a plataforma acha que você deveria se importar.

O escritor e jornalista Cory Doctorow disse que não é apenas o Facebook; Muitas das nossas plataformas tecnológicas favoritas, como a Amazon e a Uber, falharam na sua busca por lucros mais elevados. Ele cunhou o termo “enshittificação” para este declínio intencional das plataformas tecnológicas.

À medida que a inteligência artificial permeia todos os aspectos das nossas vidas, as pessoas perguntam naturalmente: a inteligência artificial seguirá o mesmo caminho? Pior ainda, estamos prontos? Mas primeiro precisamos responder a uma questão mais importante: como exatamente acontece a enshittificação?

Como as plataformas estão deliberadamente podres

Cory Efraim Doctorow diz que a enshittificação ocorre em três estágios:

1. Atraia usuários

Na primeira etapa, a plataforma tecnológica atrai o público por meio de uma boa experiência do usuário e funções valiosas. Eles então prendem os usuários com uma abordagem que prioriza o consumidor, tornando mais difícil para eles deixarem o ecossistema.

Pense nos bons e velhos tempos do Facebook, quando a plataforma não tentava enviar anúncios para você a cada segundo, mas principalmente mostrava o que seus amigos mais próximos estavam fazendo.

É isso que mantém os usuários totalmente engajados. como? Você carrega fotos, cria grupos e implementa páginas do Facebook. Tudo isso dificulta a saída porque grande parte da sua vida social está no Facebook.

2. Abusar dos usuários para obter benefícios comerciais

Quando uma plataforma atrai com sucesso um grande número de utilizadores, as partes interessadas e os interesses empresariais tendem a desempenhar um papel mais crítico. A pressão para aumentar os lucros torna-se a norma, os acionistas começam a exigir melhores balanços e as empresas tecnológicas têm de responder.

Foi então que a “enshitificação” mostrou sua cara feia. Nesta fase, a plataforma está mais atenta aos interesses dos clientes empresariais.

Veja o Facebook, por exemplo, onde a empresa começa a rastrear sua atividade para divulgar anúncios direcionados. Também limita o alcance de suas postagens, solicitando que você pague pela promoção.

Além disso, páginas virais e sugestões constantes inundam seu feed, escondendo atualizações reais das pessoas de quem você gosta.

3. Abuso dos proprietários em benefício dos interessados

Nas fases finais, as plataformas tecnológicas capturam o máximo de valor possível para os seus proprietários e acionistas, em detrimento dos utilizadores finais e dos clientes empresariais.

O Facebook seguiu o mesmo caminho.

Os usuários agora verão muitas postagens patrocinadas, anúncios de marketing e páginas irrelevantes. Como salienta Corey, os anunciantes enfrentam custos crescentes, retornos decrescentes e fraudes publicitárias crescentes. Não é de surpreender que a Procter & Gamble, um dos maiores anunciantes do mundo, tenha cortado uma vez os gastos digitais devido ao desperdício de gastos com publicidade digital.

Lembra quando o Yahoo recusou uma oferta de US$ 1 milhão para comprar o Google porque achou que isso significaria menos anúncios? A mesma história. um

Cory Efraim Doctorow diz que empresas líderes de tecnologia como Amazon, Uber e Microsoft caíram na “enshittificação”.

Portanto, é razoável perguntar se a inteligência artificial também está caminhando na mesma direção.

Por que a inteligência artificial realmente tem chance de se tornar inteligente?

Alerta de spoiler: sim, a inteligência artificial pode ficar presa na “atualização” porque os incentivos a empurram nessa direção.

As empresas de inteligência artificial requerem grandes quantidades de capital para continuar a construir e operar centros de dados. O consumo de energia é um grande problema, com a Deloitte estimando que o consumo de energia dos data centers excederá facilmente 1.000 terawatts-hora até 2030.

Com Sam Altman, da OpenAI, lançando um IPO de US$ 1 trilhão no mês passado, os custos de hardware de computador dispararam.

Como resultado, apenas algumas empresas de IA conseguem sobreviver e prosperar no mercado. Menos participantes significa menos concorrência, dando às empresas espaço para bloquear recursos atrás de acessos pagos ou implementar publicidade.

Além disso, a maioria das empresas líderes em IA ainda está a perder dinheiro. A OpenAI, criadora do ChatGPT, o chatbot de inteligência artificial mais popular do mundo, ainda está perdendo dinheiro. Outro jogador de IA, o Anthropic, também não obteve lucro.

Esta pressão crescente pode forçar as empresas de IA a encontrar outras formas de ganhar mais dinheiro. Este é o início de uma típica “estrada de realização”, onde os interesses dos utilizadores finais são desviados na procura de lucros.

Além disso, há sinais de uma bolha na inteligência artificial. Portanto, se a bolha estourar, as empresas de IA poderão lutar para extrair mais valor dos usuários, o que poderá acelerar a destruição.

Como o LLM é como uma caixa preta, não sabemos o que tem dentro ou como você pode ver os resultados no chatbot. Como resultado, Corey acredita que seria fácil para as empresas de IA esconderem a sua tecnologia de enshitificação.

A sua capacidade de encobrir os seus erros permite-lhes escapar impunes de muitas punições… Penso que quando a economia estiver em apuros, eles tentarão todas as tácticas embaraçosas que possa imaginar.

–Corey Doctorow, “Wired”

O que acontece quando a inteligência artificial para de funcionar da maneira que você espera

A inteligência artificial é mais do que apenas uma ferramenta de produtividade; agora faz parte de nossas vidas diárias. As pessoas usam chatbots para redigir e-mails, resumir documentos e tomar decisões de compra. Algumas pessoas até o usam para planejar seus casamentos, tomar decisões importantes na vida e… colar em exames de ciências.

De acordo com dados do próprio OpenAI, o ChatGPT tem mais de 700 milhões de usuários semanais. Desses, 49% utilizam-no para atividades de “perguntas”, incluindo momentos em que as pessoas desejam esclarecimentos sobre um tema complexo ou conselhos.

Agora imagine se a OpenAI monetizasse o ChatGPT e o tornasse acessível a um público que usa o ChatGPT para tudo.

As respostas podem parecer mais fracas, lentas ou tendenciosas; tarefas rotineiras, como escrever ou resumir, podem demorar mais, e as recomendações de compra serão desviadas para recomendações pagas.

E o impacto não se limita aos usuários comuns. As empresas que dependem da inteligência artificial também estão sentindo o aperto, se não mais.

De acordo com um relatório da McKinsey, 88% das empresas utilizam regularmente inteligência artificial para pelo menos uma função empresarial. Para estas empresas, a desintegração da IA ​​poderia sufocar a produtividade.

Isso pode desacelerar o fluxo de trabalho e reduzir a qualidade da produção, forçando as equipes a gastar mais tempo concluindo tarefas que antes eram realizadas em minutos.

Resultado final = os lucros podem ser prejudicados. O lucro é o resultado final para a maioria das empresas.

Sinais reais do declínio da inteligência artificial

As empresas de inteligência artificial estão explorando ativamente o espaço publicitário. Os usuários agora podem comprar produtos diretamente no ChatGPT, e o Walmart fez parceria com a OpenAI para exibir listas de produtos diretamente no chat.

A Perplexity também está fazendo experiências com publicidade, embora tenha suspendido novas negociações publicitárias.

Seriam estes sinais da “realização” da inteligência artificial? Bem, isso é controverso. Mas uma coisa é certa: quando uma plataforma mistura respostas com anúncios, a linha entre ajuda e receita fica confusa.

Os riscos aumentam à medida que os utilizadores confiam na IA para agir como um guia neutro. Mas uma vez que os anúncios e as respostas orgânicas estão no mesmo espaço, você não consegue dizer facilmente qual parte atende a você e qual parte atende à plataforma.

Quando o sistema não expõe os parâmetros usados ​​para classificar ou selecionar os resultados, você não sabe mais se as opções pagas substituíram as opções orgânicas que melhor atendem às suas necessidades.

Além disso, surgiram evidências do declínio da qualidade da inteligência artificial. De acordo com pesquisas da Universidade de Stanford e da Universidade da Califórnia, Berkeley, o ChatGPT registrou um declínio alarmante na qualidade das respostas.

Além disso, as plataformas de IA estão agora reduzindo seus níveis gratuitos com limites de mensagens e modelos substitutos mais fracos. Por exemplo, usando o modelo mais recente GPT-5.1 da OpenAI, os usuários gratuitos do ChatGPT podem enviar até 10 mensagens a cada 5 horas.

Estes níveis gratuitos limitados empurram os utilizadores para planos pagos, demonstrando um padrão inicial de enshittificação, onde serviços úteis trocam lentamente o valor do utilizador pela pressão de receitas.

O que isso significa para nós agora?

A Inteligência Artificial como um todo pode agregar valor real, ajudando milhões de pessoas a trabalhar mais rápido e a viver vidas mais gratificantes. Mas, quer você goste ou não, o risco do “estilo de vida” é muito real e é causado por custos elevados e pressão de crescimento.

Já vimos esse padrão acontecer antes em empresas de tecnologia como o Facebook. Portanto, a questão não é se a inteligência artificial capaz Caindo no mesmo abismo. Pelo contrário, é quando e como Isso vai acontecer.

Vale a pena notar que empresas como o Google estão numa posição diferente, com receitas constantes provenientes de outras fontes. Portanto, eles podem esperar até que a inteligência artificial ganhe dinheiro para então extrair valor dos usuários.

No entanto, a OpenAI, empresa líder na área de inteligência artificial, não tem essa vantagem. Deve atrair mais pessoas para aderir e continuar a agregar valor.

Isso cria uma oscilação constante entre fornecer ajuda genuína e escorregar em direção ao enobrecimento. Além disso, a pressão para gastar dinheiro pode levar a decisões precipitadas ou indelicadas que pressionam os usuários.

Dito isto, o caminho a seguir não é imutável. As escolhas que estas empresas de IA fizerem agora determinarão o quanto confiaremos na IA amanhã.