IA operada por humanos? Tecnologia nem sempre é o que parece

Existe uma zona cinzenta na inteligência artificial (IA) repleta de milhões de seres humanos que trabalham em segredo – geralmente contratados para treinar algoritmos, mas que acabam operando grande parte de seu trabalho.

 

Esses trabalhadores cruciais ganharam destaque esta semana quando o site The Information informou que a tecnologia Just Walk Out, da Amazon, que permitia que os clientes pegassem itens de supermercado em uma prateleira e saíssem da loja, dependia parcialmente de mais de 1.000 pessoas na Índia que assistiam e rotulavam vídeos para garantir que os checkouts automatizados fossem precisos.

 

A Amazon diz em seu site que o Just Walk Out usa “visão computacional, fusão de sensores e deep learning”, mas não menciona os funcionários.

 

A empresa disse ao site Gizmodo que os funcionários faziam anotações nos vídeos para ajudar a melhorá-los e que validavam uma “pequena minoria” de compras quando a IA não conseguia determinar uma compra.

 

Mesmo assim, a história da Amazon é um lembrete claro de que a “inteligência artificial” ainda requer exércitos de controladores humanos para funcionar corretamente.

 

A Amazon tem até uma unidade de negócios inteira conhecida como Amazon Turk, dedicada a ajudar outras empresas a fazer exatamente isso: treinar e operar sistemas de IA.

Milhares de freelancers em todo o mundo se consideram “MTurkers”, e o nome da unidade vem da história do Mechanical Turk, uma engenhoca de xadrez do século 18 que era secretamente controlada por um homem escondido em seu interior.

 

Outra ironia: alguns desses trabalhadores usaram ChatGPT e outros modelos de linguagem grande para ajudar a automatizar seu trabalho.

 

Longe de ser um incidente do passado, há muitos outros exemplos de empresas que deixaram de mencionar os seres humanos que puxam as alavancas por trás de uma tecnologia de IA supostamente de ponta. Para citar apenas alguns:

 

• O Facebook encerrou seu assistente virtual baseado em texto, o M, em 2018, após mais de dois anos, durante os quais a empresa usou trabalhadores humanos para treinar (e operar) seu sistema de inteligência artificial subjacente.
• Uma startup chamada x.ai, que comercializava um “assistente pessoal de IA” que agendava reuniões, dependia do trabalho de humanos e encerrou suas atividades em 2021, depois de ter dificuldades para chegar a um ponto em que os algoritmos pudessem trabalhar de forma independente.
• Uma startup britânica chamada Builder.ai vendeu software de IA que podia criar aplicativos, embora dependesse parcialmente de desenvolvedores de software na Índia e em outros países para fazer esse trabalho, de acordo com um relatório do Wall Street Journal.

 

Há uma linha tênue entre improvisar até conseguir – justificando o uso de seres humanos nos bastidores com a premissa de que serão substituídos por algoritmos – e explorar a agitação e as definições confusas sobre IA para exagerar os recursos de sua tecnologia. Essa “pseudo IA” era muito difundida mesmo antes da recente febre da IA generativa.

 

A West Monroe Partners, por exemplo, que faz due diligence para empresas de private equity, examinou os materiais de marketing fornecidos a possíveis investidores por 40 empresas dos Estados Unidos que estavam à venda em 2019 e analisou o uso de modelos de machine learning e IA.

 

 

Usando um sistema de pontuação, descobriu-se que as alegações de marketing das empresas sobre IA e machine learning exageravam a capacidade de sua tecnologia em mais de 30%, em média.

 

No mesmo ano, uma empresa de capital de risco sediada em Londres, chamada MMC, descobriu que, das 2.830 startups da Europa classificadas como empresas de IA, apenas 1.580 se encaixavam com precisão nessa descrição.

 

Um dos problemas óbvios de colocar humanos nos bastidores da IA é que eles podem bisbilhotar as comunicações das pessoas. O chamado “aprendizado supervisionado” em IA é o motivo pelo qual a Amazon tinha milhares de funcionários monitorando os comandos da assistente Alexa, por exemplo. Mas há também a proliferação mais ampla de propagandas enganosas.

 

A boa notícia para os investidores é que os órgãos reguladores estão atentos. No mês passado, Ismail Ramsey, procurador dos EUA para o Distrito Norte da Califórnia (também conhecido como Vale do Silício), disse que visaria startups que enganassem os investidores sobre o uso de IA antes de abrirem o capital.

 

Em fevereiro, o presidente da Securities and Exchange Commission (SEC) dos EUA (órgão análogo à Comissão de Valores Mobiliários), Gary Gensler, alertou que a “pseudo IA” poderia infringir a lei de valores mobiliários.

 

“Queremos ter certeza de que essas pessoas estão falando a verdade”, disse Gensler em um vídeo. Um mês depois, duas empresas de investimento tiveram que pagar US$ 400.000 à SEC por exagerarem sobre o uso da IA.

 

Mesmo quando os sistemas de IA não são exagerados, vale a pena lembrar que há um vasto setor de trabalhadores ocultos que ainda sustentam muitos sistemas de IA de alta tecnologia, muitas vezes por salários baixos. Em outras palavras, quando a IA parece muito boa para ser verdade, às vezes ela é.

 

*Artigo de Parmy Olson, colunista da Bloomberg Opinion e cobre a área de tecnologia.