Como identificar a IA hype e evitar a IA Con, de acordo com dois especialistas

“Inteligência artificial, se estamos sendo francos, é um confronto: uma lista de mercadorias que você está sendo vendida para alinhar os bolsos de alguém”.

Esse é o coração do argumento de que o linguista Emily Bender e sociólogo Alex Hanna Faça em seu novo livro A AI con. É um guia útil para quem cuja vida se cruzou com as tecnologias vendidas como inteligência artificial e qualquer pessoa que questionou sua utilidade real, que é a maioria de nós. Bender é professor da Universidade de Washington, que foi nomeado uma das pessoas mais influentes da revista Time em inteligência artificial, e Hanna é a diretora de pesquisa da organização sem fins lucrativos Instituto de Pesquisa AI distribuído e um ex -membro da equipe de IA ética no Google.

A explosão do ChatGPT no final de 2022 iniciou um novo ciclo de hype na IA. O hype, como os autores o define, é o “engrandecimento” da tecnologia que você está convencido de que precisa comprar ou investir em “para que você não perca entretenimento ou prazer, recompensa monetária, retorno do investimento ou participação de mercado”. Mas não é a primeira vez, nem provavelmente a última, que estudiosos, líderes do governo e pessoas comuns ficam intrigadas e preocupadas com a idéia de aprendizado de máquina e IA.

Bender e Hanna traçam as raízes do aprendizado de máquina na década de 1950, quando o matemático John McCarthy cunhou o termo inteligência artificial. Foi em uma época em que os Estados Unidos procuravam financiar projetos que ajudassem o país a obter qualquer tipo de vantagem sobre os soviéticos militarmente, ideologicamente e tecnologicamente. “Não saía de pano inteiro da cabeça de Zeus ou qualquer coisa. Isso tem uma história mais longa”, disse Hanna em entrevista à CNET. “Certamente não é o primeiro ciclo de hype com, citação, inquérito, ai”.

O ciclo de hype de hoje é impulsionado por bilhões de dólares em investimentos em capital de risco em startups como o OpenAI e os gigantes da tecnologia como Meta, Google e Microsoft, despejando bilhões de dólares na pesquisa e desenvolvimento da IA. O resultado é claro, com todos os telefones mais recentes, laptops e atualizações de software encharcadas na lavagem da IA. E não há sinais de que a pesquisa e o desenvolvimento da IA ​​desacelerem, graças em parte a uma motivação crescente para vencer a China no desenvolvimento da IA. Não é o primeiro ciclo de hype de fato.

Obviamente, a IA generativa em 2025 é muito mais avançada do que o chatbot de psicoterapia de Eliza, que primeiro encantou os cientistas na década de 1970. Os líderes de negócios de hoje e os trabalhadores são inundados com hype, com uma dose pesada de FOMO e jargão aparentemente complexo, mas muitas vezes mal utilizado. Ouvindo líderes de tecnologia e entusiastas da IA, pode parecer que a IA aceitará seu trabalho para salvar o dinheiro da sua empresa. Mas os autores argumentam que nenhum deles é totalmente provável, que é uma das razões pelas quais é importante reconhecer e romper o hype.

Então, como reconhecemos o hype da IA? Estes são alguns sinais reveladores, de acordo com Bender e Hanna, que compartilhamos abaixo. Os autores descrevem mais perguntas a serem feitas e estratégias para o hype de IA em seu livro, o que é fora agora nos EUA.

Cuidado com a linguagem que humaniza ai

Antropomorfizante, ou o processo de dar um objeto inanimado características ou qualidades do tipo humano, é uma grande parte da construção do hype da IA. Um exemplo desse tipo de linguagem pode ser encontrado quando as empresas de IA dizem que seus chatbots podem agora “ver” e “pensar”.

Essas podem ser comparações úteis ao tentar descrever a capacidade de novos programas de identificação de objetos ou modelos de IA de rendimento profundo, mas também podem ser enganosos. Os chatbots da AI não são capazes de ver de pensar porque não têm cérebros. Até a idéia de redes neurais, Hanna observou em nossa entrevista e no livro, é baseada no entendimento humano dos neurônios da década de 1950, não na verdade como os neurônios funcionam, mas pode nos enganar a acreditar que há um cérebro por trás da máquina.

Essa crença é algo que estamos predispostos por causa de como nós, como humanos, processamos a linguagem. Estamos condicionados a imaginar que há uma mente por trás do texto que vemos, mesmo quando sabemos que é gerado pela IA, disse Bender. “Nós interpretamos a linguagem desenvolvendo um modelo em nossas mentes de quem era o orador”, acrescentou Bender.

Nesses modelos, usamos nosso conhecimento da pessoa falando para criar significado, não apenas usando o significado das palavras que eles dizem. “Então, quando encontramos texto sintético extrudado de algo como ChatGPT, vamos fazer a mesma coisa”, disse Bender. “E é muito difícil nos lembrar que a mente não está lá. É apenas uma construção que produzimos”.

Os autores argumentam que parte do motivo pelo qual as empresas de IA tentam nos convencer de que seus produtos são humanos é que isso define o primeiro plano para nos convencer de que a IA pode substituir os seres humanos, seja no trabalho ou como criadores. É atraente para nós acreditar que a IA pode ser a correção de prata para problemas complicados em indústrias críticas, como assistência médica e serviços governamentais.

Mas, na maioria das vezes, os autores argumentam que a IA não é usada para consertar nada. A IA é vendida com o objetivo de eficiência, mas os serviços de IA acabam substituindo os trabalhadores qualificados por máquinas de caixa preta que precisam de quantidades abundantes de babá de contrato mal remunerado ou trabalhadores de shows. Como Hanna colocou em nossa entrevista, “a IA não vai aceitar seu emprego, mas fará seu trabalho mais merda”.

Seja duvidoso da frase ‘super inteligência’

Se um ser humano não pode fazer algo, você deve ter receita com as alegações de que uma IA pode fazê -lo. “A inteligência sobre -humana, ou super inteligência, é uma reviravolta muito perigosa de frase, na medida em que pensa que alguma tecnologia tornará os seres humanos supérfluos”, disse Hanna. Em “certos domínios, como a correspondência de padrões em escala, os computadores são muito bons nisso. Mas se houver uma idéia de que haverá um poema sobre -humano, ou uma noção sobre -humana de pesquisa ou ciência, que é um hype claro”. Bender acrescentou: “E não falamos de aviões como folhetos ou governantes sobre -humanos como medidos sobre -humanos, parece estar apenas neste espaço de IA que surge”.

A idéia de Ai “Super Inteligência” surge frequentemente quando as pessoas falam sobre inteligência geral artificial. Muitos CEOs lutam para definir o que exatamente é a AGI, mas é essencialmente a forma mais avançada da IA, potencialmente capaz de tomar decisões e lidar com tarefas complexas. Ainda não há evidências de que estejam perto de um futuro habilitado pela AGI, mas é uma palavra da moda popular.

Muitas dessas declarações de aparência futura dos líderes da IA ​​emprestam tropos da ficção científica. Boosters e Doomers-como Bender e Hanna descrevem os entusiastas da IA ​​e os que estão preocupados com o potencial de danos-dependem dos cenários de ficção científica. Os boosters imaginam uma sociedade futurista movida a IA. Os Doomers lamentam um futuro em que os robôs de IA assumem o mundo e acabam com a humanidade.

O fio de conexão, segundo os autores, é uma crença inabalável de que a IA é mais inteligente que os humanos e inevitável. “Uma das coisas que vemos muito no discurso é essa ideia de que o futuro é corrigido e é apenas uma questão de quão rápido chegamos lá”, disse Bender. “E então há essa alegação de que essa tecnologia em particular é um passo nesse caminho, e é tudo marketing. É útil poder ver por trás disso”.

Parte de por que a IA é tão popular é que um assistente funcional de IA autônomo significaria que as empresas de IA estão cumprindo suas promessas de inovação que muda o mundo para seus investidores. O planejamento para esse futuro – seja utopia ou distopia – mantém os investidores ansiosos, pois as empresas queimam bilhões de dólares e admitem que sentirão falta de suas metas de emissão de carbono. Para o bem ou para o mal, a vida não é ficção científica. Sempre que você vê alguém alegando que o produto de IA é direto de um filme, é um bom sinal para se aproximar do ceticismo.

Pergunte o que acontece e como as saídas são avaliadas

Uma das maneiras mais fáceis de ver através da IA ​​Marketing Fluff é olhar e ver se a empresa está divulgando como ela opera. Muitas empresas de IA não dirão qual conteúdo é usado para treinar seus modelos. Mas eles geralmente divulgam o que a empresa faz com seus dados e às vezes se gabam de como seus modelos se comparam aos concorrentes. É aí que você deve começar a procurar, normalmente em suas políticas de privacidade.

Uma das principais reclamações e preocupações dos criadores é como os modelos de IA são treinados. Existem muitos processos por suposta violação de direitos autorais, e há muitas preocupações com o viés nos chatbots da IA ​​e sua capacidade de danos. “Se você quisesse criar um sistema projetado para avançar as coisas em vez de reproduzir as opressões do passado, precisaria começar a curar seus dados”, disse Bender. Em vez disso, as empresas de IA estão agarrando “tudo o que não foi pregado na internet”, disse Hanna.

Se você está ouvindo sobre um produto de IA pela primeira vez, uma coisa em particular para cuidar é qualquer tipo de estatística que destaque sua eficácia. Como muitos outros pesquisadores, Bender e Hanna chamaram que uma descoberta sem citação é uma bandeira vermelha. “Sempre que alguém está vendendo algo para você, mas não está dando acesso a você como foi avaliado, você está em gelo fino”, disse Bender.

Pode ser frustrante e decepcionante quando as empresas de IA não divulgam certas informações sobre como seus produtos de IA funcionam e como foram desenvolvidos. Mas o reconhecimento desses orifícios em seu discurso de vendas pode ajudar a desviar o hype, mesmo que fosse melhor ter as informações. Para saber mais, confira nosso glossário de ChatGPT completo e como desativar a Apple Intelligence.