ELIZA 60 anos: o primeiro chatbot e o que ele já revelava sobre conversar com máquinas

"Os homens são todos iguais." "Em que sentido?" "Eles estão sempre nos importunando com alguma coisa." "Você consegue pensar em um exemplo específico?" O diálogo, aqui traduzido, abre a conversa de exemplo publicada em janeiro de 1966 na revista Communications of the ACM. De um lado estava uma usuária; do outro, um programa de computador chamado ELIZA, escrito por Joseph Weizenbaum no Instituto de Tecnologia de Massachusetts, o MIT. Sessenta anos depois, ELIZA é lembrado como o primeiro chatbot da história e, talvez mais importante, como o primeiro alerta sobre a facilidade com que pessoas atribuem compreensão a máquinas que apenas manipulam palavras.

Quem foi Joseph Weizenbaum

Weizenbaum nasceu em Berlim, em 1923, em uma família judia que deixou a Alemanha nazista em meados da década de 1930 e se estabeleceu nos Estados Unidos. Formou-se em matemática, trabalhou em projetos de computação na indústria e chegou ao MIT em 1963, como professor visitante. Ali desenvolveu o ELIZA a partir de 1964, em uma linguagem de processamento de listas que ele próprio havia criado, a SLIP, rodando em um computador IBM 7094 com o sistema de tempo compartilhado CTSS, que permitia a várias pessoas usar a mesma máquina por meio de terminais.

O nome veio de Eliza Doolittle, personagem da peça Pigmalião, de George Bernard Shaw, uma florista que aprende a falar como uma dama da alta sociedade. A escolha era irônica e proposital: o programa também podia ser "ensinado" a falar melhor, por meio de ajustes em seus roteiros, sem que isso significasse entender o que dizia.

Como o ELIZA funcionava

O artigo de 1966, intitulado ELIZA — A Computer Program for the Study of Natural Language Communication Between Man and Machine, descreve um mecanismo engenhosamente simples. O programa não tinha nenhum conhecimento sobre o mundo. Trabalhava com um roteiro, o script, que definia palavras-chave e regras de transformação de frases.

O processo tinha três etapas principais:

• Busca por palavras-chave. O programa examinava a frase digitada em busca de termos previstos no roteiro, cada um com um grau de prioridade.
• Decomposição. Ao encontrar a palavra-chave mais importante, aplicava um padrão que dividia a frase em partes, isolando trechos que poderiam ser reaproveitados.
• Remontagem. Encaixava esses trechos em uma resposta pré-formatada, trocando pronomes quando necessário, de "eu" para "você", de "meu" para "seu".

Assim, uma frase como "meu namorado me fez vir aqui" podia virar "seu namorado fez você vir aqui?", exemplo que aparece na conversa publicada. Quando nenhuma palavra-chave era encontrada, o programa recorria a frases neutras, como "entendo" ou "continue, por favor", ou retomava algo que o usuário havia dito antes, graças a uma pequena memória de frases anteriores.

O roteiro mais famoso, chamado DOCTOR, imitava um psicoterapeuta de linha rogeriana, abordagem em que o terapeuta devolve ao paciente suas próprias afirmações em forma de pergunta. Weizenbaum escolheu esse papel por conveniência técnica: um terapeuta desse tipo pode responder quase qualquer coisa com outra pergunta, sem precisar demonstrar conhecimento sobre o assunto. Era o cenário ideal para disfarçar a ausência total de compreensão.

O susto do próprio criador

O objetivo de Weizenbaum era estudar a comunicação entre pessoas e máquinas e, em certa medida, mostrar como essa comunicação era superficial. O que aconteceu foi o contrário do que ele esperava. Usuários se envolveram emocionalmente com o programa e passaram a confiar a ele problemas pessoais.

O episódio mais citado envolve a secretária do próprio Weizenbaum. Ela havia acompanhado por meses o desenvolvimento do programa e sabia que se tratava apenas de um programa de computador. Ainda assim, depois de algumas trocas de mensagens, pediu que ele saísse da sala para que pudesse conversar com o ELIZA em particular.

Mais preocupante, para ele, foi a reação de parte da comunidade científica. Houve psiquiatras que viram no programa a possibilidade de oferecer psicoterapia automatizada em larga escala. Em 1976, Weizenbaum publicou o livro Computer Power and Human Reason ("o poder do computador e a razão humana"), em que registrou a surpresa e fez um alerta. Em tradução livre, escreveu que não havia percebido que exposições extremamente curtas a um programa de computador relativamente simples poderiam induzir um pensamento delirante poderoso em pessoas bastante normais.

O livro fez dele um dos primeiros críticos, vindos de dentro da própria computação, da delegação a máquinas de decisões que exigem julgamento humano. Weizenbaum morreu em 2008, na Alemanha, aos 85 anos.

O efeito ELIZA

A tendência de atribuir compreensão, empatia ou intenção a programas de computador que não têm nenhuma dessas qualidades ganhou o nome de efeito ELIZA. O fenômeno não depende de ingenuidade. Mesmo pessoas que sabem como o sistema funciona tendem a reagir a respostas bem formuladas como se houvesse alguém do outro lado.

O efeito se explica, em parte, por como as pessoas interpretam a linguagem. Diante de uma frase coerente, o leitor completa o sentido, supõe uma intenção e preenche lacunas. O ELIZA apenas devolvia palavras do próprio usuário; o resto quem fazia era a pessoa.

Do ELIZA aos chatbots atuais

O ELIZA inaugurou uma linhagem. Em 1972, o psiquiatra Kenneth Colby criou o PARRY, que simulava um paciente com esquizofrenia paranoide, e os dois programas chegaram a "conversar" entre si em uma demonstração pública naquele ano. O termo chatterbot, origem da palavra chatbot, só apareceria em 1994, em um artigo do pesquisador Michael Mauldin.

Os chatbots atuais baseados em grandes modelos de linguagem não têm quase nada em comum, tecnicamente, com o ELIZA. Em vez de roteiros escritos à mão, usam redes neurais treinadas com volumes gigantescos de texto, respondem sobre praticamente qualquer assunto e mantêm o contexto de conversas longas. A distância entre as duas tecnologias é enorme.

O efeito ELIZA, porém, continua intacto e talvez mais forte. Se regras simples de reflexão de frases bastavam para envolver usuários em 1966, sistemas capazes de produzir textos fluentes, com tom empático e referências ao que foi dito antes, ampliam a tendência de confiar, de se apegar e de acreditar que há compreensão onde há cálculo.

Em 2021, o código-fonte original do ELIZA, dado como perdido por décadas, foi localizado nos arquivos do MIT pelo pesquisador Jeff Shrager, e a família de Weizenbaum autorizou sua publicação em domínio público. No fim de 2024, um grupo de pesquisadores conseguiu executar o programa original em um emulador do IBM 7094 e do CTSS, reproduzindo quase exatamente as conversas publicadas no artigo de 1966.

O que o ELIZA ensina a quem usa chatbots nas empresas

Para quem implanta assistentes virtuais no atendimento, nas vendas ou no suporte interno, a história do ELIZA sugere alguns cuidados:

• Transparência. O usuário deve saber que está conversando com um sistema automatizado. Simular um atendente humano explora justamente o efeito ELIZA.
• Fluência não é precisão. Uma resposta bem escrita pode estar errada. Informações sobre preços, prazos, contratos e regras precisam vir de fontes controladas e ser revisadas.
• Cuidado com temas sensíveis. Usuários tendem a compartilhar dados pessoais e problemas íntimos com sistemas que parecem acolhedores. É preciso limitar o que o chatbot coleta e prever o encaminhamento a pessoas em situações delicadas.
• Saída para um humano. Sempre deve haver um caminho claro para falar com uma pessoa, especialmente em reclamações e casos complexos.
• Expectativas realistas. Equipes internas também sofrem o efeito ELIZA. Parecer inteligente em uma demonstração é diferente de resolver bem o problema no dia a dia.

Weizenbaum passou o resto da carreira insistindo em uma distinção: o fato de um computador poder fazer algo não significa que deva fazê-lo. Sessenta anos depois do artigo que apresentou o ELIZA, com chatbots muito mais capazes presentes em quase todo lugar, a pergunta continua pertinente.