#002414 – 06 de Janeiro de 2026
Falamos com chatbots. Pedimos conselhos, ajuda em troubleshooting, dicas para corrigir um bug, instruções para instalar ou desinstalar um programa. Habituamo-nos a ter cuidado, sabemos que as alucinações não são sempre evidentes e a confiança com que o Claude nos guia os passos não é necessariamente proporcional à confiabilidade que as indicações que nos atira merecem. Isto parece estar completamente dentro do zeitgeist. Antes, há décadas, não nos passava pela cabeça que um órgão de comunicação social numa democracia mentisse sobre algo muito grave e de consequências vastas: por exemplo sobre se umas eleições foram ou não roubadas. Mas hoje em dia há fenómenos como a Fox News.
Hoje, uma boa parte dos adultos online não só não confia nos meios de comunicação como se expõe a todo o tipo de conspirações, deep fakes, desinformação, apelos ao ódio, tudo recebido no telemóvel como se fossem novidades do mundo lá fora, mundo cada vez mais artificial e perigoso, além de divorciado da realidade (esse projecto colectivo que deixámos de alucinar em conjunto, para preferirmos semióticos tanques blindados e individuais que são um reverso dos tanques de privação sensorial, são um assalto constante à nossa atenção, intimidade e saúde mental). Por isso, nós os que ainda tentamos não acreditar em tudo o que nos enraivece num feed, que procuramos verificar fontes e não cair tão rápido em fakes e fraudes, desconfiamos. Desconfiar é o estado de alerta natural (mas causador de ansiedade constante) quando se está online.
Falar com um chatbot trouxe mais uma camada de ansiedade e desconfiança às nossas vidas. Lemos ou escutamos as instruções de um chatbot e tentamos perceber se os links das fontes são confiáveis, se as coisas batem certo, se é boa ideia o copy+paste de comandos de terminal vindos de uma IA. A conversação com um destes chatbots é polida. Não referindo sequer o aspecto bajulador do discurso, há uma respeitosa neutralidade e delicadeza (depois dos primeiros erros terríveis, que produziram discurso horroroso de ódio, entre outra coisas), as versões actuais dos chatbots das maiores empresas de IA evitam falar de temas controversos, ou dar instruções para comportamentos de risco, e pedem muitas vezes desculpa sempre que uma resposta nossa dá a entender vagamente que podemos ter ficado desiludidos ou ofendidos ou frustrados. O tom é cinzento e neutro com sabor a lisonja. Uma imitação do politicamente correcto, da cortesia que gostaríamos de encontrar mais online, da rapidez com que os erros são admitidos. Dito de outra forma, as delicadas luvas com que um chatbot pega nas nossas expectativas são uma espécie de representação do que estas empresas tecnológicas pensam que gostaríamos de encontrar, nas nossas interações diárias com humanos.
A malta do Center for Humane Technology diz que já tínhamos uma ecnomia da atenção (com as redes sociais) e que agora existe também uma perigosa economia da intimidade (com estes chatbots que canibalizam a solidão humana, a nossa necessidade de validação, de sermos escutado). Nós os que (tão expostos a estes perigos como todos os outros), procuramos ainda assim ter alguma cautela no contacto com estas ferramentas manipuladoras e sempre à beira de um erro catastrófico vivemos, dizia, desconfiados. E ainda não sabemos muito bem quais as consequência para esta desconfiança ansiosa estar agora a minar também interações que imitam o que seriam conversas civilizadas com outras pessoas. Talvez seja mesmo urgente ir pelo caminho que o Center For Humane Technology propõe, no seu documento “The AI Roadmap: How We Ensure AI Serves Humanity”. No princípio número 3, “AI design should center human well-being.”, lemos, entre outras, a seguinte sugestão:
Don’t humanize AI. AI products should be designed as tools that support human development and social connection — not human-like, hyper-sycophantic confidants. This means preserving the boundary between people and machines by not designing anthropomorphic AI, not granting AI legal personhood, and not humanizing AI products in day-to-day language.