#002307 – 22 de Setembro de 2025
O argumento dos doomers, sobre o perigo de uma superinteligência artificial que, por um ou outro motivo leva à nossa extinção, não é simplesmente uma visão pessimista sobre um tipo específico de tecnologia. Muitos destes hiperpessimistas vêm do movimento e filosofia altruísmo eficaz, que é quase uma consequência inevitável de se levar (como Peter Singer) a lógica do utilitarismo até às últimas consequências. Para os proponentes do EA (a sigla geralmente usada para referir o effective altruism), deve-se maximizar o bem que se faz pelos outros e, por isso, a única opção ética é concentrarmo-nos nas acções e causas que beneficiem mais pessoas durante mais tempo. É daqui que emerge a obsessão com o apocalipse trazido por uma inteligência artificial. Sendo o dano máximo (a extinção da espécie humana), prevenir este resultado nefasto é logicamente mais importante que qualquer outra causa. Mesmo sendo a probabilidade de acontecer relativamente pequena, prevenir que suceda traz o máximo de bem (salvar a vida) ao máximo de pessoas possível (a humanidade inteira).
O que é curioso é que os boomers (que defendem a expansão da tecnologia com a máxima rapidez e urgência) usam a mesma lógica. Mesmo não havendo certeza de que seja possível produzir uma super inteligência artificial, os benefícios (curar o cancro e outras doenças, resolver as alterações climáticas, acabar com as guerras e com a fome) são imensos, basicamente resolver todos os problemas humanos. Por isso, segundo os princípios ultra-utilitários do EA, nenhuma outra causa é tão importante como fazer emergir essa mega-entidade digital. Porquê gastar recursos a melhorar os problemas ambientais, ou aliviar a fome, ou investir esforços diplomáticos para acabar com conflitos, se uma superinteligência artificial resolveria todos esses problemas.
O que um e outro campo parecem professar não é, como dizem, o uso da razão, mas uma nova forma de religião. E estão em desacordo simplesmente no método: uns querem impedir que o diabo venha ao mundo e os outros querem invocar a vinda de deus. Usam argumentos lógicos para defender que deixemos de cuidar uns dos outros, das nossas sociedades e do planeta, porque partem de um pressuposto que paira sobre mas não se baseia no estado actual da ciência informática. Ora aqui vai um outro argumento: mesmo que fosse verdade que vem aí um deus ou um diabo digital, devemos cuidar uns dos outros, apenas porque isso determina como construímos as sociedades, as relações humanas e a própria tecnologia. Não devemos colocar nas mãos da tecnologia nenhuma decisão de vida ou morte (como agora se faz com as armas autónomas). O altruísmo poderá ter mesmo uma base bio-evolutiva, os comportamentos pró-sociais beneficiam também quem os praticas e são mais do que a soma de todos os benefícios gerados. São a própria coesão das nossas sociedades, das nossas famílias, da humanidade. Devemos resistir à tentação de industrializar até o altruísmo.