CHARGE DE JOTA CAMELO

O sociólogo Boaventura de Sousa Santos elenca guerras, inteligência artificial e educação como alguns dos temas mais importantes para se debater na humanidade

 5

 1

 16

Este título não é uma proposta contraditória. É um apelo a que des-pensemos muito do que nos habituámos a pensar para poder enfrentar o maior desafio de sempre: o perigo de deixar de pensar. Novalis estava certo quando escreveu “Die Philosophie ist eigentlich Heimweh, ein Trieb überall zu Hause zu sein” (Na verdade, a filosofia é saudade, uma pulsão para se estar em casa em qualquer parte). Por filosofia entendo todo o pensamento estruturado pela busca da verdade sem recurso a tecnologias que, em vez de se manter nos limites de instrumentos para ajudar o pensamento a pensar, pelo contrário, procuram substituir-se ao pensamento. Se deixarmos de pensar, equivale a sermos expulsos de casa e a vaguear sem abrigo nem sentido num mundo caótico e distópico de monstros engravatados que nos governarão em palácios de luxo e converterão em lixo tudo o que se interpuser no trânsito das suas viaturas híper-blindadas contra a busca da verdade.

O perigo iminente é que deixemos de ser seres pensantes (res cogitans de Descartes) para passarmos a ser seres pensados (res cogitata). Ser pensado é ter deixado de pensar, quer por não ser necessário pensar para viver tranquilamente nesta sociedade, quer por ser tão perigoso pensar que equivale ao risco iminente de ser morto ou, em alternativa, de se suicidar. Eis os perigos mais imediatos.Play Video

O perigo de pensar que os certificados da mediocridade não são válidos

Se os sistemas de educação e as universidades continuarem na senda da ignorância programada para os estudantes esquecerem tudo o que não interessa aos donos dos algoritmos e do poder, serão, em breve, lares para idosos de tenra idade onde aprendem o que já sabem há muito graças à magnanimidade das redes sociais, e onde o conforto e o isolamento do mundo real são fundamentais para os preparar para uma morte serena, isto é, para viverem nas bolhas onde toda a gente vive morta sem saber.

E viverão certamente com o mesmo conforto que aprenderam e, por isso, tudo o que fizerem ou ordenarem tem a marca da objetividade. Estou certo de que, quando tal acontece, os deuses e as deusas devem levar mãos à cabeça, tapar os olhos para não ver e os ouvidos para não ouvir. Mas como tal desastre não os afeta, continuarão imperturbados nos seus afazeres divinos. O problema para a humanidade e para a natureza é que, quando os medíocres conseguem provar o que são, a sua objectividade é, afinal, objectividade. É próprio da mediocridade não poder confrontar-se consigo mesmo, precisamente por ser medíocre.

O perigo de pensar que as liberdades autorizadas são uma fracção das liberdades possíveis.

Esta sociedade permite-nos ser intransigentes com a mediocridade desde que sigamos no caminho traçado pelos medíocres; sermos intransigentes contra a corrupção, desde que aceitemos ser governados por corruptos; sermos radicais, desde que cegos para sermos facilmente atropelados pelo trânsito dos tanques civis e militares; sermos ousados, desde que inexactos ou descuidados num detalhe para sermos duramente criticados e cancelados pelos guardadores da normalidade; sermos lúcidos na denúncia da hipocrisia, desde que convivamos amigavelmente com os hipócritas; sermos jovens desde que drogados para nos esgotarmos em criatividades e rebeldias inócuas e autodestrutivas; sermos velhos, desde que murmurando uma sabedoria que ninguém tem paciência para ouvir ou entender. Esta sociedade é um monstro de Goya porque a razão dorme um sono profundo.

O perigo de pensar que o que se vê é, de facto, horroroso

O horror vivido pela maior parte da humanidade, diariamente, sempre diferente e sempre igual, desmente tudo o que pensámos sobre o progresso da humanidade. O horror, quando pensado a fundo, corre o risco de ser horror vivido por solidariedade com quem o sofre. Isso obrigaria a ir para a luta concreta no socorro, no estancamento da morte inocente, na destituição dos governantes cúmplices com a morte inocente. Mas como isso dá trabalho e obriga a riscos tão graves quanto desnecessários, o melhor é não pensar, não saber, fingir não saber, admitir que talvez seja um mal-entendido.

O genocídio do povo palestiniano, transmitido em directo todos os dias, é a primeira guerra conduzida conscientemente contra mulheres e crianças, os dois inimigos principais de uma limpeza étnica perfeita. Tem toda a lógica. Lógica e o apoio ativo dos nossos governantes democratas. Tal como Himmler, arquitecto do holocausto, entrava em casa à noite pela porta traseira para não acordar o seu canário de estimação, os arquitectos do genocídio de hoje fazem uma pausa no morticínio para fazer as suas orações e ajudar os filhos nos trabalhos de casa. Isto degrada a tal ponto o que resta de humanidade na nossa raiva impotente que o horror de pensar tem de se reduzir a pensar o horror sem correr o risco de o viver por solidariedade. Torna-se impensável pensar que enquanto o Nazismo foi a grande incarnação do mal no século XX, o Sionismo é a grande incarnação do mal no século XXI. Torna-se impensável que as grandes vítimas se tenham transformado, no tempo exacto de um século, nos grandes agressores. Torna-se impensável pensar que, tal como não teve êxito a solução final contra eles por parte dos Nazis, também eles não terão êxito na solução final que pretendem infligir ao povo palestiniano. E como tudo isto é impensável, é melhor mudar de canal e voltar às redes sociais ou comentar o trágico-cómico entretenimento das zangas entre dois gorilas, Donald Trump e Elon Musk ( sem ofensa aos gorilas).

O perigo de pensar que a comida mental está na mesa e que quem não comer morre de fome

A Inteligência artificial (IA) nada cria nem transforma. Apenas acumula e sintetiza segundo critérios opacos apenas acessíveis aos donos dos programas dos algoritmos, isto é, aos donos do mundo. A inteligência artificial refere-se a máquinas que executam tarefas cognitivas como pensar, perceber, aprender, resolver problemas e tomar decisões. Não é a primeira vez que se atribui inteligência a máquinas. Na década de 1950 era comum designar os computadores emergentes como “cérebros electrónicos”. Atualmente, a maioria das aplicações populares de IA – o reconhecimento de voz e imagem, o processamento de linguagem natural, a publicidade direcionada, a manutenção preditiva de máquinas, carros sem condutor e drones – envolve a capacidade das máquinas para aprenderem com os dados sem serem explicitamente programadas. Trata-se de uma mudança de paradigma na tecnologia informática. O que vai realmente fazer a diferença na corrida às aplicações de IA é a disponibilidade de dados; o elemento crítico é a abundância de dados. Mais dados conduzem a melhores produtos, o que, por sua vez, atrai mais utilizadores, que geram mais dados para melhorar ainda mais o produto. A escala de dados necessária para desenvolver aplicações avançadas de IA é a base do impacto da centralização e monopolização da IA. As grandes empresas americanas de tecnologia lideram o mundo em aplicações de IA, mas a China é um gigante em ascensão. Isto conduz a um duopólio da inovação da IA: EUA e China.

A IA é o caso paradigmático de uma tecnologia que visa ultrapassar os limites do instrumento que ajuda a pensar para se transformar no pensador que dispensa e substitui o pensador humano. A vertigem da sua ilimitada expansão está a entrar em todos os domínios da atividade humana, da medicina ao direito, da comunicação à guerra, da educação aos mercados financeiros. O que significa ser humano na época da IA?

No fundo, a IA funciona como um dispositivo estatístico, mas, devido ao número infinito de dados que gere e aos algoritmos que regem o seu funcionamento, a IA projecta a ideia de criar conhecimento a partir do nada, de inventar. Ou seja, a IA dá a impressão de funcionar como um ser humano, ainda que de forma infinitamente mais eficiente. Daí as designações utilizadas para a caracterizar – inteligência artificial, aprendizagem profunda – características até agora reservadas aos seres humanos ou, no máximo, aos seres vivos. Estas designações são utilizadas de forma metafórica, mas mostram até que ponto a IA parece estar a atingir níveis de compreensão e de transformação ainda reservados aos seres humanos. O efeito de realidade é impressionante, porque enquanto cópia parece criativa, enquanto extractiva parece inventiva, enquanto reprodutiva parece produtiva, enquanto baseada em correlações parece oferecer novas relações. À luz da credibilidade desta “aparência”, as questões sobre o que conta como ser humano ou se a IA significa uma mudança civilizacional têm sido levantadas por pessoas em lados opostos do espectro político e ideológico.

Não gosto de citar criminosos de guerra, mas neste caso faço uma exceção para citar Henry Kissinger. Escrevia ele em 2018: “O Iluminismo procurou submeter as verdades tradicionais a uma razão humana liberta e analítica. O objetivo da Internet é ratificar o conhecimento através da acumulação e manipulação de dados em constante expansão. A cognição humana perde o seu carácter pessoal. Os indivíduos transformam-se em dados, e os dados tornam-se reinantes. No início do texto Kissinger interrogava-se:“Qual seria o impacto na história das máquinas de auto-aprendizagem – máquinas que adquiriram conhecimento através de processos particulares a elas próprias, e aplicariam esse conhecimento a fins para os quais pode não haver nenhuma categoria de compreensão humana? Estas máquinas aprenderiam a comunicar umas com as outras? Como seriam feitas as escolhas entre as opções emergentes? Seria possível que a história da humanidade seguisse o caminho dos Incas, confrontados com uma cultura espanhola incompreensível e até inspiradora para eles? Estaríamos nós no limiar de uma nova fase da história humana?”

Com Chomsky a meu lado, considero que “a mente humana é um sistema surpreendentemente eficiente e até elegante que funciona com pequenas quantidades de informação; não procura inferir correlações brutas entre pontos de dados, mas sim criar explicações… Por muito úteis que os programas de IA possam ser nalguns domínios restritos (podem ser úteis na programação de computadores, por exemplo, ou na sugestão de rimas para versos ligeiros), sabemos pela ciência da linguística e pela filosofia do conhecimento que diferem profundamente da forma como os humanos raciocinam e utilizam a linguagem. Estas diferenças impõem limitações significativas ao que estes programas podem fazer, codificando-os com defeitos inerradicáveis… De facto, estes programas estão presos numa fase pré-humana ou não-humana da evolução cognitiva. A sua falha mais profunda é a ausência da capacidade mais crítica de qualquer inteligência: dizer não só o que é o caso, o que foi o caso e o que será o caso – isto é descrição e previsão – mas também o que não é o caso e o que poderia e não poderia ser o caso. Estes são os ingredientes da explicação, a marca da verdadeira inteligência… O pensamento humano baseia-se em explicações possíveis e na correcção de erros, um processo que limita gradualmente as possibilidades que podem ser racionalmente consideradas”

Na sua obra-prima, O Mundo como Vontade e Representação, Schopenhauer ([1819] 2020) faz uma distinção entre talento e gênio. Enquanto a pessoa talentosa alcança o que os outros não conseguem alcançar, o gênio alcança o que os outros não conseguem imaginar. O gênio tem uma capacidade superior de contemplação que o leva a transcender a pequenez do ego e a entrar no mundo infinito das ideias. O génio é a faculdade de permanecer no estado de percepção pura, de se perder na percepção, o poder de deixar os seus próprios interesses, desejos e objetivos inteiramente fora de vista, renunciando assim inteiramente à sua própria personalidade durante algum tempo, de modo a permanecer um puro sujeito conhecedor, com uma visão clara do mundo.

À luz disto, podemos especular com segurança que, se Schopenhauer vivesse hoje, defenderia que a IA, por muito estimulantes que sejam as suas realizações, nunca poderá atingir os patamares da possibilidade humana. No máximo, poderá atingir o nível do talento. A genialidade é inacessível à IA. O génio é o limite superior da IA. O limite inferior é a atividade humana não registrada ou, melhor ainda, a atividade humana que é registrada e armazenada de formas que desafiam o extrativismo de dados.

Este jogo homem-máquina deixa escapar um ponto crucial: o facto de os seres humanos não existirem em abstracto, mas sim em contextos históricos, sociais e culturais específicos. Os exercícios sobre características universais construídas abstractamente convertem características locais centradas no Ocidente, capitalistas, colonialistas e patriarcais em características universais derivadas do conhecimento “visto a partir do zero”. Os preconceitos ontológicos e políticos são assim transformados em artefatos neutros em termos de IA.

O perigo de pensarmos que o que cai fora do algoritmo não existe é a nova forma do que tenho designado por sociologia das ausências. O perigo de pensar que o algoritmo é a única comida mental ao nosso dispor é o mesmo que pensar que o hambúrguer da McDonald`s é a única comida ao nosso dispor.

O perigo de pensar que o pós-humano pressupõe que já fomos plenamente humanos

Desde o início do milénio tem havido um debate sobre o pós-humano. A morte do ser humano vinha de longe: de Nietzsche, de Heidegger, de Foucault, de Barthes, de Deleuze. Mais recentemente, a ideia do pós-humano centrou-se nos seres humanos sujeitos a xenotransplantes (transplantes de células, tecidos ou órgãos de outras espécies animais) ou vivendo com objectos tecnológicos inseridos no seu corpo. A ideia do pós-humanismo implica a crítica do antropocentrismo, a negação de qualquer privilégio ao ser humano no conjunto dos seres viventes do planeta. Não vou neste texto discutir os méritos desta concepção. O que me interessa questionar é ideia de humano que subjaz à de pós-humano. É uma ideia substantivista e abstracta que pressupõe a existência prévia de uma natureza humana mais ou menos fixa. De resto, a questão de saber se há ou não uma natureza humana não é a questão que me preocupa. É antes a ideia de que os seres humanos foram sempre tratados como seres privilegiados e abstractamente iguais. O perigo de pensar que, na verdade, isso nunca aconteceu na era moderna é um dos mais aterradores para a boa consciência liberal que formou a nossa consciência desde o século XVII. Ao longo dos anos, tenho mostrado que, com o colonialismo histórico, se traçou uma linha abissal, tão radical quanto radicalmente invisível, entre os seres tratados como seres plenamente humanos (a zona metropolitana) e seres tratados como seres sub-humanos (a zona colonial). Essa linha abissal dura até hoje e a sub-humanidade que ela desenha abrange mais populações no mundo que durante o período do colonialismo histórico. Que o digam os imigrantes deportados com algemas e enviados para campos de concentração em El Salvador e em outros lugares de que um dia teremos notícia. Ou os camponeses da República Democrática do Congo martirizados pela maldição do lítio e dos minerais raros. O espectro da sub-humanidade paira sobre cada um de nós. De um momento para o outro, como previa Brecht, pode caber a qualquer de nós ser atirado para a zona colonial onde as declarações universais dos direitos humanos e as garantias constitucionais não são mais que mentiras piedosas. Pensar que isto é um retrocesso é pensar que houve progresso. Claro que houve progressos, mas não houve Progresso com P maiúsculo.

Todos estes perigos obrigam a uma tarefa de des-pensar e de desaprender antes que seja possível dar sentido ao que não tem sentido.

BOAVENTURA DE SOUSA SANTOS ” BRASIL 247″ ( BRASIL)