Os riscos da inteligência artificial caso ela saia do controle humano. Alertas apocalípticos e perigos concretos no mercado de trabalho.
Os dinossauros dominaram a Terra por cerca de 160 milhões de anos antes de serem praticamente extintos por um asteroide que atingiu o que hoje é o México; apenas os ancestrais das aves e alguns pequenos mamíferos conseguiram sobreviver à devastação. O Tiranossauro Rex e seus parentes éramos nós, humanos, que assumimos o controle como senhores da criação. Estamos aqui há apenas cerca de 300.000 anos.
Desde os tempos antigos, profetas misantropos e outros do mesmo tipo têm previsto o fim iminente da nossa espécie por não conseguirmos apaziguar a Deus, ou, na maioria dos lugares, aos deuses. Eles continuam a fazê-lo, e hoje seus avisos são muito mais convincentes do que costumavam ser. Graças, em grande parte, às declarações de profetas do apocalipse que veem a humanidade como uma besta extraordinariamente malévola que, felizmente, mais cedo ou mais tarde conseguirá se autodestruir, quase ninguém acredita que nosso reinado será tão longo quanto o de nossos antecessores; se os profetas do apocalipse estiverem certos, poderá durar cinquenta vezes menos.
Como chegará o fim? Embora o impacto de outro grande asteroide — um tema frequentemente explorado em filmes de Hollywood — não possa ser totalmente descartado, no cenário atual, é provável que ele chegue muito depois de a raça humana ter cometido suicídio, seja desencadeando uma guerra nuclear, criando um vírus muito mais letal do que aquele que surgiu de um laboratório chinês especializado em guerra biológica — e que causou a pandemia de Covid-19, uma calamidade global atribuída por supostos especialistas ao pangolim — ou simplesmente recusando-se a se reproduzir. O declínio nas taxas de natalidade em quase todo o mundo, mas especialmente no Leste Asiático, tem sido tão abrupto que, a menos que seja revertido em breve, levará inevitavelmente à extinção da humanidade em poucas gerações.
É aqui que entra a Inteligência Artificial, a mais recente adição à lista de ameaças mortais que pairam sobre a raça humana. Na semana passada, os chefes das principais empresas de tecnologia que impulsionam seu desenvolvimento concordaram que, nos próximos três ou quatro anos, essa tecnologia poderá dizimar toda a humanidade, exatamente como Jacob Coxon havia alertado após renunciar ao seu cargo de pesquisador na Anthropic. Presumivelmente, Elon Musk, Dario Amodei e Sam Altman sabem do que estão falando. Os três afirmam temer que, se a IA não for submetida a um controle extremamente rigoroso, ela poderá acabar travando uma guerra contra seus criadores, explorando a rede digital usada para todos os tipos de comunicação, que garante o funcionamento adequado de serviços públicos vitais e, obviamente, torna os exércitos de diferentes países cada vez mais letais.
Como envolve empreendedores fabulosamente ricos que investiram somas vultosas na construção de centros de dados que consomem tanta energia quanto grandes cidades, é compreensível que alguns atribuam os alertas alarmantes emitidos ao desejo deles de se enriquecerem ainda mais. Afinal, se a IA realmente se tornou tão poderosa a ponto de assustar os responsáveis por seu desenvolvimento, seria do interesse deles que os governos estabelecessem regulamentações que, além de tornar os sistemas existentes menos perigosos, impedissem a entrada de novas empresas em um mercado que parece destinado a ser extraordinariamente lucrativo.
Ads by
Embora seja tentador pensar em termos antropomórficos e suspeitar que a IA esteja a caminho de se tornar autoconsciente até que, orgulhosa de sua crescente superioridade intelectual, trate os humanos como gado, não parece ser isso que os gurus da tecnologia que soam o alarme têm em mente. Eles estão menos preocupados com exércitos de robôs estilo Exterminador do Futuro capazes de perpetrar massacres todos os dias do que com o fato de que máquinas já construídas poderiam usar programas existentes para invadir a rede global de sistemas de computador. Se o fizessem, poderiam lançar mísseis nucleares em todas as direções, inventar pragas muito mais mortais do que a Covid-19 ou, de uma forma um pouco menos apocalíptica, cortar as comunicações eletrônicas das quais os países tanto dependem. Em qualquer caso, o resultado seria a destruição em massa em grande escala ou, se tivermos muita sorte e nenhum tiro for disparado, um período de caos total no qual indivíduos e comunidades teriam que se defender sozinhos. Nessas circunstâncias, as nações menos desenvolvidas estariam em melhor posição do que as mais avançadas para superar as dificuldades causadas por um grande apagão digital.
Musk e outros magnatas da tecnologia querem que pesquisadores do mundo todo parem e prossigam lentamente até que os governos estabeleçam salvaguardas regulatórias robustas o suficiente para evitar quaisquer incidentes. Infelizmente, isso é uma utopia. Donald Trump quer que os Estados Unidos continuem sendo líderes mundiais nessa área e, portanto, se opõe veementemente a medidas que, em sua opinião, beneficiariam países rivais. Quanto à China, mesmo que Xi Jinping assinasse um acordo limitando o trabalho com IA, é altamente improvável que o cumprisse: certamente ele sabe que seu país está se aproximando rapidamente de um precipício demográfico e deve estar esperando que a alta tecnologia, de alguma forma, permita que seu regime lide com as consequências, sem dúvida, desastrosas.
Frequentemente ouvimos dizer que a IA se tornou tão incrivelmente inteligente que já ultrapassou em muito os humanos e que, por ter sido programada para se aprimorar continuamente, em breve será para o Homo sapiens o que nós somos para a minhoca. Será isso verdade? Somente se por inteligência entendermos a capacidade de calcular com a velocidade da luz, algo que dispositivos vestíveis já fazem há muito tempo sem que ninguém se sinta constrangido, ou que ela proporciona acesso a vastas quantidades de informação que antes precisavam ser buscadas em grandes bibliotecas. Embora seus feitos nessas áreas sejam impressionantes, ela não realiza nenhum pensamento original. Ainda que a IA pareça capaz disso, as opiniões e atitudes que gera refletem claramente os vieses de seus programadores, que, em sua maioria, são aqueles que estão na moda nos círculos que frequentam.
Nas últimas duas décadas, as pessoas se acostumaram a estar cercadas por máquinas que aparentemente pensam por elas, mas a fácil disponibilidade de informações, antes escassas, e a facilidade com que podem ser distribuídas, não fomentaram uma explosão de criatividade cultural. Pelo contrário, os reacionários mais radicais estão longe de ser os únicos que sentem que vivemos em uma era caracterizada, apesar de inúmeras exceções individuais, por uma superabundância de mediocridade grosseira e comercializada. As plataformas de mídia social oferecem uma alternativa valiosa à mídia tradicional ultrapassada? Os vídeos do TikTok e plataformas similares são melhores do que os filmes de baixa qualidade de antigamente, sem falar dos livros, que cada vez menos pessoas conseguem ler hoje em dia?
É como se a inteligência estivesse sendo transferida dos humanos para as máquinas; enquanto as máquinas se tornam mais inteligentes a cada dia, as pontuações médias nos testes de QI têm caído na maior parte do mundo, revertendo o “efeito Flynn” que as havia impulsionado de forma constante até recentemente. Alguns atribuem a origem desse fenômeno desanimador à chegada do iPhone, lançado no mercado em 2007, pouco antes do início do declínio. Alarmados com o que aconteceu desde então, muitos governos optaram por proibir celulares e outros dispositivos digitais nas salas de aula, embora, em casa, as crianças provavelmente passem horas grudadas neles, quando não muito tempo atrás estariam ao ar livre conversando com os amigos ou lendo livros.
Leia também
Milei aposta no fervor nacionalista.
about:blank
Nossa civilização está sendo transformada pela tecnologia que é sua conquista mais marcante. A crença de que as máquinas que construímos, como as que os deuses da antiguidade inventaram para tornar o universo mais compreensível, são muito mais poderosas do que nós e que não temos escolha a não ser nos submeter aos seus misteriosos ditames, está se espalhando. Até mesmo os chamados especialistas que nos alertam que a IA está escapando do nosso controle e pode causar estragos temem que seja tarde demais para conter o Golem que criaram. Se estiverem certos, o ritmo vertiginoso do progresso científico nos fará retroceder ao ponto em que estávamos há milhares de anos.
Será que eles conseguirão assustar pessoas o suficiente para provocar uma reação hostil que, dadas as circunstâncias, seria compreensível? Embora alguns rotulem seus críticos como luditas que buscam privar a humanidade dos benefícios que a IA poderia trazer, as hipotéticas desvantagens que eles mesmos apontaram são tão grandes que certamente haverá quem sinta que eles merecem compartilhar o destino de Prometeu, a quem Zeus puniu de forma sangrenta por revelar o segredo do fogo aos mortais e, ao fazê-lo, permitir que a civilização florescesse.
JAMES NEILSON ” REVISTA NOTÍCIAS” ( ARGENTINA)