Recentemente finalizei a leitura do livro “Nexus” de Yuval Noah Harari, autor conhecido pelo clássico da literatura de não ficção “Sapiens”, sendo outro excelente livro que eu já tive a felicidade de ler.
Na verdade, eu sou um admirador do Harari desde as primeiras páginas de “Sapiens”, que por mais que tenha seus problemas, é uma excelente introdução a história da evolução da humanidade.
Outro livro relativamente famoso do autor é “Homo Deus”, que trata, em essência, da mitologia humana. Eu também li este livro e ele é particularmente importante para o assunto de hoje, porque o final dele, de certa forma, dá início ao livro “Nexus”.
Sobre que é Nexus?
Nexus é um livro sobre informação, sobre a tecnologia da troca de conhecimento, da idade da pedra, até a era da inteligência artificial, como diz a própria capa.
É um livro de cerca de 500 páginas, com pelo menos 100 páginas só de referências.
Inclusive, confesso que consultei as fontes do livro mais vezes do que costumo fazer em livros desse tipo. Essa ação foi um reflexo das várias vezes onde um “mas de onde você está tirando isso?” me passou pela cabeça.
O primeiro terço do livro é focado em explicar a teoria das redes de informação de forma mais abrangente. Um assunto, de fato, muito interessante.
O problema está nos outros dois terços que focam quase que totalmente em tecnologia e IA.
Meus problemas com o livro
Apesar do próprio autor ter admitido a sua falta de conhecimento e tendência negativa quanto ao assunto, tanto ao dar início ao tópico de IA (inteligência artificial), quanto no epílogo do livro, não pude deixar de sentir um certo desconforto com o quadro catastrófico envolvendo IA que foi pintado.
Pelo menos ao começar a falar de IA, Harari é honesto e comenta, parafraseando-o, que “pretende focar na parte ruim, porque a parte de empolgação já é muito bem coberta pelos líderes das empresas de tecnologia”.
Harari levanta diversas questões pertinentes sobre como as redes de informação modernas, envolvendo IA e redes sociais, com as suas coletas de dados pessoais, podem nos influenciar negativamente.
Quanto à empolgação excessiva dos CEOs de grandes empresas de tecnologia e IA, ele tem razão, a empolgação é desproporcional à realidade, porém, um argumento sem contraponto pode acabar ficando um pouco vazio, especialmente quando ele supõem que IA fará coisas que ela é tecnicamente incapaz de fazer.
Claramente Harari não compreende plenamente como o campo inteligência artificial funciona e as suas aplicações, ou deliberadamente escolheu deixar certos elementos de fora do livro, para poder focar nas tais “partes ruins.”
Isso faz com que por diversas vezes ele ataque espantalhos, muitos deles tão irreais que parecem inspirados nas “IAs malvadas” de filmes como Matrix ou O exterminador do futuro.
Ele transforma “o algoritmo” em algo quase divino e com poderes irreprimíveis, como se fosse algum tipo de “gênio da lâmpada digital”, onde as pessoas fazem um desejo e o todo-poderoso algoritmo vai executar aquilo de um jeito que você pode não gostar.
Simplesmente não é assim que funciona.
Lembro de ter lido em alguma review negativa sobre o livro um comentário nas linhas de “Harari estava escrevendo ficção científica sem o label adequado”.
Devo concordar, pelo menos em parte.
Existe uma exploração substancial do papel da informação na estrutura e constituição de Estados e Impérios de forma geral, mas ao tentar especular o papel da IA nesses ambientes, as coisas se complicam.
A mistura que ele faz da especulação do futuro da IA com regimes totalitários, se inspirando em comportamentos do passado (histórias da Segunda Guerra Mundial sempre vendem muito nos EUA), realmente me lembraram algumas vezes das obras de George Orwell.
Hoje podemos dizer que Orwell não estava completamente fora do tópico quando falava sobre o “Big Brother”, mas definitivamente não foi uma previsão. O segredo é deixar aberto e ambíguo o suficiente, a mente humana preenche o restante das lacunas.
Essa mistura de elementos verdadeiros com informações imprecisas e tecnicamente incorretas, mas, ao mesmo tempo, complicadas demais para quem não é da área de tecnologia entender, cria muitas lacunas desconfortáveis.
É o mesmo tipo de coisa que costuma aparecer em teorias da conspiração genéricas. Tenho certeza que criar fantasias desse tipo não era o objetivo do livro, mas alegar que “IA é imprevisível” não é o suficiente para ter um passe livre, da mesma forma.
Qual seria o objetivo, então?
Ao longo da leitura fiquei esperando aparecer alguma sugestão de solução para os problemas, mesmo que fosse uma tão “viajada” quanto os próprios problemas propostos. O mais próximo disso foi um pedido por atenção e regulação.
A nossa relação com a tecnologia e como ela modificou, ao longo do tempo, nossa capacidade de comunicação e colaboração entre grupos, aliado ao impacto que a própria informação pode ter, é, sem dúvida, importantíssima, porém, o assunto descamba numa fantasia sobre IA, que mistura fatos e meias verdades.
O motivo do descambo?
Boa pergunta. Talvez pelo mesmo motivo que os CEOs não param de falar de IA? Eles precisam aproveitar o hype, se não o escritor, a editora. Não seria a primeira vez que algo assim acontece.
Se o livro focasse somente na teoria da informação ao longo da história, com uma especulação sobre IA e o seu futuro, essa seria, na minha visão, a abordagem ideal. Não é isso que acontece.
Nexus coloca Harari, não como um opositor da IA, mas como um crítico, ou, no mínimo, alguém muito preocupado e cheio de perguntas.
Toda tecnologia disruptiva tem os seus críticos. Eles são importantes, eles nos lembram das coisas não tão boas enquanto estamos empolgados demais.
Dinâmicas sociais são complexas, então, quando algo disruptivo acontece, você só estará nos holofotes se for um dos principais criadores e fomentadores do assunto, e nesse caso de IA, a oportunidade de ocupar esse cargo parece ter deixado de existir para o Harari. A outra forma de conseguir um holofote é ser um crítico incansável.
Tomar essa posição é possivelmente ótimo para publicidade, já que ser moderado dificilmente dá audiência. Descontentes sobre a era da IA o chamarão para falar sobre os seus perigos, com toda a certeza.
O que há de positivo em Nexus?
Na verdade, muita coisa.
O que tiro de positivo, além dos interessantes ensinamentos sobre a teoria da informação, é o ponto de vista de alguém de fora da “bolha tech” sobre IA.
Essa foi a minha “experiência antropológica” com livro. Li cerca de 300 páginas de alguém que não tem conhecimento profundo sobre IA e tecnologia, expressar os seus medos e seus “e se”, considerando caminhos tortuosos.
É como ver alguém discutindo as várias possibilidades de utilização de uma faca, com medo de que ela seja usada só para as coisas nefastas, desconsiderando propositalmente os aspectos positivos da ferramenta.
Harari é um historiador altamente gabaritado e essa visão quase apocalíptica sobre tecnologia e IA que ele demonstrou, é possivelmente a mesma que muitas outras pessoas leigas têm.
Isso gera preocupação. As pessoas temem o que não entendem, já dizia o Superman.
Essa temeridade excessiva, não invalida as preocupações e muito menos os contextos amplos onde a tecnologia impacta as nossas vidas em sociedade. Pontos que valem a discussão, porém, precisamos ter um cuidado de cultivar boas discussões, discussões melhor informadas.
O fato de alguém ter pesquisado muito e ter usado centenas de fontes para a escrita coesa de um livro como Nexus e mesmo assim chegar a determinadas conclusões significa somente uma coisa: nós estamos fazendo pouco.
Nós, criadores de conteúdo e professores, pessoas da área de tecnologia com conhecimento técnico, estamos fazendo um trabalho insuficiente para ensinar os nossos colegas de planeta.
Harari fala de IA, de servidores e de tecnologia como se fossem algo quase sobrenatural em alguns casos. Essa abstração distancia as pessoas do entendimento de como as coisas ao nosso redor funcionam e a simples ausência desse conhecimento pode acabar gerando desentendimentos.
É como se duas pessoas estivessem discutindo o funcionamento do avião, mas uma das pessoas é um engenheiro aeronáutico e o outro simplesmente viajou muito de avião e refletiu sobre os impactos desse meio transporte para a sociedade.
Eles não estão errados só pelo fato de não terem o mesmo ponto de vista, mas o engenheiro pode entender porque certas decisões foram tomadas e como certos elementos funcionam, enquanto o observador poderá somente especular os impactos dessas decisões. Ambas são relevantes.
Só quando pudermos criar um nexo entre esses dois pontos de vista, vamos poder ter uma conversa produtiva. É o mesmo caso com IA.
Nexus abriu os meus olhos para algumas questões que passaram despercebidas pelos meus estudos de IA e eu sou muito grato por isso, mas também evidenciou que a maioria dos legisladores e críticos, dispostos a regular a tecnologia, fazem isso muitas vezes baseado no entendimento superficial da tecnologia, “no que parece ser” e não no que realmente é.
Um bom começo pode ser entender como IA realmente funciona é este vídeo para o canal Diolinux que eu fiz há algum tempo. Vale a pena conferir.
Acredito que “Nexus” é um excelente livro, não me arrependo da leitura.
Ele levanta questionamentos importantes, que valem a pena uma reflexão, mesmo para pessoas da área de tecnologia que vão ter que lutar contra alguns argumentos obviamente equivocados e extrair a mensagem por trás deles.
Para quem não é muito familiar com a tecnologia de IA e limites computacionais dos modelos que temos atualmente, recomendo ler “Nexus” com a noção de que é uma abordagem primariamente negativa e alarmista sobre o tópico.
Pode valer a pena observar alguns conteúdos mais positivos sobre o assunto para balancear um pouco as coisas, especialmente os que não vem diretamente de CEOs de empresas. Para variar, equilíbrio é a chave.
IA é uma ferramenta, em últimos casos, somos nós que tornamos ela boa ou ruim, exatamente como tantas outras ferramentas que o próprio Harari comenta ao longo de sua obra.
