Narrativa X

Brian Christian, conhecido por explorar as fronteiras entre tecnologia e humanidade, oferece com T he Alignment Problem: Machine Learning and Human Values  uma das reflexões mais lúcidas e acessíveis sobre os dilemas éticos e técnicos da inteligência artificial contemporânea. Lançado em 2020, o livro permanece altamente relevante, mesmo num cenário transformado pelos avanços pós-GPT-3. Ao invés de envelhecer, a obra adquire um valor quase arqueológico, revelando as fundações conceptuais que sustentam a discussão atual sobre IA, valores humanos e responsabilidade. A leitura é uma jornada contínua de aprendizagem. Embora alguns exemplos e enquadramentos já soem datados — próprios de uma IA ainda mais rudimentar — a articulação entre filosofia, ciência computacional e psicologia é feita com notável equilíbrio. Mesmo os capítulos mais introdutórios, centrados na psicologia humana, revelam-se necessários para ancorar as questões técnicas em experiências humanas reais. Afinal, falar de a...

" A Brief History of Intelligence: Evolution, AI, and the Five Breakthroughs That Made Our Brains " (2023) de Max Bennett é uma obra que nos transporta numa viagem fascinante pela evolução da inteligência humana, explorando como os avanços biológicos moldaram a nossa capacidade cognitiva e como essa visão tem vindo a informar o desenvolvimento da inteligência artificial (IA). Bennett identifica cinco transformações cruciais na evolução do cérebro biológico que suportariam os avanços na inteligência humana, cada um construído sobre o anterior para culminar na forma de inteligência que caracteriza hoje os seres humanos. O primeiro avanço, a Direção ( steering ) , refere-se à capacidade de se mover intencionalmente em resposta a estímulos. Este é o ponto de partida para qualquer forma de vida interagir com o ambiente de forma eficaz, permitindo aos organismos satisfazer necessidades básicas como encontrar alimento ou evitar predadores. A direção é fundamental para a sobrevivênci...

 “The Extinction of Experience: Being Human in a Disembodied World” (2024) era um livro que eu queria muito ler e queria muito gostar. Mas Christine Rosen não escreveu um livro sobre a Experiência Humana, antes listou um rol de queixas contra as mais recentes tecnologias de comunicação — ecrãs, smartphones, rede sociais, realidade virtual, IA, etc —, falhando na sustentação com evidências para a maior parte dessas queixas. Não basta citar um artigo aqui e um estudo ali. As evidências de impactos sociais, mais ainda no caso dos psicológicos, requerem amplos estudos, muito acima dos normais 30, 40 ou 60 individuos dos estudos isolados. Requerem replicação cuidada nas mais diversas culturas e circunstâncias e manutenção das condições e evidências ao longo do tempo. Utilizar estudos isolados para tecer causalidades sobre o estado da civilização como um todo é ingenuidade, para não dizer algo pior. Tanto aqui, como no outro, muito mais badalado, e já traduzido em Portugal, livro, “ A Ge...

Este é o 4º livro de Harari que leio, depois de " Sapiens " (2011), " Homo Deus " (2015) e " 21 Lições " (2018), pelo que a minha experiência de leitura refletirá essas mesmas leituras prévias. Assim, se leram os livros anteriores, não esperem encontrar aqui qualquer nova ideia. Harari mantém-se colado aos temas desses livros prévios, com maior ênfase em Homo Deus e 21 Lições . O que Harari aqui tenta fazer novo é criar um modelo de análise política baseado em sistemas de informação, recorrendo a todo o seu conhecimento de História, juntando-o à sua sagacidade de análise e interpretação dos sinais contemporâneos. Contudo, esse modelo que parece ser o ponto de arranque do livro, e do próprio título, depressa passa a segundo plano para se centrar no que mais gosta de fazer, as análises de casos — questões éticas sobre política e  tecnologia — a partir do que vai realizando pequenas abstrações sobre a realidade.  O modelo que Harari começa por tentar desenha...

Li dois livros seguidos sobre a febre da IA Generativa — o primeiro “Creativity Code” (2019), escrito por Marcus du Sautoy como resposta ao impacto do GPT-1, e “Brave New Words” (2024), escrito por Salman Khan, o guru que criou a Khan Academy , como resposta ao impacto do GPT-4 — e confesso ter ficado boquiaberto, não com os feitos do GPT, mas com o deslumbramento dos autores, principalmente no segundo caso, com o livro a funcionar como uma declaração de fé na IA Generativa, suportada diretamente pela Open AI e Bill Gates. Se acalentava dúvidas quanto ao efetivo impacto da IA Generativa fora do domínio criativo, o fervor apresentado por estes livros tornou bastante claro para mim que o rei vai nu. Tudo o que vou escrever a seguir tem que ver com IA Generativa que é distinta da tradicional IA Preditiva. A segunda está relacionada com o novo mundo em que vivemos, construído sobre informação digital, dados digitalizados, que em grande número se tornam quase impossíveis de analisar por nós...

O livro “A Theory of Everyone: Who We Are, How We Got Here, and Where We’re Going” (2023) de Michael Muthukrishna é um sucessor de um conjunto de livros que usam a ciência para construir e apresentar uma visão global do ser humano neste planeta — tais como “Sapiens” (2011) de Y. N. Harari , “Guns, Germs and Steel” (1997) de Jared Diamond , e “ Cosmos ” (1980) de Carl Sagan —, indo mais longe, porque recorre ao conhecimento mais atual da ciência, mas mantendo as fragilidades naturais da generalização de sistemas complexos. Como tal, deve ser lido como uma narrativa em busca de uma visão agregadora de valor e significado, sabendo que a natureza não é planeada, mas improvisada. Ou seja, apesar da enorme credibilidade da argumentação apresentada por este autor, e pelos anteriores, é sempre necessário manter o véu da dúvida ativo.  Estas narrativas são imensamente atrativas para os nossos cérebros que estão desenhados para a construção de padrões e atribuição de significados. Tudo para ...

O título “ Blood in the Machine: The Origins of the Rebellion Against Big Tech ” (2023), do livro de Brian Merchant, indica desde logo ao que vem. O foco é um momento curto da história recente, início do século XIX, quando surgiram em Nottingham as primeiras máquinas de automatização da produção têxtil. Apesar de muito do trabalho já usar maquinaria, com a acoplação de sistemas impulsionados a vapor — essência da revolução industrial — estas máquinas conseguiram muito rapidamente dispensar milhares de trabalhadores altamente treinados. A reação à introdução da tecnologia foi violenta, com o pico a acontecer entre 1811 e 1813, conduzindo à destruição de milhares de máquinas por parte dos trabalhadores. Face à perseguição policial e a continuidade da introdução das máquinas por parte dos donos das fábricas, os trabalhadores acabariam por se organizar de forma semi-espontânea, criando movimentos subterrâneos que seriam depois rotulados como Ludditas, baseado no uso que fizeram de uma pers...

Existem vários livros sobre a história das tecnologias de informação e comunicação, mas existem muito poucos sobre a história da Interação Humano-Computador, e menos ainda sobre a sua vertente de design. “User Friendly. How the Hidden Rules of Design Are Changing the Way We Live, Work and Play” (2019) junta-se assim a " Make It New: A History of Silicon Valley Design " (2015) de Barry Katz. Ao contrário de “Make It New”, escrito por um académico, “User Friendly” é escrito por dois designers, Cliff Kuang também jornalista, e Robert Fabricant, antigo vice-presidente da célebre Frog Design. Os dois livros complementam-se muito bem, não só por conjugarem o olhar da academia e da indústria, mas porque não se limitam a seguir as mesmas linhas ou marcadores. Cliff Kuang e Robert Fabricant iniciam a a história de User Friendly com o caso paradigmático do acidente da central nuclear de Three Mile Island em 1979, e o relatório escrito na altura por Don Norman, referenciando este moment...

"Another Body" (2023) é um documentário sobre o impacto de pornografia deepfake numa estudante norte-americana de engenharia. Dá conta do modo como a descoberta de múltiplos vídeos pornográficos alterados com a sua cara transforma totalmente a sua vida e até a sua personalidade. O filme ganhou vários prémios por tratar um tema de extrema relevância para o qual ainda não existem leis, e em particular pela forma inovadora de dar voz às vítimas, ao utilizar o próprio deepfake para que as vítimas pudessem anonimamente. O trabalho é de excelência, não se percebe nunca que é deepfake , a não ser quando propositadamente se mostra a variabilidade do efeito para que se perceba que é deepfake . A enorme vantagem desta abordagem é que permite um acesso direto à emocionalidade das pessoas reais, tornando todo o processo de storytelling mais intenso. Apesar do brilho técnico, "Another Body" é um documentário angustiante pelo impacto demonstrado na vida das vítimas e pelo enqua...

" Invention and Innovation: A Brief History of Hype and Failure " (2023) é o mais recente trabalho de Vaclav Smil (1943, Professor Emérito da Faculdade de Ambiente da Universidade de Manitoba, Canada), depois do brilhante “ How the World Really Works: The Science Behind How We Got Here and Where We're Going " (2022). Neste novo livro, Smil trabalha um conjunto de tecnologias falhadas — Gasolina com Chumbo, DDT, Fusão Nuclear, Aviação Supersónica, Hyperloop, etc. — que permitem depois suportar toda uma argumentação no último capítulo a propósito do insuflamento das conquistas da invenção humana das últimas décadas. Quero, no entanto, frisar que por vezes o discurso de Smil se torna um pouco negro, parecendo quase apresentar-se contra a própria inovação, algo que sabemos não ser sua intenção, mas que acaba ficando latente. Smil procura com esta obra remar contra a corrente do endeusamento da inovação atual, oferecendo um lastro histórico e fundamentado da invenção huma...