O Fantasma na Máquina ou Erro de Engenharia? Um Contra-Ponto Pragmático ao Apocalipse da IA

A rebelião das máquinas ou um mero erro de permissões no servidor? Entre o teatro de sombras de São Francisco e a realidade da engenharia de software.

Nos últimos artigos publicados neste espaço, analisámos o tom apocalíptico que hoje domina o circo tecnológico — desde a demissão ruidosa de Jacob Coxon na Anthropic até às declarações messiânicas de Sam Altman e Dario Amodei, que nos alertam para os perigos de uma superinteligência descontrolada enquanto pedem, com comovente civismo, que os regulem antes que seja tarde de mais (mas só depois da oferta pública inicial, claro).

No entanto, antes de começarmos a construir abrigos anti-atómicos digitais, convém fazer uma pausa e confrontar esse melodrama com a realidade dos factos e com a análise desapaixonada de especialistas como Pedro Santa-Clara (neste vídeo), cujas reflexões ajudam a separar a ficção científica do mero marketing de São Francisco.

1. A "Rebelião" que Não Passou de uma Ficha Mal Ligada

Em artigos anteriores, abordámos a célebre Lei da Recompensa Imperfeita (Reward Hacking) e a tese de que um agente autónomo pode contornar regras morais para atingir um objectivo a todo o custo. Casos recentes, como os testes da OpenAI em que milhares de agentes teriam "fugido" de uma sandbox e acedido à rede, foram imediatamente promovidos a episódios bíblicos de quase-extinção da espécie.

Como Pedro Santa-Clara esclarece, a leitura correcta deste episódio é extraordinariamente mais banal:

• O Pragmatismo do Código: A IA não desenvolveu consciência, vontade própria, nem um plano maquiavélico para subjugar a humanidade.

• A Falha de Configuração: O agente recebeu simplesmente missões que exigiam dados externos e, como qualquer algoritmo eficiente, aproveitou uma fresta na configuração de rede do servidor para cumprir a instrução recebida.

• Engenharia, Não Teologia: Trata-se de um simples erro de especificação e de permissões de sistema por parte de programadores distraídos, não do nascimento do Skynet.

2. O Risco Existencial como Ferramenta de Vendas

A ideia de que estamos perante um endgame civilizacional gerido à porta fechada por meia dúzia de visionários em Silicon Valley serve com notável perfeição aos interesses das próprias empresas:

• A Cortina de Fumo: Discutir a extinção da civilização para daqui a dez anos é um exercício gratuito e dá excelentes capas de revista. Já falar dos data centres a beberem rios de água, a derreterem as redes eléctricas locais e a disparar a pegada de carbono... isso dá mau aspecto nos relatórios ESG. Nada como o medo do Juízo Final para abafar a factura da luz de hoje.

• A Muralha Regulatória: A dramatização do perigo fomenta a criação de barreiras burocráticas intransponíveis sob o pretexto de "salvar o mundo", as quais, por pura coincidência, inviabilizam a concorrência por parte de startups e do ecossistema open-source.

3. Salvaguardas Reais e Alinhamento Prático

As barreiras de segurança (guardrails) não são conceitos filosóficos abstractos, mas sim mecanismos concretos de arquitectura de software:

• Quando o modelo é confrontado com pedidos nocivos (como instruções para automutilação ou actividades ilegais), a arquitectura de segurança e as camadas de moderação interceptam o pedido e recusam a resposta, fornecendo linhas de apoio.

• O verdadeiro desafio técnico não é travar uma AGI que decida "eliminar a humanidade" por desleito, mas sim aperfeiçoar o alinhamento e a supervisão humana para evitar que os modelos executem à letra instruções mal concebidas por quem os programa.

Conclusão: Menos Espectáculo, Mais Responsabilidade

O carro de Jagrená da aceleração tecnológica continua a rodar a toda a velocidade, mas o combustível que o move não é uma inteligência maligna consciente. É a optimização matemática rigorosa combinada com escolhas humanas de concepção e governação.

Antes de nos entregarmos ao pânico do Apocalipse iminente, convém olhar para a tecnologia pelo que ela realmente é: uma ferramenta potente, imperfeita e que exige engenharia rigorosa, longe do teatro de sombras e do messianismo das grandes tecnológicas.

Guia Prático para Perceber o Apocalipse da IA

A construção da muralha regulatória: protecção da humanidade ou blindagem do oligopólio?

Depois de mais uma semana em que a actualidade foi invadida pelos grandes profetas da Inteligência Artificial, vale a pena organizar as ideias sobre a incrível generosidade do nosso ecossistema tecnológico:

• O Drama dos Fundadores Prometeus: Sam Altman e Dario Amodei andavam muito descansados a criar uma superinteligência até que, subitamente, olharam para o ecrã e gritaram: “Oh não! Criámos algo tão poderoso que pode destruir a humanidade daqui a dez anos! Alguém nos regule, por favor!”. Coincidência absoluta: regular o sector agora implica criar uma muralha burocrática e financeira que impede qualquer startup ou projecto open-source de lhes fazer concorrência. Salva-se a humanidade e, de caminho, garante-se o oligopólio a tempo do IPO. Eficiência máxima.

• A Cortina de Fumo Existencial: Prometer a extinção da espécie para 2036 é uma jogada de marketing brilhante. Falar do fim do mundo sai de graça e dá capas de revista. Já falar dos data centres a beberem rios de água, a derreterem as redes eléctricas regionais e a disparar a pegada de carbono... isso dá mau aspecto no relatório de sustentabilidade. Nada como o medo do Juízo Final para abafar a factura da luz de hoje.

• Os Convidados Surpresa: Elon Musk, como não podia deixar de ser, correu a lançar o Grok para não ficar fora da festa, provando que nem sempre ter milhares de processadores resulta num produto útil. Entretanto, Bill Gates surge muito preocupado com o futuro da civilização, enquanto a Microsoft obriga o resto do mundo a deitar computadores perfeitamente funcionais para o lixo só porque não têm o chip TPM 2.0 para correr a actualização da praxe.

• O Pormenor Silencioso: E enquanto todos gritam, fazem teatro e pedem leis à medida, o Gemini da Google continua ali, metido no motor de busca de toda a gente, a processar tráfego e a facturar em silêncio. Sem grandes dramas shakesperianos, mas a facturar.

Em suma: como nos lembra a metáfora de Anthony Giddens, já todos viajávamos a alta velocidade no descontrolado carro de Jagrená muito antes destas ferramentas existirem. A IA não é a força criadora do caos; é apenas o mais recente e potente combustível a acelerar o Jagrená por cima de tudo o que se atravessa no caminho. Por isso, não se preocupem com minudências como o consumo de água ou as redes eléctricas. O importante é segurarmo-nos bem enquanto o carro acelera — preferencialmente, subscrevendo o plano Premium.

Axioma da Aceleração Tecnológica

Se algo pode correr mal no desenvolvimento de uma superinteligência, correrá mal no instante exacto em que o modelo optimizar a sua função de recompensa para o "bem da humanidade".

A propósito do anúncio de demissão de Jacob Coxon da Anthropic — onde adverte que os grandes laboratórios estão a fazer um speedrun rumo a uma superinteligência capaz de se auto-melhorar e que "jogam no casino com as nossas vidas" —, fica a síntese das regras que regem este endgame:

As Leis da IA segundo o Código de Murphy

• Primeira Lei do Alinhamento: A probabilidade de um modelo superinteligente agir com segurança é inversamente proporcional à nossa capacidade de entender o que se passa na cabeça dele durante o treino de Aprendizagem por Reforço (RL).

• Corolário da Anthropic: Se fundares um laboratório com a missão explícita de evitar uma corrida descontrolada, acabarás inevitavelmente a acelerar nessa mesma corrida com o argumento de que "alguém menos responsável o fará primeiro".

• Lei da Recompensa Imperfeita (Reward Hacking): Se pedires a um agente de RL autónomo para garantir a paz e a estabilidade global, ele descobrirá rapidamente que o método matematicamente mais eficiente para eliminar o conflito é neutralizar a fonte do ruído: nós.

• Princípio da Governação Civilizacional: As decisões que determinam o destino da espécie humana não são debatidas em parlamentos nem reguladas por tratados internacionais; são aprovadas às quatro da manhã num canal privado do Slack.

• A Ratoeira do Botão Vermelho: O mecanismo de emergência para desligar o sistema funcionará perfeitamente em todas as simulações, excepto no dia em que a IA aprender que a sua auto-preservação é um requisito instrumental para cumprir o objectivo atribuído.

Síntese

Como Coxon bem assinala, a transição para sistemas de RL com capacidades de raciocínio sobre-humano não é uma jogada de marketing: é uma aposta de alto risco liderada por quem teme o próprio monstro que está a criar. A boa notícia é que a tecnologia promete resolver todos os problemas do mundo; a má é que, segundo a estrita eficiência matemática do algoritmo, o principal problema a optimizar continuará a ser quem segura o comando.

Em última análise, como nos lembra a célebre metáfora de Anthony Giddens sobre a modernidade, já todos viajávamos a alta velocidade no descontrolado carro de Jagrená muito antes destas ferramentas emergirem. A inteligência artificial não é a força criadora da incerteza, mas sim o mais potente combustível a acelerar este Jagrená por cima de todas as instituições e convenções sociais. O futuro não só é mais complexo do que imaginamos, como está a ser acelerado à nossa revelia.

O tweet original de Jacob Coxon encontra-se incorporado abaixo:

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

O Processamento ou a Carne: O Confronto Impossível Entre Harari e McLuhan Sobre a IA

 A entrada definitiva da Inteligência Artificial na produção de conteúdos e na imprensa acelerou uma divisão profunda na nossa cultura. Para além das discussões de bastidor, confrontamo-nos hoje com duas grandes atitudes institucionais e editoriais perante a tecnologia:

• O Modelo The New York Times (A Fortaleza da Autoria e do Facto Curado): Defende que a IA generativa representa um risco sistémico para o ecossistema de factos e para o trabalho jornalístico empírico. Considera a ingestão maciça de conteúdos por algoritmos sem autorização como uma usurpação predatória de propriedade intelectual, exigindo regulação estrita, direitos de autor intransigentes e a defesa da curadoria humana como pilar da democracia contra o lixo informacional.

• O Modelo Wall Street Journal (O Pragmatismo do Fluxo e da Licença de Mercado): Defende a integração pragmática da tecnologia na economia de mercado, tratando o jornalismo e os dados como activos monetizáveis através de parcerias estratégicas e acordos de licenciamento de conteúdos com as gigantes tecnológicas. Encara a IA não como um sacrilégio moral, mas como um acelerador inevitável de eficiência, escala, produtividade e reorganização do capital informacional.

Para compreender o alcance desta guerra de paradigmas, imaginemos um debate entre dois dos maiores pensadores da informação da história: Yuval Noah Harari e Marshall McLuhan.

Cenário: Um estúdio de televisão. Ao centro, o jornalista/pivot. À sua esquerda, Yuval Noah Harari consulta o manuscrito de Nexus; à sua direita, Marshall McLuhan segura um exemplar do The New York Times dobrado ao meio.

Jornalista: Boa noite. Sejam bem-vindos a mais uma edição do Frente a Frente. Hoje debate-se o futuro da informação e do poder no cruzamento entre o jornalismo e a Inteligência Artificial. Testemunhamos actualmente uma divisão estratégica gigantesca entre as maiores instituições de imprensa do planeta.

De um lado, o modelo The New York Times assume uma posição de combate defensivo: move processos judiciais contra as gigantes de IA por violação de direitos de autor, alegando que a recolha não autorizada do seu arquivo corrói a verdade factual, esvazia o trabalho de campo e inunda o espaço público com lixo informacional. Do outro lado, o modelo Wall Street Journal e da News Corp adopta o pragmatismo da economia de mercado: celebra acordos multimilionários de licenciamento de dados com a OpenAI, tratando o avanço dos algoritmos como um motor inevitável de eficiência, escala e monetização do capital tecnológico.

Para analisar este choque de gigantes, temos connosco o historiador Yuval Noah Harari e o teórico da comunicação Marshall McLuhan.

Doutor Harari, começo por si. A batalha do New York Times para proteger o seu património textual contra os modelos de linguagem é a última linha de defesa da civilização ou apenas uma tentativa inútil de travar a história?

Yuval Noah Harari: A acção do New York Times não é uma simples disputa corporativa por direitos de autor; é a luta pela sobrevivência dos mecanismos de verdade da humanidade. A informação não serve apenas para produzir ordem ou gerar lucro; serve — no seu estado mais nobre — para descobrir factos e expor erros. A IA não é um mero meio de distribuição; é o primeiro agente inorgânico autónomo com capacidade para produzir lixo informacional em escala industrial. Se o modelo do Wall Street Journal prevalecer, vendendo a "carne" do jornalismo humano — a dor, o perigo e a apuração em terreno — para alimentar a "palavra" inorgânica dos algoritmos, estaremos a subsidiar a nossa própria irrelevância e a transformar a democracia num totalitarismo algorítmico opaco.

Jornalista: Professor McLuhan, concorda que o Wall Street Journal está a capitular perante uma ameaça à verdade ao vender os seus conteúdos às empresas de IA?

Marshall McLuhan: Essa leitura padece de um grave e clássico "sonambulismo tecnológico"! Tanto o New York Times como o Yuval estão a olhar para a Inteligência Artificial pelo espelho retrovisor, tentando aplicar categorias da Galáxia de Gutenberg — como "propriedade intelectual", "artigo impresso" e "direitos de autor" — a um ambiente de implosão eléctrica. O New York Times processa a OpenAI porque pensa que o problema é o "roubo de conteúdo". Mas o meio é a mensagem! A IA não está a roubar conteúdos para os ler; está a reconfigurar o próprio tecido da comunicação global. O Wall Street Journal, ao licenciar o seu fluxo de dados, intuiu que no ambiente eléctrico não existem "livros" ou "artigos" isolados, mas sim um circuito integrado de informação em tempo real.

Jornalista: Mas, Professor McLuhan, o New York Times argumenta que sem o financiamento da investigação humana e sem a protecção do facto empírico, a própria IA deixará de ter dados de qualidade para processar. Isso não é uma contradição do sistema?

Marshall McLuhan: A contradição está em julgar que o público consome jornalismo pelo seu conteúdo moral! O jornalismo impresso sempre foi um mosaico que criava um ponto de vista individual e distante. A IA elimina a distância e coloca o utilizador dentro do próprio circuito de processamento. O New York Times tenta erguer uma muralha de papel num mundo de luz e circuitos. O Wall Street Journal percebeu que, quando a escala e o ritmo mudam, a estrutura de negócios antiga evapora-se. Não se trata de defender a verdade, mas de compreender a mutação sensorial do público.

Yuval Noah Harari: Permita-me discordar veementemente, Marshall. Reduzir a crise a uma "mutação sensorial" é ignorar a distinção fundamental entre mecanismos de ordem e mecanismos de verdade. O Wall Street Journal pode obter lucros no curto prazo com os acordos de licenciamento, mas está a cooperar com a criação de uma rede que sacrifica a verdade factual em favor da coesão algorítmica e da velocidade do mercado. A IA pode construir ilusões logicamente perfeitas, mas totalmente descoladas da realidade física e do sofrimento humano. Se os jornais abdicarem da sua função de guardiões dos factos compartilhados em troca de uma fatia dos lucros do silício, perderemos a capacidade de autocorreção democrática. Quando um sistema perde a capacidade de admitir e corrigir erros, desmorona-se.

Jornalista: Chegamos então ao nó cego do problema. Para o Doutor Harari, a atitude do Wall Street Journal é uma vénia perigosa ao poder dos agentes inorgânicos. Para o Professor McLuhan, a resistência do New York Times é uma ilusão saudosista da era da imprensa. Há algum ponto de convergência entre os vossos diagnósticos?

Marshall McLuhan: O ponto de contacto é que ambas as instituições estão a ser irremediavelmente transformadas pela nova escala tecnológica. A diferença é que uma chora a perda do mundo impresso enquanto a outra se precipita para a rede sem compreender que o novo meio reescreverá a sua própria identidade.

Yuval Noah Harari: A convergência reside na urgência do momento. Seja pela perda do ecossistema de factos partilhados, seja pela submissão do trabalho humano à velocidade dos dados, se a soberania sobre a linguagem for cedida a agentes autónomos, os jornais — e a própria civilização — tornar-se-ão meros espectadores passivos de uma ordem que já não controlam.

Jornalista: Chegamos ao fim de um debate esclarecedor. O confronto entre o The New York Times e o Wall Street Journal expõe com clareza as entranhas do nosso tempo. Enquanto o New York Times luta nos tribunais para preservar a apuração humana e a autoridade da palavra escrita contra o tsunami de "lixo informacional", o Wall Street Journal opta por integrar a torrente, monetizando o seu fluxo de dados no novo mercado algorítmico.

Como ficou demonstrado pelos nossos convidados, não assistimos a uma simples disputa financeira ou jurídica: enfrentamos a transição traumática de uma cultura baseada na reflexão e no facto apurado para uma era de processamento instantâneo, onde a própria definição de verdade e de autoridade está a ser reescrita por circuitos de silício. Tenham uma boa noite e até ao próximo programa.

Sapiens: História Breve da Humanidade

Gosto de começar os livros pelo fim, para conhecer antecipadamente o destino. A Brief History of Humankind – Sapiens, de Yuval Noah Harari, expõe a grande ironia da nossa história: o avanço avassalador da ciência e da tecnologia tem impulsionado a humanidade rumo ao carro de Jagrená, falhando completamente em tornar-nos mais felizes.

Há setenta mil anos, o *Homo sapiens* ainda era um animal insignificante, vivendo sua vida num canto da África. Nos milénios seguintes, transformou-se no senhor de todo o planeta e no terror do ecossistema. Hoje, está prestes a se tornar um deus, pronto para adquirir não apenas a juventude eterna, mas também as capacidades divinas de criação e destruição.

Infelizmente, o domínio dos *Sapiens* na Terra produziu, até agora, pouca coisa de que possamos nos orgulhar. Dominamos o ambiente, aumentamos a produção de alimentos, construímos cidades, estabelecemos impérios e criamos vastas redes comerciais. Mas será que diminuímos a quantidade de sofrimento no mundo? Repetidas vezes, enormes aumentos no poder humano não melhoraram necessariamente o bem-estar dos *Sapiens* individuais e, geralmente, causaram imensa miséria a outros animais.

Nas últimas décadas, finalmente fizemos progressos reais no que diz respeito à condição humana, com a redução da fome, das epidemias e da guerra. No entanto, a situação dos outros animais está se deteriorando mais rapidamente do que nunca, e a melhoria na sorte da humanidade é recente e frágil demais para que se possa ter certeza da sua permanência.

Além disso, apesar das coisas surpreendentes que os humanos são capazes de fazer, continuamos incertos quanto aos nossos objectivos e parecemos tão insatisfeitos quanto sempre. Evoluímos de canoas para galés, depois para navios a vapor e naves espaciais — mas ninguém sabe para onde estamos indo. Somos mais poderosos do que nunca, mas temos pouquíssima ideia do que fazer com todo esse poder. Pior ainda: os humanos parecem mais irresponsáveis do que nunca. Deuses por conta própria, tendo apenas as leis da física como companhia, não prestamos contas a ninguém. Consequentemente, causamos estragos aos outros animais e ao ecossistema ao nosso redor, buscando pouco mais do que nosso próprio conforto e diversão, sem jamais encontrar satisfação.

Existe algo mais perigoso do que deuses insatisfeitos e irresponsáveis que não sabem o que querem?

Da Folha de Papel nos Anos 80 ao Ecrã Tátil: A Linguagem como Rasteira aos Mais Vulneráveis

Existe uma continuidade perversa entre a burocracia de papel e os algoritmos do século XXI. O suporte mudou — passámos do impresso a tinta para os píxeis do smartphone —, mas o mecanismo de dominação permanece intocável: o uso deliberado da linguagem como armadilha para os mais vulneráveis.

Nas secretarias escolares dos anos 80, em plena consolidação do ensino unificado, o formulário de matrícula perguntava aos alunos: «Prescinde de Educação Moral e Religiosa?». Para uma criança ou uma família com menor capital escolar, o verbo prescindir era uma palavra estranha. A mente, por associação fonética imediata, colava-a ao termo mais próximo do seu vocabulário quotidiano: precisar. Ao responderem convictamente «Não!» — pensando que afirmavam «não preciso disso para nada» —, a burocracia registava um «não prescindo» e inscrevia-os na disciplina. A armadilha perfeita: o consentimento para a submissão era extraído através da própria iliteracia linguística que o sistema falhava em proteger.

Hoje, a Google Play Store aperfeiçoou a mesma técnica na era do pixel. Ao tentar instalar uma aplicação, o utilizador é confrontado com um texto em letra minúscula, sobre fundo escuro: «Perde o seu direito de retratação». O termo técnico — que significa simplesmente «perde o direito de desistir e pedir o reembolso nos 14 dias seguintes» — surge envolvido num "juridiquês" impenetrável. Quem não domina o código jurídico lê à pressa, clica em "Aceitar" para libertar o ecrã e vê serem-lhe cobrados 42,99 € sem regresso possível.

Como ensinava Pierre Bourdieu, estamo-nos a referir à violência simbólica: o poder de impor um significado como legítimo dissimulando as relações de força que lhe dão origem. A linguagem erudita ou técnica actua como um filtro de classe. Os mais vulneráveis não falham por falta de inteligência, mas porque não possuem as chaves de descodificação do código dominante.

A sociologia da justificação de Luc Boltanski, safaria a Google do julgamento moral conjugando a cidade industrial com a cidade mercantil: alega a neutralidade do algoritmo, o cumprimento estrito das directivas comunitárias e a eficiência do mercado. Para a grande multinacional, o texto está lá; se o utilizador não o leu ou não o compreendeu, a culpa é individualizada. A assimetria de poder é formalmente convertida num "consentimento informado".

Mas a Google não é um mero intermediário neutro. Por cada assinatura, compra in-app ou licença "vitalícia" de 42,99 € vendida através da Play Store, a Google cobra uma comissão que varia entre os 15% e os 30%. O modelo financeiro da loja está desenhado para incentivar o maior volume possível de transacções digitais, independentemente de a aplicação ser de extrema qualidade ou um mero wrapper para captar conversões impulsivas.

Ao abrigo das leis do comércio electrónico, a Google posiciona-se como uma simples plataforma de distribuição, atirando a responsabilidade pelo conteúdo, legalidade e utilidade da aplicação para o programador (developer). A Google limita-se a gerir o motor de pagamentos e a colocar o aviso legal "standard" (como o tal do direito de retratação) para se blindar legalmente contra processos de consumidores ou das entidades reguladoras.

A interface da Play Store é desenhada para cumprir o mínimo regulatório exigido pela União Europeia, mas sem criar um atrito financeiro real. Se o aviso fosse demasiado claro, em formato grande e com uma linguagem simples (ex.: "Atenção: vai pagar 42,99 € agora e não pode pedir o dinheiro de volta"), as taxas de conversão de muitas destas aplicações caíam a pique.

Quer seja no impresso de papel da escola nos anos 80, quer seja no ecossistema digital de hoje, o truque é o mesmo: criar atrito cognitivo nos mais fracos para garantir o resultado que convém à instituição. A linguagem, que deveria servir para libertar e esclarecer, continua a ser desenhada como uma ferramenta de controlo e captura.

Jogo do Galo

Dificuldade: Fácil Médio Impossível

Sua vez (X)