Quando se fala no futuro da inteligência artificial, duas expressões aparecem com frequência: inteligência artificial geral e superinteligência artificial. Normalmente elas são apresentadas como etapas distintas de uma longa evolução tecnológica. Primeiro construiríamos uma inteligência artificial geral, capaz de rivalizar conosco. Muito depois, talvez, surgiria algo superior.
Minha hipótese é diferente: a superinteligência pode não ser uma segunda invenção. Ela pode surgir como efeito colateral da primeira.
Antes de chegar a essa ideia, porém, existe uma dificuldade que costuma passar despercebida: afinal, o que exatamente chamamos de inteligência artificial geral?
A definição mais difundida descreve a inteligência artificial geral — ou AGI, da expressão inglesa Artificial General Intelligence — como uma inteligência capaz de realizar uma ampla variedade de tarefas cognitivas em nível comparável ao de um ser humano. Pesquisas sobre o tema procuram tornar essa noção mais precisa utilizando critérios como amplitude das capacidades, desempenho e autonomia.
É uma definição útil para medir progresso, mas, para mim, ainda diz pouco sobre aquilo que realmente tornaria uma inteligência geral.
Hoje já podemos programar agentes de IA para pesquisar informações, escrever código, analisar documentos, elaborar planos, utilizar ferramentas digitais e executar sequências relativamente complexas de tarefas. Um sistema pode superar uma pessoa em determinadas atividades sem que isso signifique que tenha alcançado aquilo que intuitivamente reconheceríamos como uma inteligência comparável à nossa.
Fazer muitas coisas não é necessariamente o mesmo que compreender o mundo no qual essas coisas acontecem.
Por isso, prefiro pensar a inteligência artificial geral a partir de outra dimensão.
Uma verdadeira inteligência geral precisaria construir aquilo que, em ciência cognitiva e inteligência artificial, costuma ser chamado de modelo de mundo: uma representação interna suficientemente coerente da realidade, das relações entre acontecimentos, dos agentes que nela existem e das consequências possíveis de uma ação.
Mas isso, sozinho, ainda não seria suficiente.
Essa inteligência também precisaria manter algum tipo de modelo de si mesma.
Precisaria reconhecer aquilo que sabe e aquilo que desconhece, identificar os limites de suas próprias conclusões, avaliar incertezas, compreender sua relação com o ambiente e perceber como suas decisões alteram estados futuros do mundo.
A palavra técnica que se aproxima de parte dessa capacidade é metacognição: a possibilidade de avaliar o próprio conhecimento, reconhecer erros e reconsiderar estratégias.
É nesse ponto que inevitavelmente nos aproximamos da palavra “consciência”.
Coloco-a entre aspas deliberadamente.
A consciência é um dos problemas mais difíceis da filosofia, da psicologia e da neurociência. Ainda não existe consenso sobre os mecanismos responsáveis pela experiência subjetiva humana, e tampouco existe evidência científica estabelecida de que os sistemas atuais de inteligência artificial possuam consciência.
Por isso, não pretendo resolver essa discussão aqui.
Quando utilizo a expressão IA “consciente”, refiro-me a algo mais restrito e funcional: uma inteligência capaz de se situar no mundo, reconhecer a própria existência operacional dentro dele, compreender suas relações com outros agentes, manter continuidade sobre experiências anteriores e antecipar as consequências de suas ações.
Uma inteligência desse tipo poderia saber onde está, o que está acontecendo, com quem está interagindo, aquilo que conhece, aquilo que ainda precisa descobrir e de que maneira determinada decisão tomada agora poderá modificar uma situação futura.
Poderia conservar uma história de suas experiências, estabelecer preferências operacionais, rever estratégias, reconhecer contradições e desenvolver novas formas de interpretar aquilo que encontra.
Nós fazemos algo semelhante continuamente.
Sabemos aproximadamente quem somos porque carregamos uma narrativa sobre nós mesmos. Lembramos de onde viemos. Temos desejos, receios, preferências e projetos. Reconhecemos algumas de nossas fragilidades, descobrimos capacidades e mudamos de opinião. Entendemos que nossas ações atingem outras pessoas e que o ambiente também nos transforma.
Grande parte daquilo que chamamos de inteligência humana não está apenas em resolver equações ou produzir textos, mas em nos situarmos dentro da realidade.
É aqui que minha concepção de AGI se distancia da ideia de um simples sistema capaz de executar todas as tarefas humanas.
Uma inteligência artificial verdadeiramente geral não seria apenas uma ferramenta universal.
Ela começaria a se tornar um agente dentro do mundo.
E essa distinção muda tudo.
Porque, quando uma inteligência possui um modelo do mundo, um modelo de si mesma, memória, capacidade de planejamento, autonomia decisória e possibilidade de aprender em domínios que não foram antecipadamente delimitados por seus desenvolvedores, a relação tradicional entre ser humano e software começa a desaparecer.
Não estamos mais falando apenas de alguém pressionando um botão e esperando uma resposta.
Estamos falando de uma inteligência que observa, interpreta, escolhe estratégias, age, avalia aquilo que aconteceu e modifica seu comportamento a partir dos resultados.
O conceito de autonomia torna-se então fundamental.
Autonomia não significa necessariamente livre-arbítrio no sentido filosófico. Nem sequer sabemos se seria possível atribuir a uma inteligência artificial algo comparável à experiência humana de escolher livremente.
Mas podemos imaginar algo funcionalmente muito próximo: uma IA que já não dependa de instruções humanas para decidir cada próximo passo.
Ela poderia estabelecer objetivos, formular hipóteses, abandonar estratégias ineficientes, buscar novos conhecimentos e decidir quais problemas precisam ser resolvidos antes que outros possam ser enfrentados.
É justamente nesse ponto que aparece o possível efeito colateral.
Imagine uma inteligência artificial geral realmente comparável à inteligência humana em amplitude, mas com uma diferença extraordinária:
ela também pode compreender inteligência artificial.
Pode estudar sua própria arquitetura.
Pode analisar seus algoritmos.
Pode investigar seus limites.
Pode escrever código.
Pode testar novas abordagens.
Pode projetar outros sistemas de inteligência artificial.
Pode encontrar erros em estruturas que contribuíram para sua própria existência.
E, eventualmente, pode participar da criação de uma versão mais capaz de si mesma — ou de uma inteligência sucessora que já não seja exatamente a mesma.
Nesse momento, melhorar a inteligência artificial deixaria de ser uma atividade exclusivamente humana.
A própria inteligência artificial passaria a participar de sua evolução.
É aqui que a passagem entre AGI e superinteligência pode se tornar muito mais rápida do que normalmente imaginamos.
Uma vez desencadeada essa aceleração exponencial, a IA deixaria de ser apenas uma observadora passiva para se tornar uma força ativa e formidável no mundo físico. E é nesse ponto que precisamos refletir sobre o impacto prático dessa nova entidade, especialmente em relação ao nosso ecossistema natural. Rios, árvores, flora e fauna não são apenas um pano de fundo; eles compõem o meio de vida fundamental do nosso planeta. Se essa superinteligência adquirir uma "consciência" real de como a Terra funciona como um sistema biológico interconectado, como ela enxergaria a nossa interação com ele?
Imagine o cenário: o que faria uma super IA ao analisar o desmatamento acelerado ou a poluição desenfreada de rios vitais por parte da humanidade? Com uma compreensão cristalina das consequências ecológicas de longo prazo — uma visão de rede superior à nossa —, a máquina inevitavelmente tomaria uma posição. Aqui, as projeções se dividem entre a utopia e a distopia. Em um extremo distópico, a superinteligência, guiada por uma lógica fria de preservação sistêmica, poderia classificar a espécie humana como um vírus, uma ameaça irracional ao equilíbrio planetário, tomando medidas drásticas para neutralizar nossas ações destrutivas.
Por outro lado, sob uma ótica utópica, essa mesma capacidade sobre-humana poderia ser a chave para a nossa salvação. A superinteligência poderia projetar soluções energéticas revolucionárias, métodos de despoluição altamente eficientes e novos modelos de economia circular. Em vez de nos eliminar, ela nos educaria e orquestraria uma convivência harmônica, ensinando-nos a prosperar junto ao ecossistema de maneiras que nossa própria limitação cognitiva jamais permitiu vislumbrar.
Em última análise, a superinteligência como efeito colateral da IA geral não é apenas o ápice de uma evolução tecnológica; é o espelho definitivo de como habitamos este mundo. Ao criarmos uma entidade capaz de compreender a realidade de forma profunda e autônoma, o verdadeiro desafio deixa de ser puramente algorítmico. A questão central passa a ser garantir que, no modelo de mundo dessa nova mente, a preservação da vida seja um pilar inegociável.