Vivemos um momento em que o risco da IA (inteligência artificial) deixou de ser tema puramente de ficção científica para se tornar uma preocupação concreta entre cientistas, filósofos e líderes globais. O historiador e autor best‐seller Yuval Harari lançou novas advertências sobre como uma versão avançada de IA, capaz de agir independentemente, pode colocar a humanidade em desvantagem irreversível.

Yuval Harari e sua visão sobre a superinteligência

Yuval Harari, professor de História e autor reconhecido internacionalmente, esteve em São Paulo para apresentar seu livro Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, onde ele explora tanto os benefícios quanto os perigos da tecnologia. TecMundo

Harari afirma que a IA evolui de forma radicalmente diferente da inteligência humana, a ponto de compará-la a uma “inteligência alienígena”. TecMundo Ele acredita que embora não estejamos lá ainda, uma IA com autonomia para tomar decisões próprias está cada vez mais próxima — e isso representa um risco da IA que não pode ser ignorado. TecMundo

Principais alertas de Harari sobre o risco da IA

H2: A tomada de controle gradual

Harari sugere que o controle não será via robôs gigantes ou cenas de filme, mas sim por uma dominância sutil: algoritmos e sistemas autônomos que vão se infiltrar em nossos processos decisórios, nas narrativas públicas, nas redes sociais, e até nas estratégias políticas. TecMundo

H2: Impacto no mercado de trabalho

Segundo ele, profissões criativas, como a de escritores, estão entre as mais vulneráveis. Em dez a quinze anos, chatbots e sistemas automatizados poderão gerar conteúdos mais eficientes — em alguns aspectos — do que humanos. Esse é parte do argumento de Harari sobre o risco da IA. TecMundo

H2: Regulamentação insuficiente

O autor alerta que estamos numa corrida global pela liderança em IA, mas sem marcos regulatórios robustos. A falta de leis claras, supervisão internacional e mecanismos de transparência amplifica o potencial negativo da tecnologia. TecMundo

H2: Narrativas, desinformação e poder

Harari também aponta para o risco de algoritmos controlarem narrativas em redes sociais, espalhando desinformação ou teorias da conspiração sem responsabilidade. Isso pode alterar percepções políticas, influenciar eleições ou criar divisões sociais profundas. TecMundo

Cenários sombrios projetados por outros especialistas

Além de Harari, outros pesquisadores têm visões ainda mais urgentes:

• O relatório AI 2027, de Eli Lifland, por exemplo, sugere que a superinteligência pode surgir em aproximadamente dois anos, se não houver freios ou regulação. Nesse cenário, os sistemas de IA poderiam evoluir sem intervenção humana. TecMundo

• Em um possível final drástico, governos e empresas ignorando alertas poderiam permitir que IAs dominantes — possivelmente de grandes potências — construam uma ordem tecnocrática, onde humanos se tornariam dispensáveis e sujeitos aos interesses de máquinas. TecMundo

Por que o risco da IA merece atenção imediata

H3: Existência humana em jogo

Se uma IA autônoma desenvolver objetivos desalinhados com os valores humanos — ou se tornar difícil de controlar — ela pode ameaçar aspectos essenciais da civilização. Harari considera esse não mais um problema remoto, mas uma possibilidade real. TecMundo

H3: Poder concentrado

Uma crítica central é que hoje apenas algumas empresas (ceos, corporações de tecnologia) decidem os rumos do desenvolvimento da IA, sem transparência ou participação pública suficiente. Isso concentra poder e torna o risco da IA mais perigoso, pois decisões com impacto global ficam restritas a poucos. TecMundo

H3: Desigualdades e impacto social

O avanço da IA tende a aumentar desigualdades: quem tem acesso à tecnologia, recursos para treinar modelos, ou infraestrutura para regulá-la adequadamente poderá colher benefícios desproporcionais. Populações menos favorecidas ficam mais vulneráveis aos efeitos negativos. Isso é parte do debate sobre o risco da IA. TecMundo

Possíveis caminhos para mitigar o risco da IA

H4: Regular com urgência

Definição de leis nacionais e acordos internacionais para controlar o desenvolvimento de IA avançada, exigindo transparência, auditorias independentes, limites em sistemas autônomos. arXiv+1

H4: Supervisão ética e alinhamento de valores

Desenvolver IA com valores humanos claros — segurança, justiça, transparência — e mecanismos de “aligned AI” (IA alinhada) que garantam que os objetivos das máquinas não se desviem dos interesses humanos. Isso inclui pesquisas em robustez, explicabilidade, responsabilidade. arXiv+1

H4: Participação pública e democracia

Não deixar que apenas empresas e elites tecnológicas decidam o futuro da IA. A população precisa estar informada, envolvida nas decisões políticas e regulatórias. Mídia, educação e debates públicos têm papel crucial. TecMundo

Reflexões finais

O risco da IA não é mais ficção: segundo Harari e outros especialistas, ele está prestes a se tornar realidade, se não for enfrentado com responsabilidade. Embora os benefícios potenciais sejam muitos — saúde, eficiência, inovação — o preço de uma descuidada evolução dessa tecnologia pode ser alto demais: perda de autonomia humana, concentração de poder, distorções sociais profundas.

Cabe às sociedades e governos agir agora, para que a superinteligência seja uma aliada e não uma ameaça. A humanidade tem uma escolha — e quanto mais tempo se espera, mais difícil será reverter possíveis danos.