Yuval Noah Harari alerta sobre os perigos da inteligência artificial em seu novo livro

Postado em: 26/08/2024 | Por: Emerson Alves

Em seu novo livro, “Nexus: A Brief History of Information Networks”, Yuval Noah Harari, autor de “Sapiens”, alerta que a inteligência artificial (IA) pode ser um poder incontrolável, com potencial para ameaçar a democracia e dividir o mundo.

O escritor e historiador Yuval Noah Harari, conhecido por suas obras que exploram a história e o futuro da humanidade, emite um aviso preocupante em seu novo livro, “Nexus: A Brief History of Information Networks”. Harari compara a inteligência artificial (IA) a poderes que a humanidade não pode controlar, sugerindo que essa tecnologia pode ter consequências devastadoras se não for adequadamente gerida.

Leia também: Inteligência Artificial: A importância de saber usá-la estrategicamente.

O perigo de invocar poderes incontroláveis

Harari faz uma analogia entre a IA e as antigas fábulas que alertam sobre os riscos de adquirir poderes que estão além do controle humano. Ele menciona histórias como o “Aprendiz de Feiticeiro” de Goethe e o mito grego de Faetonte, onde personagens ganham poderes que não sabem manejar, resultando em caos e destruição. Para Harari, essas histórias são mais relevantes do que nunca no século 21, à medida que a humanidade continua a desenvolver tecnologias como a IA sem compreender totalmente suas implicações.

“Nunca invoque poderes que não pode controlar” é o conselho central de Harari, que acredita que a IA, com seu potencial de alterar profundamente as estruturas sociais e políticas, representa um desses poderes perigosos. Ele argumenta que já desequilibramos o clima da Terra e agora estamos trazendo à existência “espíritos algorítmicos” que podem fugir ao nosso controle.

IA: Uma inteligência alienígena

Harari propõe que, em vez de pensar em IA como “inteligência artificial”, talvez devêssemos considerá-la como “inteligência alienígena”. Ele sugere que a IA está evoluindo em uma direção que não imita a inteligência humana, mas sim desenvolve um tipo de inteligência completamente diferente e potencialmente incompreensível para nós. Essa “inteligência alienígena” poderia tomar decisões e criar ideias que escapam à nossa compreensão e controle.

Ao contrário de outras tecnologias, que sempre foram ferramentas ao serviço humano, Harari alerta que a IA pode se tornar um agente autônomo, capaz de tomar decisões independentes. Ele menciona exemplos como drones autônomos que podem decidir quem matar, ou IAs que podem criar novos designs de bombas e estratégias militares sem precedentes. Essa capacidade de agir por conta própria torna a IA uma ameaça sem precedentes à humanidade.

Excesso de informação e o risco existencial

Harari também aborda o impacto da IA na disseminação de informações. Nas últimas gerações, houve um aumento exponencial na quantidade e velocidade de produção de informações. No entanto, esse excesso de informação, longe de esclarecer, pode levar a humanidade a um estado de desorientação e conflito. A competição entre corporações e governos para desenvolver a tecnologia de informação mais poderosa, incluindo a IA, poderia resultar em uma crise global de confiança e governança.

O autor critica a visão otimista de alguns empresários, como Marc Andreessen, que acreditam que a IA resolverá todos os problemas da humanidade. Ele contrapõe essa visão com a de outros especialistas, como Elon Musk e Sam Altman, que alertam para os perigos existenciais que a IA representa. Para Harari, a verdadeira ameaça da IA não está em cenários apocalípticos de Hollywood, mas na criação de novos agentes poderosos que não compreendemos totalmente.

Reflexão sobre o futuro da IA

Yuval Noah Harari nos convida a refletir sobre o futuro da inteligência artificial e os desafios que ela impõe à nossa sociedade. Ele nos lembra que o poder que a IA representa deve ser tratado com extrema cautela, pois estamos entrando em um território desconhecido onde as consequências de nossas ações podem ser irreversíveis.

O livro “Nexus: A Brief History of Information Networks” será lançado em 10 de setembro, e promete aprofundar ainda mais essas discussões, oferecendo uma análise crítica do impacto da IA e das redes de informação na sociedade contemporânea.

SEO

URL slug: yuval-noah-harari-alerta-inteligencia-artificial-incontrolavel

Descrição: Em seu novo livro, Yuval Noah Harari alerta que a inteligência artificial pode se tornar um poder incontrolável, com potencial para ameaçar a democracia e a sociedade.

Categoria: Tecnologia

Tags: Yuval Noah Harari, Inteligência Artificial, Tecnologia, Democracia, Nexus, Sapiens