Principais riscos da adoção da inteligência artificial identificados por pesquisadores do MIT

Postado em: 23/08/2024 | Por: Emerson Alves

Pesquisadores do MIT listam os dez principais riscos associados à adoção da inteligência artificial, destacando a importância da conscientização por empresas e governos.

Com a crescente adoção da inteligência artificial (IA) em diversas áreas, os perigos associados ao uso dessa tecnologia têm se tornado uma preocupação crescente para empresas e governos. Em um estudo recente conduzido por um grupo de dez pesquisadores do Laboratório de Ciência da Computação e Inteligência Artificial (MIT CSAIL), do Instituto de Tecnologia de Massachusetts (MIT), foram identificados 777 riscos relacionados à IA. Esses riscos foram catalogados em um repositório virtual, com o objetivo de alertar para a necessidade urgente de uma abordagem mais cuidadosa e consciente ao implementar a IA em diferentes setores.

Leia também: Ferramenta de Inteligência Artificial que imita expressões humanas viraliza nas redes sociais.

O repositório de riscos da IA

O repositório criado pelos pesquisadores do MIT, com a colaboração de instituições renomadas como a Universidade de Queensland (Austrália), o Instituto Future of Life (EUA), a Universidade Católica de Lovaina (Bélgica) e o Harmony Intelligence (EUA e Austrália), é uma ferramenta destinada a fornecer uma visão abrangente dos potenciais perigos da IA. Segundo Peter Slattery, pós-doutor pelo MIT FutureTech Lab e líder do projeto, o repositório serve para evitar que tomadores de decisão consultem apenas visões fragmentadas e incompletas sobre os riscos da IA.

Slattery destaca que a literatura sobre os riscos da IA está amplamente distribuída em periódicos acadêmicos, pré-impressões e relatórios setoriais, o que pode levar a pontos cegos na tomada de decisões. O repositório do MIT CSAIL visa centralizar essas informações, permitindo uma compreensão mais completa dos riscos associados à IA e incentivando uma abordagem mais cautelosa na adoção dessa tecnologia.

Principais riscos identificados

Entre os 777 riscos catalogados, os pesquisadores destacaram os dez principais, que representam ameaças significativas para as empresas e governos que adotam a IA. Esses riscos foram identificados como mais prevalentes após a implantação da IA (65% dos casos), em comparação ao período de desenvolvimento (10%). Os sistemas de IA foram responsáveis por 51% dos riscos, enquanto 34% foram atribuídos a erros humanos.

• Exposição a conteúdo tóxico: A IA pode gerar ou amplificar a exposição a conteúdos inapropriados ou prejudiciais, especialmente em plataformas digitais.
• Desempenho desigual entre grupos: Algoritmos de IA podem resultar em discriminação ou tratamento desigual de diferentes grupos sociais.
• Comprometimento da privacidade: O uso de IA pode aumentar os riscos de violação de privacidade, especialmente em áreas que envolvem dados pessoais sensíveis.
• Vulnerabilidades e ataques de segurança: Sistemas de IA podem ser alvos de ataques cibernéticos, expondo vulnerabilidades críticas.
• Informações falsas ou enganosas: A IA pode ser utilizada para criar ou disseminar desinformação, impactando a sociedade de diversas formas.
• Poluição do ecossistema de informação e perda da realidade consensual: A disseminação de informações falsas pode comprometer a confiança nas fontes de informação.
• Desinformação, vigilância e influência em grande escala: A IA pode ser usada para manipular opiniões públicas ou realizar vigilância em massa.
• Ataques cibernéticos, desenvolvimento ou uso de armas e danos em massa: IA pode ser empregada em ataques cibernéticos ou na criação de armas autônomas.
• Fraude, golpes e manipulação: A tecnologia pode facilitar fraudes e manipulações de mercado, causando prejuízos financeiros significativos.
• Excesso de confiança e uso inseguro: A confiança cega na IA pode levar a decisões inseguras ou mal informadas, com consequências potencialmente graves.

Adoção global da IA e os riscos ignorados

O uso da inteligência artificial está crescendo rapidamente em todo o mundo. No Brasil, por exemplo, sete em cada dez executivos consideram a IA generativa uma prioridade de investimento para 2024, segundo um levantamento da Bain & Company. Nos Estados Unidos, o índice de uso de IA nas indústrias aumentou em 47% entre setembro de 2023 e fevereiro de 2024, de acordo com o Departamento do Censo dos Estados Unidos.

No entanto, essa rápida expansão do uso da IA está sendo acompanhada de maneira inadequada, com muitas empresas ignorando até 30% dos riscos identificados. Essa falha em abordar os perigos da IA foi apontada por uma avaliação do MIT CSAIL e do MIT FutureTech, que estudam o progresso da computação e suas implicações.

De acordo com Peter Slattery, a compreensão dos riscos, aliada ao uso do repositório desenvolvido, pode ajudar empresas, entidades e órgãos públicos a utilizar a IA de forma mais segura e responsável.