Este é o resumo do artigo de 10 páginas que tem por objetivo apresentar as ameaças da Inteligência Artificial (IA) contra a humanidade e as estratégias necessárias visando sua superação. Inteligência artificial (IA) é uma tecnologia computacional ou um conjunto de tecnologias como redes neurais artificiais, algoritmos e sistemas de aprendizado cujo objetivo é imitar capacidades mentais humanas, tais como: raciocínio, percepção de ambiente e capacidade de tomada de decisão. A tecnologia da IA é desenvolvida com o intuito de que máquinas possam resolver uma série de problemas, abordando desde a grande complexidade de gestões governamentais e da indústria às tarefas do cotidiano do homem e mulher modernos. Para isso, a IA utiliza uma sofisticada tecnologia de aprendizado, permitindo que ela aprenda com um grande conjunto de dados e atue por conta própria. O objetivo geral da IA é criar máquinas que possam operar com o mesmo nível de capacidade cognitiva dos humanos, ou até superá-lo. Nos últimos anos, a IA emergiu como uma força transformadora em vários setores, revolucionando a forma como as empresas conduzem seus negócios.
A inteligência artificial (IA) é uma tecnologia transformadora com potencial para revolucionar diversos setores, mas também apresenta riscos significativos nos âmbitos político, econômico e social. O uso da inteligência artificial (IA) traz ganhos relevantes para a sociedade, mas também envolve riscos políticos, econômicos e sociais que precisam ser cuidadosamente administrados. É provável que os cérebros artificiais operados com base na IA superarão a inteligência dos cérebros humanos em 2050 com o advento da Superinteligência Artificial quando, então, esta nova superinteligência pode se tornar muito poderosa. O destino da humanidade se tornaria, portanto, dependente das ações destas máquinas superinteligentes. Mesmo que a Superinteligência Artificial produza benefícios para a humanidade, há o risco de que ela seja mais utilizada no contexto atual para o mal e não para o bem da humanidade.
Os principais riscos e problemas relacionados com o uso da inteligência artificial são: 1) Ameaças existenciais da humanidade com a perda de controle humano sobre sistemas avançados operados com IA; 2) Militarização da IA e o desencadeamento de guerras autônomas; 3) Desemprego estrutural em massa com a robotização com IA das atividades econômicas; 4) Ameaças à democracia com a manipulação cognitiva da população e seu controle social com IA; 5) Vigilância total da população com o uso da IA e fim da privacidade dos indivíduos; 6) Dependência excessiva da IA pela população; 7) Concentração de poder tecnológico por poucas empresas detentoras de IA; 8) Exclusão digital de grande parte da população de acesso à IA; 9) Comprometimento da segurança digital com o uso de IA; 10) Risco de instabilidade financeira global com o uso de IA; e 11) Ausência de Governança Global para neutralizar os riscos do uso da IA.
Os principais riscos e problemas relacionados com o uso da inteligência artificial e as estratégias necessárias para superá-los estão descritos a seguir:
1. Ameaças existenciais da humanidade com a perda de controle humano sobre sistemas avançados operados com IA
Crescente transferência de decisões críticas para máquinas impede que haja o poder de escolha das pessoas. Sistemas de IA superinteligentes podem desenvolver objetivos próprios desalinhados dos valores humanos. Para neutralizar as ameaças existenciais da humanidade com a perda de controle humano sobre sistemas avançados operados com IA, é preciso que os governos adotem limites técnicos à autonomia de sistemas de IA, estabeleçam mecanismos de controle e supervisão humana contínua sobre sistemas avançados, façam auditorias obrigatórias e exijam certificação de segurança das empresas de tecnologia, bem como estabeleçam a proibição internacional de IAs totalmente autônomas em áreas sensíveis. É preciso, também, que existam padrões internacionais de segurança que possam ser avaliados continuamente.
2. Militarização da IA e o desencadeamento de guerras autônomas
Governantes das grandes potências podem se envolver em uma corrida armamentista de IA, acelerando o desenvolvimento de tecnologias com consequências potencialmente prejudiciais para a segurança global. A IA pode reduzir o custo da guerra, aumentando sua frequência e há o risco de que armas autônomas operadas por IA sejam capazes de selecionar e atacar alvos sem intervenção humana. Para neutralizar a militarização da IA e evitar o desencadeamento de guerras autônomas, isto é, sem intervenção humana, é preciso que haja a celebração de tratados internacionais banindo armas letais autônomas e que haja a exigência de haver “humano no comando” para qualquer uso militar da IA e transparência e inspeções internacionais sobre o estoque existente de armas autônomas operadas por IA.
3. Desemprego estrutural em massa com a robotização com IA das atividades econômicas
Automação e robótica inteligentes vão eliminar milhões de empregos, sobretudo em setores de rotina, transporte, serviços e indústria. A automação atingirá também milhões de empregos de profissões intelectuais. Esta situação fará com que haja aumento da desigualdade econômica e social com consequente instabilidade social e política. Para evitar o desemprego em massa, é preciso que os governos proporcionem a renda básica universal ou renda mínima garantida para toda a população, reduzam o tempo destinado à jornada de trabalho, estabeleçam programas massivos de requalificação profissional e tributem os ganhos extraordinários de empresas de tecnologia gerados pela automação para financiar a renda mínima garantida para toda a população. Os governos devem incentivar a adoção de modelos de produção híbridos (humano + IA) em vez da substituição completa dos seres humanos, adotar políticas tributárias justas sobre grandes empresas de tecnologia para financiar programas sociais e de inovação, investir em educação e treinamento para preparar trabalhadores para a economia da IA, expandir programas de STEM (ciência, tecnologia, engenharia, matemática) para preparar a força de trabalho para empregos na economia da IA, investir em educação contínua e capacitação em áreas complementares à IA preparando trabalhadores para novas funções e fortalecer sistemas de proteção social para apoiar trabalhadores em transição com o desenvolvimento de programas de renda mínima básica para populações incapazes de serem absorvidas pelo sistema produtivo.
4. Ameaças à democracia com a manipulação cognitiva da população e seu controle social com IA
Algoritmos e IA podem criar desinformação, fake news e propaganda automatizada, afetando processos democráticos e eleições. A desinformação gerada por IA contribui para a polarização e fragmentação da opinião pública, corroendo a confiança nos processos democráticos e instituições democráticas. Para neutralizar as ameaças à democracia com a manipulação cognitiva e controle social da população com IA, é preciso que os governos criem agências públicas de verificação para exercerem o controle do conteúdo gerado pela mídia e redes sociais, proporcionem educação da população no sentido de se protegerem de manipulação pela mídia e redes sociais desde a escola e estabeleçam exigência de que plataformas que operam redes sociais sejam obrigadas a divulgar o funcionamento básico de seus algoritmos. É preciso que os governos exijam maior transparência algorítmica e que sistemas de IA expliquem suas decisões de forma compreensível, exijam a implementação de protocolos abrangentes de teste antes da implantação de sistemas de IA, estabeleçam mecanismos para prevenir usos maliciosos de tecnologia de IA, mantenham sistemas de supervisão para detectar e corrigir problemas emergentes, proporcionem educação midiática ampla para a população visando preparar cidadãos para identificar fake news, deepfakes e manipulação gerada por IA, impeçam microtargeting e deepfakes nas campanhas políticas, utilizem ferramentas de detecção de desinformação e fortaleçam as defesas contra ataques digitais potencializados por IA.
5. Vigilância total da população com o uso da IA e fim da privacidade dos indivíduos
Governos, organizações políticas e corporações podem usar IA para monitorar cidadãos, ampliando práticas de vigilância em massa e reduzindo as liberdades civis. Para fazer frente à ameaça da vigilância total da população por governos, organizações políticas e corporações com o uso da IA e de fim da privacidade da população, é preciso instituir leis rígidas de proteção de dados e que impeçam a vigilância em massa da população sem ordem judicial. É preciso criar leis que limitem o uso abusivo da IA em vigilância da população, propaganda política e manipulação de opinião pública, estabelecer políticas de responsabilidade legal para danos causados por sistemas de IA e proteger dados pessoais aplicando leis rígidas de privacidade (como a LGPD no Brasil) para limitar coleta e uso indevido de informações.
6. Dependência excessiva da IA pela população
Excesso de dependência da IA pode afetar a forma como pensamos, aprendemos e interagimos socialmente. A confiança exagerada da população em sistemas de IA pode resultar na perda de habilidades humanas, como criatividade e pensamento crítico, além de introduzir vulnerabilidades em sistemas econômicos críticos. Para superar a dependência excessiva da IA pela população, os governos precisam adotar medidas capazes de projetar sistemas que complementem e não substituam a cognição humana, promover programas educacionais focados em pensamento crítico e habilidades humanas e incentivar “inteligência combinada” homem-máquina. Além disso, os governos precisam instruir as pessoas no sentido de: i) Estabelecer limites de uso diário dos dispositivos digitais; ii) Desconectarem completamente dos dispositivos digitais e se concentrarem regularmente em atividades que promovam relaxamento ou aprendizado; iii) Substituírem o uso dos dispositivos digitais por atividades físicas como uma das maneiras mais eficazes de reduzir o uso excessivo de tecnologia; iv) Reforçar interações sociais presenciais em locais onde o uso de dispositivos digitais seja desnecessário; v) Identificar as causas da dependência dos dispositivos digitais de tecnologia para eliminá-las; vi) Criar uma rotina estruturada para trabalho, estudo, lazer e descanso visando combater a dependência dos dispositivos digitais; vii) Desativar notificações desnecessárias nos dispositivos digitais configurando seus aplicativos para enviar notificações apenas para mensagens importantes ou compromissos essenciais; viii) Buscar ajuda profissional, se necessário, de psicólogos e terapeutas especializados em dependências, para oferecerem estratégias específicas para lidar com o problema; e, ix) Usar a tecnologia de forma consciente para equilibrar a vida digital com outras áreas importantes definindo objetivos claros para cada sessão de uso, como responder e-mails ou pesquisar informações específicas, evitando distrações.
7. Concentração de poder tecnológico por poucas empresas detentoras de IA
Países ou corporações que dominam a IA podem impor dependência tecnológica a outras nações, gerando desequilíbrios geopolíticos. O desenvolvimento e controle da IA tendem a estar nas mãos de um pequeno número de grandes corporações e governos, o que pode exacerbar a desigualdade e limitar a diversidade nas aplicações de IA. Para superar o problema da concentração de poder tecnológico por poucas empresas detentoras de IA, é preciso que os governos adotem políticas antitruste globais e incentivem a concorrência aberta em tecnologias de IA, incentivem a adoção de modelos abertos e públicos e o desenvolvimento de IAs estatais e comunitárias, promovam transferência de tecnologia e criem estruturas de governança que garantam acesso equitativo. É preciso criar mecanismos de controle para evitar manipulação de mercado e crises sistêmicas causadas por algoritmos com a constituição de autoridades nacionais e internacionais para monitorar o desenvolvimento e implantação de IA, facilitar os diálogos globais através de organizações como a ONU para estabelecer padrões e práticas que garantam que a IA beneficie a humanidade como um todo, desenvolver normas internacionais harmonizadas para IA através de organizações como ISO, OCDE e ONU, criar fóruns para intercâmbio de conhecimentos e experiências entre países sobre IA, estabelecer acordos para regular a exportação de tecnologias de IA sensíveis e garantir que a IA seja usada em conformidade com os direitos humanos e a Constituição de cada país.
8. Exclusão digital de grande parte da população de acesso à IA
A desigualdade no acesso e na capacidade de usar IA pode marginalizar ainda mais comunidades desfavorecidas, exacerbando divisões sociais existentes. Para superar o problema da exclusão digital da população de acesso à IA, é preciso que os governos promovam o acesso universal da população à conectividade com programas públicos de alfabetização digital, adotem políticas de inclusão digital e de concessão de subsídios para acesso da população a tecnologias essenciais, incentivem a criação de centros comunitários de tecnologia, promovam programas educacionais para ajudar o público a entender e interagir com tecnologias de IA, desenvolvam programas de alfabetização midiática e digital para capacitar as pessoas a criticamente avaliar informações e interagir com tecnologias de IA e combatam a discriminação algorítmica implementando auditorias independentes em sistemas de IA para detectar e corrigir vieses.
9. Comprometimento da segurança digital com o uso de IA
Enquanto empresas, autoridades e pessoas estão explorando formas de usar a IA de forma responsável e segura, há também a ameaça do uso da IA por criminosos cibernéticos para tornar suas atividades maliciosas ainda mais poderosas e bem-sucedidas. Para garantir a segurança digital com o uso de IA, a melhor ferramenta para usar contra ameaças cibernéticas de IA é a própria inteligência artificial. Isso não significa que as soluções de segurança padrão sejam impotentes para impedir ataques suportados por IA porque elas ainda serão capazes de proteger contra muitos tipos de malware e hackers. Com tantas ameaças ao redor, pode ser difícil para as equipes de segurança acompanhar tudo o que está por aí e investigar cada alerta. A IA pode ajudar, analisando detalhadamente o comportamento do usuário e o tráfego de rede, detectando ameaças potenciais mais rapidamente e filtrando os falsos positivos que custam tempo valioso às equipes de segurança. A IA também pode tornar a detecção de ameaças proativa, caçando ciberataques antes mesmo que eles comecem. Os governos deveriam realizar auditorias de segurança, criptografia avançada e padrões ISO de proteção de dados, desenvolver programas de segurança cibernética contínuos e testes de penetração de sistemas com IA e responsabilizar legalmente criadores de IA que negligenciam a segurança digital.
10. Risco de instabilidade financeira global com o uso de IA
Há riscos de instabilidade financeira com o uso de IA em mercados (trading algorítmico, crédito, seguros) que pode criar vulnerabilidades, crises rápidas e difíceis de conter, como ocorreu com a grande recessão global em 2008. Diante do fracasso do neoliberalismo e de sua incapacidade de lidar com a crise global do capitalismo, o Keynesianismo, que defende a intervenção do Estado na economia para garantir o pleno emprego, estimular o consumo e superar crises econômicas, que poderá ser a solução desde que que ele seja aplicado globalmente, isto é, ele operaria no planejamento econômico, não apenas ao nível nacional para obter estabilidade econômica e o pleno emprego dos fatores em cada país, mas também ao nível mundial para eliminar o caos econômico global que predomina atualmente com o neoliberalismo. O Keynesianismo deveria ser adotado, portanto, em cada país e ao nível planetário visando assegurar a estabilidade econômica e o pleno emprego dos fatores globalmente. Com o Keynesianismo global, haveria a coordenação de políticas econômicas Keynesianas em nível planetário que só poderia ser realizada com a existência de um governo mundial. Esta seria a forma de obter a estabilidade da economia mundial para eliminar o caos que caracteriza a globalização neoliberal dominante atualmente em todo o mundo.
11. Ausência de Governança Global para neutralizar os riscos do uso da IA
Há grandes riscos do uso da IA porque cada país desenvolve IA sem coordenação interna e global, bem como por existir uma “corrida” tecnológica que ignora segurança digital. Para neutralizar os riscos do uso da IA, é preciso fazer com que a IA seja utilizada exclusivamente para o bem da humanidade, fato este que torna uma exigência a constituição de um governo mundial para que a IA seja utilizada em prol do progresso da humanidade. A eliminação dos riscos para a humanidade com o uso da IA só será alcançada com a existência de um governo mundial que atuaria para assegurar a coordenação entre as políticas econômicas adotadas em cada país e globalmente. Para eliminar os riscos com o uso da IA, o governo mundial deveria adotar o processo de planejamento Keynesiano da economia que contribua para eliminar a instabilidade e a incerteza com suas turbulências e seus riscos. Para ser eficaz na eliminação dos riscos para a humanidade com o uso da IA, é preciso que exista um governo mundial e que funcione, também, um Estado de direito globalizado. Há a necessidade de um governo democrático mundial que pode ser realizado com a reestruturação da ONU, a transformação da Assembleia Geral da ONU em parlamento mundial e a transformação da Corte Internacional de Haia reestruturada em Suprema Corte Mundial para fazer com que o sistema internacional funcione em benefício de todas as nações, promova o ordenamento da economia mundial e do meio ambiente global, acabe com as guerras e assegure a paz mundial. O Direito Internacional só será respeitado e aplicado com efetividade com a existência de sistema internacional que opere com um governo democrático mundial, um parlamento mundial e uma Suprema Corte Mundial.
Conclusão
Pelo exposto, a Inteligência Artificial (IA) oferece oportunidades transformadoras, mas também apresenta riscos significativos que exigem atenção imediata e coordenada. É crucial que governos, indústria, academia e sociedade civil trabalhem juntos para desenvolver e implementar políticas e estratégias que maximizem os benefícios da IA enquanto evitam seus riscos. A IA deve ser desenvolvida de forma ética (respeitando valores humanos e direitos fundamentais), inclusiva (reduzindo desigualdades, e não ampliando), transparente (explicável e auditável) e sustentável (voltada ao bem-estar coletivo). Os riscos políticos, econômicos e sociais da inteligência artificial (IA) não podem ser eliminados por completo, mas podem ser reduzidos e controlados com ações coordenadas entre governos, empresas, instituições de pesquisa e a sociedade. Em síntese, a IA é uma ferramenta poderosa, mas sem regulação, ética e participação social, ela pode aumentar a concentração de poder, gerar novas formas de exclusão e comprometer valores democráticos com a IA levando a humanidade a dois futuros alternativos:
1. Distopia com desemprego em massa, vigilância total, guerras autônomas e concentração extrema de poder com o fim da democracia.
2. Utopia possível com abundância material, redução do trabalho, avanços médicos, sustentabilidade e libertação do trabalho alienado.
É preciso evitar o futuro de número 1 e buscar a construção do futuro de número 2 em benefício da humanidade.