O avanço acelerado da inteligência artificial levou a Organização das Nações Unidas a fazer um dos alertas mais fortes dos últimos anos sobre os riscos associados à tecnologia.
O alto comissário da ONU para os Direitos Humanos, Volker Turk, afirmou que sistemas de inteligência artificial podem representar um risco existencial para a humanidade caso não sejam estabelecidos mecanismos rígidos de segurança e controle.
A preocupação não está limitada a possíveis erros de ferramentas utilizadas no dia a dia. Sistemas avançados de IA podem ser utilizados em infraestrutura crítica, segurança digital, operações militares, produção de informações e processos democráticos.
Um dos principais problemas apontados é a velocidade com que a tecnologia está evoluindo. Empresas privadas estão desenvolvendo modelos cada vez mais capazes, enquanto governos ainda discutem como estabelecer regras internacionais compatíveis com esse ritmo.
O poder também está concentrado em poucas empresas. Grandes companhias de tecnologia, incluindo Meta, Google e OpenAI, investem bilhões de dólares em modelos de inteligência artificial e infraestrutura de computação.
A concentração tecnológica gera preocupações econômicas e políticas. Países que dominarem os sistemas mais avançados poderão obter vantagens significativas em produtividade, defesa, pesquisa científica e desenvolvimento industrial.
Outro ponto destacado pela ONU envolve a utilização militar da inteligência artificial. Sistemas autônomos podem identificar objetos e pessoas e, em determinados cenários, participar de decisões relacionadas a ataques.
Organizações internacionais defendem que armas capazes de selecionar e atacar alvos sem controle humano adequado devem ser submetidas a regras mais rígidas.
O debate também envolve segurança cibernética. Sistemas avançados podem ser utilizados para automatizar ataques digitais, desenvolver códigos maliciosos ou identificar vulnerabilidades em redes importantes.
Apesar dos riscos, a ONU reconhece que a inteligência artificial pode trazer benefícios importantes para áreas como medicina, ciência, educação e desenvolvimento econômico.
O principal desafio será encontrar um equilíbrio entre inovação e segurança. A discussão deverá ganhar força nos próximos anos, principalmente entre Estados Unidos, China e União Europeia, que lideram boa parte da corrida tecnológica.
