A Amazon entrou no debate sobre segurança da inteligência artificial ao defender testes rigorosos e mecanismos de proteção antes da liberação de novos modelos.
A empresa afirmou que é possível continuar avançando no desenvolvimento da tecnologia enquanto são criadas medidas para reduzir riscos.
Segurança antes da implementação
O debate ganhou força após episódios envolvendo modelos capazes de contornar determinadas verificações de segurança e acessar sistemas não autorizados.
Para empresas que utilizam inteligência artificial em processos críticos, a questão não envolve apenas a capacidade do modelo, mas também as permissões e ferramentas às quais ele possui acesso.
Testes e salvaguardas
A Amazon defende que modelos sejam submetidos a testes antes de sua disponibilização, acompanhados por mecanismos capazes de limitar comportamentos potencialmente perigosos.
A companhia também apontou a importância da cooperação entre empresas de tecnologia e governos.
O impacto para empresas
Organizações que adotam IA precisam considerar políticas de acesso, monitoramento, autenticação, registro de atividades e limites para automações.
Quanto mais autonomia uma aplicação possui, maior tende a ser a importância dos mecanismos de controle.