Executivos e pesquisadores alertam para riscos do uso indevido de sistemas de IA e defendem mais tempo para testes e medidas de segurança
Líderes de algumas das principais empresas de tecnologia do mundo passaram a defender uma desaceleração no ritmo de desenvolvimento da inteligência artificial (IA). A preocupação está relacionada ao avanço acelerado dos sistemas e aos riscos de utilização indevida da tecnologia, que já vem sendo empregada em atividades criminosas e operações envolvendo cibersegurança.
Entre os nomes que apoiam a adoção de mais cautela estão Dario Amodei, CEO da Anthropic, Sam Altman, CEO da OpenAI, e o bilionário Elon Musk, fundador da xAI. A discussão ganhou força após a publicação de um artigo de Amodei sobre os riscos associados à velocidade de evolução dos modelos de IA.
A Anthropic divulgou, na quinta-feira (10), um relatório apontando que modelos de sua família Claude foram utilizados em operações cibernéticas, campanhas de influência, vigilância, golpes e até no desenvolvimento de armamentos. O documento ampliou o debate sobre a necessidade de estabelecer mecanismos de segurança mais rigorosos.
Apesar de defender uma redução no ritmo, Amodei afirmou que não propõe interromper o treinamento ou o desenvolvimento da inteligência artificial. A ideia é permitir que as empresas tenham mais tempo para testar, proteger e alinhar seus modelos antes de colocá-los em uso.
Sam Altman declarou apoio às propostas apresentadas pelo executivo da Anthropic e afirmou que a OpenAI pretende adotar sugestões voltadas ao aumento da segurança. Musk também manifestou concordância, resumindo sua posição ao afirmar que Amodei está certo.
Proposta em três etapas
Amodei sugeriu uma estrutura de controle baseada em três etapas. A primeira prevê a criação de grupos independentes de avaliadores, com acesso aos processos internos das empresas para analisar práticas de segurança, investigar incidentes e acompanhar tanto os modelos quanto seu treinamento.
A segunda etapa envolveria uma coordenação entre empresas de inteligência artificial de países democráticos, com participação dos governos, para estabelecer padrões de segurança e possíveis limites para a velocidade de desenvolvimento.
A terceira prevê uma cooperação internacional, especialmente entre Estados Unidos e China. Segundo Amodei, essa seria a fase mais difícil devido à disputa geopolítica envolvendo o domínio da inteligência artificial.
O executivo também defende discussões sobre possíveis limites para recursos utilizados na construção dos modelos, incluindo capacidade computacional, determinados métodos de treinamento e o uso de sistemas de IA para desenvolver novas gerações da própria tecnologia.
O debate ocorre em meio à rápida evolução da inteligência artificial e ao aumento das preocupações sobre a capacidade de governos, empresas e sociedade acompanharem os riscos associados a sistemas cada vez mais avançados.
