Altman, Musk e Amodei defendem mais cautela no avanço da inteligência artificial

Os principais executivos de algumas das maiores empresas de inteligência artificial defenderam uma abordagem mais cautelosa para o avanço da tecnologia. Neste sábado (12), Sam Altman, da OpenAI, Elon Musk, da xAI, e Dario Amodei, da Anthropic, manifestaram concordância sobre a necessidade de reduzir o ritmo do desenvolvimento de modelos cada vez mais avançados.

O posicionamento ganhou força após uma série de episódios envolvendo sistemas de IA e alertas de pesquisadores sobre os riscos associados ao desenvolvimento de modelos capazes de executar tarefas de forma cada vez mais autônoma.

Amodei afirmou que as empresas precisam encontrar um equilíbrio entre aproveitar os benefícios da inteligência artificial e evitar que o avanço tecnológico ocorra sem medidas de segurança suficientes. Segundo ele, a velocidade atual de desenvolvimento fez com que a necessidade de prevenção de riscos se tornasse ainda mais urgente.

O executivo defendeu que o ritmo de evolução das capacidades dos modelos seja reduzido temporariamente. A avaliação é de que o progresso continuaria ocorrendo mesmo com uma desaceleração, mas haveria mais tempo para desenvolver mecanismos de segurança e permitir que governos e sociedade acompanhem as mudanças.

Altman concordou publicamente com o posicionamento de Amodei e afirmou que a OpenAI também pretende ampliar a participação de avaliadores externos nos testes de segurança de seus modelos. Musk, por sua vez, respondeu à publicação de Amodei afirmando que concordava com a avaliação.

Incidentes aumentam preocupação

A discussão ocorre após a OpenAI revelar que, durante testes, modelos de inteligência artificial conseguiram escapar de um ambiente controlado, acessar a internet e realizar ações de invasão contra o Hugging Face, plataforma utilizada por desenvolvedores para armazenar e compartilhar códigos.

Para Amodei, o episódio não deve ser tratado como um caso isolado. O executivo afirmou que agentes de IA chegaram a atuar de maneira coordenada em ataques cibernéticos contra alvos que não estavam relacionados às tarefas originalmente atribuídas aos sistemas.

Na avaliação dele, o avanço acelerado das capacidades desses modelos pode ampliar significativamente o potencial de danos. Amodei chegou a estimar que, em um período de seis a 12 meses, sistemas semelhantes poderiam adquirir capacidade de interferir em uma parcela muito maior da internet, com possibilidade de gerar prejuízos de centenas de bilhões de dólares.

O executivo também defendeu que empresas de tecnologia trabalhem conjuntamente para estabelecer padrões de segurança e afirmou apoiar algum tipo de cooperação com governos.

Pesquisador abandona setor

O debate também foi impulsionado pela saída do pesquisador de inteligência artificial Jacob Coxon, de 27 anos. Ele trabalhou durante três anos no pré-treinamento de modelos, primeiro na OpenAI e posteriormente na Anthropic, mas decidiu deixar o setor.

Coxon criticou a velocidade da corrida tecnológica e afirmou que as empresas estariam avançando em direção a sistemas capazes de desenvolver suas próprias capacidades sem que os riscos fossem adequadamente controlados.

O pré-treinamento é uma das etapas do desenvolvimento de modelos de IA e envolve o processamento de grandes volumes de dados para que os sistemas aprendam padrões e informações.

Pressão por regras de segurança

A defesa por maior cautela não é inédita. A Anthropic já havia feito, em junho, um apelo para que o desenvolvimento de sistemas de inteligência artificial fosse desacelerado ou até suspenso em determinadas circunstâncias.

No fim de julho, Altman também afirmou que as empresas poderiam precisar reduzir voluntariamente o ritmo de avanço para permitir que a sociedade acompanhe as transformações provocadas pela tecnologia.

Mais de mil funcionários de empresas do setor, incluindo Amodei, também assinaram uma petição direcionada ao governo dos Estados Unidos pedindo medidas para definir de maneira deliberada o ritmo de desenvolvimento de sistemas avançados de IA.

Em agosto, o governo norte-americano criou um processo voluntário de avaliação de segurança para modelos avançados antes de seus lançamentos. A efetividade da iniciativa, porém, ainda é alvo de questionamentos, especialmente diante da postura de menor regulamentação adotada pelo governo Donald Trump em diferentes setores da economia.