O CEO da empresa de tecnologia Anthropic, Dario Amodei, defendeu que a indústria de inteligência artificial desacelere a evolução das capacidades de novos modelos. O executivo argumentou que a pausa é necessária diante do aumento dos alertas sobre o uso indevido das ferramentas e dos riscos associados à tecnologia.
Em artigo publicado neste sábado (12), Amodei apresentou uma proposta estruturada em três etapas para conter a velocidade do setor. O plano busca garantir uma margem de tempo maior para que a sociedade e as próprias desenvolvedoras consigam criar mecanismos eficientes de controle e segurança.
“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, declarou o executivo nas redes sociais.
Alertas de segurança e demissão de pesquisador
O posicionamento do CEO ocorre após a publicação de um relatório da Anthropic detalhando o uso indevido do sistema Claude por agentes externos. O documento revelou a utilização da plataforma em operações cibernéticas, frauds e no desenvolvimento de armas.
A apreensão sobre o avanço descontrolado da tecnologia se intensificou nesta semana com o pedido de demissão do pesquisador Jacob Coxon. Ao deixar a empresa, o cientista alertou que os próprios criadores da tecnologia acreditam no risco de catástrofe global causada pelas IAs até o fim desta década.
