Dario Amodei, CEO da Anthropic, alerta que IAs com capacidades militares representam risco global, aumentando a preocupação com a segurança e armas.
O empreendedor Dario Amodei, que atua como CEO da startup Anthropic e já ocupou o cargo de vice-presidente de Pesquisa da OpenAI, fez recentemente um alerta sério em relação ao desenvolvimento das Inteligências Artificiais. Durante uma entrevista ao jornalista Ezra Klein, do The New York Times, Amodei destacou que entre os anos de 2025 e 2028, será possível que as IAs atinjam um patamar de autonomia preocupante, podendo representar um desafio real para a segurança global, tanto no âmbito geopolítico quanto militar. Esse avanço poderia potencialmente colocar em risco a estabilidade mundial, conforme alertou o especialista.
Atualmente, a equipe da Anthropic está envolvida em definir critérios de segurança para as Inteligências Artificiais, utilizando a sigla ASL para identificar diferentes níveis de proteção. Essa medida demonstra a importância de se estabelecer protocolos robustos para governar o desenvolvimento e a utilização responsável da IA. Garantir a segurança e a ética no avanço das Inteligências Artificiais é crucial para mitigar possíveis impactos negativos em nossa sociedade e manter um ambiente tecnológico saudável e seguro.
Desenvolvimento da Inteligência Artificial e Seus Níveis de Segurança
Amodei alerta que parece estarmos no nível 2 da evolução das Inteligências Artificiais, onde os modelos de linguagem já têm a capacidade de fornecer dados sensíveis, como instruções para a construção de armas biológicas. No entanto, ele salienta que essas informações ainda carecem de confiabilidade e representam um risco moderado de segurança.
Avanços e Preocupações Futuras com a Inteligência Artificial
A preocupação aumenta ao considerarmos o potencial atingido no nível 3, previsto para o próximo ano. Nesse estágio, o perigo de uma catástrofe se torna significativamente maior, com a possibilidade de empregar tais tecnologias em armamentos biológicos e cibernéticos. Além disso, o CEO alerta que o nível 4, ainda teórico, poderia introduzir recursos como autonomia, incluindo a capacidade de reprodução independente de sistemas e habilidade persuasiva.
Impactos da Inteligência Artificial na Segurança Global e Militar
Amodei estima que modelos classificados nesse nível podem surgir entre 2025 e 2028, levantando questões cruciais sobre a segurança global frente à utilização militar dessas tecnologias. O CEO destaca a importância de monitorar atentamente o desenvolvimento e aplicação das IAs, especialmente considerando a possibilidade de certos países aumentarem suas capacidades militares por meio dessa tecnologia.
Novidades na Construção de Inteligências Artificiais mais Seguras
Com investimentos de empresas como Amazon e Google, a Anthropic lançou seu próprio sistema de linguagem, o Claude, enfatizando um desenvolvimento mais responsável em comparação com a OpenAI. A IA da Anthropic já está na terceira versão desde março deste ano, demonstrando avanços significativos na área.
Fonte: © CNN Brasil
Comentários sobre este artigo