EUA propõem exigir relatórios para IA avançada e provedores de nuvem

Por David Shepardson

WASHINGTON (Reuters) - O Departamento de Comércio dos Estados Unidos disse nesta segunda-feira que está propondo exigir relatórios detalhados para desenvolvedores de inteligência artificial avançada e provedores de computação em nuvem para garantir que as tecnologias sejam seguras e possam resistir a ataques cibernéticos.

A proposta da Agência de Indústria e Segurança do departamento estabeleceria a obrigatoriedade de informar o governo federal sobre as atividades de desenvolvimento de modelos de IA de 'fronteira' e agrupamentos de computação.

Também exigiria relatórios sobre medidas de segurança cibernética, além de resultados das chamadas operações de red-teaming, como testes de recursos perigosos, incluindo a capacidade de auxiliar em ataques cibernéticos ou reduzir barreiras de entrada para que não especialistas desenvolvam armas químicas, biológicas, radiológicas ou nucleares.

O red-teaming externo tem sido usado há anos na segurança cibernética para identificar novos riscos, com o termo referindo-se às simulações da Guerra Fria dos EUA, em que o inimigo era chamado de 'equipe vermelha'

A IA generativa - que pode criar textos, fotos e vídeos em resposta a comandos abertos - gerou entusiasmo e também temores de que possa tornar alguns empregos obsoletos, alterar eleições e potencialmente dominar os seres humanos e ter efeitos catastróficos.

O Departamento de Comércio disse que as informações coletadas de acordo com a proposta 'serão vitais para garantir que essas tecnologias atendam a padrões rigorosos de segurança e confiabilidade, possam resistir a ataques cibernéticos e tenham risco limitado de uso indevido por adversários estrangeiros ou atores não estatais'.

Em outubro de 2023, o presidente norte-americano, Joe Biden, assinou uma decreto exigindo que os desenvolvedores de sistemas de IA que representem riscos à segurança nacional, à economia, à saúde pública ou à segurança dos EUA compartilhem os resultados dos testes de segurança com o governo dos EUA antes de serem divulgados ao público.

A regra estabeleceria requisitos de relatórios para modelos avançados de IA e agrupamentos de computação.

O impulso regulatório ocorre em um momento em que a ação legislativa sobre IA no Congresso está paralisada.

No início deste ano, o BIS realizou uma pesquisa piloto com desenvolvedores de IA. O governo Biden adotou uma série de medidas para impedir que a China use a tecnologia dos EUA para IA porque o setor em expansão levanta preocupações de segurança.

Os principais provedores de nuvem incluem a AWS da Amazon.com, o Google Cloud da Alphabet e a unidade Azure da Microsoft.