Inteligência artificial no caminho do desenvolvimento seguro

A inteligência artificial (IA), especialmente a generativa, ganhou relevância durante o ano de 2023, e isso se atribui, seguramente, ao forte crescimento do ChatGPT da OpenAI, que demonstrou ao mundo grandes possibilidades. Isso nos leva a refletir sobre os riscos e a segurança necessária para o desenvolvimento e uso da IA.

Nesta segunda-feira (27) um grupo de 18 países firmou um acordo com o objetivo de fomentar o desenvolvimento seguro de aplicações envolvendo inteligência artificial.

O documento, que fundamenta o acordo denominado “Guidelines for secure AI system development” (Orientações para o Desenvolvimento Seguro de Sistemas de IA, na tradução livre) foi escrito pelo Centro Nacional de Cibersegurança do Reino Unido (NCSC) e pela Agência de Infraestrutura de Segurança e Cibersegurança dos Estados Unidos (CISA) e aborda concepções importantes sobre o olhar necessário para a segurança durante o desenvolvimento de inteligências artificiais.

Além dos Estados Unidos da América e Reino Unido, também assinaram o acordo: Austrália, Canadá, Chile, Coreia do Sul, Estônia, França, Alemanha, Israel, Itália, Japão, Nova Zelândia, Noruega, Polônia, Singapura e Tchéquia. 

Embora o acordo não seja vinculante, serve como importante ferramenta que balizará o desenvolvimento seguro de soluções envolvendo IA referenciando a necessidade de monitoramento de abusos nos sistemas de IA, proteção de dados e verificação de fornecedores de software.

IA na mira da regulamentação no Brasil

No Senado Federal tramita o Projeto de Lei de nº 2.338/2023, de autoria do senador Rodrigo Pacheco, presidente do Senado, e está em discussão com o apoio da Comissão Temporária sobre Inteligência Artificial no Brasil (CTIA).

Apesar da existência do Projeto de Lei referido acima, a IA é uma tecnologia em acelerada expansão e caso tal tentativa de regulamentação imponha grandes amarras, certamente o seu desenvolvimento e a competitividade do Brasil serão prejudicadas.

É importante que todas as empresas que utilizam ou desenvolvem IA estejam cientes de suas implicações, bem como não maneirem esforços para seu uso e desenvolvimento ético, pois, por mais que não se tenha regulamentação específica sobre o tema, existem diversas legislações vigentes que podem ser aplicadas às empresas que se beneficiam ou desenvolvem soluções de inteligência artificial, entre elas a Lei Geral de Proteção de Dados Pessoais, o Marco Civil da Internet, o Código de Defesa do Consumidor, entre outras.

É indispensável que essas empresas adotem medidas de governança e compliance que garantam a segurança e o uso ético dessa tecnologia, que vem se tornando indispensável aos negócios.

O time ZNA conta com especialistas que pode auxiliar a sua empresa.