Brics quer código aberto e regulação da IA por soberania e direitos

Tema central da atualidade, o uso da inteligência artificial foi um dos principais pontos debatidos durante a 17ª Cúpula do Brics, realizada neste domingo (6) e segunda-feira (7), no Rio de Janeiro. Em declaração sobre o tema, o grupo defendeu o uso de código aberto para a tecnologia, além de outros aspectos relativos ao uso da IA, seus riscos e potencialidades e a importância da regulação.

“Ao adotar a Declaração sobre Governança da Inteligência Artificial, o Brics envia uma mensagem clara e inequívoca. As novas tecnologias devem atuar dentro de um modelo de governança justo, inclusivo e equitativo. O desenvolvimento da inteligência artificial não pode se tornar privilégio de poucos países ou um instrumento de manipulação na mão de bilionários”, declarou o presidente Luiz Inácio Lula da Silva em discurso neste domingo (6).

Leia também: Brics poderá ter rede própria de comunicação submarina de alta velocidade


De acordo com o documento final apoiado pelos países do grupo, “é necessário um esforço global coletivo para estabelecer uma governança de IA que represente nossos valores compartilhados, mitigue riscos, construa confiança e garanta colaboração e acesso internacional amplo e inclusivo, incluindo capacitação para países em desenvolvimento, com as Nações Unidas no centro”.

Código aberto

Um dos aspectos necessários para mudar a forma como a IA vem sendo usada e torná-la mais transparente e democrática é o uso do código aberto.

Nesse sentido, a declaração defende o desenvolvimento em código aberto e a cooperação científica e tecnológica internacional, “por meio de mecanismos de ciência aberta e inovação aberta, como facilitadores essenciais para a construção de capacidades em pesquisa, desenvolvimento, inovação, proteção de dados, soberania de dados e implantação de IA, bem como para permitir que pesquisadores, desenvolvedores e organizações examinem, auditem e contribuam para sistemas de IA seguros, protegidos, confiáveis e transparentes”.

Ergon Cugler, pesquisador e especialista em desinformação e políticas públicas e autor do livro “IA-cracia: como enfrentar a ditadura das big techs”, explica, ao Portal Vermelho, que ter código aberto na IA é fundamental. “Dessa forma, evita-se que um pequeno grupo de grandes empresas, quase todas do Norte Global, concentre o poder de decidir o que é verdade, como funcionam as máquinas que classificam e selecionam nossas informações, e quais interesses estão embutidos nisso”, destaca.

Leia também: Brics fecha pactos em IA, clima e saúde com liderança brasileira

O código aberto, conforme explica, são os softwares e tecnologias cujos bastidores — o código-fonte —, estão disponíveis publicamente para qualquer pessoa. “No caso da inteligência artificial, isso significa que os algoritmos, os dados usados no treinamento e as regras por trás do funcionamento das máquinas podem ser analisados por pesquisadores, governos, organizações da sociedade civil e por qualquer cidadão com conhecimento técnico”, argumenta.

Sem acesso a esse código, complementa, “países como o Brasil acabam dependendo de soluções prontas, fechadas, que não podem ser auditadas nem adaptadas à nossa realidade”.

Ele salienta que ao defender o código aberto, o Brics busca uma mudança nessa rota: “trata-se de democratizar o conhecimento, permitir o desenvolvimento local de soluções, reduzir desigualdades tecnológicas e garantir que a inteligência artificial sirva ao interesse público, e não apenas ao lucro privado. É uma questão de soberania digital, mas também de justiça social”.

Regulação da IA

A declaração aprovada pelo Brics ainda destaca, entre outros pontos relativos ao uso da inteligência artificial, a importância do estabelecimento de regras e da governança da tecnologia.

“A concorrência justa e a regulamentação do mercado são cruciais para um futuro equitativo da IA. A economia digital requer a salvaguarda dos direitos e obrigações dos Estados, empresas e usuários sob as legislações e regulamentações nacionais e os acordos internacionais aplicáveis, para nivelar o campo de atuação em direção à inovação e ao crescimento econômico”, explica o documento.

Sobre essa questão, Ergon Cugler lembra que a inteligência artificial “já está profundamente inserida na nossa vida, mesmo que muitas vezes a gente não perceba. Ela decide o que vemos nas redes sociais, influencia o que compramos, automatiza decisões no sistema de saúde, na educação e até no Judiciário”.

Por isso, salienta, “regular essa tecnologia é urgente; e regular não significa proibir, mas criar regras claras para proteger direitos e garantir que os avanços sirvam à sociedade como um todo. Um dos elementos mais importantes nessa regulação é a transparência: precisamos saber como esses sistemas são construídos, com quais dados, e quem se responsabiliza pelos erros”.

Além disso, Cugler enfatiza a questão da justiça envolvida no debate. “A IA não pode reproduzir preconceitos ou discriminar pessoas com base em raça, gênero, classe ou território. Isso acontece quando os sistemas são treinados com dados enviesados, o que afeta principalmente os grupos historicamente excluídos”.

Ele também lembra a importância de criar anteparos ao mundo do trabalho. “A automação com IA pode gerar desemprego e precarização, se não for acompanhada de políticas de requalificação profissional, renda básica e garantia de direitos”, pontua.

Neste aspecto em particular, a declaração estabelece ser imperativo “salvaguardar os direitos e o bem-estar de todos os trabalhadores, particularmente daqueles diretamente afetados pela transformação digital, considerando o rápido crescimento das plataformas digitais e o crescente impacto estrutural da IA, inclusive IA generativa, no mercado de trabalho”.

Outro ponto relativo à regulação diz respeito ao regramento para evitar o uso da IA para a propagação de mentiras e desinformação. “Buscaremos uma abordagem multifacetada para promover a integridade da informação, maior centralidade nas estratégias de educação midiática e esforços de comunicação local”, diz a declaração.

Tal abordagem, prossegue, “inclui o desenvolvimento de ferramentas para sinalizar rapidamente a desinformação e a informação falsa, a promoção da alfabetização digital e das competências críticas dos indivíduos para avaliar melhor os conteúdos digitais e o estabelecimento de orientações e regulamentos éticos claros, em consonância com a necessidade de proteção da privacidade e dos dados digitais e de desenvolvimento e utilização de tecnologias de IA na divulgação de informações”.

Considerando o conjunto de proposições feitas pelo Brics em relação ao tema, Ergon Cugler conclui dizendo que “o Brics acerta ao propor uma governança internacional, liderada pela ONU, porque a tecnologia não conhece fronteiras, mas a justiça, a ética e a soberania precisam estar presentes em cada linha de código”.