Princípios para o Desenvolvimento e Uso Ético

Devemos estabelecer princípios que busquem garantir que os sistemas de Inteligência Artificial (IA) e Aprendizado de Máquina (ML) sejam desenvolvidos e utilizados de maneira a respeitar a vida, promover o bem-estar social, assegurar a continuidade das espécies e preservar o meio ambiente. 

Os princípios devem estar alinhados com a Constituição brasileira, em particular com os seguintes pontos: o Artigo 1º, inciso III, que trata da dignidade humana; o Artigo 3º, incisos I, II e III, que delineiam os objetivos fundamentais da República Federativa do Brasil; e o Artigo 5º, em seu Caput e Inciso X, que garantem direitos fundamentais. Além disso, é importante considerar o Artigo 170, que estabelece as bases da ordem econômica, e o Artigo 225, que trata das normas ambientais, como referências orientadoras tanto para aspectos econômicos quanto para a preservação ambiental. 

Devendo também ampliar a compreensão das leis, tratados, convenções, relatórios, diretrizes e pesquisas nacionais e internacionais pertinentes. Especial atenção deve ser dada à Declaração Universal dos Direitos Humanos (1948), aos Direitos Civis e Políticos (1966), aos Direitos Econômicos, Sociais e Culturais (1966), ao Tratado do Espaço Exterior (1967), à Convenção sobre a Proibição do Desenvolvimento, Produção e Armazenamento de Armas Bacteriológicas (Biológicas) e Tóxicas e à Sua Destruição (1972), à Convenção sobre a Diversidade Biológica (1992), aos Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos (2011), à Declaração de Montreal pelo Desenvolvimento Responsável da Inteligência Artificial (2018), ao Relatório do Alto Comissariado das Nações Unidas para os Direitos Humanos sobre Discriminação Racial e Tecnologias Digitais Emergentes na Quadragésima Quarta Sessão (2020), às Diretrizes da OCDE para a Inteligência Artificial (2022), à Carta de Ética da Inteligência Artificial da UNESCO (2021), à Lei Geral de Proteção de Dados Pessoais (LGPD, 2018) e ao Marco Civil da Internet (L12965, 2014).

Os sistemas de IA/ML devem ser concebidos com o objetivo de preservar e respeitar todas as formas de vida, assegurando que suas funções e operações não prejudiquem o meio ambiente ou à continuidade das espécies anteriores ou subsequentes à sua existência. Mesmo quando desenvolvidos para fins de proteção social ou uso em situações de conflito, os sistemas de IA/ML devem sempre aderir aos seguintes princípios:

I - Respeito à Vida: Assegurar que todas as aplicações de IA/ML respeitem a dignidade e os direitos de todos os seres vivos, evitando danos físicos ou psicológicos.

II - Promoção do Bem-Estar Social: Focar no desenvolvimento e implementação de soluções que promovam o bem-estar social, incluindo a saúde, educação, segurança e a melhoria das condições de vida das populações.

III - Sustentabilidade Ambiental: Garantir que as tecnologias de IA/ML sejam desenvolvidas e utilizadas de maneira a minimizar impactos ambientais negativos, promovendo a sustentabilidade e a preservação da biodiversidade.

IV - Continuidade das Espécies: Manter como princípio fundamental a continuidade e a preservação das espécies. As inovações tecnológicas, incluindo aquelas destinadas a fins bélicos ou de defesa, não devem comprometer os ecossistemas ou a sobrevivência das formas de vida. Deve-se assegurar que:

• A IA/ML não seja utilizada para genocídio, extermínio ou qualquer forma de violência massiva contra os seres humanos ou outras espécies vivas.

• As aplicações de IA/ML em conflitos armados sigam rigorosos padrões éticos e humanitários, protegendo civis e evitando danos colaterais desproporcionais.

• Qualquer sistema de IA/ML desenvolvido para uso militar ou de segurança deve ser projetado com salvaguardas explícitas para evitar ações autônomas que possam resultar em genocídio, extermínio ou destruição indiscriminada.

V - Ética e Transparência: Assegurar que o desenvolvimento e a aplicação de IA/ML sigam padrões éticos rigorosos, com transparência nos processos e responsabilidade pelas ações e consequências decorrentes de seu uso. Isso inclui:

• Implementar práticas e regulamentos que previnam a discriminação de qualquer tipo, incluindo, mas não se limitando a, discriminação racial, de classe, de gênero, de idade, étnica, religiosa ou baseada em crenças, orientação sexual, deficiência física ou mental e qualquer outra forma de preconceito.

• Garantir que os dados utilizados para o treinamento de sistemas de IA/ML sejam diversificados e representem adequadamente todas as partes da sociedade para evitar viéses discriminatórios.

• Adotar medidas para identificar, corrigir e mitigar qualquer viés algorítmico ou discriminação embutida nos sistemas de IA/ML.

• Divulgar de forma transparente as metodologias e bases de dados utilizadas no desenvolvimento de IA/ML, permitindo auditorias independentes e garantindo a accountability.

• Implementar políticas de governança e compliance para assegurar que as aplicações de IA/ML respeitem os direitos humanos e promovam a justiça social.

• Assegurar que sistemas de IA/ML não sejam utilizados para fins de colonização social, respeitando a soberania nacional e evitando a violação de princípios éticos e de direitos humanos.

VI - Responsabilidade e Supervisão: Implementar mecanismos de supervisão e responsabilização para garantir que o uso de IA/ML esteja em conformidade com os princípios desta lei. Órgãos reguladores e de fiscalização devem monitorar e avaliar continuamente as práticas de desenvolvimento e aplicação dessas tecnologias.

VII - Participação Pública e Inclusiva: Envolver a sociedade civil, especialistas e grupos afetados no processo de desenvolvimento e regulamentação de IA/ML, assegurando que diversas perspectivas sejam consideradas e que as soluções tecnológicas sejam justas e inclusivas.