Controle de riscos

Para limitar os riscos relacionado a violação/vazamento de dados pessoais sensíveis dos pacientes quando seria usado IA, mas isso poderia ser limitado com a imposição pelo Estado de rigorosos padrões de segurança cibernética e proteção de dados para as clinicas que querem usar IA.

Para reduzir o risco de erros nos diagnósticos realizados por IA, seria essencial uma análise humana obrigatória antes de qualquer decisão clínica baseada em diagnósticos automatizados.

finalmente, um terceiro risco seria a dezumanisação dos atendimentos medicos, mas este risco poderia ser controlado por politicas publicas de proibiçao de atendimentos medicos não humano, para obrigar os hospitais por exemplo a fornecer atendimentos médicos não integralmente gerado por IA.

Instituir um programa voluntário de certificação ética para empresas que utilizam IA, demonstrando conformidade com boas práticas e o respeito à dignidade e aos direitos dos usuários. A autoridade em questão emitiria um “Selo de Conformidade Ética” para sistemas que demonstrem cumprir práticas responsáveis e seguras no uso de IA, conforme parâmetros como transparência a coleta e uso de dados; respeito aos direitos autorais; uso responsável de deep fakes e outras tecnologias de manipulação. Esse selo poderia ser exibido em conteúdos ou produtos, sinalizando ao público que o sistema de IA segue normas de segurança e ética.

Antes de implementar novas tecnologias de IA, as empresas devem conduzir avaliações de impacto para entender os potenciais riscos, como vieses em sistemas de recomendação ou os efeitos de novas formas de monetização (por exemplo, influenciadores virtuais gerados por IA).

Propomos que todas as ferramentas de IA utilizadas em escolas e universidades estejam em conformidade com a LGPD. A coleta e uso de dados dos alunos devem ocorrer apenas mediante consentimento informado, sendo disponibilizadas políticas de privacidade claras e acessíveis para alunos, pais e responsáveis. Essa medida é essencial para garantir que o uso de dados seja feito de maneira ética e transparente, respeitando a privacidade dos envolvidos.

Como os recentes avanços em redes neurais artificiais, reconhecidos com o Nobel de Física, podem influenciar o desenvolvimento e a regulamentação de tecnologias de IA no Brasil, assegurando que seu uso seja benéfico para a sociedade, respeitando princípios éticos e promovendo inovação de forma inclusiva?