Proponente: Instituto Brasileiro de Estudos de Concorrência, Consumo e Comércio Internacional (IBRAC)
Comentários em destaque: - Comprovação de impossibilidade de
intervenção/revisão humana: Embora o parágrafo únicodo art. 11 da presente proposta possibilite que a intervençãoou revisão humana não sejam exigidas caso aimplementação seja comprovadamente impossível, não háclareza sobre como os agentes poderão comprovar essaimpossibilidade. Também não resta claro que tipos de“medidas alternativas eficazes” poderiam ser adotadas pelosagentes de IA para assegurar a reanálise da decisãocontestada (especialmente considerando que o “direito derevisão humana” não é expressamente previsto naproposta, mas apenas um “direito de supervisão humana”) (Cap 2, seção 1). - Documentos públicos de avaliação de impacto: Entendemos que as versões públicas de avaliações deimpacto de sistemas de IA não devem ser publicizadas emsua integridade. Embora o PL faça referência, em seu art.12, §4o, sobre a possibilidade de simplificação da avaliaçãode impacto para hipóteses determinadas, entendemos queao menos para as versões públicas destes documentos queconstarão da base, os agentes poderão enviar versõessimplificadas. Em que pese a garantia dos segredoscomerciais e industriais, a depender do grau dedetalhamento de riscos associados a IA, a publicização dosdocumentos poderá ter um efeito adverso em contribuirpara eventuais práticas maliciosas contra os própriossistemas, verificadas suas eventuais fragilidades. Ademais,se o objetivo da publicidade da base é oferecer ao cidadãoacesso às IAs de alto risco e suas condições de operação,uma versão extensa e demasiada técnica de avaliações deimpacto não garante informação adequada ao indivíduo,tendo, pelo contrário, o efeito potencial de confundir oudificultar seu entendimento sobre o sistema. Sendo assim,sugere-se o texto seja alterado a fim de prever,expressamente, os documentos públicos das avaliações deimpacto sejam versões simplificadas, conforme deverá serdisposto em regulamentação. Contribuição na íntegra: