• - Interpretação do princípio da necessidade: há distintas interpretações sobre como o princípio da necessidade se aplica ao treinamento de IA.

1. Visão restritiva: alguns defendem uma interpretação mais estrita, enfatizando a minimização do uso de dados pessoais e a necessidade de limitar a coleta ao mínimo necessário. Argumentam que o princípio da necessidade não é compatível com o tratamento em larga escala para o treinamento de soluções de IA.

2. Visão pragmática: outros defendem uma interpretação mais flexível, reconhecendo que o treinamento de IA muitas vezes demanda grandes volumes de dados para garantir a qualidade e eficácia dos sistemas. Argumentam que o princípio da necessidade não proíbe o uso de grandes volumes de dados, desde que haja salvaguardas adequadas e uma finalidade legítima. Alguns propõem uma reinterpretação do princípio da necessidade para permitir a coleta de mais dados em determinadas circunstâncias. Assim, segundo uma variedade de contribuições, o princípio da necessidade acaba por esbarrar no contexto de treinamento de IA de larga escala, no qual se pressupõe quantidades massivas de dados para treinamento. Ainda, uma das contribuições afirma que o princípio não é incompatível com o tratamento em larga escala para o treinamento de soluções de IA. A limitação deve ser guiada por uma análise criteriosa dos dados realmente necessários e pelo uso de medidas técnicas que restrinjam a coleta a dados pertinentes. Finalmente, outra contribuição ressalta que o princípio da necessidade não se confunde com volumetria de dados, ou seja, como salvaguarda é importante garantir o uso de dados mínimos necessários, o que não se confunde com baixa volumetria, mas, que haja finalidade definida, afastando, assim, o uso excessivo de dados.

• Obrigatoriedade de certas salvaguardas: há divergências sobre se certas salvaguardas, como o uso de dados anonimizados ou sintéticos, devem ser obrigatórias. Algumas contribuições defendem que a decisão sobre quais salvaguardas adotar deve ser deixada a critério de cada controlador, de acordo com sua atividade e os riscos envolvidos. Além da anonimização, são mencionadas outras salvaguardas, como a (i) criptografia; a sobrescrição de identificadores individuais, substituindo-os por valores fictícios ou irreversíveis, impossibilitando a recuperação dos dados originais; iii) a remoção de identificadores diretos, retirando informações que possibilitam a identificação de um indivíduo ou até a tokenização, substituindo dados identificáveis por tokens únicos e gerados aleatoriamente; iv) a utilização de dados sintéticos; v) ruídos e vi) avaliações de impacto a serem realizadas quando presente o alto risco. Finalmente, pode-se citar as contribuições que afirmam serem as boas práticas e as salvaguardas já implementadas pelos agentes de tratamento suficientes e aplicáveis aos sistemas de IA.

• Foco das salvaguardas: algumas contribuições argumentam que as salvaguardas devem ser concentradas nas fases de coleta e aplicação do sistema, e não nas etapas de desenvolvimento. Ressaltam que a implementação de salvaguardas pode ser desafiadora para startups e pequenas empresas no cenário nacional, que frequentemente possuem recursos limitados.

• Âmbito da LGPD: há contribuições que apontam para que as diretrizes da LGPD sejam observadas no desenvolvimento de sistemas de IA somente quando envolver dados pessoais, pois em alguns modelos sequer há o tratamento desses dados. Afirmam, ainda, que acomodar satisfatoriamente o treinamento de sistemas de IA que demandam grande quantidade de dados no bojo normativo da LGPD em sua forma corrente é impraticável. Por outro lado, há contribuições que defendem que previamente ao tratamento de grandes quantidades de dados pessoais, as organizações devem realizar uma avaliação de impacto à proteção de dados, nos termos do art. 38 da LGPD. Além disso, é importante demonstrar que o volume de dados é tecnicamente justificável em função das especificidades do projeto. A organização, assim, deve documentar essa justificativa, conforme o princípio da prestação de contas previsto no art. 6, X, da LGPD.

• Transparência e informação clara: há um consenso sobre a importância da transparência e da necessidade de fornecer informações claras, acessíveis e compreensíveis aos titulares dos dados sobre como seus dados são coletados, usados e processados por sistemas de IA. Isso inclui o uso de linguagem simples, formatos multimodais (como infográficos) e a contextualização das informações. A transparência deve garantir que os indivíduos compreendam como seus dados estão sendo utilizados e assegurar que possam exercer seus direitos. Por sua vez, há contribuição que propõe clareza e especificidade no propósito detalhado, com finalidades previamente definidas. Sugere a delimitação temporal para retenção de dados conforme a finalidade, o uso de linguagem clara e acessível nas políticas de privacidade e o mapeamento dos riscos através de relatórios de impacto. Finalmente, ressalta a importância de auditoria e monitoramento, bem como a comunicação através de informações nas políticas de privacidade e canais de comunicação.

• Definição clara de finalidades: a definição clara e específica das finalidades do tratamento de dados desde o início do desenvolvimento de sistemas de IA é essencial. As finalidades devem ser legítimas, específicas, transparentes e alinhadas com a LGPD. Em sistemas de IA de propósito geral, é importante mapear as capacidades do sistema que geram maiores riscos e descrever propósitos excluídos e condições de uso no design do sistema.

• Avaliação de riscos: a implementação de um sistema abrangente de avaliação de riscos é crucial para identificar riscos potenciais e determinar se os insumos ou resultados de IA constituem dados pessoais. O Relatório de Impacto à Proteção de Dados (RIPD) é frequentemente mencionado como um instrumento importante para essa avaliação.

• Governança e monitoramento: protocolos robustos de governança de dados, monitoramento e avaliações contínuas são necessários para garantir a conformidade e a eficácia das medidas de proteção. Auditorias regulares também são recomendadas, sendo sugeridas: (i) a implementação de medidas baseadas na metodologia PDCA, de forma que haja auditoria periódica nos processos adotados; (ii) manutenção de logs de tratamento de dados para registrar operações realizadas, assegurando rastreabilidade e facilitando auditorias regulares.

• Canais de atendimento: a implementação de canais de atendimento acessíveis e eficientes é fundamental para garantir que os titulares possam exercer seus direitos, como acesso, correção, exclusão e portabilidade dos dados. A transparência deve ser promovida por meio de avisos de privacidade claros, acessíveis e disponibilizados em canais apropriados.

• Políticas de privacidade: As políticas de privacidade são um meio importante de comunicar informações sobre o tratamento de dados em sistemas de IA. As informações devem ser claras, acessíveis e adaptadas a diferentes públicos.

• Privacy by design e default: A aplicação dos princípios de privacy by design e privacy by default desde a concepção dos sistemas é amplamente recomendada.

• Nível de especificidade da informação: há divergências sobre o nível de detalhe que deve ser divulgado aos titulares. Algumas contribuições enfatizam a importância de fornecer informações "em camadas", adaptadas ao nível de interesse do titular. Outras ressaltam que a divulgação excessiva de detalhes técnicos pode comprometer as medidas de proteção. Nos termos das contribuições, a ANPD deve valorizar a boa-fé dos agentes de tratamento ao delinearem suas medidas de transparência, considerando as técnicas razoáveis disponíveis e os recursos do controlador para não onerar excessivamente a utilização responsável de IA.

• Obrigatoriedade de informar sobre o uso de IA: existe uma divergência sobre se a LGPD exige explicitamente que os titulares sejam informados sobre o uso de sistemas de IA. Algumas contribuições argumentam que o foco deve estar na transparência sobre as finalidades e efeitos do tratamento dos dados pessoais, e não nos meios tecnológicos utilizados. A mesma contribuição afirma que a transparência deve ser balanceada com a necessidade de proteger informações sensíveis sobre mecanismos de segurança e proteção de conteúdo, especialmente considerando que a divulgação excessiva de detalhes técnicos pode comprometer a eficácia das medidas de proteção à propriedade intelectual.

• Necessidade de documentação específica: há opiniões divergentes sobre a necessidade de criar documentação específica para comunicar o tratamento de dados em sistemas de IA. Algumas contribuições sugerem que as políticas de privacidade existentes podem ser suficientes, com o uso de links para informações adicionais. Outras defendem a criação de uma "Política de Inteligência Artificial" específica. Há contribuição, por exemplo, que recomenda incluir informações obre o tratamento de dados pessoais em sistemas de IA nas políticas de privacidade, usando links para informações adicionais. Contudo, defende que as finalidades de IA sejam descritas nas políticas de privacidade já existentes, evitando obrigatoriedades de documentações específicas.

• Transparência em projetos de pesquisa: nesse sentido, uma contribuição menciona o CNIL, que identifica três cenários para o tratamento de dados em IA: soluções especialistas, pesquisa científica e soluções de propósito geral1. em projetos de pesquisa, há um consenso de que a transparência pode ser progressiva, começando com informações gerais e evoluindo conforme os objetivos se concretizam. No entanto, há diferentes visões sobre como equilibrar a necessidade de transparência com a natureza exploratória da pesquisa.

• Padrões e normas: há diferentes visões sobre quais padrões e normas devem ser seguidos. Algumas contribuições sugerem o uso de frameworks como os do NIST ou ISO sobre governança de sistemas de IA. Outras mencionam a aplicação de normas como a ISO/IEC 27701, que complementam os requisitos da LGPD. Há, ainda, contribuições que afirmam que as boas práticas e salvaguardas não precisam diferir dos padrões previamente adotados, pois seriam igualmente aplicáveis aos sistemas de IA. Por outro lado, há contribuições que recomendam o uso de documentos explicativos, como relatórios técnicos, para fornecer maior clareza sobre os modelos de IA, incluindo informações sobre sua construção, avaliação, limitações, tipos de dados usados no treinamento e medidas de mitigação de riscos.

• Avaliação de risco: Foi ressaltada a mitigação de riscos e a proteção de direitos, sem restringir a inovação. Citadas, ainda, as avaliações de impacto ético e algorítmico.

• Revisão periódica: Há contribuições convergindo para a necessidade de revisão periódica e contínua, além de governança adaptativa, estabelecendo processos de revisão contínua das finalidades e mecanismos de atualização das informações dos titulares.

• Flexibilidade: Algumas contribuições mencionam documentos de referência da ICO e da CNIL, que defendem uma abordagem flexível e orientada pelo contexto; um equilíbrio entre flexibilidade técnica e conformidade legal.

• Medidas de salvaguarda: as contribuições convergem para a adoção de medidas de salvaguardada no tratamento de dados pessoais para treinamento de IA de propósito geral, e apontam que novos dados pessoais criados por sistemas de IA estão sujeitos às mesmas salvaguardas garantidas pela LGPD para os dados de entrada. Há uma contribuição que afirma que desenvolvedores de IA devem implementar medidas de accountability e salvaguardas como avaliação de nível de risco.

• Explicabilidade: deve ser promovida a partir de meios de comunicação acessíveis ao titular. Ainda, ressalta-se a importância de mecanismos de explicabilidade e interpretabilidade, de modo a permitir que os usuários e reguladores compreendam os critérios de decisão utilizados pelo sistema.

• Transparência: divulgação clara de informações e políticas de privacidade. Deve ser implementada em diversos níveis: no desenvolvimento do modelo base, na integração com aplicações específicas e no uso final. Há desafios, contudo, incluindo a sua difícil operacionalização para fins de documentação e explicabilidade do algoritmo.

• Governança colaborativa: as contribuições convergem para a colaboração entre governos, indústria e academia na formulação de diretrizes. Ainda, afirmam que a governança colaborativa entre desenvolvedores, operadores e reguladores é essencial para o alinhamento de práticas éticas e legais.

• Transparência e finalidade: os sistemas de IA devem seguir os mesmos princípios de finalidade e transparência que os demais sistemas seguem, a partir de abordagem estruturada e multifacetada e deve incluir explicações sobre a coleta, uso e atividades de processamento de dados.

• Avisos de privacidade: uma das contribuições sublinhou o ponto de que em sistemas de IA de propósito geral, uma abordagem em camadas para os avisos de privacidade é altamente recomendada, garantindo a transparência mesmo em sistemas complexos. A divulgação de informações em meios de comunicação variados também pode ser de extrema utilidade para a consecução da transparência.

• Base legal para GPAI: enquanto há diversas contribuições que afirmam que a hipótese legal do legítimo interesse é a base legal adequada no tratamento de dados no âmbito da GPAI, há contribuições que, embota não descartem essa base legal, destacam a possibilidade de utilização do consentimento, inclusive de forma progressiva e contextual.

• Nível de especificidade da finalidade: Há contribuição que defende que a finalidade deve ser suficientemente específica, referindo-se ao tipo de sistema desenvolvido e às funcionalidades tecnicamente viáveis, outra afirma que a finalidade pode abranger tarefas e casos de uso distintos, mas convergentes e complementares. Outra contribuição, de forma similar, defende a possibilidade de finalidades mais amplas e abrangentes, descritas de forma mais geral e exemplificativa. Ainda, determinada contribuição defende que a comunicação com os titulares deve ser individualizada, incluindo dados utilizados, tratamentos realizados, finalidades específicas e bases legais. Por fim, cabe citar a contribuição que sugere a implementação de uma estrutura em camadas, estabelecendo finalidades macro para o sistema e subfinalidades específicas para cada uso.

• Transparência: há contribuições que sugerem que o princípio da transparência seja aplicado de forma diferente a depender da fase do tratamento nos sistemas de IA. Por seu turno, há contribuições que afirma que os sistemas de IA devem seguir os mesmos princípios de finalidade e transparência que os demais sistemas seguem.

• Responsabilidade pela definição da finalidade: há divergência sobre quem deve ser o responsável pela definição da finalidade. Algumas contribuições indicam que a responsabilidade deve ser compartilhada entre o desenvolvedor e a organização que implementa o sistema, enquanto outras defendem que a responsabilidade deve recair sobre o aplicador de IA ou que os desenvolvedores são os responsáveis para indicar a finalidade do tratamento. Há divergência, mais específica sobre a responsabilidade dos desenvolvedores pelas aplicações de seus sistemas de IA. Algumas contribuições defendem que os desenvolvedores não são responsáveis por toda e qualquer aplicação, enquanto outras enfatizam a obrigação legal de que os desenvolvedores orientem sobre sua utilização.

• Momento da avaliação da limitação de propósito: há contribuições que defendem que o juízo de admissibilidade da limitação de propósito/finalidade somente deve ser obrigatório na aplicação do Sistema de IA em si, após a conclusão da fase de testagem, enquanto outras enfatizam que o tratamento de dados pessoais permanece específico à finalidade e dependente do contexto

• Monitoramento contínuo e auditorias: Há uma convergência para a realização de auditorias regulares, a fim de assegurar que os sistemas operem de forma justa e de modo a garantir a conformidade, ressaltando, ainda, a proficuidade de auditoria retrospectiva após o término da relação contratual, pois os impactos de uma tecnologia nos direitos humanos podem ser retardados.

• Qualidade e diversidade dos dados: as contribuições apontam para a necessidade de assegurar a diversidade e qualidade dos dados para resultados representativos.

• Avaliação de impacto: diversas contribuições apontam para a necessidade de avaliação de impacto a fim de identificar e mitigar riscos à privacidade, em especial quando houver alto risco. Determinada contribuição defende, ainda, a avaliação de impacto em direitos humanos (HRIA).

• Supervisão humana: Há um consenso em algumas contribuições sobre a implementação de supervisão humana para a mitigação de riscos de discriminação ilícitca ou abusiva.

• Equipes multidisciplinares e diversas: várias contribuições destacam a importância da inclusão de equipes multidisciplinares na estruturação dos sistemas e com diversidade social, a fim de identificar e mitigar vieses inconscientes.

• Canais de feedback e mecanismos de correção: algumas contribuições apontam para a utilização de canais de feedback e atendimento como meio para que os titulares consigam exercer seus direitos, dentro das limitações técnicas.

• Dados sensíveis: há uma convergência em determinadas contribuições para a possibilidade de tratamento de dados pessoais sensíveis nas fases de teste e validação e com a utilização da hipótese legal de cumprimento de obrigação legal ou regulatória.

• Limitações e desafios: A maioria das contribuições converge que o uso do consentimento como única base legal para o tratamento de dados em sistemas de IA enfrenta desafios e limitações significativas. Gerenciar consentimentos e revogações individuais é considerado logisticamente inviável e oneroso. A complexidade dos sistemas de IA dificulta a clareza na explicação das finalidades do tratamento de dados e a possibilidade de retirada do consentimento. Nesse sentido, cita-se o seguinte excerto de uma das contribuições:

Em alguns casos, dependendo do propósito do sistema de IA, basear-se no consentimento pode levar a conjuntos de dados de treinamento incompletos ou não representativos, o que pode gerar efeitos negativos subsequentes. Essas limitações não apenas sobrecarregam a autonomia do usuário, mas também podem diminuir a eficiência e a eficácia do ecossistema digital. Além disso, pode não ser tecnicamente viável ou ser excessivamente oneroso atender a solicitações de retirada de consentimento ou exclusão de dados por parte dos indivíduos. Isso ocorre porque rastrear os dados de volta aos indivíduos específicos é, não apenas intensivo em recursos e quase impossível no caso de dados de terceiros, mas também representa riscos à privacidade dos indivíduos e pode até comprometer estruturalmente os sistemas de IA, impactando significativamente seu funcionamento.

• Dificuldade de revogação: a revogação do consentimento é vista como um desafio crítico. Após os dados serem utilizados no modelo de IA, reverter seu impacto é extremamente difícil. Em alguns casos, "destreinar" um modelo pode ser tecnicamente inviável. Assim, os requisitos de validação do consentimento e possibilidade de revogação podem inviabilizar a aplicação da hipótese legal.

• Necessidade de transparência e informação: quando o consentimento é considerado, enfatiza-se a necessidade de transparência e informações detalhadas. Os titulares devem ser claramente informados sobre as finalidades do uso de seus dados, o funcionamento do sistema de IA e seus possíveis impactos.

• Consentimento específico e informado: O consentimento, quando aplicável, deve ser livre, informado e específico. As autorizações genéricas para o tratamento de dados pessoais são consideradas nulas. Ademais, há contribuições que atentam para a necessidade de relacionamento prévio entre o agente de tratamento e o titular de dados pessoais. Há contribuições que dizem ser de difícil obtenção o consentimento informado. Outrossim, um sistema que não pode ser adequadamente explicado, também não pode ser objeto de consentimento válido.

• Alternativas ao consentimento: Muitos defendem que bases legais como o legítimo interesse, a execução de contrato e o cumprimento de obrigação legal podem ser mais adequadas em certos contextos de IA.

• Avaliação criteriosa: A utilização do consentimento como base legal deve ser avaliada de forma criteriosa no contexto de sistemas de IA, devido à dificuldade de obtenção de um consentimento prévio e específico.

• Salvaguardas: Caso o consentimento seja utilizado, são necessárias salvaguardas específicas, como transparência, "accountability", documentação, auditorias, mecanismos de revogação, limite de reutilização, medidas de segurança robustas, consentimento granular, linguagem acessível nos termos do art. 9º da LGPD, minimização e anonimização. Além disso, aponta-se para a necessidade de salvaguardas adicionais quando o tratamento de dados estiver relacionado à oferta de serviços personalizados, como recomendações baseadas em preferências dos usuários ou funcionalidades específicas de um sistema de IA. Há ainda contribuição que ressalta a necessidade de salvaguardas adicionais para grupos vulneráveis.

• Viabilidade do consentimento: embora a maioria das contribuições aponte para as limitações do consentimento, algumas consideram que pode ser uma hipótese legal apropriada em situações específicas. Isso ocorre especialmente quando o tratamento de dados tem finalidade claramente definida, há um relacionamento direto com os titulares, e o consentimento pode ser obtido de forma livre, informada e inequívoca. Contudo, outras contribuições apontam que a utilização do consentimento para alguns casos, como tratamento de grande base de dados, pode inviabilizar o desenvolvimento de tecnologias. Da mesma sorte, os requisitos de validação do consentimento e a possibilidade de revogação podem inviabilizar a aplicação desta hipótese legal, especialmente para casos em que sistemas são extremamente úteis para a sociedade, como os de detecção de fraude.

• Finalidades específicas vs. Secundárias: Há discussão sobre se é necessário falar em finalidades específicas para o treinamento de IA ou se esse treinamento já está implícito em qualquer atividade de tratamento de dados pessoais. Alguns defendem a possibilidade de finalidades secundárias, desde que conectadas à finalidade original, que os titulares tenham expectativa e que medidas de segurança adequadas sejam implementadas.

• Escalabilidade do consentimento: Algumas contribuições mencionam que o consentimento não deve ser escalável.

• Necessidade de renovação do consentimento: Há quem defenda que o consentimento deve ser renovado a cada atualização significativa do sistema).

• Dados públicos: Há divergência sobre a possibilidade de utilizar o consentimento para tratamento de dados públicos, como raspagem de dados.

Pergunta 6 - O tratamento de dados pessoais, no contexto de sistemas de IA, pode ser amparado pela hipótese legal do legítimo interesse? Em quais circuntâncias? Em caso afirmativo, quais salvaguardas devem ser adotadas nessas situações com vistas à proteção de direitos dos titulares, especialmente considerando a vedação de tratamento de dados pessoais sensíveis com base na hipótese legal do legítimo interesse? Em particular, a coleta de dados pessoais para o treinamento de sistemas de IA, especialmente mediante técnicas de raspagem de dados, pode ser fundamentada na hipótese legal do legítimo interesse?

• Aplicabilidade do legítimo interesse: a maioria das contribuições converge que o legítimo interesse pode ser uma base legal válida para o tratamento de dados pessoais em sistemas de IA. Isso inclui o treinamento de modelos de IA, especialmente quando envolve grandes volumes de dados e validação de processos. Ainda, mostra-se uma base legal apropriada quando se trata de dados tornados manifestamente públicos pelo titular.

• Necessidade de teste de balanceamento: é amplamente aceito que, para utilizar o legítimo interesse, é imprescindível realizar um teste de balanceamento. Esse teste visa equilibrar os interesses legítimos do controlador com os direitos e liberdades fundamentais dos titulares. O teste de balanceamento deve considerar a finalidade e a necessidade do tratamento, bem como as salvaguardas implementadas.

• Transparência: a transparência é apontada como elemento crucial. É necessário informar os titulares sobre o tratamento de seus dados de forma clara e acessível, utilizando uma linguagem compreensível.

• Salvaguardas e medidas de mitigação: existe um consenso sobre a necessidade de implementar salvaguardas para proteger os direitos dos titulares. Essas salvaguardas incluem:

Anonimização e pseudonimização;

Minimização de dados;

Implementação de medidas de segurança;

Possibilidade de oposição ao tratamento;

Relatórios de Impacto à Proteção de Dados (RIPD).

• Raspagem de dados: o legítimo interesse pode ser utilizado para raspagem de dados (scraping), desde que os dados sejam acessíveis publicamente, o impacto sobre os titulares seja minimizado, e não haja expectativa de privacidade. Ainda, há contribuição atentando para o fato de que a raspagem de dados não deve coletar dados pessoais sensíveis ou de crianças e adolescentes e que a inclusão de salvaguardas desde o início é necessária para limitar a coleta de dados pessoais sensíveis.

• Dados sensíveis: há uma forte convergência de que o legítimo interesse não deve ser utilizado para o tratamento de dados pessoais sensíveis. A LGPD proíbe o uso do legítimo interesse como base legal para o tratamento de dados pessoais sensíveis. No entanto, algumas contribuições mencionam que, se o tratamento de dados sensíveis for acidental e medidas de mitigação adequadas forem adotadas, o uso do legítimo interesse pode ser considerado. Assim, sugerem a filtragem, na medida do possível, de dados pessoais e sensíveis desnecessários, inadequados e irrelevantes antes de usar conjuntos de dados para treinar sistemas de genAI; e quando a filtragem prévia não for prática, anotação de dados para identificar dados pessoais e sensíveis inseridos no treinamento da IA, com medidas técnicas para impedir que esses dados sejam reproduzidos ou extraídos nos resultados do sistema. Há contribuições que sugerem medidas para mitigar o risco associado, tais como: definir critérios que evitem a coleta de dados sensíveis durante o processo de captura; e higienizar as bases de dados, eliminando eventuais informações sensíveis coletadas incidentalmente.

• Aplicabilidade da LGPD: A maioria das contribuições converge no entendimento de que a LGPD se aplica ao tratamento de dados pessoais realizado por sistemas de IA. A lei não se aplica aos sistemas de IA em si, mas sim ao tratamento de dados pessoais que eles realizam. Isso inclui as fases de treinamento, desenvolvimento e aplicação dos modelos. Há contribuições que defendem a aplicação integral dos direitos, mas alertam para que sua implementação seja feita de forma pragmática e proporcional.

• Necessidade de transparência: Há um consenso sobre a importância da transparência no uso de IA, garantindo que os titulares sejam informados sobre como seus dados são coletados, utilizados e tratados. Essa transparência deve ser equilibrada com a proteção de segredos comerciais e informações confidenciais. Também se fala em transparência algorítmica.

• Atenção ao contexto: Existe um entendimento comum de que o exercício dos direitos dos titulares deve observar o contexto dos sistemas de IA. Isso significa considerar as limitações técnicas, a complexidade dos algoritmos e a necessidade de equilibrar a proteção da privacidade com outros interesses legítimos, como a gestão de riscos financeiros.

• Governança e accountability: As contribuições ressaltam a importância de implementar programas de governança em IA, privacidade e proteção de dados. Esses programas devem incluir a documentação do tratamento de dados, o monitoramento do acesso e uso de dados, e a criação de mecanismos de atendimento aos titulares.

• Importância dos Canais de Atendimento: Há um consenso sobre a necessidade de canais de atendimento para que os titulares de dados possam exercer seus direitos, como acesso, oposição e revisão de decisões automatizadas.

• Acessibilidade e Facilidade de Uso: As contribuições convergem na importância de que os canais de atendimento sejam de fácil acesso e possuam uma interface intuitiva e simples, com informações claras sobre como exercer cada um dos direitos. A linguagem utilizada deve ser clara e livre de termos técnicos e deve-se garantir que os canais estejam sempre disponíveis.

• Transparência: A transparência é apontada como um princípio fundamental. Os canais devem oferecer informações claras e detalhadas sobre como o titular pode exercer seus direitos e oferecer políticas que ofereçam transparência aos titulares em relação aos modelos e tecnologias adotados. Além disso, é necessário informar os titulares sobre o uso de IA no tratamento de seus dados e os impactos em suas decisões. Ainda, sugere-se que os canais de atendimento sejam acessíveis a todos os titulares, incluindo pessoas com deficiência de diferentes níveis de letramento digital. Por fim, pode-se destacar a contribuição que afirma que os canais de atendimento devem incluir mecanismos que possibilitem ao titular obter informações detalhadas sobre as inferências realizadas, bem como os critérios, dados e modelos utilizados para gerá-las.

• Necessidade de salvaguardas e boas práticas: Existe um acordo sobre a importância de implementar salvaguardas para garantir a segurança e a proteção dos dados nos canais de atendimento. Isso inclui a utilização de tecnologia segura, autenticação robusta e a implementação de métodos de verificação de identidade. Nesses termos, há contribuição que traz uma lista de boas práticas para o exercício dos direitos por parte dos titulares:

Boas práticas para o exercício dos direitos: Estabelecimento de período prévio mínimo para que os titulares sejam comunicados e possam se opor ao tratamento de seus dados para treinamento de sistemas de IA; ● Facilidade no direito de oposição, sem exigir dos titulares qualquer justificativa ou ônus injustificado; ● Granularidade no exercício do direito de oposição, podendo o titular se opor ou vetar o uso de dados de determinada fonte (ex: indiciar a URL de um blog que mantém com relatos de viagens contendo dados pessoais) ou alguma categoria de dado que se opõe ao tratamento para o treinamento de algum sistema de IA; ● Garantir o direito de acesso aos titulares acerca de seus dados pessoais tratados por sistemas de IA, incluindo as anotações e metadados; ● Garantir o direito de informação acerca de tratamento compartilhado e compartilhamento de dados pessoais com terceiros, incluindo se esses terceiros são fontes de dados pessoais sobre o titular para o uso e treinamento de sistemas de IA; e ● Em cumprimento ao dever de transparência, sempre informar ao titular quando ele estiver interagindo com um sistema de IA e informar de forma específica os direitos que ele pode exercer frente a esse sistemas, como por exemplo, direito de revisão de decisão automatizada ou o direito à informação previsto no art. 20 §1º.

Além disso, há contribuições que trazem listagem de medidas de salvaguarda, dentre as quais podem ser citadas a exclusão de informações indesejadas dos dados coletados online; de duplicação: remoção de trechos de texto idênticos; técnicas pós-treinamento; filtragem (As empresas podem manter os direitos dos titulares de dados filtrando os dados pessoais verificados das pessoas para que não apareçam nos resultados do modelo e garantindo que sejam excluídos de futuras execuções de treinamento do modelo); medidas de proteção de privacidade devem ser abordadas de forma holística, abrangendo todas as etapas do tratamento de dados, em vez de serem limitadas a uma única fase. Essa visão holística permite que as empresas abordem os riscos potenciais de privacidade de maneira mais abrangente, ao mesmo tempo em que mantêm a eficácia dos sistemas de IA.

• Registro e Rastreabilidade: As contribuições convergem na necessidade de manter registros de atendimento para assegurar a rastreabilidade e a responsabilização. Os sistemas de atendimento devem permitir o rastreamento de solicitações.

• Prazos: Os prazos para atendimento devem ser claros e alinhados aos previstos na LGPD.

• Obrigatoriedade de Canais Específicos para IA: Uma das principais divergências reside na obrigatoriedade de criação de canais de atendimento específicos para sistemas de IA. Algumas contribuições defendem que a LGPD não exige a criação de canais específicos, enquanto outras recomendam que os controladores avaliem a necessidade de mecanismos especializados em casos de tratamentos complexos ou de alto impacto sobre os titulares:

Embora a LGPD não obrigue a criação de canais específicos para tratamentos realizados por IA, é recomendável que controladores avaliem mecanismos especializados em casos em que a complexidade do tratamento ou o impacto sobre os titulares o justifique. Por exemplo, sistemas de IA utilizados para análise de crédito ou prevenção a fraudes poderiam contar com canais dedicados para esclarecer dúvidas específicas sobre esses tratamentos. Contudo, tais mecanismos devem ser vistos como boas práticas para aprimorar a governança e a transparência, e não como exigências legais.

 

• Padronização dos Canais de Atendimento: Há divergências quanto à padronização dos canais de atendimento. Algumas contribuições defendem que a ANPD deve se limitar a apontar diretrizes sobre o tema, prestigiando a autonomia do controlador. Outras sugerem que a ANPD defina diretrizes sobre o tema.

• Formato dos Canais de Atendimento: Existe uma divergência sobre qual o formato de canal de atendimento deve ser priorizado. Há quem defenda que o controlador define o canal (formulário, e-mail, etc.) conforme suas possibilidades e critérios. Outros defendem que o atendimento humano deve ser priorizado.

• Necessidade de Revisão Humana: Há divergências sobre a necessidade de revisão humana nas decisões automatizadas. Algumas contribuições defendem a possibilidade de escalonamento para revisão humana em casos complexos ou de contestação de decisões automatizadas.

• Necessidade de Salvaguardas: A maioria das contribuições converge na necessidade de salvaguardas adicionais ao tratar dados pessoais sensíveis e dados de grupos vulneráveis como crianças, adolescentes e idosos. Essas salvaguardas visam minimizar danos e proteger os direitos desses grupos. Dados e riscos associados exigem salvaguardas que considerem as particularidades de cada grupo vulnerável. Isso inclui técnicas de PETs/PPTs (anonimização, dados sintéticos, técnicas de anotação de dados e privacidade diferencial, criptografia), além de ferramentas de privacy by design. Ainda sugerem a minimização do uso de dados pessoais, o monitoramento contínuo e a obtenção do consentimento de forma destacada e com comunicação compatível com o nível de compreensão do titular ou responsável legal. Algumas ainda defendem a acessibilidade e linguagem simples dos sistemas de IA.

• Princípio do Melhor Interesse da Criança: Há um forte consenso de que o tratamento de dados de crianças e adolescentes deve observar o princípio do melhor interesse do menor, conforme previsto na LGPD e na Convenção das Nações Unidas. Em especial, há contribuição que defende que o melhor interesse deve ser prévio ao desenvolvimento ou implementação de um sistema de IA que trate dados pessoais e/ou seja direcionado a estes grupos. Sugerem também a minimização da coleta de dados e a restrição de seu uso para fins de publicidade infantil. Há ainda contribuição que sugere que empresas que desenvolvem produtos de IA para menores devem investir em educação e alfabetização em IA.

• Transparência: A transparência no tratamento de dados, especialmente de idosos, é apontada como fundamental. É importante garantir que o consentimento seja compreendido e informado.

• Medidas de Segurança: Há convergência na necessidade de medidas de segurança reforçadas para o tratamento de dados sensíveis e de grupos vulneráveis. Há contribuição que foca bastante na minimização de dados e que alega a remoção de dados com conteúdo impróprio, como conteúdo sexual, ilegal ou abuso sexual infantil. Algumas medidas sugeridas incluem criação de perfis de risco para vulneráveis, treinamento de modelos com dados balanceados para evitar vieses, desenvolvimento de interfaces intuitivas e criação de canais de atendimento especializados.

• Avaliação de Risco e Impacto: A realização de avaliações de risco e Relatórios de Impacto à Proteção de Dados Pessoais (RIPD) é amplamente recomendada, especialmente em casos que envolvem dados sensíveis ou grupos vulneráveis.

• Necessidade de Requisitos Distintos para Idosos: Algumas contribuições defendem que o tratamento de dados de idosos não deve atender a requisitos distintos dos de outros adultos. Argumenta-se que exigir tratamento diferenciado pode ser discriminatório, considerando a presunção de plena capacidade cognitiva desses titulares. Outras contribuições apontam que idosos requerem atenção devido ao risco de exclusão digital e dificuldade em compreender os impactos do uso de IA. Ainda, afirmam que a linguagem deve ser clara, verificando, inclusive, se há curador ou necessidade de decisão apoiada, de modo que as decisões respeitem suas funções cognitivas. Afirma-se que os idosos são vulneráveis a riscos específicos, como fraudes digitais e explorações financeiras. Finalmente, há contribuição que sugere que as salvaguardas específicas sejam restritas a idosos maiores de 80 anos.

• Classificação de Dados de Idosos como Sensíveis: Existe discordância sobre a classificação de dados de idosos como dados sensíveis. Algumas contribuições argumentam que equiparar idosos a crianças e adolescentes ou classificar seus dados como sensíveis extrapola os limites estabelecidos pela legislação. Outras apontam que dados de pessoas idosas podem ser sensíveis em determinados contextos. Atentam para o risco de etarismo.

• Amplitude das Salvaguardas: Há divergências sobre se limitações adicionais devem ser impostas além das já previstas na legislação. Algumas contribuições defendem que não devem ser impostas limitações específicas ao tratamento de dados no contexto da IA que não estejam expressamente previstas na LGPD. Outras argumentam que salvaguardas e limites restritivos são mandatórios, sendo importante haver medidas de governança que possibilitem a mitigação de riscos para dados pessoais sensíveis, de crianças, adolescentes e idosos.

• Resolução 245/2024 do CONANDA: Há divergências sobre o conteúdo da Resolução 245/2024 do CONANDA, que proíbe a perfilização de dados pessoais de crianças e adolescentes para fins comerciais. Algumas contribuições apontam que a resolução pode excluir tais indivíduos do acesso a produtos que poderiam estar alinhados com seu melhor interesse.

• Consentimento: há contribuição que destaca que a hipótese legal do consentimento deve ser reconsiderada, devido à opacidade intencional que permeia o desenvolvimento da IA. Assim, os titulares não conseguem avaliar os riscos associados à anuência com o tratamento de dados.

• Teste de Proporcionalidade: Uma contribuição menciona a suficiência do teste de proporcionalidade como limitação quando o tratamento de dados em sistemas de IA é fundamentado no legítimo interesse e usa dados pessoais de crianças, adolescentes e/ou idosos.

• Dados sensíveis: há contribuições que afirmam que o tratamento de dados pessoais sensíveis ocorre somente quando a finalidade é identificar aspectos específicos descritos no artigo 5º, II, da LGPD, e associá-los a um indivíduo em particular. Os documentos ressaltam, ainda, que o mero potencial de inferir tais informações não qualifica os dados pessoais como sensíveis. Ainda há contribuição que afirma que requisitos normativos podem levar desenvolvedores a excluir dados sensíveis do conjunto de treinamento em detrimento do desempenho do sistema de IA. Por outro lado, há contribuições que sugere que, para dados sensíveis, é recomendável que as operações sejam guiadas pelo princípio da necessidade estrita.

• Decisões de Alto Risco: Algumas contribuições defendem que a revisão deve se aplicar apenas a decisões automatizadas de alto risco, que produzem efeitos jurídicos ou similares. No entanto, outras argumentam que a revisão não depende de efeito legal ou significativamente equivalente.

• Abrangência da Afetação de Interesses: Há divergências sobre a amplitude da afetação de interesses. Algumas contribuições sugerem não ampliar o alcance do direito à revisão para situações como perfilizações para publicidade direcionada, que geram impactos menos significativos. Outras afirmam que os interesses do titular envolvem aspectos referentes à sua personalidade e que as decisões devem afetar os interesses dos titulares de forma significativa ou negativa. Há contribuição que afirma que os interesses podem envolver interesses contratuais, financeiros e de direitos e liberdades fundamentais dos titulares. Assim, os agentes de tratamento devem assegurar que as decisões automatizadas sejam corretas, legais e éticas, bem como permitir que os titulares entendam e contestem as decisões, quando necessário, a fim de evitar vieses e discriminação nessas decisões. Alguns exemplos dados por contribuições são: acesso a serviços, oportunidades de emprego, reputação e autonomia dos indivíduos. Por fim, cabe apontar para a contribuição que afirma que os principais interesses afetados por decisões puramente automatizadas são aqueles que interferem nos preceitos morais de uma sociedade, interesses jurídicos, econômicos, políticos, de privacidade, reputação, e direitos públicos, além do viés algorítmico (discriminação algorítmica).

• Necessidade de Revisão Humana: A obrigatoriedade da revisão humana é um ponto de divergência. São apontados problemas na revisão humana, como: vieses mentais, como confiança na lógica automatizada e o argumento de que a automatização traz objetividade e rapidez. Há apontamentos de que a revisão humana somente é necessária quando o tratamento é exclusivamente automatizado. Outros apontam sua necessidade somente se houver efeito legal ou significativamente equivalente. A LGPD não exige revisão humana, mas os argumentos do titular devem ser analisados. A revisão pode ser feita por humanos ou máquinas. Destacam, ainda, que há desafios substanciais na implementação de um processo de revisão humana, como custos elevados e a complexidade de adaptação de processos empresariais muitas vezes projetados para operar de maneira inteiramente automatizada. Há contribuição que afirma que a revisão humana e a transparência são essenciais para evitar discriminações, vieses ou erros que comprometam esses direitos e traz como requisitos para garantia do direito à revisão os seguintes: transparência sobre o processo automatizado, garantia de revisão humana, clareza explicativa e justificação, mitigação de vieses, salvaguardas e boas práticas, auditorias regulares, interface de atendimento ao titular, monitoramento contínuo de impactos. Por fim, destaca-se a contribuição que sugere que a revisão humana, quando necessária e requerida, deve ser implementada de forma eficiente e escalável, utilizando equipes com capacitação técnica e que sejam imparciais.

• Conceito de Decisão Unicamente Automatizada: Há diferentes interpretações sobre o que configura uma decisão tomada unicamente com base em tratamento automatizado. A necessidade de intervenção humana "significativa" é um ponto central. Ainda, há contribuição que destaca 3 aspectos a serem considerados para aplicação do art. 20: existência de uma decisão com impacto material, tratamento exclusivamente automatizado e que afete materialmente a vida do titular. Ainda, aponta a necessidade de distinguir entre sistemas com impacto mínimo e sistemas usados na tomada de decisões que afetam a prestação de serviços essenciais. Cabe citar também contribuição que traz uma definição de decisão automatizada: aquela destinada a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade - aspectos que podem ser afetados por meio desse tipo de automação. Outra contribuição afirma que uma decisão é caracterizada como automatizada se: não houver interferência humana significativa e gerar impacto jurídico ou prático significativo ao titular. Ainda, afirma-se em contribuição que modelos de IA que fornecem dados de saída, revisado por um humano habilitado, que é o decisor final, não se enquadrariam no contexto de decisão automatizada. Cabe citar contribuição que aponta a necessidade de 3 critérios cumulativos para que o titular tenha direito de solicitar a revisão de decisão automatizada: autenticação do titular para validação da identidade; a decisão ter sido tomada unicamente com base em tratamento automatizado de dados pessoais; o titular demonstrar que os impactos da decisão afetaram seus interesses. Por fim, cabe citar a contribuição que afirma que uma decisão que se reverta em insumo para um sistema ou uma atividade mais ampla de avaliação não deve ser considerada como uma decisão automatizada.

• Extensão do Direito à Revisão: Existe divergência se a noção de decisão baseada em tratamento totalmente automatizado deve se estender às decisões intermediárias de um processo decisório que possam influenciar e impactar as decisões posteriores. Duas contribuições afirmam que a noção de decisão baseada em tratamento totalmente automatizada também se estenda às decisões intermediárias de um processo decisório que possam influenciar e impactar a decisões posteriores. Esse tipo de análise deve ser feito de forma casuística e contextual, cabendo ao controlador a responsabilidade de identificar esses nódulos da árvore decisória que têm o potencial de impactar os interesses dos titulares, e por consequência garantir o direito previsto no art. 20 da LGPD. Outras, por outro lado, afirmam que decisões intermediárias não lançam efeito a qualquer titular.

• Transparência vs. Segredos Comerciais: É apontado o desafio de equilibrar o direito dos titulares à transparência e revisão com a necessidade de preservar a propriedade intelectual e proteger os interesses comerciais das empresas. Destacam que a transparência deve considerar o contexto regulatório sem comprometer segredos comerciais, oferecendo informações claras e relevantes, como os critérios utilizados na avaliação, sem detalhar fórmulas específicas. Assim, o controlador deve adotar medidas adequadas de transparência, para que, resguardados os seus segredos comercial e industrial (art. 20, §1º, LGPD), informar, de modo simples e direto, a lógica do processo decisório.

• Modelos de IA Generativa: Há divergências se modelos de IA generativa tomam decisões que se encaixam nos critérios do artigo 20 da LGPD e afirmam que modelos generativos apenas preveem a próxima palavra ou frase, não configurando uma decisão no sentido da lei.

• Efeitos Jurídicos ou Similares: Existe concordância de que a revisão humana é necessária quando decisões automatizadas produzem efeitos jurídicos ou efeitos significativamente similares, além de efeitos adversos significativos decorrentes de fatores como a falta de transparência e explicabilidade, desconformidade com a legislação e discriminação ou viés abusivo ou ilícito.

• Impacto nos Direitos do Titular: A revisão humana é vista como necessária quando a decisão automatizada tem um impacto significativo nos direitos do titular. Isso inclui situações que envolvem discriminação, vieses, tratamento de dados sensíveis, ou falta de explicações satisfatórias por parte do sistema automatizado. Ainda, há contribuição que afirma que qualquer decisão automatizada que tenha impacto na vida de um indivíduo, mesmo que mínimo, deve ser significativamente revisada e aprovada por um ser humano. Outras sugerem que apenas as decisões de alto impacto devem ser revisadas, como a concessão de crédito, a aprovação de um empréstimo, a definição de um perfil de risco ou a seleção de um emprego.

• Discriminação e Vieses: A necessidade de revisão humana é enfatizada em casos de suspeita de discriminação ou vieses nas decisões automatizadas.

• Transparência e Explicabilidade: A revisão humana está diretamente ligada aos princípios de transparência e explicabilidade. A falta de transparência no processo automatizado justifica a necessidade de revisão humana para que o titular compreenda os critérios e dados que fundamentaram a decisão.

• Alto Risco: A utilização do alto risco no tratamento de dados pessoais nos sistemas de IA é apontada como um fator determinante para a revisão humana.

• Qualificação dos Revisores: A revisão humana deve ser conduzida por profissionais qualificados e capazes de identificar erros ou vieses nos algoritmos.

• Direito à Contestação e Informação: O titular deve ter o direito de contestar a decisão automatizada de maneira eficiente. É fundamental que o titular tenha acesso a informações claras e adequadas sobre os critérios e dados utilizados no processo de decisão.

• Revisão como Boa Prática: Mesmo não sendo legalmente obrigatória, a revisão humana é amplamente recomendada como uma boa prática, podendo ser uma boa prática para evitar danos em larga escala. A adoção de políticas de revisão humana pode ser considerada uma circunstância atenuante em fiscalizações. Também pode ser considerada uma boa prática para revisão de outputs de IA Generativa, como forma de controle de qualidade e ação de prevenção à discriminação.

• Necessidade de Mecanismos de Supervisão: Há um consenso sobre a importância de mecanismos de supervisão incorporados aos sistemas de IA.

• Nível de Detalhamento das Informações: Há divergência sobre o nível de detalhamento técnico que deve ser fornecido. Alguns defendem que não é necessário revelar algoritmos ou fórmulas complexas, bastando a transparência quanto aos dados coletados e as finalidades do tratamento automatizado. Outros enfatizam a importância de informações completas e abrangentes.

• Definição de Segredo Comercial e Industrial: Existe insegurança jurídica sobre o que seriam informações "claras e adequadas" e como conceituar "segredos comercial e industrial". Informações eminentemente técnicas, como fórmulas, não devem ser abarcadas pelo princípio da transparência.

• Abrangência do Segredo Comercial: Há diferentes visões sobre o que abrange o segredo comercial e industrial. Alguns incluem a metodologia do tratamento, dados confidenciais da empresa e informações estratégicas, enquanto outros restringem a divulgação apenas aos elementos essenciais para garantir a transparência, sem comprometer a inovação ou a posição no mercado.

• Transparência vs. Segurança: Alguns argumentam que a transparência excessiva pode comprometer a segurança dos sistemas, levando à manipulação e uso malicioso das informações.

• Auditoria: Em caso de alegação de sigilo, alguns sugerem que auditorias poderão ser feitas para verificar a veracidade das alegações.

• Necessidade de programas de governança em privacidade: Existe um consenso de que programas de governança em privacidade são fundamentais para assegurar a conformidade com a LGPD no desenvolvimento e uso de sistemas de IA.

• Privacidade desde a concepção (Privacy by Design): A abordagem de "Privacy by Design" é amplamente defendida como um princípio essencial na criação de sistemas de IA, garantindo que a privacidade seja considerada desde o início do processo de desenvolvimento.

• Transparência e comunicação: A importância da transparência e da comunicação com os titulares de dados é enfatizada, garantindo que os indivíduos compreendam como seus dados estão sendo utilizados e tenham seus direitos respeitados.

• Relatório de Impacto à Proteção de Dados (RIPD): O RIPD é citado como um instrumento indispensável para identificar e mitigar riscos relacionados ao tratamento de dados em sistemas de IA.

• Monitoramento contínuo: A necessidade de monitoramento contínuo e auditorias é destacada para garantir a conformidade e a eficácia das medidas de proteção de dados ao longo do tempo. Também sugerem auditorias de software com revisão periódica dos algoritmos com potencial de discriminação ou violações da privacidade.

• Treinamento e capacitação: A importância de investir em treinamento e capacitação das equipes envolvidas no desenvolvimento e operação de sistemas de IA é ressaltada, abordando princípios da LGPD, ética e prevenção de riscos.

• Adoção de políticas de privacidade adaptáveis: Há incentivo à adoção de políticas de privacidade adaptáveis às evoluções de segurança e proteção de dados em sistemas de IA.

• Segurança e proteção de dados: A segurança da informação e a proteção de dados são mencionadas como elementos cruciais dos programas de governança.

• Obrigatoriedade de algumas práticas: Enquanto algumas contribuições defendem a aplicação de princípios de governança de dados aos sistemas de IA, como os de qualidade e não discriminação e mesmo os princípios gerais da LGPD, outras consideram que nem todos devem ser obrigatórios. Outras contribuições ressaltam que princípios como privacy by design, avaliação de riscos e boas práticas de anonimização são relevantes, mas é essencial reconhecer que a maioria dos riscos relacionados à IA não envolve dados pessoais e exigem análises de risco muito diferentes daquelas relacionadas a dados pessoais.

• Âmbito da regulamentação: Existe debate sobre a necessidade de estabelecer novos requisitos e obrigações para sistemas de IA fora dos limites legislativos existentes. Há contribuições que afirmam não ser possível estabelecer novas obrigações e requisitos ao desenvolvimento e uso de sistemas de IA fora dos limites legislativos. Outras afirmam que a governança de sistemas de IA pode ser considerada uma boa prática, mas inexiste obrigação legal.

• Nível de detalhe na regulamentação pela ANPD: Há discussão sobre se a ANPD deve estabelecer requisitos específicos no contexto da IA, com alguns defendendo maior flexibilidade e outros buscando maior clareza e diretrizes. Assim, há contribuição que sugere que a ANPD não se antecipe em estabelecer requisitos específicos no contexto de IA, a fim de não ocasionar insegurança jurídica, devendo aguardar o desenrolar do PL 2338/23. Ainda, a contribuição que afirma que a ANPD não possui competência para emitir regulamentações específicas ou estabelecer requisitos relacionados a programas de governança voltados ao desenvolvimento e uso de inteligência artificial. Assim, a implementação de normas de governança de sistemas de IA pode ser considerada uma boa prática, mas inexiste obrigação legal. Por sua vez, há contribuições que afirmam que a ANPD deve trazer diretrizes de governança de dados pessoais para uso no treinamento e suso de sistemas e modelos de IA, podendo emitir orientações e diretrizes para a governança de dados pessoais usados no treinamento e uso de sistemas de IA.

• Necessidade de avaliação de impacto para todos os sistemas: Há divergência sobre se todas as organizações que utilizam sistemas de IA de alto risco devem preparar avaliação de impacto à proteção de dados, ou se organizações que lidam com aplicações de baixíssimo risco não necessitam de avaliação. Assim, há contribuições que sugerem avaliação de impacto apenas para as organizações que desenvolvam sistemas de IA de alto risco. Outras não fazem distinção. Há contribuições que sugerem a avaliação de impacto algorítmico.

• Adoção de padrões internacionais: Enquanto alguns defendem o alinhamento com melhores práticas e padrões internacionais, como o AI Risk Management Framework do NIST e ISO 42001 e 23894, outros podem não exigir essa adoção.

• Necessidade de documentação no ciclo de vida da IA: Várias contribuições concordam que é fundamental documentar todas as etapas do tratamento de dados em sistemas de IA. Isso inclui desde a concepção e planejamento, desenvolvimento, implementação e monitoramento contínuo até a desativação do sistema.

• Risco como fator determinante para o RIPD: Há um consenso de que o Relatório de Impacto à Proteção de Dados (RIPD) é mais necessário em contextos de alto risco. A avaliação de risco deve considerar a probabilidade e a severidade dos impactos nos direitos e liberdades dos titulares.

• Transparência e explicabilidade: A transparência nos algoritmos e nas decisões automatizadas é amplamente defendida. A documentação deve incluir as justificativas para as decisões automatizadas e os métodos utilizados no treinamento dos algoritmos.

• Atenção aos direitos dos titulares: As contribuições enfatizam a importância de garantir os direitos dos titulares de dados, como o direito à informação, acesso, retificação, oposição e portabilidade. Os agentes de IA devem implementar mecanismos para lidar com incidentes de segurança e violações de dados.

• Governança e responsabilidade: A necessidade de estabelecer uma cadeia de governança coletiva entre os desenvolvedores e aplicadores de IA é reconhecida. A documentação deve demonstrar a conformidade com os princípios da LGPD e a responsabilização dos agentes.

• Obrigatoriedade do RIPD: Algumas contribuições indicam que o RIPD é exigível em todas as circunstâncias previstas na LGPD, independentemente do sistema de IA. Outras sugerem que a necessidade do RIPD deve ser avaliada caso a caso, considerando fatores como o risco e a inovação da IA. Há também quem defenda que a ANPD não deveria estabelecer requisitos específicos para o RIPD envolvendo sistemas de IA, pois a LGPD já é um marco legal suficiente.

• Especificidade dos requisitos da ANPD: Existe uma divergência sobre se a ANPD deve ou não estabelecer requisitos específicos para a elaboração de RIPD). Alguns argumentam que a LGPD já fornece as diretrizes necessárias, enquanto outros defendem que a ANPD pode detalhar os requisitos para garantir a conformidade e a proteção de dados. Há contribuições que sugerem uma lista de exemplos de informações a serem documentadas.

• Conceito de "ciclo de vida" nos sistemas de IA: Algumas contribuições mencionam a importância de documentar todas as etapas do ciclo de vida da IA, enquanto outras afirmam que o conceito de "ciclo de vida" não se aplica aos sistemas de IA.

• Âmbito do RIPD: Há diferentes visões sobre o que deve ser incluído no RIPD. Algumas contribuições detalham os elementos essenciais, como a descrição do tratamento, a avaliação da necessidade e os riscos para os indivíduos. Outras enfatizam a importância de analisar os impactos sociais e éticos e de documentar as medidas de segurança adotadas.

• Interpretação do "alto risco": Algumas contribuições afirmam que o RIPD é necessário somente em contextos de alto risco. A interpretação do conceito de "alto risco" é outro ponto de divergência. Algumas contribuições sugerem que critérios específicos devem ser aplicados para evitar a classificação indevida de atividades de baixo impacto como de alto risco.

• A anonimização como boa prática: Várias contribuições convergem que a anonimização é uma boa prática.

• A anonimização como medida de segurança: A anonimização é vista como uma medida acessória de segurança que está vinculada à finalidade inicial dos tratamentos.

• Anonimização em diferentes fases do ciclo de vida da IA: A anonimização pode ser necessária e viável em diferentes momentos e contextos no ciclo de vida de um sistema de IA. A anonimização é recomendada especialmente, nos termos de algumas contribuições, nas fases de coleta, armazenamento e compartilhamento de dados.

• Técnicas de anonimização: Há várias técnicas de anonimização como criptografia, supressão, generalização, perturbação, pseudonimização, agregação e hashing.

• Obrigatoriedade da anonimização: Algumas contribuições indicam que a anonimização é uma boa prática, mas não há obrigação legal expressa de seu uso.

• A anonimização não é recomendável para alguns sistemas de IA.

• Dados anonimizados não configuram tratamento.

• A anonimização não implica em consequências para o titular de dados.

• Sistemas de IA que apresentem riscos aos direitos fundamentais de titulares de dados devem cumprir com as obrigações da LGPD, ainda que se utilizem de dados inicialmente anonimizados.

• A anonimização deve ser feita de forma anterior ao ingresso nos sistemas de IA: É recomendável que a anonimização seja feita de forma anterior ao ingresso nos sistemas de IA.

• A anonimização pode ser aplicada em momento posterior ao tratamento nos sistemas de IA, como a tokenização ou generalização: As técnicas de anonimização podem ser aplicadas em momento posterior ao tratamento nos sistemas de IA.

---

Documento assinado eletronicamente por Mariana Almeida de Sousa Talouki, Coordenador(a), em 03/04/2025, às 15:22, conforme horário oficial de Brasília, com fundamento no art. 6º, § 1º, do Decreto nº 8.539, de 8 de outubro de 2015.

---

Documento assinado eletronicamente por Gabriela Natacha Bechara, Professor do Magistério Superior, em 03/04/2025, às 15:24, conforme horário oficial de Brasília, com fundamento no art. 6º, § 1º, do Decreto nº 8.539, de 8 de outubro de 2015.

---

Documento assinado eletronicamente por Fábio Silveira Vidal, Servidor(a) Requisitado(a)-ANPD, em 03/04/2025, às 15:24, conforme horário oficial de Brasília, com fundamento no art. 6º, § 1º, do Decreto nº 8.539, de 8 de outubro de 2015.

---

Documento assinado eletronicamente por Rodrigo Santana dos Santos, Coordenador(a)-Geral de Normatização, em 03/04/2025, às 15:27, conforme horário oficial de Brasília, com fundamento no art. 6º, § 1º, do Decreto nº 8.539, de 8 de outubro de 2015.

---

A autenticidade deste documento pode ser conferida no site https://anpd-super.mj.gov.br/sei/controlador_externo.php?acao=documento_conferir&id_orgao_acesso_externo=0, informando o código verificador 0173345 e o código CRC 18F035F4.

---