Nova estrutura deve analisar algoritmos, design das plataformas e riscos da IA, ampliando o debate sobre privacidade, transparência e liberdade na internet.
A Agência Nacional de Proteção de Dados (ANPD) prepara a criação de um centro especializado em inteligência artificial para ampliar sua capacidade técnica de analisar algoritmos e tecnologias utilizadas por redes sociais e outras plataformas digitais. A iniciativa foi revelada pela diretora da agência Lorena Giuberti Coutinho e ocorre em um momento no qual o órgão brasileiro acumula novas responsabilidades sobre proteção de dados, segurança de crianças e adolescentes e funcionamento de serviços digitais.
A discussão interessa diretamente ao cidadão porque pode atingir elementos incorporados à rotina de milhões de usuários, como rolagem infinita, excesso de notificações, sistemas de recomendação e mecanismos desenvolvidos para prolongar o tempo de permanência nas plataformas. Ao mesmo tempo, qualquer avanço regulatório nessa área exige atenção aos limites da atuação estatal para que proteção de direitos, liberdade de expressão, inovação e circulação de informações sejam preservadas. A questão central passa a ser: até onde a ANPD poderá fiscalizar os algoritmos sem controlar aquilo que as pessoas publicam ou consomem na internet?
O que é o novo centro de inteligência artificial da ANPD e o que ele poderá fiscalizar?
O centro está sendo estruturado para aumentar a capacidade técnica da ANPD de compreender e avaliar algoritmos e outras tecnologias utilizadas pelas plataformas. Segundo Lorena Giuberti Coutinho, a previsão é que a nova estrutura comece a funcionar ainda neste semestre ou no próximo, embora sua composição e seu modelo definitivo continuem em definição. A preocupação não está apenas no conteúdo que aparece em uma rede social, mas também nos mecanismos tecnológicos que determinam como usuários interagem com esses ambientes. A agência estuda, por exemplo, padrões de design capazes de incentivar utilização excessiva das plataformas, incluindo notificações constantes e rolagem infinita.
Esse movimento não começa do zero. Em agosto, a ANPD publicou a metodologia de seu Sandbox Regulatório em Inteligência Artificial e Proteção de Dados, desenvolvido com participação do Centro de Inteligência Artificial e Aprendizado de Máquina da Universidade de São Paulo. A metodologia prevê testes envolvendo transparência, explicabilidade, proteção de dados pessoais e gestão de riscos em sistemas de IA. A transparência algorítmica aparece como um dos pontos centrais desse trabalho, especialmente para compreender como decisões automatizadas são produzidas e quais informações precisam ser disponibilizadas aos cidadãos.
A ampliação da fiscalização já pode ser observada na prática. A ANPD iniciou recentemente o monitoramento de 22 agentes, entre plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativa. Entre os serviços abrangidos estão redes sociais e sistemas de IA de grande alcance no mercado brasileiro. A própria agência esclarece, entretanto, que sua atuação possui caráter sistêmico: o objetivo é avaliar mecanismos, processos e estruturas adotados pelas empresas para cumprir a legislação, e não examinar individualmente cada publicação feita pelos usuários.
Essa distinção é fundamental para o debate sobre liberdade de expressão. Fiscalizar como uma plataforma administra dados, recomenda conteúdos ou protege determinados públicos é diferente de determinar previamente quais opiniões podem circular. A atuação regulatória precisa permanecer submetida à legislação, à transparência institucional e à possibilidade de contestação das decisões. Para uma imprensa livre, acompanhar esses limites será tão importante quanto verificar se as grandes empresas de tecnologia estão efetivamente cumprindo suas obrigações.
Rolagem infinita, crianças e IA: por que o funcionamento das plataformas entrou na mira?
Um dos pontos mais relevantes da iniciativa é a atenção ao chamado design manipulativo, expressão utilizada para mecanismos capazes de influenciar o comportamento do usuário dentro de serviços digitais. A rolagem infinita permite que novos conteúdos sejam carregados continuamente, enquanto notificações frequentes estimulam o retorno repetido aos aplicativos. A ANPD incluiu o assunto em sua agenda e encomendou estudos sobre esses modelos, com atenção especial aos riscos enfrentados por crianças e adolescentes. Ainda não existe definição sobre quais alterações eventualmente poderão ser exigidas das empresas.
O assunto ganhou dimensão regulatória maior com as novas atribuições recebidas pela ANPD em 2026. Alterações na regulamentação do Marco Civil da Internet estabeleceram deveres relacionados à transparência, prevenção e mitigação de riscos, fraudes digitais e outras responsabilidades dos provedores. Outra regulamentação passou a tratar especificamente da proteção das mulheres no ambiente digital, inclusive diante da criação, modificação ou disseminação de conteúdos íntimos por tecnologias como inteligência artificial. A ANPD também programou trabalhos específicos sobre deepfakes e acompanhamento da geração de conteúdo íntimo manipulado por IA.
A preocupação deixou de ser apenas teórica. A agência informou que monitora plataformas e ferramentas de IA para avaliar medidas de proteção de crianças, adolescentes e mulheres, incluindo riscos relacionados à circulação de conteúdo produzido por terceiros. Entre as ferramentas de inteligência artificial generativa alcançadas pelo monitoramento estão sistemas amplamente utilizados no Brasil. A agência afirma expressamente que comunicações privadas e serviços de e-mail não fazem parte desse acompanhamento, preservando o sigilo das comunicações previsto na legislação.
Há ainda uma discussão política específica sobre a rolagem contínua. Na Câmara dos Deputados tramita uma proposta apresentada em junho de 2026 que pretende limitar a funcionalidade de rolagem contínua e automática em plataformas digitais e aplicativos de redes sociais. A existência do projeto mostra que o debate sobre mecanismos destinados a prolongar a permanência dos usuários ultrapassou as discussões acadêmicas e tecnológicas e chegou ao Legislativo.
Para o cidadão, o ponto relevante é compreender que os algoritmos não funcionam apenas como ferramentas neutras de organização. Eles podem determinar quais informações ganham visibilidade, quais conteúdos são recomendados e quanto tempo determinadas experiências permanecem disponíveis ao usuário. Isso influencia consumo, comportamento e também a maneira pela qual informações jornalísticas, opiniões e conteúdos políticos circulam. Por essa razão, transparência algorítmica e liberdade de informação precisam avançar juntas, evitando tanto a ausência de responsabilidade das plataformas quanto controles públicos excessivos sobre o debate legítimo.
Como a fiscalização de algoritmos pode afetar liberdade de expressão, imprensa e democracia?
A expansão da ANPD coloca o Brasil diante de uma questão delicada: como fiscalizar grandes plataformas sem transformar regulação tecnológica em controle editorial. A própria agência afirma que não monitora individualmente publicações nem possui competência para simplesmente determinar a retirada de uma postagem específica dentro dessa atuação sistêmica. Seu trabalho está concentrado na avaliação dos mecanismos adotados pelas empresas e no cumprimento das obrigações previstas pela legislação. Essa fronteira precisa permanecer clara para que a proteção de usuários não se transforme em intervenção indevida sobre opiniões, críticas, jornalismo ou manifestações políticas legítimas.
Para veículos de imprensa, criadores independentes e cidadãos, a transparência dos algoritmos também pode ser uma questão democrática. Plataformas privadas possuem enorme influência sobre a distribuição de notícias e podem alterar significativamente o alcance de uma publicação por meio de sistemas automatizados. Compreender os critérios gerais utilizados nesses processos pode ajudar a identificar práticas discriminatórias, riscos de manipulação e decisões automatizadas difíceis de contestar. Ao mesmo tempo, exigir transparência não significa necessariamente tornar público cada detalhe técnico de um algoritmo, mas estabelecer mecanismos que permitam responsabilização e exercício de direitos.
A ANPD já acumula experiência nessa área. No caso de sistemas de inteligência artificial, a agência possui documentos técnicos sobre IA generativa, deepfakes e reconhecimento facial e realizou trabalhos relacionados ao tratamento de dados pessoais utilizado no treinamento de modelos. A metodologia do Sandbox Regulatório também estabelece explicabilidade e transparência como componentes relevantes para avaliar sistemas automatizados. Isso indica uma mudança de escala: a discussão sobre proteção de dados começa a se conectar diretamente ao funcionamento da inteligência artificial e das plataformas que organizam grande parte da informação consumida pela sociedade.
O desafio será garantir fiscalização tecnicamente competente e institucionalmente transparente. Empresas precisam responder pelos riscos produzidos por seus sistemas, especialmente quando envolvem crianças, dados pessoais, fraudes ou geração abusiva de imagens. O Estado, por sua vez, precisa atuar dentro dos limites legais e preservar direitos como liberdade de expressão, privacidade, sigilo das comunicações e liberdade de imprensa. A existência de controle público sobre plataformas não pode significar controle governamental sobre opiniões.
O centro de inteligência artificial da ANPD representa, portanto, mais do que uma expansão administrativa. Sua criação acompanha uma transformação na maneira como o Brasil pretende fiscalizar serviços digitais que influenciam informação, comportamento e direitos fundamentais. O cidadão poderá ser beneficiado por maior transparência e proteção contra práticas abusivas, mas também deverá acompanhar como essas novas competências serão utilizadas.
Para a imprensa independente, o acompanhamento precisa ocorrer nos dois sentidos. É necessário cobrar das plataformas explicações sobre algoritmos que moldam silenciosamente a distribuição de informação, mas também fiscalizar as decisões do próprio poder público para evitar excessos regulatórios. O equilíbrio entre proteção, inovação e liberdade será decisivo para determinar se a nova estrutura fortalecerá direitos digitais e democracia sem restringir a pluralidade de vozes que caracteriza uma internet aberta.
Fontes:
ANPD — Monitoramento de plataformas digitais, IA e proteção de crianças e mulheres
ANPD — Sandbox Regulatório em Inteligência Artificial e Proteção de Dados
ANPD — Marco Civil da Internet e novas competências da agência
ANPD — Documentos técnicos e orientativos sobre IA, deepfakes e proteção de dados
Câmara dos Deputados — Projeto sobre limitação da rolagem contínua em plataformas digitais