Sessão Plenária - Recursos sobre normas do Marco Civil da Internet - 5/6/25

Boa tarde a todos. Podemos sentar. Declaro aberta esta sessão extraordinária do plenário do Supremo Tribunal Federal de 5 de junho de 2025. Uma sessão extraordinária porque a sessão normal quartas-feiras, mas desde que eu me entendo por gente tem a sessão de quinta-feira. Então, extraordinária é tudo que ela já não é mais, mas é a extraordinária, como diria o saudoso e ministro de todos nós, ser Pública pertence, a extraordinária, mais ordinária que é ordinária. É a peço a senhora secretária que faça a leitura da ata da sessão anterior. Ata da 15ª sessão ordinária do plenário do

Supremo Tribunal Federal, realizada em 4 de junho de 2025. Presidência do senhor ministro Luís Roberto Barroso. Presentes a sessão os senhores ministros Gilmar Mendes, Carmen Lúcia, Diastófoli, Luiz Fuxs, Edson Faquim, Alexandre de Moraes, Nunes Marques, André Mendonça, Cristiano Zani e Flávio Dino. Vice-procurador geral da República, Dr. Indemburgo Chatobrian Pereira Diniz Filho. Abriu-se a sessão às 14:50, sendo lida e aprovada a ata da sessão anterior. Não havendo objeção quanto à ata, declaro aprovada. Comunico ao tribunal que está sendo lançado pela Secretaria de Altos Estudos a obra Mulheres do Direito Processual Civil, uma Bibliografia com referência a

139 trabalhos acadêmicos de autores renomados, doutores ou doutorandos. A elaboração do livro teve o apoio da Associação Brasileira Elas no processo Black Sisters in Law. Elas pedem vista Instituto Brasileiro de Direito Processual e processualistas. Agradeço a Secretaria de Altos Estudos em parceria com a professora da UnB, Paula Pessoa Pereira, com a Dra. Trícia Navarro do núcleo de Assunto do núcleo de solução consensuais de conflitos do Supremo. Agradeço também a Dra. Flávia Martins de Carvalho, integrante da Comissão de Apoio à diversidade. A obra ficará disponível no site do Supremo. Mais uma iniciativa nossa do Supremo Tribunal

Federal e do Conselho Nacional de Justiça, promoção de Equidade de Gênero. Registro que se encontram presentes neste plenário magistrados do Tribunal Constitucional do Peru. Onde está? Mas aí fica. Seja muito, muito bem-vindo, muito gostoê-los cá. Sejam muito bem-vindos. Ministro Hélder Domínguez Raro, que é o vice-presidente do Tribunal Constitucional, ministro Gustavo Gutierres Tixe e o ministro César Ooa Cardich. Como disse, sejam bem-vindos entre nós, que tenham uma boa estada e levem ao seu lindo país a nossa mensagem de carinho e de torcida para que tudo fique bem sempre. E se encontram presentes nesse plenário também estudantes

dos cursos de direito das seguintes instituições do Centro Universitário Governador Oanã Coelho de Ubá, Minas Gerais, da Universidade de Caxias do Sul, no Rio Grande do Sul, e da Universidade da região de Joinville, Santa Catarina. Sejam todos muito bem-vindos. Prazer e uma alegria tê-los aqui. Chamo para continuação do julgamento recurso extraordinário 1.37396 da relatoria do ministro Dias Toffoli e o recurso extraordinário 1.57258 da relatoria do ministro Luiz Fux. Já foram proferidos os votos dos relatores, ministro Diasfle e do ministro Luiz Fux. O meu próprio voto, ontem já reproduzi o contexto todo, não há necessidade de

revisitarmos isso. Estamos, portanto, em procedimento de voto do ministro André Mendonça, a quem, com muito prazer passo a palavra. Agradeço, senhor presidente, minha saudação a Vossa Excelência, aos eminentes relatores, ministro Dias Tofle, ministro Luiz Fux, também ministra Carmen Lúcia, em nome de quem cumprimento os demais ministros, ao vice-procurador geral da República, aos advogados e advogadas que nos acompanham, aos estudantes e professores também já mencionados. Senhoras e senhores, senhor presidente, eu Retomo o voto, portanto, no tópico concernente as distinções necessárias quanto aos provedores de aplicação da internet. E nesse ponto digo que a par das considerações

que já aduzi, que por um lado reconhecem a necessidade de se promover adaptações no paradigma jurídico dogmático, sobre o qual se alicerça a liberdade de expressão, e, por outro, apontam para a igual Necessidade de preservação do núcleo fundamental e da posição preferencial que ostenta a liberdade fundamental de exprensão e manifestação do pensamento, é preciso atentar para adequada delimitação da abrangência do tema em discussão. em essência, como as discussões referenciadas giram em torno da dimensão social ou coletiva da liberdade de expressão, guardando pertinência apenas e tão somente com as aplicações de internet, que igualmente Se direcionam

à noção de esfera pública dos espaços públicos digitais. Contudo, do ponto de vista de conceito e terminologia, o marco civil da internet diferenciou apenas os provedores de conexão à internet dos denominados provedores de aplicação de internet. Assim, em em um primeiro recorte de escopo, é preciso excluir, sob a minha ótica das discussões, os chamados servidores de mensagens privadas. Quanto ao ponto, parece-me indene de Dúvidas que uma comunicação realizada entre pessoas no ambiente privado, inclusive marido e mulher, pai e filho, amigos, parentes, através de um aplicativo de mensagens, que essas mensagens ostentam a natureza manifestamente privada.

De fato, o cenário hipotético apresentado é a versão moderna do exemplo mais banal relacionado à intimidade do cidadão. Nessa Conjuntura, um primeiro e fundamental esclarecimento que deve ser feito quanto à abrangência da questão em debate diz com a exclusão das comunicações de natureza privada que não se realizam, portanto, em ambiente público sob qualquer aspecto de análise. Em segundo lugar, quanto às aplicações de internet de feição supraindividual, é preciso identificar adequadamente as peculiaridades inerentes aos aplicativos, de um lado, De busca, de outro, os de comércio eletrônico ou marketplace e ainda as redes sociais, dentre outros possíveis

aplicativos. A título de exemplo, dentro do conceito de marketplace temos Mercado Livre, Amazon, Brasil, Americanas, Magazine Luía, Chope, Casas Bahia, dentre outros. Evidentemente, trata-se de feixe setorial que, apesar de igual relevância, guarda substanciais distinções em relação àquele relacionado Às redes sociais propriamente ditas. Isso não significa que também na espécie não haja espaço para moderação de conteúdo por parte das respectivas plataformas. Como bem ilustram as informações aportadas aos autos pelo Mercado Livre, há uma preocupação espontânea com a integridade do espaço digital, direcionado à publicidade e demais atividades inerentes ao comércio digital, como a adoção de uma

postura Proativa das próprias empresas na remoção de conteúdos que estejam em desconformidade com os seus termos de uso. Trago assim, nesse sentido, dos esclarecimentos do Mercado Livre, que essa plataforma removeu mais de 3.2, quase 3.250.000 anúncios irregulares, dos quais 111.500 00 por denúncias de usuários e mais de 3.õ1 por atividade proativa da própria empresa, atuando conforme os seus termos e condições de uso. Essa mesma tarefa eh ocorre, diz a plataforma, em um universo de 128.500 00 anúncios criados ou alterados por hora, totalizando mais de 500 milhões apenas no segundo semestre de 2022. Ainda o Mercado

Livre aponta que adota um programa de sua iniciativa que visa coibir a violação a direitos de propriedade intelectual e permitir que Os titulares tenham acesso aos dados dos infratores para que possam adotar as medidas cabíveis. Ou seja, a partir desses números, 96,4% do montante expressivo de conteúdos exclusivos excluídos são detectados pelas próprias equipes internas da plataforma e menos de 4% correspondem a publicações denunciadas por usuários ou autoridades. Além disso, em atividade Colaborativa, a empresa já mencionada oferece ao titular do direito autoral as informações do potencial sobre o potencial ofensor. Nada obstante, é importante recordar que

no âmbito da União Europeia foi editada uma legislação específica para esse setor, a Digital Markets Act. Como aponta Ricardo Campos, também já referido no meu voto, o sistema de responsabilidades desenhado pelo referido marco regulatório é Consideravelmente diverso daquele concebido para os serviços digitais no Digital Service Act. Especificamente quanto a este último regulamento, essa última lei, vale a notar que as novas distinções foram realizadas exatamente no que na linha do que a hora proponho. O texto legal estabelece distinções entre os variados serviços prestados, evitando que um único Guarda-chuva conceitual seja utilizado para abarcar todos os tipos

de provedores de aplicação, como ocorre atualmente no ordenamento jurídico brasileiro. Nesse sentido, distingue-se entre simples transporte, serviços de armazenagem temporária ou casting, serviços de alojamento virtual ou hosting e plataformas online e ainda motores de pesquisa online. Para cada qual, de acordo com as suas peculiaridades, foram estabelecidas Responsabilidades e obrigações específicas. Destaca-se ainda uma categoria específica para plataformas e motores de buscas online online considerados provedores de muito grande dimensão. De acordo com o artigo 33 da lei europeia, esses provedores são aqueles que possuem dentro da União Europeia um número médio mensal de usuários ativos igual ou

superior a 2 a 45 milhões de pessoas. E aqueles também que possuem ou tenham recebido essa designação por parte da própria Comissão Europeia, grupo este a quem são impostas obrigações extras para fins de gestão de riscos sistêmicos. Além do recorte de ordem técnica vinculado às peculiaridades das regras de negócios inerentes a cada um dos serviços de aplicação de internet disponíveis, em terceiro lugar, centrando-se na questão específica das Redes sociais, escopo este, tecnicamente mais adequado para delimitar o âmbito de incidência do artigo 19 do Marco Civil da Internet, é dentro desse universo que eu também aponto

e chamo a atenção para as seguintes distinções. Em primeiro lugar, de ordem material quanto ao objeto da manifestação, se é opinião, fato, discurso científico, anúncio publicitário, etc. em segundo lugar, de Ordem subjetiva, quanto a quem se expressa, para quem a expressão é originariamente direcionada e ainda quem eventualmente seria diretamente atingido pela expressão. Uma outra distinção é quanto à natureza da comunicação, ou seja, se é sustenta algum interesse ou impacto para o público em geral ou é desprovida de relevância social. E por fim, uma distinção quanto ao papel da respectiva Plataforma na sua programação, se se

trata de um conteúdo impulsionado ou espontâneo, gratuito ou de algum modo monetizado de forma direta pela pelo aplicativo. O que concerne a distinção de ordem substantiva ou material, em que pese os debates anteriormente mencionados acerca do que vem a ser fato, é innegável que o seu grau de subjetividade é significativamente menor do que aquele envolto a uma opinião. entre um extremo e outro, podem Ser identificadas ainda algumas graduações, como, por exemplo, o discurso científico. Em último tipo específico de discurso, bem este último típico discurso científico bem ilustra o grau de calibragem necessário para bem avaliar

cada situação. Isso porque desde Poer a ciência trabalha com o método da falseabilidade das hipóteses. Para evoluir, o cientista terá de Necessariamente afirmar que aquilo que se entende como verdadeiro hoje é fal falso e ao fazê-lo, obviamente ele não poderá ser censurado. Cerca agora das distinções de ordem subjetiva, como já indicado, é preciso avaliar a posição ocupada na esfera pública, por quem se manifesta, para quem a manifestação é dirigida e quanto a quem é eventualmente atingido por determinada manifestação. essa tentativa de Sistematizar tal campo específico da condição que ostenta o emissor da manifestação perante a

esfera pública, Samuel Fonteles traz traça uma escala que possui nove degraus em ordem. Primeiro, militares. Segundo, juízes. Terceiro, membros do Ministério Público. Depois servidores públicos. Quinto, cidadãos, depois professores, jornalistas, artistas e sacerdotes e, por fim, congressistas. Como se pode inferir, as posições estão Organizadas daqueles que possuem menor proteção constitucional nas suas falas até aqueles que gozam de verdadeira imunidade constitucional. Quanto à natureza da comunicação, há evidentemente maior proteção em relação aos discursos que envolvam que envolvam questões de interesse público ou a atuação das instituições públicas, dos seus membros ou de pessoas públicas em geral, principalmente

em temas sensíveis, complexos, controversos E que fazem parte das discussões públicas da sociedade. Por outro lado, as manifestações desprovidas de relevância social e que se direcionam a um sujeito específico, estas somente lhe dizem respeito e podem ser interpretadas com menor benevolência. Por fim, no que concerne ao papel da plataforma, me parece indene de dúvidas que não se pode conferir a mesma responsabilização aos que, primeiro, a plataforma tenha impulsionado via Algoritmo determinado conteúdo do usuário. Segundo, daquelas situações nas quais o usuário busca ativamente o acesso à informação específica. Dentro da primeira hipótese de impulsionamento, entendo pertinente

diferenciar ainda os conteúdos impulsionados moto próprio pela plataforma daqueles impulsionados em razão de patrocinador ou anúncios pagos. No primeiro caso, me parece que a condição da plataforma mais se aproxima Daquela ocupada pelo editor ou distribuidor em relação às mídias sociais tradicionais. Portanto, antes de adentrar especificamente na idez ou suficiência da disciplina estabelecida no artigo 19 do Marco Civil, diante de sua vasta abrangência, é preciso recortar o escopo de exame de modo a a distringi-lo às situações em relação às quais se possa verificar, ao menos em tese, cenário de inconstitucionalidade. É só uma dúvida, me perdoe.

Vossa Excelência fez uma leitura de pessoas públicas e que eu tô acompanhando o raciocínio, eh, começa com militares e termina com congressistas. Há artistas nessa lista que eu não prestei atenção. Ah, artistas e sacerdotes também são pessoas que teriam nessa ponderação maior liberdade. Os juízes militares pela legislação específica, menos liberdade, vamos dizer assim, de expressão por conta de Regramos próprios. os artistas, sacerdotes estão lá, estão lá em cima, só abaixo dos congressistas. OK. Obrigado. Por conta da imunidade própria que os congressistas têm. Dentro desse contexto, de largada, eu excluo dessas restrições, como já disse, os

serviços, os serviços de mensagens privadas. Em relação às demais aplicações, é preciso promover uma análise atenta à Pleia de peculiaridades acima elencadas, que vão desde o tipo de serviço prestado a exemplo do que se verifica na legislação europeia até a dimensão e alcance das plataformas, especificamente no âmbito das redes sociais, espaços, estes sim, vocacionados à promoção do debate público. e ao mercado de ideias. É preciso considerar em cada caso concreto se se está diante, em primeiro lugar, da personal de personalidade Pública ou privada, de mensagem, em segundo lugar, de interesse público ou desprovida de relevância

social, e ainda do teor científico, jornalístico ou publicitário, dentre outros. E por fim, se foi impulsionado e por quem, ou se foi espontâneo. Com essa delimitação, passo agora à avaliação no tópico concernente a eficácia horizontal dos direitos humanos e o papel das empresas na sua proteção e no compliance. Para além do recorte do escopo que eu já indiquei, antes de enfocar de modo mais específico as redes sociais, não se pode deixar de apontar que o nó da questão em discussão tem como pontos subjacentes dois temas de repercussão geral em análise que perpassa pelo estabelecimento de

limites e possibilidades em si reconhecer empresas, o papel de guardião dos direitos fundamentais, portanto, a nídida Interface com o que se convencionou denominar de eficácia horizontal dos direitos humanos. Interessante rememorar que o surgimento dessa nova dimensão de tais direitos, as quais não mais deveriam ter a sua incidência restrita às relações entre o indivíduo e o Estado, passou a se espraiar também para as relações entre particulares, o que se deu em decorrência do julgamento do célebre caso lute pelo Tribunal Constitucional Alemão em 1958. Resumidamente, a controvérsia que se estabeleceu naquele caso buscava conscientizar nele, nessa controvérsia,

o ativista Eric Lud, que buscava conscientizar e combater os resquícios do antissemitismo na sociedade alemã do pós-guerra. E de outro lado o cineasta Veit Harlan, que ganhou notoriedade por sua proximidade com o establishment político do regime Nazista, tendo produzido filme de teor nitidamente preconceituoso e discriminatório em relação ao povo judeu. A partir daquela discussão após a absolvição que o Tribunal de Guerra havia eh decretado em relação ao cineasta Harl, foi contratado, este foi contratado para dirigir um novo filme e Lut passou a defender que a população boicotasse o espetáculo em espécie de censura ao seu

diretor. Diante das manifestações de lut, os produtores do Filme boicotado ingressaram em juízo contra o ativista, buscando a obtenção de ordem judicial que o impedisse de recomendar ao povo alemão que não assistisse o filme. O pedido foi atendido pelas instâncias ordinárias. Contudo, ao analisar o recurso constitucional, o Tribunal Constitucional da Alemanha reformou as decisões inferiores em razão da necessidade de se reconhecer que na determinação dos direitos fundamentais Da lei fundamental, corporifica-se uma ordem axiológica objetiva que vale para todas as áreas do direito, com uma discussão, uma decisão fundamental constitucional. Portanto, veja-se que o que estava

em discussão era exatamente o direito à liberdade de expressão de Lute. Foi diante da necessidade de assegurar a defesa da liberdade de expressão que o Tribunal Constitucional alemão passou a reconhecer a força irradiadora que os Direitos fundamentais exercem sobre todo o ordenamento jurídico, a incluídos o direito civil e de modo mais específico, o direito empresarial. Essa compreensão que identifica nas organizações empresariais uma coparticipação na missão de se proteger, respeitar e reparar os direitos fundamentais, é potencializada pelo surgimento de novas formas de organização do aparelho do Estado, dentre as quais ganha especial destaque a regulação. Isso

porque sob o prisma do estado regulador rompe-se com o modelo centrado no monopólio estatal tipicamente exercido pelos órgãos parlamentares quanto à produção normativa, passando-se a admitir que outros atores possam editar normatização específica, mais adequada e responsiva às peculiaridades técnico-operacionais do nicho setorial Do qual ela no qual elas estão inseridas. Quanto a este último fenômeno, pondera o professor Márcio Aranha, que parte de sua configuração desta regulação original de ideia programática inscrita em um sistema automático de retroalimentação e controle, para se apresentar hoje com uma tecnologia de governo de sistemas sociais. que pode estar sediada em órgãos

Estatais ou em mecanismos internos de controle empresarial, o que se chama de metarregulação, em que o Estado audita os regimes de controle internos da empresa e ainda em mecanismos institucionais privados, a denominada autorregulação, no qual no qual o vencedor do jogo político, entre outros atores sociais, como o livre mercado, ou, finalmente, a partir de uma composição de tais opções, exercem a Regulação. À luz dessa conjuntura, vem ganhando força nos últimos tempos a necessidade de de se exigir das empresas os chamados mecanismos de conformidade. Trata-se, portanto, da figura do compliance, capaz de garantir a integridade da

organização e dos seus colaboradores. Muito simplificadamente, pode-se dizer que a lógica desse mecanismo se baseia em disposições normativas que sejam suscetíveis ao comportamento Regulado. Ao mesmo tempo em que são estabelecidas vedações, se prevê que a observância a determinadas obrigações procedimentais tem o condão de reduzir substancialmente a sanção que poderia recair sobre as corporações em caso de descumprimento da interdição prevista. Portanto, trata-se de abordagem regulatória que possui como elemento central a abertura, a valoração da responsabilidade por parte do regulado. Ou Seja, se descortina a possibilidade de um regramento flexível, capaz de sofrer adaptações para melhor se

adequar ao comportamento, mais ou menos conforme ao direito de cada regulado. Aí porque floresceu no âmbito dos sistemas jurídicos mais propensos à construção. Equipamento aqui falhou. Voltar. Travou. É um colapso, né? Por isso que tem que ter responsabilização, né? Reserva. Você tem que ter uma Reserva. tecnologia engana comparence interno aqui responsabilidade. Eu acho que dá danos morais depois analisar isso aí. Não, não, voltou a luz bom à luz dessa conjuntura. Qual plataforma que você tá usando pra gente? Nenhuma. É um é um leitor de texto simples, só para saber se tem responsabilidade. Não, nenhuma. Mas

enfim, por via das dúvidas, tem aqui o material impresso. É, é que no Impresso eu não recortei tanto como eu recortei aqui, então é melhor eu seguir por aqui. À luz dessa conjuntura, portanto, se deve privilegiar soluções negociadas, por definição, que são mais maliáveis. Em razão dessa característica, o professor já citado Márcio Aranha observa que o compliance se contrapõe ao modelo de regulação estatal clássico, baseado na lógica de comando e Controle. Nessa perspectiva, ele diz: "A conformidade regulatória bebe da percepção por parte do regulado, de que o sistema regulatório será justo e eficaz. Enfim, no

compliance regulatório se angariam forças de da relação de confiança entre regulado e regulador, havendo uma atitude cooperativa. De modo mais específico, a doutrina do que elenca o complience empresarial como Hipótese de autorregulação regulada, ela se baseia na liberdade para colaborar e para se implementar um plano normativo próprio por si mesmo concebido, sujeito à posterior e contínua chancela e supervisão do Estado. Nessa perspectiva, o Estado passa a ocupar posição de supervisor do sistema de integridade desenhado pelo próprio regulado. Por um lado, assim, se incrementam as chances de um regramento mais aderente às peculiaridades de cada Organização.

sobre out sob outro enfoque resguarda-se pela necessidade de chancela estatal a determinado plano ou pela supervisão a possibilidade de o estado a posteriore identificar e sancionar de modo mais severo aqueles que não compram os seus próprios planos. Na nada obstante tal característica, o ministro Reinaldo Soares da Fonseca e o professor Bruno Fernandes Carvalho em em artigo doutrinário apontam, abro aspas, ser possível traçar certos elementos que Compõem o núcleo duro desses programas, cuidando-se de previsões cuja presença é indispensável encontradas em boa parte da literatura e das legislações sobre o tema. Nesse sentido, mencion mencionado artigo que

se consubstanciou depois em dissertação de mestrado acadêmico de um dos autores, nele se tem enumeradas as seguintes os seguintes aspectos. obrigatórios a qualquer plano de conformidade. Análise de riscos Detalhada. Segundo, elaboração de um código de conduta. Terceiro, educação e treinamento do do corpo de funcionários. Quarto, a implementação de controles internos na organização. Cinco, a institucionalização de setor específico para o compliance. e seis, a avaliação e o monitoramento permanente do programa. À luz de tais elementos, é possível concluir que o compliance é fenômeno que contribui para uma maior integridade no Âmbito empresarial. A partir da fixação

de padrões de conduta ou estándares de conduta, assume-se uma função de instrumento viabilizador na concretização efetiva dos direitos fundamentais. de todos aqueles que com a organização possuem alguma espécie de relação. A partir dessa mesma ótica, ao bem cumprir as obrigações que lhe são imputadas, as organizações empresariais se beneficiam da exclusão de Responsabilidade por eventuais atos praticados por terceiros, ainda que com ela possuam algum tipo de vínculo. Tomando como exemplo o paradigma norte-americano, tem-se que, em primeiro lugar, mapeados os riscos inerentes à sua operação. Dois, elaborado um plano de conformidade capaz de mitigar os riscos. Três,

instituindo-se uma estrutura organizacional própria e apartada dos demais departamentos da Empresa, a fim de se zelar pelo cumprimento e observância do programa. e quatro, verificando-se que a conduta ilícita foi praticada de modo a ludibriar a referida instância de controle, não se podendo a ela imputar erro grosseiro ou conduta negligente, afasta-se a possibilidade de responsabilização da empresa. Veja-se que ao invés de impor obrigações específicas de resultado, se trata de abordagem que, ao focar no Comportamento do regulado, possui a feição marcadamente procedimental, buscando modelar a forma de atuação da empresa de modo a conformá-la ao ordenamento jurídico.

A análise do tema hora em julgamento sob essa perspectiva enseja uma alteração de foco. Deixar de mirar na responsabilidade pela remoção do conteúdo ou do perfil, passando-se a destinar atenção aos protocolos e Procedimentos empregados pelas plataformas na tentativa de criar um ambiente digital mais rígido, íntegro e salutar. Trata-se de perspectiva que promove a conciliação necessária entre o marco legal regulatório dos artigos 18 a 21 do marco civil, a preservação da liberdade de expressão e ainda o papel das plataformas como corresponsáveis pela concretização dos direitos fundamentais dos usuários. Passo agora a tratar da questão concernente a

dados de atuação espontânea que foram apresentados pelas próprias plataformas. a reforçar a natureza da solução proposta focada na adoção de obrigações de meio de viés procedimental a partir do estabelecimento de estándares comportamentais a serem seguidos pelas plataformas digitais em seu dia a dia, sob pena de superação do regime de Exclusão de responsabilidade previsto nos artigos 18 e 19 do Marco Civil. Assim rememora-se a significativa atuação que tais companhias já possuem na remoção espontânea de conteúdos que sejam que estejam em desconformidade com seus termos e condições de uso, bem como nas situações previstas no artigo 21

do Marco Civil, em outras legislações esparsas, como o Estatuto da Criança e do Adolescente, e a nova lei das Betes, por Exemplo. Nesse sentido, colho do relatório recentemente divulgado pela empresa Meta, que possui como sócias Facebook, Instagram e trades, que entreo de agosto e 31 de outubro de 24 foram removidos mais de 2 milhões 900.000 1 conteúdos por parte das dessas empresas no Brasil e foram por violação de suas políticas de bullying internas estabelecidas quanto a bullying e Assédio, também quanto a discursos de ódio e a violência e incitação. Desse total de 2.900.000 remoções, 520.000

foram por conta de bullying e assédio, 550.000 por conta de discursos de ódio, 1.900.000 por violência ou incitação à violência. Ainda de acordo com as informações veiculadas, em 2023 a meta decretou e removeu 2,6 bilhões de contas falsas no Facebook, 98,95% das quais foram detectadas e removidas proativamente pela empresa antes mesmo de terem sido denunciadas. Em relação a conteúdos especificamente relacionados às eleições municipais de 2024, a Meta informou que a partir de suas políticas e medidas sobre informações falsas, foram rotulados mais de 8.hõ2.000 1 conteúdos no Facebook e no Instagram, com verificações de fatos no

mês que antecedeu e Incluiu o período eleitoral. Em média, 57% das pessoas que começaram a compartilhar os conteúdos verificados como rotulados como falsos, eles não concluíram essa ação após receberem um aviso da meta de que tais conteúdos estavam nessa condição, demonstrando-se assim o impacto dos esforços de rotulagem na redução da disseminação de informações falsas. Além disso, a empresa anunciou que Removeu mais de 43.000 anúncios por violarem as políticas da plataforma. Por sua vez, em página na internet dedicada ao relatório de transparência, o Google informou ter removido do YouTube mais de 3.260.000 canais entre abril e

junho de 2024. por violação às regras da comunidade. Com a remoção do canal, todos os vídeos nele contidos são removidos. O número de vídeos removidos Nesse período foi de mais de 56 milhões de vídeos. Melhor especificando o motivo de das remoções de canais acima. O mesmo relatório indica que mais de 2.600.000 1000 canais foram removidos por configurarem spam, conteúdo enganador e esquemas, o que corresponde a 80% do total. E 164.000 canais foram removidos por Violarem políticas de segurança infantil, representando 5% do total, mais 156.000 1000 remoções por questões relacionadas à nudez ou conteúdo de natureza

sexual e mais de 148.000 canais por conterem eh se enquadrarem no conceito de desinformação correspondendo a 4.6% do total. Além dos canais removidos e dos vídeos removidos em razão da supressão do canal, o relatório menciona ainda que a Plataforma YouTube removeu mais de 8 milhões, quase 8.hõ500.000 vídeos de modo específico. Desse montante, quase 8.hõ2 foram removidos após detecção automática pela plataforma. 238.000 por denúncias dos usuários. 61.000 por ações dos membros do programa de denúncias prioritárias, dentre as quais se incluem ONGs e organizações governamentais. Ainda informou que 59,91% das situações, os vídeos, nessas situações, o vídeo

foi removido antes de qualquer visualização. Quanto ao conteúdo, a fração mais expressiva se deve à segurança infantil, correspondendo a mais de 5 milhões de vídeos, o que equivale a 59% do total. Interessante a informação de que o Brasil ocupa o terceiro lugar formado Por 30 países com mais vídeos removidos, perdendo apenas para a Índia e a Rússia. O relatório baseia-se no endereço do IP do remetente no momento em que o vídeo foi carregado. Por fim, o mesmo documento informa que houve a remoção de 1.3 bilhões de comentários postados no YouTube. Em 99,6% dos casos, a

remoção se deu por detecção automática e apenas 0,4% por denúncias Humanas. No caso dos comentários, 80% das remoções foram de conteúdos enquadrados como spam, conteúdo enganador e esquemas. No mesmo sentido, colho os memoriais apresentados pela Bite Dance Brasil, a qual figura como sócia a TikTok, que de acordo com o relatório de transparência mais recente que cobre o primeiro semestre de 2024, a referida plataforma removeu 6, quase 6,4 milhões de vídeos no mercado Brasileiro, dos quais 99,2% foram identificados proativamente por violação às diretrizes da comunidade ou dos termos do serviço, sem a necessidade de qualquer intervenção

ou notificação. Informou-se ainda que em 90% dos casos a remoção ocorreu a menos de 24 horas. em menos de 24 horas após a publicação. Em âmbito global, a mesma empresa informou ter removido mais de quase 170 milhões de vídeos, dos quais 97,7% foram identificados de forma Proativa por violarem as diretrizes da comunidade ou os termos de serviço, sem a necessidade de qualquer notificação extrajudicial. Além disso, 89,8% dos casos se deram em menos de 24 horas. Em 81%, a remoção ocorreu antes mesmo de qualquer visualização e a plataforma ainda suspendeu mais de 11.700.000 vídeos em transmissões

ao Vivo. A partir das informações coletadas, verifica-se que em relação ao universo total de situações, os casos em que se faz necessária a exigência de notificação, seja extrajudicial, seja judicial, para a remoção do conteúdo, são realmente excepcionais e, como tal, devem ser tratados. Isso se dá sobretudo em razão da superlativa relevância dos valores constitucionais em disputa. valores. Estes que com a devida Venha, aqueles que têm compreensão em sentido diverso, somente podem ser adequadamente aquilatadas, caso a caso, a partir de parâmetros fixados pela Constituição e pelo poder da República, investido da missão de arbitrar as controvérsias,

o poder judiciário, a partir do princípio da reserva legal. Passo agora a tratar dos riscos à curadoria de conteúdo promovido pelas próprias plataformas e os limites para o emprego da inteligência artificial. Apontada a necessidade de se submeter ao crio do poder judiciário, à situações nas quais a moderação de conteúdo identifica manifestações complexas e ambíguas em razão da reserva da jurisdição prevista pelo legislador na tentativa de salvaguardar de modo mais adequado a liberdade de expressão dos usuários à internet, é robustecida pelos riscos de se deixar ao talante das próprias plataformas realizar a avaliação dos casos controversos.

Em primeiro lugar, não se pode deixar de frisar que, para além da autoridade e institucionalidade que a própria Constituição atribui aos integrantes do Poder Judiciário, revestindo-lhes das garantias da imparcialidade, inamovibilidade, independência funcional, há, no caso, em função da indelagabilidade do exercício da jurisdição, um traço especialmente relevante para a situação em análise. preservação da análise humana para Realizar a ponderação entre os valores em jogo nos cenários de maior controvérsia, sem ouvidar a cada vez mais usual possibilidade de utilização de instrumentos de inteligência artificial para auxiliar os magistrados a analisar as causas que lhes são submetidas. Recorda-se

a lição do professor Jordine Eva Fenol, catedrático de Direito Processual da Universidade de Barcelona, para quem não podemos passar da justiça dos juízes para a justiça dos programadores. Segundo esse professor, é preciso lutar para que tudo o que foi conquistado, graças ao direito, ao juiz independente imparcial não se perca. A independência judicial e a imparcialidade constituem conceitos únicos formulados de forma binomial, os quais tentam preservar que os juízes estejam livres da influência Em seu julgamento. Como eu disse, ele prossegue. Espera-se que o juiz tenha uma empatia que reflita o consenso social que tentam refletir as

leis, mas não a ponto de manipular o que dizem essas leis até acabar por pervertê-las, que é o que pode acontecer quando o juiz não é verdadeiramente independente. digo eu, com esteio no referido apontamento doutrinário. Não vislumbro como Transferir as plataformas e, por consequência, ao algoritmo algoritmo o dever de ponderar de modo automático e artificial os valores em disputa, especialmente quando um desses valores é a liberdade de expressão. Trata-se de direito fundamental, que, como visto, é condição de possibilidade do próprio regime democrático e do estado democrático de direito, tal como o conhecemos, sendo precisamente para

a sua defesa que se Promoveram revoluções, reformas, reconstruções de paradigmas sociais de toda ordem desde sempre. Direito esse sobre o qual se funda, em última rácio o próprio modelo de prestação jurisdicional contemporaneamente adotado pelas democracias ocidentais. Isso porque, diante da infinidade de possibilidades que a realidade apresenta ao julgador no momento de apreciar determinada contenda, a melhor solução Encontrada para que o juiz possa decidir encontra-se centrada precisamente na possibilidade de livremente expressar de se expressar sobre a LID, exigindo-se como contrapartida dessa liberdade que expresse o seu convencimento de forma motivada. Direito esse que decorre mesmo da

própria natureza humana, sendo a possibilidade de se expressar sobre os mais variados temas o traço distintivo mais frequentemente apontado entre nós e Os demais, as demais espécies da vida presentes, com as quais compartilhamos o nosso planeta. Como conclusão desse ponto específico, permito-me consignar a posição pessoal, segundo a qual, à luz de tais elementos, em última análise, a transferência ao algoritmo da missão de decidir os casos complexos, objeto de dúvida após análise preliminar, culmina por esvaziar a relevância do próprio poder judiciário enquanto legítimo Guardião dos direitos fundamentais. Verifico ainda que o modelo proposto nos transfere de

um extremo ao outro, ou seja, da impossibilidade de moderação privada do conteúdo digital em razão da reserva de jurisdição estabelecida em torno da matéria pelo artigo 19. a moderação automatizada, sem análise contextual e pormenorizada realizada por ser humano, delegando-se a atividade à máquina. Como segundo argumento, não se pode Deixar de conferir especial atenção à questão da considerável possibilidade do conflito entre as tecnologias e meios empregados para eventual monitoramento de todo o conteúdo e o direito fundamental à proteção de dados e privacidade de usuários. Nesse ponto, não se se ouvida que hoje há fortes indícios de

que as plataformas já empreendem severa vigilância sobre o comportamento online dos seus usuários. O fenômeno, contudo, não deve Ser induzido ou de qualquer modo autorizado pelo Estado. É o que ocorreria caso se impusesse um dever de custódia ampla e irrestrita de fiscalização de toda a informação veiculada no mundo virtual. A norma estatal estaria estimulando os provedores privados a incrementar o nível da vigilância sobre o indivíduo em sentido de diametralmente em sentido diametralmente oposto aos direitos fundamentais previstos nos incisos 4, 5, 12 e 79 da Constituição, para que em prol para que em prol de uma

pretensie rigidez do universo online, as plataformas lancem mão de arsenal ainda mais robusto de algoritmos e ferramentas tecnológicas de toda a espécie necessárias à consecção do objetivo. Atualmente, ao desenvolver os seus programas e algoritmos e regras de negócio, os provedores de aplicação da internet deveriam, ao menos em tese, Atentar para a necessidade de salvaguardar o sigilo dos dados fornecidos pelo usuário, inclusive para o emprego de big data, dentre outros mecanismos de tratamento, conforme dispõe a LGPD, com a imposição da vigilância ampla geral sobre o teor que é veiculado em seus domínios, porque orientados pela disciplina

estatal, surge no mínimo um potencial conflito entre aquela primeira Obrigação apontada e essa nova missão imposta, na medida em que, quão sabidamente, tanto melhor seria a curarse precisão da tarefa de identificar com rapidez o conteúdo considerável considerado ofensivo, quanto maior for universo e mais variada forem a natureza e forma de cruzamento dos dados nessa atividade fiscalizatória fiscalizatória. Apenas para exemplificar a Preocupação. Há quem defenda, abro aspas, o aprimoramento dos critérios de identificação de desinformação por meio do comportamento de contas e não necessariamente de conteúdo. Ou seja, e eu cito aqui artigo nesse sentido, ou seja,

as plataformas passaram a traçar um perfil do usuário não apenas para fins, passariam a Traçar um perfil do usuário, não apenas para fins meramente comerciais, mas com a intenção de classificá-los como mais ou menos propícios a veicular fake news. dito de modo direto, com mais ou menos inclinados à prática de ilícitos. É interessante que seria uma versão do século XX, tecnologicamente sofisticada, de uma abordagem lombrosiana do direito sancionador, piorada pela utilização de dados fornecidos pelo próprio usuário para tanto. Quanto ao ponto, é preciso Reforçar a substancial e importantíssima distinção entre a eventual possibilidade de fornecimento

de dados por meio de consentimento com os termos de uso e condições da plataforma por parte do usuário para fins de utilização comercial, ainda que eventualmente violadora de normas consumiristas. e para intensificar o nível de atenção e fiscalização sobre determinado indivíduo, particularmente considerado a partir dos seus próprios dados e Comportamento digital, mais inclinado este à prática futura de atividades desviantes. Com as devidas vênas, penso que a distinção das situações é evidente, assim como é de clareza notória o maior nível de risco de ofensa ao direito fundamental, cuja superlativa relevância já foi objeto de minha exposição

a liberdade de expressão do indivíduo, que mais vigiado ficará consideravelmente mais suscetível ao denominado efeito silenciador. Ou effect. Por fim, em terceiro lugar, exemplos de erros de moderação de conteúdo trazidos pelo Instituto Brasileiro de Defesa do Consumidor, IDEC, bem ilustram as dificuldades operacionais experimentadas pelo algoritmo para promover a referida remoção. Nesse sentido, verificou-se primeiro a retirada de vídeo sobre conscientização do autoexame para evitar ou diagnosticar precocemente o câncer de Mama. Segundo, a eliminação da postagem feita pela poetisa paquistan contendo uma imagem de uma mulher em período menstrual. E terceiro, o fato, apontou o IDEC, de

que mecanismos automatizados tendem a considerar jargões da linguagem LGBT, vistos fora de contexto como desrespeitosos, como mais, entre aspas, tóxicos que aqueles utilizados por Grupos supremacistas brancos, falhando no reconhecimento de seu valor social. Especificamente em relação aos direitos do consumidor, o IDEC aponta para os potenciais efeitos negativos quanto ao dever de informação adequada. De acordo com o seu raciocínio, abro aspas, com a possível declaração da inconstitucionalidade do artigo 19 do marco civil, a preocupação é de que o consumidor tenha O seu direito afetado com o seu conteúdo sendo retirado indevidamente, o que não prejudica somente

o exercício do direito básico da liberdade de expressão, como potencialmente suprime crime o direito à informação de interesse público, seja essa informação de cunho político ou cultural. Exemplo relevante prossegue diretamente ligado ao exercício do direito do consumidor, está na publicação das suas opiniões e críticas a produto ou serviço Em rede social ou em sites de reclamações. As avaliações dos consumidores sobre produtos e serviços ganharam força. Hoje os consumidores de forma individualizada e a sociedade como um todo tem ganhado com essa troca de informações. É provável que diversos comentários, diz o instituto, sejam excluídos em virtude

de notificações realizadas por empresas ofendidas, tendo em vista a dificuldade de moderação de conteúdo com a grande quantidade de Notificações. A exclusão indevida de opiniões de consumidores afetaria não somente o direito de liberdade de expressão do consumidor autor, como potencialmente afeitaria o direito à informação de milhares de outros consumidores. Com efeito, como efeito negativo específico, faço referência à Wikimedia, empresa responsável pela Wikipédia, operando sem fins lucrativos e com mais de 1.1.000 artigos em língua portuguesa e 6.600.000 artigos em inglês, além de conteúdos em outros 300 idiomas. A plataforma tem o seu foco inegavelmente educacional. De

acordo com as informações prestadas às autos, além de não oferir lucro, o sítio eletrônico se organiza em torno da moderação realizada pelos próprios usuários, os quais inquestionavelmente possuem maior condição de atestar a rigidez da informação inserida, dada a natureza Enciclopédica da plataforma, que abarca matérias dos mais variados campos do conhecimento científico. Trata-se de modelo de organização que potencializa aspecto já peculiar da plataforma em questão. Dado seu foco essencialmente acadêmico, potencializa-se, em tese, a liberdade de expressão em razão da denominada liberdade de cátedra, inerente à atividade educacional e objeto de especial atenção pelo constituinte de 88.

Nessa conjuntura, ponderam os responsáveis da plataforma a sua peculiar dificuldade em moderar o conteúdo nela veiculado de modo direto, ou seja, sem o envolvimento da e a atuação da comunidade de autores coletivamente organizada, diz a organização. E este é justamente o grande desafio que se apresenta aos provedores de aplicações que hospedam conteúdo criado por Terceiros. Determinar o momento em que a análise de conteúdo deve ser feita e analisar se o conteúdo publicado viola ou não os direitos de outrem. Esse desafio é ainda maior para a Wikimdia, na Wikipedia, notadamente por ela adotar um sistema de

autorregulação na produção do conteúdo disponibilizado, fundado na atuação dos colaboradores que integram a sua comunidade. Esse modelo de sucesso, diz ela, poderia ser inviabilizado com a Atribuição da responsabilidade indiscriminada ao provedor de aplicação pelo conteúdo de terceiros. Novamente se reforça. A Wikimia é uma fundação sem fins lucrativos e não pode ela com a Wikimdia impor aos seus editores e administradores a responsabilidade pela moderação, mas ao mesmo tempo alterar a autorregulação prejudicaria o modelo de operações atualmente adotado. Diz ela que se a Inconstitucionalidade do artigo 19 do marco civil for declarada, a remoção ou não do

conteúdo alegadamente lícito passaria a ser uma decisão centralizada nas mãos da própria Wikimdia, que teria que decidir com base em informações unilaterais fornecidas extrajudicialmente pelas partes, independentemente da matéria e da complexidade do tema. mas principalmente alijando toda a comunidade da Wikipedia da tarefa de Garantir a qualidade das informações disponibilizadas e a sua aderência às regras estipuladas. Ao forçar a centralização e transferência da tomada de decisões, estar se ia retirando a prerrogativa dos membros locais e experientes da comunidade exercerem essa retirada. Ocorre que são os membros das comunidades, os mais das comunidades locais os mais capazes

e eficientes para corrigir eventuais Erros, pois são fluentes no assunto, no idioma e nos costumes locais. Além de não ter ingerência sobre o conteúdo, a Wikedia não tem recursos financeiros para a contratação de uma equipe especializada com experiência em todos os 322 idiomas diferentes dos conteúdos cobertos. Inevitavelmente, a qualidade da informação e em outros projetos de conhecimento livre ficaria comprometida. A declaração, diz ela, dessa Inconstitucionalidade feriria de morte o modelo de produção e autorregulação descentralizada dos artigos disponibilizados pela pelo grupo. Note-se que no Brasil a Wikipedia possui atualmente 717 autorevisores, nove burocratas, 15 eliminadores e

diversos administradores. Com uma equipe global de aproximadamente 700 funcionários no total, a empresa certamente não poderia dedicar uma equipe tão robusta e Eficiente para o controle e moderação do conteúdo em português. Portanto, concluindo esse tópico, com base nessa conjuntura de fatores, ratifico a maior adequação da alternativa descoordinada pelo estímulo às práticas do compliance, capazes de fornecer soluções procedimentais consideravelmente menos invasivas e menos problemáticas do que aquelas centradas na exigência da remoção direta do conteúdo e também de Perfis não objetivamente identificáveis. pelas próprias plataformas e seus algoritmos. Passo assim a abordar o ponto de modo mais

específico, concernente as obrigações procedimentais ao devido processo para a remoção do conteúdo e do dever de transparência na moderação. Ao estipular obrigações procedimentais para a própria plataforma, trabalha-se com esteio na previsão contida no artigo Terº, inciso 6 do marco civil, segundo o qual a disciplina da rede mundial de computadores no Brasil deve ter como princípio a responsabilização dos agentes de acordo com as suas atividades nos termos da lei. Isso porque, por óbvio, tais imposições recaem diretamente sobre a plataforma digital. O cenário é substancialmente distinto daquele verificado na tentativa de responsabilização das aplicações por Atos de

terceiro, frisando mais uma vez que nessa situação deixa-se de responsabilizar a plataforma pelo teor conteúdo expresso pelo terceiro ou pela não remoção em determinado caso concreto, descortinando-se a possibilidade de responsabilização por falha na observância da obrigação própria de natureza procedimental. Em reforço, vale realçar que a abordagem proposta guarda maior consonância com as tentativas de Promover a autorresponsabilidade das pessoas jurídicas a partir do sancionamento de condutas que lhes possam ser diretamente imputadas. Nessa conjuntura, as atenções se voltam ao adequado esquadrinhamento dos termos e das condições de uso estipulados pelas plataformas. A rigor, ao estabelecerem as regras

da comunidade, esses termos se Consubstanciam no próprio plano de integridade da empresa. Em razão dessa condição, a partir da adoção de um modelo de autorregulação regulada, tais termos e condições de uso devem ser submetidos ao crio, supervisão e constante monitoramento das instâncias reguladoras. Em contrapartida, cabe a essas autoridades sinalizar para que os regulados, quanto aos seus objetos Específicos de preocupação, a fim de que ao elaborarem as suas próprias normas, as empresas possam contemplar de modo mais adequado às suas peculiaridades tais pontos de atenção indicados. Nesse sentido, recordo ensinamento do professor Márcio Iório, segundo o qual

a autorregulação regulada ou autorregulação constrangida com constrangimento estatal ou enforced self regulation é um termo, é um meio termo entre a estratégia de autorregulação Propriamente dita e a do comando e controle. Ministro André, mais uma pergunta, por favor. Eh, sobre autorregulação regulada, Vossa Excelência fala na submissão a uma instância reguladora. No caso brasileiro, qual seria na ótica de Vossa Excelência? Eu vou no final é que eu vou vou tentar. OK. Agradeço. Não necessariamente propor, mas talvez dá um direcionamento de qual instância. É, sim, entendi. Obrigado. Em que a empresa é obrigada a produzir um conjunto

de normas que cubram uma determinada área de produção, área de preocupação do regulador, submetendo-as a ele para ratificação, com possibilidade de que sejam reenviadas ao regulado para aprimoramentos. Após ratificação, suas eventuais violações são punidas com atuação como atuação direta do regulador com atuação Direta do regulador. O diferencial dessa estratégia para o de comando e controle está em que o regulado passa a ser regido por um regime jurídico específico, sem que o Estado seja obrigado a idealizar normas com pretensão de aplicação universal desconectadas das reais condições de implementação e motivações de cada ator regulado. Além do

foco nos termos de uso e condições, deve-se acentuar a Necessidade da criação de uma estrutura específica dotada de autonomia e suficiência de recursos operacionais, de pessoal, financeiro, logísticos, etc., revestida da autoridade para implementar e supervisionar o cumprimento do plano de conformidade da empresa. Quanto ao ponto, a doutrina observa o seguinte. Além da característica da existência de normas escritas privadamente e ratificadas publicamente, outro elemento próprio, a autorregulação regulada ou Autorregulação com constrangimento estatal da teoria responsiva, está em se exigir da empresa que internalize custos de fiscalização por intermédio da criação de departamento ou grupo de conformidade

interno à empresa. com o objetivo de monitorar a observância das normas e recomendar ações disciplinares contra os infratores. O fracasso em reverter a situação de desconformidade por parte da empresa, de corrigir a atuação Desconforme ou de implementar recomendações de punições disciplinares, resulta em comunicação compulsória por parte da diretoria do compliance, a agência reguladora. Nesse diapazão, exige-se da instância regulatória que somente ratifique as regras de conduta empresarial que satisfaçam as políticas públicas governamentais. garanta que o departamento ou grupo de compliance da empresa tem independência Na estrutura hierárquica societária. Ainda realize a averiguação dos livros de registro

da atuação desse grupo, implemente fiscalizações pontuais e abra processos administrativos contra as empresas que tenham subvertido a atuação do grupo de compliance. Partindo dessa compreensão, segundo a qual se deve preservar e fortalecer o ecossistema adequado à adoção de mecanismos de autorregulação regulada por meio do Estabelecimento de obrigações procedimentais, passa-se a enfocar de modo mais pormenorizado as alternativas regulatórias que poderiam ser empregadas pelo legislador, a fim de se estimular à adoção do de comportamentos por parte das plataformas digitais, aptos a lhes conferir maior integridade. Principio rememorando o parâmetro do novo marco legal alemão, que de acordo

com Rony Vzofilização das plataformas digitais Simplesmente por não remover conteúdos livremente. Ao invés disso, a plataforma se torna responsável na medida em que não adota procedimentos para notificação, remoção de conteúdo e direito de defesa. Ainda, segundo o mesmo articulista, a legislação alemã estabelece um um rol taxativo dos conteúdos considerados manifestamente ilegal, a exemplo do que faz o artigo 21 do marco civil, os quais devem ser removidos em Até 24 horas após a notificação. Trata-se de ilícitos tipicamente penalmente tipificados, como exemplo racismo. a possibilidade de remoção de outros conteúdos classificados como ilegais em até 7 dias

após a devida notificação. Três, a possibilidade de adilação do prazo de 7 dias em caso de dúvidas, podendo nessas situação, podendo-se nessas situações submeter o caso a um órgão específico no sistema de Autorregulação regulada. Quatro, a obrigação de elaboração de relatórios periódicos sobre o tratamento dos pedidos de moderação recebidos. Cinco, a necessidade da criação de um órgão de autorregulação regulada, o qual deve ser chancelado lá no caso pelo Ministério da Justiça Alemão, que avaliará sua independência e experiência dos examinadores. Ainda no âmbito da experiência europeia, colhe-se a necessidade de publicidade e Transparência quanto aos critérios

e procedimentos adotados para a remoção do conteúdo, evitando-se práticas como o shadow bunny, segundo a qual se pode restringir o alcance de um usuário sem que ele perceba. O objetivo dessa prática é prejudicar o desempenho das publicações e da conta, sem informar o usuário sobre o bloqueio. Nessa direção, rememoram-se os dados apresentados acima, Disponibilizados pelas próprias plataformas, que indicam a os motivos pelos quais determinado conteúdo foi removido. dois, se a remoção ocorreu de forma automatizada, três, se dependeu de notificação. E quatro, se essa notificação foi judicial ou extrajudicial. Em outra vertente, experiência do dever de

acontability, as plataformas devem ser Capazes de identificar se determinado conteúdo foi objeto de impulsionamento em caso positivo, se essa amplificação foi patrocinada ou partiu de iniciativa direta da própria plataforma. Na tentativa de fornecer informações adequadas ao usuário, buscando uma maior conscientização, as plataformas também devem rotular conteúdos considerados sensíveis, de veracidade duvidosa, produzidos por inteligência artificial, Classificados como propaganda comercial, etc. Quanto ao impacto causado pela aposição de rótulos nos conteúdos, citam-se os dados extraídos do relatório apresentado pela meta acerca da atuação do Facebook e do Instagram durante o primeiro trimestre que antecedeu as eleições municipais de

2024 no Brasil. Abro aspas. Em média, 57% das pessoas que começaram a compartilhar conteúdos verificados não Concluíram essa ação após receberem um aviso da meta de que os conteúdos haviam sido verificados, demonstrando o impacto dos esforços de rotulagem na redução da disseminação de de informações falsas em ambas as plataformas. As plataformas devem atentar ainda para a possibilidade de se limitar o alcance de determinadas publicações mediante checagem de fatos e calibragem de algoritmos. Dois, coibir a utilização de contas não autênticas ou automatizadas Para práticas nocivas. ainda impedir a monetização ou impulionamento de contas utilizadas para fins

de prática de condutas e listas. também promover varreduras para eliminação de contas não autênticas ou botes empregados para prática para práticas ilícitas, bem como adotar medidas técnicas para detecção e combate às fraudes e estabelecer protocolos para verificação de autenticidade das contas E do conteúdo nos casos em que receba a denúncia. Senhor presidente, mais 5 minutos eu termino esse tópico. Tá ótimo. E aí fazemos o intervalo. Tá bem assim. Enfoca-se, com especial realce, a obrigação procedimental de criação de um canal adequado para o recebimento e tratamento de denúncias, anônimas ou não, realizadas pelos próprios usuários, reportando

condutas que estejam em Desconformidade com a lei ou com os termos de e condições de uso estipulados. A doutrina do compliance identifica na rigidez desse mecanismo de comunicação de desconformidades, o slow blowing, um dos pontos centrais do êxito da política de integridade da empresa. Por fim, nos casos em que admitida a remoção de conteúdos sem ordem judicial, é preciso assegurar a observância de protocolos Que garantam um procedimento devido capaz de permitir ao usuário o acesso às motivações, a decisão que ensejou a exclusão, que essa exclusão seja feita preferencialmente por humano, uso excepcional de robôs e

inteligência artificial no comando da exclusão. e que se possa recorrer da decisão da moderação e ainda se obtestiva e adequada por parte da plataforma, sem prejuízo de outros Procedimentos que resguardem os direitos dos usuários. Nessa perspectiva, de um lado, entre responsabilizar as plataformas por ato de terceiro e de outro, se estabelecer um regime de imunização ampla, geral e restrita aos provedores de aplicações de internet, penso que a melhor alternativa é mirar na fixação de padrões comportamentais voltados à atuação da própria plataforma ou ao invés dos usuários. responsabilizando-a pelo descumprimento De um dever de boa governança

empresarial que lhe tenha sido diretamente imputado. Como acima demonstrado, ao seguir esse caminho, o leque de opções que se abre a vasto, capaz de abranger temas como mecanismos para maior transparência na moderação do conteúdo, procedimentos adequados para a sua, só que é para finalizar, procedimentos adequados. para a sua remoção e protocolos de Atuação capazes de robustecer a integridade no ambiente digital de forma geral. Assim, eu finalizo, senhor presidente, esse tópico, me colocando à disposição de Vossa Excelência. Muito bem. Eh, voltaremos então. Vossa Excelência acredita que consiga acabar o voto hoje? Acredito que sim, com um

esforço. Eu acredito que sim, Presidente. Muito bem. Eh, seria ótimo, se possível. Então, vou suspender a sessão e retomaremos após o intervalo. Podemos sentar? Obrigado. Declaro reaberta esta sessão extraordinária, na qual estamos em apreciação dos recursos extraordinários 1.037396 e 1.057 258. Primeiro da relatoria do eminente ministro Dias Tofa e o segundo do eminente ministro Luís Fuxs. Senhor Presidente, ministro Luís Roberto Barroso encontra-se concluindo um compromisso portanto retomando a sessão e para a continuidade do voto em ambos os recursos extraordinários, com a palavra a sua excelência o ministro André Menons. Agradeço, senhor presidente. Eh, certamente acho

que teremos tempo de encerrar o voto hoje e nesse momento passo a um tópico concernente uma Distinção que reputo essencialmente necessária, que os casos de não responsabilização das plataformas não necessariamente significam casos de não responsabilização. Nesse sentido, em estudo elaborado para o tema 987, o professor Gustavo Binenembói enfoca especial atenção ao aspecto sempre lembrado por aqueles que defendem a necessidade de um controle mais incisivo sobre as redes sociais. Diz ele Que embora a liberdade de expressão possua posição de destaque no sistema constitucional, as situações concretas de abuso dessa liberdade devem ser e efetivamente são passíveis

de responsabilização a posterior, inclusive como forma de se evitar que o exercício das liberdades discursivas por alguns signifique a violação de direitos fundamentais de outros. O renomado professor fundamenta Assertiva no reconhecimento pela constituição do direito à indenização, também na ausência de previsão expressa de qualquer imunidade constitucional direcionada às plataformas e na jurisprudência desta Suprema Corte quanto à possibilidade de condenação reparatória nesses casos. Ocorre que com todas as vênas, o texto normativo do artigo 19, nele não há dele não há como se extrair uma norma de imunidade material Absoluta. A toda evidência, o legislador concebeu o

comando legal que se volta a destinatário específico, os provedores de aplicações de internet. Isso porque figurariam como meros intermediadores entre aquele que proferiu o discurso, os seus destinatários e aqueles eventualmente atingidos pela manifestação. Por óbvio, a ausência de responsabilização desse específico intermediário não afasta a Responsabilidade ou a possibilidade de responsabilização do efetivo emissor da manifestação eventualmente violadora de direito fundamental de titularidade de terceiras pessoas. O caso concreto subjacente ao tema 987 é exemplificativo do ponto que se busca aclarar. Veja-se que ao tempo em que se afastou a possibilidade de responsabilização da rede social no âmbito

da qual perpetrada ofensa, o magistrado determinou a identificação Específica dos dados particulares dos indivíduos envolvidos, possibilitando que a vítima pudesse buscar a indenização que perseguia de quem era o diretamente responsável. Por outro lado, ao reformar essa decisão, a turma recursal não apenas reconheceu a possibilidade de responsabilizar a plataforma social, como igualmente suprimiu a obrigação de identificação dos indivíduos que efetivamente proferiram as manifestações Ilistas. Nessa perspectiva, veja-se que não houve compartilhamento, mas assunção de responsabilidade, transferindo-a do real ofensor para o canal no qual se veiculou a ofensa. Portanto, a distinção que hora se busca sublinhar não

é óbvia ou desimportante, devendo ser objeto da devida atenção. O artigo 19 não erige um sistema de imunidade material absoluta, Tornando impassíveis de ulterior responsabilização as manifestações veiculadas na mídia digital. Em verdade, o que o dispositivo prevê é a ratificação da regra geral prevista no Código Civil, segundo a qual a solidariedade não se presume, devendo estar expressamente prevista em lei. No presente caso, o legislador optou por expressamente afastá-la em lei. Ao ofendido, restará buscar a indenização pelo direito violado, diretamente em Face do real ofensor. em sentido diametralmente oposto, frise-se, a decisão judicial sob exame sequer

adotou a lógica de solidariedade, promovendo, na realidade a transferência da responsabilidade do real ofensor para a instância intermediária. Isso não significa que em situações específicas a responsabilização da plataforma não possa estar configurada. Como exemplo mais evidente, rememora-se A situação dos chamados perfis robôs. No caso desses perfis, não se afigura presente sequer o bem jurídico que o dispositivo em análise visa expressamente tutelar, a liberdade de expressão. Por isso, não há que se cogitar da incidência da regra na espécie. Ademais, trata-se de situação de falha na prestação do serviço, integralmente atribuída à plataforma, que falha na observância

do dever que espontaneamente assumiu a Autoimposição. Acerca da possibilidade de responsabilização do intermediário, recordam-se as conclusões alçadas pelo relator especial das Nações Unidas sobre a promoção da proteção do direito à liberdade de opinião e expressão. Frank Lahu, no informe AHRC 1727. O texto está em espanhol. Eu farei uma tradução livre nesse contexto. Os intermediários contribuem de maneira destacada a que os Usuários da internet desfrutem do seu direito à liberdade de expressão e tenham acesso à informação. vista da influência sem precedentes que exercem esses intermediários na maneira e no conteúdo do que circula pela internet, os

estados, as nações têm procurado, cada vez com mais empenho, controlá-los e considerá-los juridicamente responsáveis se não impedem o acesso ao conteúdo que se considera ilegal. O relator especial põe de relevo, prossegue o informe que as medidas de censura nunca devem delegar-se a entidades privadas e que não deve considerar-se que os intermediários responsáveis por negar-se a adotar medidas que vulnerem os direitos humanos das pessoas. também toda solicitação dirigida a intermediários para fins de se impedir o acesso a determinados conteúdos ou revelar informação privada com fins Rigorosamente limitados, como, por exemplo, de administração da justiça penal, deverá

ir precedida de uma ordem ditada por um tribunal ou um órgão competente que seja independente de qualquer quer influência indevida de tipo político, comercial ou outro tipo. ainda que os estados sejam os principais garantidores dos direitos humanos. O relator especial ressalta que as empresas também são responsáveis por Respeitar esses direitos, o que significa que devem atuar com a devida diligência para não vulnerar os direitos das pessoas. Assim, pois, o relator especial recomenda aos intermediários que toda restrição desses direitos seja precedida de uma intervenção judicial, seja transparente ante o usuário e quando proceda diante do Público

em geral, com respeito às medidas adotadas. advertir, por adiantado, aos usuários na medida do possível, antes de aplicar as medidas restritivas e ainda devem reduzir estritamente ao mínimo os efeitos das restrições impostas aos conteúdos em questão. Por último, os usuários afetados devem dispor de reparações eficazes, incluída a possibilidade de recorrer mediante os procedimentos Estabelecidos pelo intermediário, pela empresa ou por uma ordem judicial competente. O relator especial elogia o trabalho levado a cabo pelas organizações e pessoas para determinar a situação mundial de dos obstáculos na linha de proteção ao direito à liberdade de expressão. Encoragem, em

particular as empresas a revelar os detalhes sobre as solicitações de retirada de conteúdos e a acessibilidade aos sítios da web. Ademais, recomenda as empresas que Estabeleçam condições de serviço claras e inequívocas, de conformidade com as normas e os princípios internacionais na matéria de direitos humanos e que examinem de forma permanente a repercussão dos seus serviços e tecnologias nos direitos dos usuários à liberdade de expressão, assim como em na medida dos possí possíveis obstáculos aparecerem derivados do uso indevido. O relator considera que essa transparência Contribuirá para promover a prestação de contas e o respeito aos direitos

humanos. Nesse sentido, aponta a Convenção Interamericana dos Direitos Humanos, que em seu artigo 13 dispõe que toda pessoa tem direito à liberdade de pensamento e de expressão, e que esse direito compreende a liberdade de buscar, receber, difundir informações e ideias de toda a natureza, sem consideração de fronteiras Verbalmente fronteiras verbais ou por escrito ou, em outra forma, impressa. ou artística, ou ainda por qualquer outro processo de sua escolha. Diz o item dois do dispositivo que o exercício do direito previsto no inciso precedente não pode estar sujeito à censura prévia, mas a responsabilidades ulteriores, as quais

devem, diz o texto, ser expressamente fixadas em lei. A mesma direção aponta a chamada declaração de manilha firmada por 111 Organizações de proteção aos direitos humanos. Dentre os princípios elencados, destaco os seguintes que os intermediários nunca devem ser estritamente responsabilizados por hospedar conteúdos ilegais de terceiros, nem devem ser obrigados a monitorar conteúdos de maneira proativa como parte de um regime de responsabilidade de intermediários e que os intermediários também não devem ser obrigados a restringir os conteúdos. a menos que uma Ordem determinando que o material em questão é ilegal, tenha sido emitida por uma autoridade judicial

independente e imparcial. Ainda no âmbito das Nações Unidas, menciona-se documento mais recente de relatoria especial sobre liberdade de expressão, elaborado para o Conselho de Direitos Humanos, no qual mantém a recomendação segundo a qual, abro aspas, os Estados apenas Devem buscar restringir conteúdo, segundo uma ordem emanada por uma autoridade judicial independente e imparcial. e devido e de acordo com o devido processo legal e padrões de legalidade, necessidade e legitimidade. A recomendação orienta ainda aos estados que devem eh evitar delegar a responsabilidade para empresas de adjudicar conteúdo ou o que faria prevalecer o juízo das empresas sobre

os valores dos direitos humanos. Em âmbito jurisprudencial. Aqui eu menciono um precedente anterior eh do STJ, apenas fazer referência ao número 1.193764 de relatoria da ministra Nancy Andrig, que trata também dessa questão pertinente à possível retirada de de conteúdos e responsabilização da ID decorrentes. Por essa ótica, em plena consonância com o valor da liberdade de expressão e a necessária relação de Causalidade exigida para que se promova a responsabilização de alguém. Ainda que de modo objetivo, as plataformas digitais impõe-se o dever de identificação do usuário efetivamente perpetrador da ofensa a direito de titularidade de terceiro. Caso

fale no cumprimento desse dever, deixando de agir com a devida diligência, dá ensejo a sua ulterior responsabilização, em análise, sempre circunstanciada pelas peculiaridades Inerentes ao caso. Apenas a título de esclarecimento, registra-se que após a entrada em vigor do marco civil da internet, o STJ manteve tem mantido estável a sua jurisprudência. Nesse sentido, promoveu-se a atualização apenas quanto ao momento a partir da qual a responsabilização dos provedores seria possível naquela última hipótese, de modo a assimilar o marco temporal previsto no marco civil da internet. Concernente agora o tópico A Impossibilidade de remoção de perfis, contas e

páginas pessoais, que não é a manifestação, são os perfis. No que concerne a remoção de perfis, o informe AHRC 1727, apresentado pelo relator especial das Nações Unidas sobre a promoção e proteção do direito à liberdade de opinião e de expressão, Frank Lahui, chega à seguinte Conclusão: Ainda que as medidas de bloqueio, mas é a última e filtragem, neguem o acesso aos usuários a determinados conteúdos da internet. Os estados também têm adotado medidas para interromper por completo o acesso à internet. O relator especial considera que a interrupção ao acesso do acesso aos usuários à internet, seja

qual seja a Justificativa deduzida, inclusive por motivos de violação da legislação em matéria de direitos de propriedade intelectual, é uma medida desproporcional e, em consequência, uma violação ao artigo 19, parágrafo 3, do Pacto Internacional de Direito civis e políticos. O dispositivo em referência dispõe o seguinte, que ninguém poderá um ser molestado por suas opiniões, que toda Pessoa terá direito à liberdade de expressão, e três, que o exercício do direito previsto no parágrafo 2º à liberdade de expressão, implicará deveres e responsabilidades especiais, consequentemente, poderá estar sujeito a certas restrições que devem, entretanto, estar previstas em lei,

especificamente em relação à possibilidade de remoção de perfis, de contas ou páginas pessoais, porque vinculadas a indivíduos particularmente Particularmente identificados, ensejando por meio de sua supressão a exclusão de um determinado espaço público digital. interditando de maneira prévia a sua faculdade de se manifestar, independentemente de eventual responsabilidade posterior no caso de ofensas verificadas e devidamente apuradas, compreendo que a medida viola uma série de direitos e garantias fundamentais do Cidadão. Como já tive oportunidade de afirmar na no julgamento da ADI 7261, da relatoria do ministro Luís Edson Faquim, julgada em 2023, penso que com base na premissa

de que os direitos offline devem ser igualmente assegurados online, a possibilidade de suspensão definitiva ou temporária de perfis, contas ou canais mantidos em mídias sociais, sem previsão em qualquer diploma normativo editado pelo poder legislativo, afigura-se de modo Inconstitucional. Isso porque os denominados direitos digitais dependem como condição sinequanon da preservação de uma existência online. Nesse particular, não é demais rememorar que na sociedade contemporânea o perfil, a conta ou o canal mantido em mídia social caracterizam como verdadeiro avatar do indivíduo. Em última análise, portanto, a manutenção de um perfil em aplicativo virtual pode Ser equiparável a salvaguarda

de uma personalidade digital. ilustrativa no ponto a compreensão desenvolvida desde o direito romano acerca da gênese da palavra persona, inicialmente vinculada ao universo de representação teatral, relacionada à ideia de uma personagem e paulatinamente reestruturada até a noção de personalidade jurídica. Daí, por que se asseverar com esteio no guia interpretativo proposto que a Preservação no plano virtual dos direitos assegurados no mundo físico ou offline tem como pressuposto a manutenção de um perfil, conta ou canal criado em mídia social. progredindo no raciocínio, especificamente em direção ao escopo da norma em questão, me parece que, a exemplo do

que se passa no mundo fenomênico, o combate ao abuso do direito de se expressar, combate à desinformação, ao discurso de ódio não Ensejam a exclusão do indivíduo do tecido social. Todo o atuar estatal antes se direciona a coibir o ilícito a partir da responsabilização a posterior, assegurando o direito ao devido processo legal ao infrator. Nessa ordem de ideias, a par das necessárias inescapáveis adaptações a as idiossincrasias conformadoras de cada universo, penso que se deva, o quanto possível preservar a lógica, tal Como no mundo real, de buscar repelir o comportamento desviante, no caso, a opinião ou

a manifestação. Não, contudo, a própria pessoa do infrator. Dito de outro modo, dado aqui tratarmos de direito sancionador vale vale a máxima, segundo a qual, no âmbito do direito de punir do IUS punende estatal, julga-se principalmente a conduta e não a pessoa do acusado. Sob tal enfoque, em última rácio, a supressão de perfis caracteriza Hipótese de censura prévia. Ao suspender o perfil de determinado usuário ou o acesso aos serviços de toda uma plataforma digital em razão de produção sistemática de desinformação, por exemplo, busca-se impedir a veiculação de novas manifestações ante o risco de se consubstanciarem

em novas transgressões ao ordenamento jurídico. dito de forma direta, para evitar nova manifestação que possa Configurar um ilícito, tole-se a possibilidade de qualquer manifestação. Por tais razões, para além da impossibilidade de se responsabilizar a plataforma por discurso proferido por terceiros, notadamente nos casos em que não se consiga identificar violação direta aos seus termos de uso e condição, ou a legislação de regência, ensejando situação de dúvida interpretativa. No caso dos perfis, Entendo que a supressão de maneira autônoma somente pode ocorrer nos casos em que se tratar de perfil robô, de perfis comprovadamente falsos ou de perfis

que a priori já estejam estabelecidos para a prática criminosa. A partir dessa colocação, volto ao velho papel para consignar um tópico bem curto, mas também importante sobre a legitimidade das plataformas para a defesa da liberdade de expressão e do Acesso à informação. dos usuários. Como último aspecto a analisar, entendo necessário apontar que a fundamentação acima desenvolvida, sobretudo ao reconhecer a melhor adequação da abordagem autorregulatória lastreada na eficácia horizontal dos direitos humanos, enseja o reconhecimento do direito das plataformas de exigirem em juízo a preservação da rigidez do ambiente informacional. por elas próprio, Próprias arquitetado e gerenciado,

o que inclui indubitavelmente a legitimidade processual para impugnar, em nome próprio, decisões de qualquer autoridade estatal que determinem a remoção de conteúdo específico. Isso porque, como reconhecido pela Corte Interamericana de Direitos Humanos, no caso Herrer Oulhoa versus Costa Rica, do direito à liberdade de expressão, encartado no já Citado artigo 13 do Pacto de São José da Costa Rica, extraem-se duas dimensões, aquela mais conhecida de maneira individual e para além dela a salvaguarda de um direito de feição social, de reconhecimento do direito à informação. Por tudo quanto exposto, não há como negar que, apesar das suas

peculiaridades, as plataformas digitais se tornaram veículos de comunicação social, o que atrai as limitações à Atual atuação do legislador ordinário, conforme previsto no artigo 220 da Constituição, que prevê a não possibilidade de qualquer forma de restrição a a veiculação da manifestação do pensamento, a criação e a expressão e a informação. Também no parágrafo primeiro, que nenhuma lei poderá conter dispositivo que possa constituir embaraço a plena liberdade de informação jornalística em qualquer veículo de Comunicação social. E parágrafo 2º que veda toda e qualquer forma de de censura de natureza política, ideológica e artística. Por consequência, as

plataformas digitais têm legitimidade para pleitear, em nome próprio, a tutela jurisdicional necessária à preservação da livre manifestação dos seus usuários, garantindo-lhes o acesso à informação da forma mais abrangente, mantendo ainda a Aplicação das regras da comunidade por elas mesmas estabelecidas, as quais devem sempre observar. os limites impostos pela lei e pela Constituição. Como decorrência dessa reconhecida legitimidade, impõe-se a garantia em favor das plataformas responsáveis pelo cumprimento de determinações judiciais sobre a remoção de conteúdo específico de que lhe seja franqueado o acesso à integralidade da Decisão judicial a ser cumprida. Assim, em considerações finais, inauguro uma

quarta posição em relação comparativa aos eminentes relatores e ao ministro presidente que já se pronunciaram. Para tanto, consigno em primeiro lugar, que é a tentativa de regular o funcionamento da internet, a rigor é tarefa que demanda alta especialização técnica e constante Atualização e capacidade de adaptação, sob pena de rápida obsolescência dos regramentos. estabelecidos. Em segundo lugar, como reconhecido a exaustão por qualquer dos lados do debate público sobre o assunto, a internet virou um local que é, na maioria das vezes, muito mais frequentado do que qualquer espaço físico, de modo que às vezes gastamos mais tempo

da nossa vida online do que na nossa realidade Offline. E isso faz com que esse ambiente digital seja cada vez mais o locus preferencial da construção das nossas identidades públicas, da nossa personalidade a partir daquilo que escolhemos expor ao conhecimento dos nossos semelhantes. Nessa perspectiva, é preciso atentar que a tentativa de promover, por decisão judicial a complexa regulação das redes cina na regulamentação dos limites ao livre Desenvolvimento da personalidade. Em terceiro lugar, sobreelva-se a primazia que possuem os poderes eleitos para primeiro disciplinarem a matéria. Além de haver um evidente desacordo moral razoável sobre o assunto,

põe-se em discussão os limites da liberdade de expressão, que é a viga mestra sobre a qual se alicerçam a ideia da democracia e do próprio estado democrático, bem como a própria construção da personalidade humana. Nessa perspectiva, a tarefa de regular as redes sociais ou ainda o espaço público atual deve ser feita pelos agentes que detém a outorga direta pelo povo para limitar suas ações. Ninguém melhor do que os dirigentes investidos de legitimidade democrática direta para estabelecer as regras de utilização do agora do nosso tempo, dispondo sobre os limites de uso do único instrumento verdadeiramente essencial

a qualquer regime democrático. A garantia em favor de todos de se expressar livremente, pouco importando se o fazem online ou offline. À luz dessas premissas, eu passo a consideração sobre o artigo 19 do marco civil da internet. Nesse ponto, à luz do que tudo quanto anteriormente direcionado, mencionado, identifico que o dispositivo impede a remoção de conteúdo de modo discricionário por parte das empresas. Não há vedação ao estabelecimento, porém, de deveres procedimentais, aptos a garantir a integridade do ambiente digital, o que inclui a fiel observância das as disposições legais porventura aplicáveis. A rigor, a possibilidade do

estabelecimento de deveres procedimentais é extraída da gama de princípios elencadas no próprio artigo terº do Marco Civil, como por exemplo o Inciso 5, que prevê como princípio a preservação da estabilidade da segurança e da funcionalidade da rede por meio de medidas técnicas compatíveis com padrões internacionais e pelo estímulo ao uso de boas práticas. Nesse diapazão, no que concerne a remoção de conteúdo, entendo que a luz das balizas constitucionalmente estabelecidas, o dispositivo é, em tese constitucional. Tal conclusão é corroborada sobretudo Quando se analisa a questão de forma sistêmica em conjunto com as demais disposições legais, portanto,

de igual hierarquia normativa, que já excepcionam da exigência de prévia decisão judicial um, os casos previstos no artigo 21 do marco civil da internet, dois, as hipóteses em que se esteja em cheque direitos relativos à criança e ao adolescente, conforme previsões inclusive de tipos penais no Estatuto da Criança e do Adolescente e mais Recentemente a possibilidade de propaganda abusiva em relação ao mercado de apostas, conforme dispõe o artigo 16, parágrafo 2º a 5º da Lei das Bets. A título ilustrativo, esses dispositivos prevêm a possibilidade de exclusão das divulgações e das campanhas irregulares após a notificação

do Ministério da Fazenda. Prevê ainda a possibilidade de bloqueio dos sítios eletrônicos ou a exclusão dos aplicativos após a notificação do Ministério da Fazenda. Prevê a possibilidade de exclusão no âmbito e nos limites técnicos dos seus serviços de aplicações após notificação do mesmo ministério e prevê que a notificação prevista nesses parágrafos deverá conter, sob pena de nulidade, identificação clara e específica do conteúdo apontado como infringente. Nada obstante, diante da vastidão do universo de serviços e aplicações de internet abarcadas pelo Artigo 19 do Marco Civil, entendo necessário conferir interpretação conforme a Constituição, ao aludido dispositivo, de

modo a fixar as seguintes teses: um. Serviços de mensageria privada não podem ser equiparados à mídia social. Em relação a tais aplicações de internet, prevalece a proteção à intimidade, vida privada, sigilo das comunicações e proteção de dados. Portanto, não há que Se falar em dever de monitoramento ou autorregulação na dois, é inconstitucional. a remoção ou suspensão de perfis de usuários, exceto um, quando comprovadamente falsos, seja porque relacionados à pessoa que efetivamente existe, mas que ao saber da falsidade denuncia com a devida comprovação que não utiliza, não utiliza ou não criou aquele perfil. também falsos, porque

relacionados à Pessoa que sequer existe fora do universo digital, os chamados perfis robôs. Também só se admitiria a remoção de perfis quando o próprio perfil tem como objeto direto a prática de atividade em si criminosa. Aqui faço apenas uma distinção. Eh, no na avaliação de casos de corrupção, a discussão doutrinária sobre a o quantitativo que deve ser objeto do perdimento dos Bens, ele passa por uma teoria que permite o desconto dos custos lícitos diretos havidos na atividade. Exemplifico. Se uma empresa é aberta para eh traficar drogas, a atividade dela em si é ilícita. Então, nesse

caso, se admitiria o o bloqueio, o cancelamento do perfil. Mas se nós temos como é a situação da corrupção, onde a atividade em si a lista, o fornecimento de equipamentos, de materiais, construção De obras, mas há um ilícito na prática de uma atividade que em si era lícita, eu permito que o infrator desconte os custos lícitos. se ele construiu a obra, por exemplo, que ele efetue o desconto da do material da obra de pagamento de funcionários. Então, eu dou um tratamento diferenciado. Aqui eu parto da mesma essência. Se o perfil tem como objeto o ilícito

em si, eu elimino. Se o objeto do perfil em si não é a atividade Ilícita, mas se pratica um ilícito no âmbito da manifestação, eu não autorizo, eu considero inconstitucional a suspensão ou remoção de perfis. Em terceiro lugar, as plataformas em geral, tais como mecanismos de busca ou marketplaces, tem o dever de promover a identificação do usuário violador do direito de terceiro. Observado o cumprimento da referida exigência, o particular Diretamente responsável pela conduta ofensiva é quem deve ser efetivamente responsabilizado via ação judicial contra si promovida. Quatro. nos casos em que admitida a remoção de conteúdo

sem ordem judicial, seja por expressa determinação legal ou conforme previsto nos termos ou condições de uso das plataformas, é preciso assegurar a observância de protocolos que assegurem um procedimento devido capaz de garantir A a possibilidade do usuário um ter acesso as à motivações da decisão que ensejou a exclusão do conteúdo. Dois, que essa exclusão seja feita preferencialmente por ser humano, admitindo-se o uso excepcional de robôs de inteligência artificial no comando da exclusão. Três, que se possa recorrer da decisão de moderação. Quatro, que se obtenha resposta tempestiva e adequada da plataforma. Dentre outros aspectos inerentes aos

princípios processuais fundamentais. Quinto item da tese, aqui a responsabilidade por atos de terceiros. Excetuados os casos expressamente autorizados em lei, as plataformas digitais não podem ser responsabilizadas pela ausência de remoção de conteúdo veiculado por terceiro. que eu incluo dentre desses conteúdos que já estão autorizados em lei, Situações que envolvam interesses de crianças e adolescentes com base no EC e vários dispositivos a eles relacionados, como pornografia infantil, qualquer coisa desse dessa natureza, as questões das bets, como já fiz referência, e a própria disposição do artigo 21 do marco civil da internet. Então, excetuados os casos autorizados

em lei, as plataformas digitais não podem ser responsabilizadas diretamente pela Ausência da remoção de conteúdo veiculado por terceiro, ainda que posteriormente venha o judiciário a determinar a a necessidade dessa remoção, aí incluídos os ilícitos relacionados à manifestação de opinião ou de pensamento. Ou seja, não é possível responsabilizar, à luz do que o tenho defendido, a responsabilidade direta da plataforma sem prévia determinação judicial, quando se está de diante de Ilícito relacionado à manifestação da opinião ou do pensamento. Agora vou falar da responsabilidade própria das plataformas. André, me permitiria uma pequena parte? Eh, se eu entendi bem,

Vossa Excelência em um momento do seu voto, eh, chega a equiparar as eh plataformas a veículos de comunicação social, inclusive fazendo referência ao artigo 226 seguintes. Eh, nós já decidimos Inclusive a responsabilidade dos veículos de comunicação social por conteúdo de terceiros. Então, eh, Vossa Excelência equipara, mas não a esse ponto. É isso. Eu entendo que nesse caso específico não, nós não temos uma legislação específica, nós podemos até debater depois as outras hipóteses, mas, por exemplo, nós fizemos várias ressalvas de conteúdos que são eh eh enunciados ao vivo, que depois você precisa ter uma Regulamentação, uma

decisão específica para aquela retirada. No caso das plataformas, há uma lei específica, o artigo 19. Então, eu tô preservando a essência do 19. Não tô dizendo que é o melhor remédio. Aliás, eu proponho uma autorregulação regulada, onde eu tenha maiores mecanismos para depois oferir essa responsabilidade, não em função da remoção ou não remoção, mas do descumprimento dos próprios normativos que estão estabelecidos. Então, nesse Caso específico, eu mantenho o artigo 19. Não, perfeito. É que eu eu tinha, na verdade, uma compreensão até similar de Vossa Excelência, mas talvez se aproximando eh no mínimo eh as plataformas

dos veículos de comunicação social toda extensão. me fecho ministro Zanin antecipando também, até porque haverá uma sequência de Mas a minha o meu entendimento a priori é de que os marcos legais hoje estabelecidos são esses três que eu encontrei, né? Responsabilidade própria. a possibilidade de responsabilização por conduta omissiva ou comissiva própria pelo descumprimento dos deveres procedimentais que lhe são impostos pela legislação, aí incluída a obrigação de aplicação isonômica em relação a todos os usuários das regras de conduta estabelecidos por seus termos e condições de uso, os quais devem guardar conformidade com as disposições do Código

de Defesa. do consumidor e com A legislação em geral. E b, a adoção de mecanismos de segurança digital para evitar que as plataformas sejam utilizadas para a prática de condutas e listas. Então, isso está correlacionado também com aquele listo em si mesmo, né? E por fim, sete, em observância ao devido processo legal, a decisão judicial que determinar a remoção de conteúdo, deve apresentar fundamentação Específica e, ainda que proferida em processo judicial sigiloso, deve ser acessível à plataforma responsável pelo seu cumprimento, facultada a possibilidade de impugnação. Pois eu faço uma análise breve dos casos concretos. Eh,

no caso do ministro Dias Tofle, acompanha o ministro Diastofle, entendo que ali o Facebook ele descumpriu um dever próprio dele de uma vez advertido sobre um perfil falso, não remover esse Perfil. Então isso tá abarcado quando eu falo aqui de perfis falsos ou perfis robôs. No caso do ministro eh Luiz Fuxs, eu eu dirijo de sua excelência por entender que ali a responsabilidade é de quem fez a manifestação, não da plataforma. Então, a as pessoas prejudicadas devem buscar junto à plataforma essa informação de quem são eh eh os que se manifestaram. Uma vez desincumbindo-se a

plataforma de Fornecer os dados, ela estaria, vamos dizer assim, isenta da responsabilidade. E por fim, ministro Dino, à luz da pergunta de Vossa Excelência sobre qual seria esse órgão, essa não é uma pergunta simples de se responder. E, por exemplo, no caso da Alemanha, que eu que eu fiz referência, definiu-se dentro do Ministério da Justiça. Eu entendo que a autorregulação regulada e tive essa experiência na CGU E com as empresas em relação às quais a União fez acordos de leniense, ficou estabelecida a obrigação de durante o período de execução dos dos acordos haver não só

um programa de compliance que fosse aprovado pela CGU, como também durante a execução, a CGU teria acesso e poderia fazer auditorias no cumprimento efetivo daquele programa de integridade. Então, hoje, eh, dentro do marco do marco marco legal que temos, nós não temos essa figura específica. Nós temos O judiciário com, entre aspas, a responsabilidade de eh em verificando uma situação, proceder uma determinação específica em relação às empresas. Eu penso que essa matéria, e é isso que eu proponho aqui, fazendo um apelo aos poderes legislativo e executivo para que atualizem a legislação. Eu entendo que a legislação

precisa ser aprimorada em vários aspectos e a elaborem a partir de políticas públicas relacionadas à Temática em questão, mas propondo como marco essa autorregulação regulada, ou seja, como desenho essa sistemática. precisa ser um órgão independente. Se eu pudesse hoje olhar no que nós temos de instituições dentro eh eh de poder executivo, eu entendo que a controladoria, porque eu sei que ela já faz um trabalho de auditagem de programas de integridade, é uma instituição com corpo não só muito Qualificado, mas técnico e sério. Então, eu acho que essa é uma decisão. Eu faço como um apelo

para que isso seja feito. Entendo que essa seria a melhor medida, porque daria, ao mesmo tempo uma possibilidade de padrões, uma possibilidade de adaptações conforme as evoluções e daria sempre, teria sempre a possibilidade de o judiciário funcionar como o equacionador de eventuais controvérsias. Então, é nesse sentido que eu faço esse apelo ao final do meu Voto de construção eh de uma alternativa que penso deve partir eh em adotando-se essa perspectiva do próprio poder executivo, né? se é para se trabalhar numa questão de um órgão, mas também pode logicamente eh eh ter uma perspectiva aí conforme

a situação de uma iniciativa do legislativo. Senhor presidente, agradecendo a atenção de todos, eu quase que religiosamente concluo às 18 horas. Religiosamente. Obrigado. Bem, eu só indago de vossa excelência, ministro André, se se o o voto, eu eu pessoalmente gostaria de ler o voto inteiro, se Vossa Excelência puder disponibilizar, mas pelo menos as conclusões. Não, eu eu pedi, eu peço até desculpas por não disponibilizar antes, mas são, como o voto era muito extenso e com várias várias vezes eu tive que revisar e relendo, eh, mas eu pedi que a assessoria ainda, eu não sei se

já Chegou, mas que já assim que eles concluíssem lá os últimos ajustem ajustes já passasse a Já receberam? Não, não, mas mas eu pedi essa e vai chegar com certeza. porque aí vou vou fazer uma tabela com as conclusões do ministro Tofol, do ministro Fuxs, minhas e de vossa excelência, que eu acho que é um uma bússola para a a sequência do julgamento. Eu vou organizar a pauta e aí voltamos e combinamos quando Voltaremos com esse julgamento. Apenas lembrando que na quarta-feira temos uma sessão extrahã às 10 horas que vai compensar a do feriado da

semana seguinte, OK? Então, quarta-feira que vem, às 10 horas, nós retomamos, nós eh teremos a nossa pauta normal eh eu vou fazer e divulgar, OK? Mas após conversa com os relatores, sendo o que se apresentava para a sessão de hoje, declaro encerrada A sessão. Опа. เฮ