A plataforma X, antigo Twitter, vem enfrentando grandes dificuldades para a consolidação de sua ferramenta de IA no Brasil, demonstrando que a tecnologia não pode caminhar dissociada do ordenamento jurídico.
O Grok é uma ferramenta de inteligência artificial generativa desenvolvida pela xAI, empresa pertencente a Elon Musk e integrada à plataforma X.
Diferentemente de outros modelos de linguagem, o Grok tem a capacidade de acessar informações e publicações da rede social em tempo real, permitindo respostas contextualizadas com acontecimentos recentes do mundo.
O Grok foi concebido para atuar como uma IA mais informal, característica que acabou ampliando os riscos de desvios em sua utilização prática.
Quais foram os riscos identificados pelas autoridades?
Os órgãos federais identificaram que a ferramenta estava sendo utilizada para violar direitos fundamentais e gerar conteúdos ilícitos em massa.
Foi constatado que usuários da plataforma conseguiam criar imagens falsas, sexualizadas e erotizadas (deepfakes), envolvendo pessoas reais, sem autorização das pessoas retratadas.
Diante desse cenário, a Secretaria Nacional do Consumidor (Senacon), o Ministério Público Federal (MPF) e a Agência Nacional de Proteção de Dados (ANPD) expediram recomendação conjunta à empresa, exigindo a interrupção imediata da produção desses conteúdos nocivos no território nacional.
Qual é a preocupação jurídica no caso
O principal fundamento reside na ausência de filtros de segurança no código da IA, o que, na visão das autoridades, caracteriza grave falha na segurança do produto e na proteção de dados.
Após a notificação, a plataforma X apresentou justificativas e alegou ter adotado medidas de moderação, como a derrubada de contas e publicações, mas os órgãos governamentais e ministeriais consideraram as respostas insuficientes, por carecerem de dados auditáveis.
Assim, as autoridades exigiram que a empresa forneça relatório detalhado com métricas, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados, incluindo prazos médios de resposta, sob pena de aplicação de multa diária e de responsabilização civil e criminal dos envolvidos.
O caso evidencia que a inovação tecnológica, especialmente no campo da inteligência artificial generativa, deve ser acompanhada de governança preventiva, mecanismos eficazes de segurança, transparência técnica e possibilidade de auditoria pelas autoridades competentes.
João Rafael Mercer Moretini – Advogado no escritório Alceu, Machado Sperb & Bonat Cordeiro Advocacia e pós-graduando em Direito Processual Civil pela PUC/PR.
