Como a automação e os sistemas inteligentes criam dores de cabeça jurídicas
Fonte: RISK MANAGEMENT MAGAZINE- RIMS
Por: Meredith Bobber Strauss | 29 de maio de 2025
A automação está em toda parte, com as empresas utilizando softwares, algoritmos e inteligência artificial para otimizar tudo, desde faturamento e atendimento ao cliente até análise de dados e marketing. Embora a automação prometa eficiência, precisão e escala, ela não necessariamente compreende como cumprir a lei. Quando os sistemas não são controlados, o que pode começar como uma otimização bem-intencionada pode rapidamente se transformar em imposição de normas regulatórias, ações coletivas e sérios danos à reputação. Em suma, se o software de uma empresa consegue executar tarefas automaticamente, isso também pode expor a empresa a responsabilidades significativas.
Campo minado de privacidade de dados
A conformidade com a privacidade é uma das áreas mais desafiadoras para empresas que implementam automação. Leis como a Lei de Privacidade do Consumidor da Califórnia (CCPA), a Lei de Direitos de Privacidade da Califórnia (CPRA) e o Regulamento Geral sobre a Proteção de Dados (GDPR) da União Europeia criam requisitos rigorosos em relação à coleta de dados, notificação, consentimento e direito de opt-out. Mas a automação frequentemente introduz fluxos de dados invisíveis. Muitos sistemas coletam dados do usuário, sincronizam-nos com plataformas de marketing e ativam mecanismos de retargeting ou recomendação — tudo sem intervenção humana. É aí que reside o risco.
Por exemplo, em 2022, o Procurador-Geral da Califórnia fez um acordo com a Sephora por US$ 1,2 milhão devido a alegações de que a empresa não honrou as cláusulas de exclusão de consentimento dos consumidores em relação ao rastreamento de dados de terceiros. O problema não foi uma falha política deliberada. A infraestrutura de publicidade automatizada da Sephora não reconhecia nem processava os sinais de controle de privacidade global enviados pelos navegadores dos usuários.
Em outras palavras, sistemas automatizados podem funcionar conforme o planejado, mas nem sempre em conformidade com a lei. Mesmo a coleta passiva ou em segundo plano de dados pode desencadear ações de fiscalização se não houver supervisão legal. As empresas devem garantir que seus processos automatizados sigam os objetivos internos de marketing e cumpram as leis externas de privacidade.
Nenhuma intenção necessária
Outro desafio são as leis de proteção ao consumidor, que frequentemente podem se sobrepor a processos automatizados. Alguns dos estatutos de proteção ao consumidor mais impactantes, como a Lei da Concorrência Desleal da Califórnia (UCL) e a Lei da Comissão Federal de Comércio (FTC), não exigem prova de que uma empresa teve a intenção de fazer algo errado. Em vez disso, eles analisam o resultado das ações da organização. Essa distinção é extremamente importante na era da automação.
Em um exemplo, o aplicativo de monitoramento de fertilidade e ciclo menstrual Flo Health garantiu publicamente aos usuários que seus dados de saúde confidenciais permaneceriam privados. Na verdade, porém, suas funções automatizadas de compartilhamento de dados encaminhavam dados pessoais para plataformas de terceiros, como Facebook e Google, para fins de análise e marketing.
Esse compartilhamento de dados resultou em uma investigação e ação de fiscalização da FTC em 2021. A Flo Health concordou em mudar suas práticas e passou por uma revisão independente de privacidade, mas não antes de enfrentar uma tempestade de relações públicas e uma grande perda de confiança. Embora nenhum executivo da Flo Health tivesse a intenção de violar a privacidade do usuário, os processos automatizados do sistema o fizeram de qualquer maneira, e, segundo a lei, isso foi suficiente.
Como este exemplo demonstra, a automação não elimina riscos. Na verdade, pode amplificá-los. Quando um trecho de código opera fora da supervisão humana, pode impactar instantaneamente milhares ou até milhões de usuários e gerar responsabilidade para a empresa.
Contratos, Algoritmos e Promessas Quebradas
A automação também pode gerar problemas com contratos, direitos do consumidor e deveres fiduciários. Por exemplo, preços dinâmicos, faturamento automático e atendimento ao cliente baseado em IA podem afetar os direitos legais dos usuários, mesmo que a empresa que implementa um sistema automatizado nunca tenha pretendido cobrar a mais, enganar ou confundir ninguém.
Por exemplo, no litígio em andamento Spencer v. Uber Technologies Inc , os demandantes alegam que o uso de preços algorítmicos pela Uber — software que ajusta as taxas com base na demanda em tempo real — constitui práticas comerciais desleais e potencialmente viola deveres contratuais com os clientes.
Independentemente de a Uber vencer ou não, o processo destaca uma questão crescente. Os tribunais estão cada vez mais abertos ao argumento de que a conduta automatizada pode substituir a tomada de decisões humanas e ser julgada de acordo.
Se o sistema de uma empresa envia automaticamente avisos de cancelamento, revisa preços ou altera os termos da conta sem revisão humana, pode inadvertidamente violar um contrato ou gerar responsabilidade civil de proteção ao consumidor. A exposição decorrente dessas ações pode ser extrema. O que seria um erro de atendimento ao cliente com um agente humano se transforma em mil erros quando um algoritmo opera em alta velocidade.
O que as empresas podem fazer
Para lidar com essas questões de responsabilidade, é fundamental que as empresas incorporem a supervisão jurídica desde o início, em vez de esperar que os problemas surjam. Advogados que entendam o cenário regulatório e os objetivos operacionais da empresa podem ajudar a mitigar os riscos antes mesmo da implementação do código.
No entanto, o envolvimento precoce pode não ser suficiente. A automação evolui rapidamente, assim como o ambiente jurídico que a envolve. É por isso que a supervisão jurídica deve ser contínua. As empresas precisam de consultores jurídicos para monitorar proativamente o desempenho dos sistemas em campo, especialmente em uma era impulsionada pela tecnologia, em que as regulamentações de privacidade e os padrões de proteção ao consumidor estão em constante mudança.
Isso é particularmente verdadeiro para qualquer empresa que colete ou processe dados de consumidores, utilize sistemas automatizados de mensagens ou preços ou opere em jurisdições com diferentes leis de proteção ao consumidor. Para empresas que se enquadram nessas categorias, as seguintes práticas recomendadas para lidar com as complicações legais da integração automatizada de software:
- Incorpore o jurídico ao processo de design : forme equipes multifuncionais desde o início. Quando advogados trabalham lado a lado com engenheiros, os sistemas se tornam mais inteligentes e seguros.
- Realize Avaliações de Impacto à Privacidade : Avalie como os dados são coletados, armazenados e compartilhados entre ferramentas automatizadas. As organizações não devem presumir a conformidade do fornecedor — elas precisam verificá-la.
- Simule cenários : teste como os sistemas automatizados se comportam em casos extremos, como cancelamentos de clientes, desistências ou reclamações delicadas.
- Faça auditorias regularmente : as empresas nunca devem "configurar e esquecer" quando se trata de automação. O monitoramento contínuo pode detectar erros antes que eles se expandam.
- Faça a ponte entre as equipes jurídica e técnica : Engenheiros precisam entender as restrições legais, e advogados precisam ter uma compreensão prática do funcionamento dos sistemas corporativos. À medida que a automação se torna mais essencial às operações comerciais, a conscientização jurídica precisa ser incorporada a cada linha de código e a cada decisão algorítmica.
Meredith Bobber Strauss é associada da Michelman & Robinson, LLP.
--------------------------------------------------------------------------
XVI Seminário de Gestão de Riscos e Seguros – EXPO ABGR 2025- Inscrições Abertas!
https://eventos.congresse.me/xvisgrs_expoabgr2025
Participe do evento com as maiores referências do mercado, explorando tendências e soluções.
✅ Painéis com especialistas
✅ Networking com grandes companhias
✅ Conteúdos alinhados ao cenário atual
O XVI Seminário de Gestão de Riscos e Seguros – EXPO ABGR 2025 abordará "O Gerenciamento de Riscos nas Organizações e o Marco Legal do Mercado de Seguros", trazendo insights valiosos para o mercado, dentre outros temas.
A ABGR apoia o XIX FÓRUM IBEF-RIO 2025 ÓLEO,GÁS E ENERGIA
Mais informações e inscrições:
https://agenda.ibefrio.org.br/curso/xix-forum-ibef-oleo-gas-energia-2025/
Associados ABGR têm desconto na inscrição, solicite seu cupom de desconto através do e-mail: abgr@abgr.com.br
A ABGR apoia o SOU SEGURA SUMMIT 2025- Dias 24 e 25 de Junho.
Mais informações e inscrições:
https://rumoaoequal.sousegura.org.br/evento-summit-2025
Associados ABGR têm desconto na inscrição, solicite seu cupom de desconto através do e-mail: abgr@abgr.com.br
A ABGR apoia a EXPO Incêndio- De 27 a 29 de agosto de 2025. Participe!
Os associados ABGR têm 20% de desconto em todos os cursos da Conhecer Seguros.
São diversos treinamentos sobre Seguros, Gestão e Finanças, com professores especialistas. Acesse o site e aproveite mais esse benefício: https://conhecerseguros.com.br/.../SiteCurso/CarregaCursos
Parceria ABGR e ENS - Escola de Negócios e Seguros - Desconto aos Associados!
Mais informações em: www.abgr.com.br- comunicados
Curso Preparatório e Certificação Profissional Internacional em Gestão de Riscos
Associados ABGR têm desconto para inscrições antecipadas. Solicite mais informações através do e-mail: abgr@abgr.com.br
Acesse as edições mais recentes das publicações do Mercado de Seguros:
Revista Apólice: https://revistaapolice.com.br/2025/04/apolice-307-as-experiencias-internacionais-que-podem-servir-de-exemplo-para-o-brasil/
Revista Cobertura: https://www.revistacobertura.com.br/revistas/revista-cobertura-edicao-274/#1
Revista Insurance Corp: https://insurancecorp.com.br/pt/content/pdf/ic_ed59_2025.pdf
Revista Seguro Total: https://revistasegurototal.com.br/2025/02/17/revista-seguro-total-edicao-248-especial-24o-trofeu-gaivota-de-ouro/
Revista Segurador Brasil: https://revistaseguradorbrasil.com.br/edicao-191/
Revista de Seguros: https://issuu.com/confederacaocnseg/docs/revista_de_seguros_n_932
Conjuntura CNseg: https://cnseg.org.br/publicacoes/conjuntura-c-nseg-n-117
Revista Insurtalks: https://www.insurtalks.com.br/revista/revista-insurtalks-13
Revista Brasil Energia: https://brasilenergia.com.br/flip/1082
Risco Seguro Brasil: https://riscosegurobrasil.beehiiv.com/
Portal CQCS: https://cqcs.com.br/
