Nota: Este artigo 茅 apenas uma das mais de 60 se莽玫es do nosso relat贸rio completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Fa莽a o download do relat贸rio completo para verificar as cita莽玫es.
Desafio: Potencial de Vi茅s e Erros
Os sistemas de IA n茫o s茫o infal铆veis e podem apresentar vieses ou cometer erros com implica莽玫es graves em contextos jur铆dicos:
鈥� Ferramentas de pesquisa jur铆dica baseadas em IA podem apresentar vi茅s nas recomenda莽玫es de jurisprud锚ncia, potencialmente distorcendo a an谩lise legal.[97]
鈥� J谩 houve casos de IA interpretando erroneamente linguagem jur铆dica complexa na an谩lise de contratos, o que pode levar a erros na execu莽茫o contratual.[98]
鈥� Algoritmos de reconhecimento facial utilizados em investiga莽玫es jur铆dicas apresentaram taxas de erro mais elevadas para pessoas negras e pardas, levantando preocupa莽玫es sobre imparcialidade e precis茫o.[99]
Para mitigar esses riscos, as equipes jur铆dicas internas devem implementar supervis茫o humana e medidas de controle de qualidade ao utilizar ferramentas de IA.
"Ao avaliar erros humanos e de m谩quinas, o foco precisa deixar de ser nas taxas de erro e passar a ser na natureza e gravidade dos erros. Enquanto alguns erros s茫o inconsequentes, outros podem ser catastr贸ficos. A colabora莽茫o eficaz entre humanos e m谩quinas exige aproveitar os pontos fortes comparativos de cada um para reduzir o impacto dos erros, e n茫o apenas a frequ锚ncia deles."
Colin Doyle, Professor Associado de Direito, Loyola Law School, Los Angeles, EUA
