Na semana passada, um juiz emitiu um parecer de 223 páginas que criticou o Departamento de Segurança Interna pela forma como realizou operações contra imigrantes indocumentados em Chicago. Enterradas em uma nota de rodapé estavam duas sentenças que revelavam que pelo menos um membro da aplicação da lei usou o ChatGPT para escrever um relatório que pretendia documentar como o policial usou a força contra um indivíduo.
O decisãoescrito pela juíza distrital dos EUA Sara Ellis, questionou a forma como os membros do Departamento de Imigração e Alfândega e outras agências se comportaram durante a execução da chamada “Operação Midway Blitz”, que viu mais de 3.300 pessoas presas e mais de 600 detidos sob custódia do ICE, incluindo repetidos conflitos violentos com manifestantes e cidadãos. Esses incidentes deveriam ser documentados pelas agências em relatórios de uso da força, mas a juíza Ellis observou que muitas vezes havia inconsistências entre o que apareceu na fita das câmeras usadas no corpo dos policiais e o que acabou no registro escrito, resultando em ela considerar os relatórios não confiáveis.
Mais do que isso, porém, ela disse que pelo menos um relatório nem sequer foi escrito por um oficial. Em vez disso, de acordo com sua nota de rodapé, as imagens da câmera corporal revelaram que um agente “pediu ao ChatGPT para compilar uma narrativa para um relatório baseado em uma breve frase sobre um encontro e várias imagens”. O oficial supostamente apresentou o resultado do ChatGPT como relatório, apesar de ter recebido informações extremamente limitadas e provavelmente preenchido o restante com suposições.
“Na medida em que os agentes usam o ChatGPT para criar seus relatórios de uso da força, isso prejudica ainda mais sua credibilidade e pode explicar a imprecisão desses relatórios quando vistos à luz do [body-worn camera] filmagem”, escreveu Ellis na nota de rodapé.
De acordo com Imprensa Associadanão se sabe se o Departamento de Segurança Interna tem uma política clara em relação ao uso de ferramentas generativas de IA para criar relatórios. Seria de supor que, no mínimo, está longe de ser a melhor prática, considerando que a IA generativa irá preencha lacunas com informações completamente fabricadas quando não há nada em que se basear em seus dados de treinamento.
O DHS tem um página dedicada sobre o uso de IA na agência, e tem implantou seu próprio chatbot para ajudar os agentes a concluir as “atividades do dia a dia” após passarem por testes com chatbots disponíveis comercialmente, incluindo ChatGPT, mas a nota de rodapé não indica que a ferramenta interna da agência seja a usada pelo oficial. Sugere que a pessoa que preencheu o relatório foi ao ChatGPT e carregou as informações para preencher o relatório.
Não é de admirar que um especialista tenha dito à Associated Press que este é o “pior cenário” para o uso de IA pelas autoridades policiais.
