Em 2011, os juízes do Kentucky passaram a consultar um algoritmo para decidir se deviam manter um arguido em prisão a aguardar julgamento ou se o poderiam libertar sob fiança. Até então, havia pouca diferença na proporção de brancos e negros receberem a benesse de sair sob fiança. Desde aí, com a utilização do algoritmo, há muitos mais pedidos de saída sem fiança dados a brancos do que a negros. A proporção de negros cresceu para perto de 25%, enquanto o volume de brancos que saíram em liberdade sem pagar nada cresceu para os 35%. O algoritmo já foi alterado duas vezes desde então, mas a diferença mantem-se desde 2016.
O estudo sobre a experiência no Kentucky surge numa altura em que nos EUA se discute a possibilidade e as diferentes formas de como os algoritmos podem ser usados para agilizar processos administrativos na justiça. Naquele estado, o algoritmo está a conduzir a decisão enviesadas pelo tom de pele, dando razão a jornalistas e académicos que mostraram este risco, alertando que este sistema pode ser injusto e racista.
No Kentucky, são usados questionários antes do julgamento desde 1976 para classificar o réu, de acordo com um sistema de pontos, que tem em consideração a situação profissional, o registo criminal ou o grau de literacia, entre outros. Em 2011, a lei HB 463 tornou obrigatória a aplicação destes questionários pre-julgamento.
O intuito dos legisladores com a HB 463 passa por aliviar o número de presos nos EUA estudos recentes mostram que 60% dos 730 mil reclusos em prisões locais foram-no sem qualquer julgamento feito. O sistema do Kentucky classifica as pessoas consoante o seu risco de fuga (baixo, moderado ou elevado). As pessoas de risco baixo ou moderado devem ser libertadas sem fiança, explica o ArsTechnica.
Peter Eckersley, da Partnership on AI, avança que «estas ferramentas foram lançadas com o desejo razoável de haver um processo de decisão baseado em evidências, mas não houve precaução suficiente». Esta entidade recomendou, em abril, que as agências governamentais revissem este tipo de algoritmos e recorressem a entidades independentes para os melhorar.
