¿Justicia algorítmica ética?

La inteligencia artificial ha llegado al sector justicia y con ella la justicia algorítmica. Los métodos de procesamiento de datos que utiliza suelen estar diseñados por empresas privadas por lo que sus algoritmos se protegen como secretos comerciales y, por tanto, están excluidos del escrutinio público. Estas cajas negras pueden reflejar sesgos discriminatorios de diversa naturaleza, a pesar de su aparente neutralidad y objetividad. Sobre esto se pronuncia la reciente “Carta Ética Europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno”, que analizo en este post.