Você prefere ser sentenciado por um juiz ou por um computador?

A notícia, intitulada "Quem Sou Eu, a IA, para Julgar?" (Who Am AI to Judge?), discute os desafios éticos e de justiça que surgem com a crescente utilização da Inteligência Artificial em processos de tomada de decisão cruciais, especialmente no sistema de justiça criminal.
 

O principal risco é que, apesar da promessa de eliminar o viés humano, a IA tende a amplificar os preconceitos históricos existentes nos dados em que é treinada.
 

Um exemplo é um programa que mostrou maior probabilidade de rotular falsamente réus negros como futuros criminosos.

O artigo conclui que o uso crescente da IA, que se estende a áreas como medicina e carros autônomos, exige respostas urgentes para questões de responsabilidade legal e ética, especialmente porque muitas decisões da IA são opacas (o problema da "caixa preta"), sendo difíceis de auditar ou entender.

FONTE: instituteforglobalaffairs