Auditoria usa IA, passa vergonha e devolve dinheiro de projeto

A Deloitte, uma das maiores empresas de consultoria do mundo, concordou em reembolsar parcialmente o governo da Austrália após entregar um relatório de auditoria, avaliado em AU$ 439 mil (cerca de R$ 1,5 milhão), que continha graves erros, como citações e referências completamente inventadas.

A empresa admitiu que parte da análise inicial incluiu o uso da ferramenta de IA generativa GPT-4o, e as falhas foram atribuídas a "alucinações" da inteligência artificial, que criam informações falsas para responder a consultas.

Após a denúncia de um acadêmico e uma investigação interna, a Deloitte publicou uma versão corrigida do documento e renunciará à última parcela do pagamento do contrato, expondo os riscos da aplicação de IA em serviços técnicos sem a devida supervisão humana.

FONTE: tecnoblog