Por que a IA inventa fatos, e o que fazer com isso
Um modelo de linguagem não consulta nada. Ele prevê o próximo trecho de texto que melhor encaixa no que veio antes, então uma citação inventada sai do mesmo mecanismo que produz uma correta. O modelo não tem nenhum sinal interno que separe as duas. Por isso a correção nunca é pedir mais cuidado. A correção é entregar a fonte e conferir a resposta contra ela.
4 min de leitura