Uma pessoa pede a um sistema de inteligência artificial que prepare uma resposta. O texto chega depressa, bem organizado e com um tom seguro. Alguém o lê, corrige duas expressões e envia. Houve intervenção humana. Mas o que foi realmente verificado? A clareza da redação, a adequação ao destinatário ou a informação que sustenta a resposta? Dizer que «uma pessoa reviu» pode esconder trabalhos muito diferentes. A presença de um leitor não descreve, por si, a qualidade da revisão.
Não proponho que cada utilização de inteligência artificial seja tratada como uma operação extraordinária. Há tarefas simples, reversíveis e de consequência limitada em que uma verificação breve faz sentido. Proponho distinguir essas situações das que envolvem uma promessa, uma decisão importante ou uma informação que outra pessoa irá usar para agir. A revisão precisa de acompanhar a finalidade da resposta. Corrigir o estilo de um texto não resolve uma dúvida sobre a sua base.
Imagine-se uma equipa a preparar uma mensagem sobre o estado de um pedido. O sistema pode organizar muito bem a informação que recebe. Se o estado do pedido não foi consultado ou se a consulta é antiga, a qualidade da frase não corrige esse problema. Um texto elegante pode transmitir uma certeza que a operação ainda não tem. A pergunta anterior ao envio deveria ser simples: qual é a observação que nos permite dizer isto agora?
Separar a frase da prova
Esta pergunta muda a maneira de rever. Em vez de ler apenas à procura de erros visíveis, a pessoa identifica as afirmações que precisam de confirmação. Uma descrição geral do processo exige um tipo de cuidado. A indicação de que uma entrega aconteceu exige outro. A promessa de uma data exige compreender quem a pode assumir. O sistema pode ajudar a localizar essas afirmações, mas a responsabilidade de as aceitar precisa de ter um lugar definido no trabalho.
Há também uma diferença entre uma fonte existir e sustentar a frase em causa. Um endereço pode levar a um documento real e, ainda assim, não confirmar a interpretação apresentada. Uma tabela pode ser autêntica e referir-se a outro período ou a outra população. Não é necessário transformar todas as pessoas em investigadoras especializadas. É necessário que a revisão inclua as perguntas adequadas ao uso: de onde vem, a que se refere e até onde permite concluir.
Nos textos de opinião, a distinção continua a ser útil. Uma pessoa pode defender uma posição, construir uma hipótese ou propor um exercício. Isso não exige fingir que a opinião é um facto medido. Pelo contrário: identificar o que é interpretação torna o texto mais honesto e mais fácil de discutir. O problema aparece quando uma formulação plausível recebe a aparência de experiência pessoal, acontecimento ou resultado sem que exista uma base para essa atribuição.
Uma equipa pode começar por uma regra de trabalho pequena: antes de aprovar uma resposta relevante, assinalar o que foi observado, o que está a ser inferido e o que ainda precisa de confirmação. Não proponho que estas etiquetas sejam despejadas na comunicação com o cliente. Proponho que façam parte da revisão interna. O destinatário deve receber uma resposta clara. A equipa deve conseguir explicar por que essa resposta é justificável.
Como referência para organizar este cuidado, o AI Risk Management Framework do NIST propõe uma abordagem voluntária à gestão dos riscos da inteligência artificial, incluindo a sua utilização e avaliação. Não é um certificado de que uma resposta está correta. A responsabilidade de transformar uma orientação em verificações adequadas continua na organização que utiliza a ferramenta. [S1]
Rever exige condições para discordar da máquina
A qualidade da revisão depende também das condições de quem a faz. Se a pessoa recebe dezenas de respostas para validar em poucos minutos, sem acesso às fontes e com a expectativa de que tudo avance, a intervenção humana pode tornar-se apenas uma assinatura. Pedir responsabilidade sem dar tempo e informação não melhora o processo. Apenas desloca para uma pessoa o nome da etapa em que o erro deixou de ser tratado.
Há uma objeção legítima: se for necessário reconstruir todo o trabalho, perde-se o ganho que motivou o uso da ferramenta. Concordo. A resposta não deve ser rever tudo da mesma maneira. Deve ser escolher verificações proporcionais e desenhar a tarefa para facilitar essas verificações. Um rascunho que conserva a ligação às fontes, separa dados de interpretação e explicita as dúvidas pode ser mais útil do que uma resposta aparentemente pronta que obriga a procurar a sua origem.
Em tarefas repetidas, a equipa pode observar onde aparecem as falhas e ajustar o percurso. Se o problema recorrente está em datas, a verificação deve prestar atenção às datas. Se está em atribuições, deve concentrar-se em quem disse ou fez o quê. Essa escolha não garante ausência de erro. Torna a revisão menos ritual e mais relacionada com a experiência concreta. Também permite perceber quando a tarefa deixou de ser adequada ao nível de acompanhamento disponível.
A pessoa que revê precisa de poder devolver o trabalho. Pode ser para corrigir uma informação, pedir uma consulta atual ou reduzir o alcance de uma conclusão. Se essa devolução for tratada sempre como atraso, a organização cria um incentivo para aceitar respostas duvidosas. Uma boa operação não mede apenas a velocidade com que o rascunho chega. Observa também o trabalho necessário para o tornar utilizável e as correções que surgem depois de enviado.
Autonomia não dispensa um resultado observável
O mesmo cuidado aplica-se quando a ferramenta executa ações. Preparar uma mensagem é diferente de a enviar; submetê-la a um serviço é diferente de confirmar o resultado pretendido. Cada etapa precisa do seu comprovativo. Uma resposta de sucesso pode demonstrar que um sistema aceitou um pedido sem demonstrar que a pessoa recebeu a comunicação. A empresa deve definir o que está a tentar comprovar, em vez de usar a mesma palavra para acontecimentos diferentes.
Esse desenho permite autonomia com mais clareza. A ferramenta pode realizar tarefas previamente definidas, guardar resultados e encaminhar exceções. A equipa pode acompanhar aquilo que realmente precisa da sua atenção. O que não deve acontecer é chamar execução a um plano ou chamar conclusão a uma tentativa sem verificação. A confiança no processo cresce quando as palavras usadas no relatório correspondem ao que foi observado e quando uma falha não desaparece apenas porque existe uma resposta convincente.
A minha preocupação não é escolher entre entusiasmo e desconfiança. É criar uma relação de trabalho em que a utilidade da inteligência artificial possa ser examinada. Uma ferramenta pode ajudar muito e continuar a precisar de limites, fontes e correção. Rever bem significa saber o que estamos a aceitar, com base em quê e para que consequência. A frase mais segura nem sempre é a que soa melhor. É a que a equipa consegue sustentar quando alguém pergunta: «Como sabemos?»