O que significa manter uma decisão sob controlo humano? A pergunta merece mais do que a presença de alguém diante de um ecrã. Se essa pessoa não puder compreender o critério, pedir informação adicional ou suspender a execução, a supervisão poderá resumir-se a um gesto de confirmação. Para quem gere uma empresa, o problema começa aqui: que autoridade permanece nas mãos de quem responde pelas consequências?
A questão de fundo pode ser colocada sem escolher entre aceitar toda a automação ou rejeitar qualquer utilização de inteligência artificial. Convém distinguir tarefas que admitem correção simples de decisões capazes de afetar trabalho, rendimento, acesso a serviços ou continuidade de uma relação comercial. O grau de autonomia concedido deveria acompanhar a dificuldade de reparar um erro, em vez de depender apenas da facilidade técnica de automatizar.
Esta distinção aproxima o debate da gestão quotidiana. Antes de perguntar qual é a ferramenta adequada, importa decidir o que pode ser delegado, em que condições e com que possibilidade de recurso. Que sentido teria exigir responsabilidade a uma chefia que recebe uma recomendação, mas não dispõe de tempo nem de informação para a contrariar?
Autoridade para rever, condições para discordar
Imagine-se uma empresa genérica que utiliza um sistema para ordenar pedidos de fornecimento. A ferramenta propõe dar prioridade aos clientes cujo histórico parece indicar menor risco de incumprimento. Trata-se de um caso hipotético: a escolha pode parecer administrativamente simples, mas ganha outra importância se dessa ordenação depender o acesso a um bem necessário à atividade de quem compra.
Suponha-se que um cliente recente surge no fim da lista por ter um histórico curto. A ausência de informação terá sido tratada como sinal de risco? O responsável comercial consegue distinguir essa hipótese de um problema efetivo de pagamento? Se não conseguir, aceitar a proposta poderá transformar uma incerteza numa decisão com consequências concretas, sem que essa passagem seja discutida.
Neste exemplo, o controlo humano precisaria de condições operacionais: acesso aos elementos relevantes, competência para rever a prioridade e um procedimento para registar a justificação. Também seria necessário permitir a discordância sem a penalizar automaticamente como atraso. Pedir revisão cuidadosa e avaliar o trabalhador apenas pela rapidez de execução criaria um conflito que a expressão «supervisão humana» não resolveria.
O custo que fica fora da tarefa
A análise económica desta escolha deveria incluir o que acontece depois da recomendação. Uma tarefa mais rápida pode exigir trabalho adicional de verificação, resposta a reclamações ou reparação. Para avaliar a delegação, faria sentido considerar todo esse percurso. A pergunta relevante seria quanto esforço a organização evita e quanto esforço passa a exigir a outras pessoas, dentro ou fora da empresa.
No caso hipotético, uma ordenação inadequada poderia obrigar o cliente a procurar explicações, o atendimento a abrir uma ocorrência e a gestão a rever o fornecimento. Não seria rigoroso avaliar a utilidade do sistema olhando apenas para o momento em que a lista fica pronta. A decisão de gestão deveria abranger também a qualidade da resolução e a possibilidade de corrigir a prioridade antes de causar prejuízo.
Há ainda uma escolha sobre quem suporta a incerteza. Se contestar uma decisão exigir um percurso difícil, parte do esforço de controlo ficará a cargo de quem foi afetado. Uma regra interna prudente seria tornar a revisão proporcional à consequência possível. Quanto mais difícil for recuperar da decisão, mais exigente deveria ser a verificação anterior à sua execução.
Limites que resistam à pressão
A discussão sobre regras externas e compromissos internos pode ser traduzida numa pergunta de gestão: o que impede a organização de flexibilizar os seus próprios limites quando existe pressão para acelerar? Uma orientação que admita qualquer exceção por conveniência oferece pouca resistência. Por isso, convém definir antecipadamente quem pode autorizar desvios, com que fundamento e sujeito a que revisão.
Essa disciplina exige uma distribuição clara de responsabilidades. Quem escolhe a ferramenta pode avaliar a sua adequação à tarefa; quem acompanha a operação pode identificar dificuldades de utilização; quem responde pela decisão deve ter autoridade para suspender o processo. Estas funções podem ser acumuladas, mas não deveriam ficar implícitas. Caso contrário, perante uma falha, cada interveniente poderá considerar que a verificação pertencia a outro.
Para quem gere serviços num território, o mesmo raciocínio permitiria examinar critérios de acesso e encaminhamento. Num cenário hipotético, automatizar a triagem de pedidos exigiria prever como tratar situações que escapam às categorias disponíveis. A exceção deveria ter um caminho definido, para que a pessoa não dependesse da capacidade de insistir até encontrar alguém disposto a ouvir.
Uma regra prática antes de delegar
Antes de autorizar uma utilização, a gestão pode exigir uma explicação compreensível da tarefa, dos limites e do procedimento de revisão. Essa explicação deveria permitir perceber quando a proposta pode avançar, quando deve parar e quem assume a decisão seguinte. Se estas respostas forem vagas, será prudente restringir a autonomia até esclarecer o processo.
O critério prático pode ser simples: delegar apenas até ao ponto em que a organização conserva capacidade efetiva de compreender, interromper e reparar. Isso implica reservar tempo para revisão, admitir exceções justificadas e observar se as correções chegam a quem delas precisa. Na sua empresa ou no território que gere, quem teria condições reais para travar uma decisão automática antes de ela produzir consequências?