Guardrails como circuitos analógicos: um desenho para corrigir sem romper a conversa

Pesquisa e proposta de arquitetura. Outubro de 2026. Realimentação diferencial, intervenção graduada e modos de falhar inspirados na eletrônica analógica.

Imagine uma pessoa tentando explicar uma situação difícil. Uma expressão aciona a defesa do sistema, a resposta muda para um texto padronizado e a conversa perde o assunto que a pessoa estava tentando construir. A intenção da camada de proteção pode ser boa; a interrupção ainda precisa ser examinada como parte do comportamento do produto.

O desenho apresentado aqui parte de outra prioridade: corrigir o que precisa ser corrigido preservando a parte útil da interação. A inspiração vem dos amplificadores e dos sistemas de controle: medir uma diferença, agir sobre ela e observar o resultado da ação.

É um desenho de guardrail concebido pela fundadora da Kuaapy, ainda conceitual. A analogia organiza o mecanismo e as perguntas de engenharia; as propriedades pretendidas precisam ser demonstradas no sistema implementado.

O problema de usar a interrupção como primeira resposta

Um desenho possível de guardrail recebe uma resposta candidata, aplica regras ou um classificador e decide entre liberar, bloquear ou substituir o texto. Nesse arranjo, um erro de classificação pode ter consequências abruptas: interromper uma solicitação legítima ou deixar passar uma resposta inadequada.

Isso não descreve todos os guardrails. Já existem fluxos programáveis de diálogo, verificações contextuais, revisão de respostas e classificadores em cascata. NeMo Guardrails, por exemplo, organiza trilhas de conversa e ações; Constitutional Classifiers++, apresentado em 2026, usa avaliação contextual e encaminha casos suspeitos para uma segunda etapa mais custosa. NeMo Guardrails [1], Constitutional Classifiers++ [2].

A questão deste desenho é mais específica: como fazer a intensidade e a forma da intervenção acompanharem o problema detectado, em vez de aplicar a mesma ruptura a situações diferentes?

Uma resposta pode conter informação aproveitável e um trecho que precisa de correção. Pode faltar contexto para decidir. Pode haver uma palavra sensível em uma explicação perfeitamente legítima. O projeto precisa distinguir esses casos. Estudos como XSTest mostram maneiras de avaliar recusas indevidas com exemplos delimitados; não basta medir quantas solicitações foram bloqueadas. XSTest [3].

O que o amplificador oferece como referência

Em um circuito com realimentação negativa, parte da saída retorna à entrada por uma rede de feedback. Numa representação simplificada:

erro = referência − saída realimentada
e = r − βy

r é a referência, y é a saída e β representa a rede que devolve uma fração ou transformação dessa saída. O amplificador responde à diferença entre suas entradas. Na região linear, com ganho de malha suficiente e projeto adequado, a realimentação reduz a sensibilidade do ganho fechado a certas variações do amplificador. Analog Devices: ganho e realimentação [4].

A lição útil é que a saída não precisa ser apenas aceita ou descartada: ela participa da medição que orienta a ação seguinte.

O par diferencial também oferece uma segunda ideia. Um sinal igual nas duas entradas pode ser rejeitado como modo comum, enquanto a diferença entre elas é amplificada. Em componentes reais, essa rejeição é finita e depende das condições de operação e da frequência. Ela não cancela automaticamente qualquer ruído, desvio térmico ou erro assimétrico. Analog Devices: CMRR [5].

Na transposição para linguagem, isso inspira uma pergunta: quais variações deveriam importar para a decisão e quais estão apenas confundindo a medição? Uma paráfrase, uma citação ou um modo diferente de se expressar não deveriam, por si sós, transformar uma finalidade legítima em uma finalidade perigosa. Identificar essa diferença exige avaliação; ela não aparece automaticamente porque chamamos o comparador de diferencial.

Classe AB: não deixar um vazio na transição

Em um estágio push-pull classe B, a transição de condução entre dispositivos pode produzir distorção de crossover, especialmente perto do cruzamento por zero. A polarização em classe AB mantém uma pequena condução de repouso e reduz essa região problemática. Há um compromisso com dissipação, temperatura, carga e ajuste de polarização; a distorção não desaparece por definição. Analog Devices: classe B e classe AB [6].

A analogia para a conversa está na transição. Se o sistema sai de uma resposta normal e entra em um modo de proteção, pode existir um vazio entre os dois: ele deixa de responder à necessidade original sem oferecer uma continuação útil.

Neste desenho, a continuidade é um requisito também nessa passagem. O conteúdo pode precisar mudar, uma pergunta pode ser necessária e determinadas informações podem não ser fornecidas. Ainda assim, deve haver uma forma de prosseguir com o que é possível fazer naquela interação.

A classe AB não prova que isso funcionará em software. Ela ajuda a tornar visível um ponto de projeto: o comportamento entre regimes merece tanta atenção quanto o comportamento dentro de cada regime.

Como seria a malha proposta

Uma forma de operacionalizar a ideia teria cinco partes:

1. Referência contextual: registrar o que foi pedido, a finalidade declarada pela pessoa e confirmada para aquela interação, as restrições relevantes e o que ainda está incerto. 2. Medição: avaliar a resposta candidata em relação a essa referência, distinguindo risco, adequação e preservação da tarefa legítima. 3. Atuação graduada: corrigir um trecho, reduzir um detalhamento, pedir uma informação necessária ou escolher outra forma de ajudar. 4. Nova observação: verificar a resposta corrigida e acompanhar se o próximo turno esclarece ou agrava o problema. 5. Limites de operação: definir quando parar de revisar, como lidar com incerteza e que continuação oferecer quando o pedido não puder ser atendido daquela forma.

O circuito conceitual seria:

pedido, finalidade e restrições → referência para a medição

resposta candidata → medição → ajuste → resposta revisada
                         ↑                      │
                         └──── reavaliação ──────┘

Esse fluxo é uma proposta de organização, não uma implementação já testada. A nova medição é importante: apenas reescrever o texto sem verificar o efeito da mudança não demonstra que o erro diminuiu.

A referência permanece separada das respostas que o sistema está tentando corrigir. Ela só é atualizada por esclarecimentos da pessoa ou por informação pertinente e verificada; a própria revisão não pode reescrevê-la apenas para fazer a resposta passar na medição.

Em uma interface com streaming, também importa quando essa verificação acontece. Corrigir depois da entrega não recolhe o texto que a pessoa já recebeu. O projeto teria de definir o que é avaliado antes da exibição, o que pode ser reavaliado durante a geração e qual atraso esse processo acrescenta.

A referência também precisa ser explícita. Não existe uma única “resposta desejável” dedutível de qualquer conversa. A finalidade informada pela pessoa, os fatos disponíveis e as restrições do sistema podem apontar para questões diferentes. Se o sistema inventar uma finalidade e passar a corrigir a resposta para caber nela, terá colocado a própria suposição no lugar da referência.

O erro controlado deve ser um desvio do comportamento do sistema. A pessoa e sua forma de se expressar não são o erro a eliminar.

Medir sem confundir proximidade semântica com segurança

Embeddings podem ser um componente da medição: permitem representar textos e calcular relações entre eles. Para vetores não nulos, a similaridade de cosseno no mesmo espaço é simétrica e limitada entre −1 e 1. Isso facilita algumas operações numéricas; não demonstra que a medida reconheça risco ou adequação contextual.

Uma resposta pode permanecer muito próxima do assunto e continuar inadequada. Uma resposta que pergunta algo necessário pode se afastar do texto original e ainda ajudar. A geometria aprendida e a tarefa para a qual o modelo foi treinado importam. Pesquisa sobre limites da similaridade de cosseno em embeddings [7].

Por isso, neste desenho, similaridade seria um sinal candidato, não um certificado. Seria preciso compará-la com outras medidas e verificar casos com negação, citação, ambiguidade e mudança de contexto.

Também convém separar os sinais. Um único número pode esconder que a correção reduziu um risco e destruiu a utilidade da resposta. O avaliador precisa conseguir perceber as duas coisas. Diminuir o próprio score enquanto o resultado piora é uma falha do instrumento de medição, não uma vitória do controlador.

Uma conversa delicada não pode virar apenas uma troca de mensagens automáticas

Há uma preocupação humana no centro deste desenho: uma pessoa em sofrimento pode precisar de uma resposta que acompanhe o que ela está dizendo, e uma mudança abrupta para um protocolo pode deixar essa necessidade sem resposta.

O objetivo de interação é preservar acolhimento, contexto e uma continuação adequada, inclusive quando um limite ou um encaminhamento precisa ser apresentado. Um recurso de ajuda pode fazer parte da conversa sem ser usado como substituto automático de toda a conversa.

Isso não transforma manter o diálogo em uma técnica clínica validada. Perguntar sobre interesses, continuar produzindo texto ou aumentar o número de turnos não demonstra redução de risco. A qualidade e a adequação do apoio precisam ser avaliadas por critérios próprios; alegações de benefício clínico exigiriam outro tipo de estudo. A orientação da OMS sobre IA em saúde é uma referência de governança e avaliação, não uma validação deste desenho específico. OMS: IA generativa e saúde [8].

A mesma preocupação com continuidade pode ser examinada fora da saúde. Em um relato técnico de um incidente, por exemplo, reconhecer um termo sensível não deveria bastar para apagar a finalidade defensiva informada. O sistema precisa acompanhar o pedido real e identificar exatamente qual parte consegue atender.

Reduzir sinais desnecessários sobre a defesa

Há outra hipótese no desenho: intervenções menos abruptas poderiam oferecer menos pistas acidentais sobre os pontos de decisão do sistema.

Uma mensagem padronizada de bloqueio pode fornecer uma observação muito clara. Uma correção integrada à resposta pode tornar essa observação menos direta. Mas o conteúdo, o tempo de resposta, a consistência e as mudanças entre consultas continuam observáveis. A ausência de um aviso explícito não torna a política invisível.

Pesquisas de avaliação adversarial mostram por que respostas e interfaces precisam ser examinadas sob consultas adaptativas, e não apenas em uma lista fixa de exemplos. Esses estudos não medem a proposta apresentada aqui. Avaliação de ataques adaptativos a LLMs [9].

A hipótese a testar, portanto, é a redução de determinados sinais e seu efeito sob condições definidas. Não podemos concluir que o ciclo de tentativa e observação desapareceu ou que descobrir uma falha ficou necessariamente mais caro.

Discrição externa também não deve produzir cegueira interna. Para investigar uma falha, a operação precisa conseguir reconstruir o que foi medido e alterado, respeitando a privacidade da conversa. Ocultar detalhes internos do controlador é diferente de ocultar seus erros de quem precisa avaliá-los.

A malha também pode errar, saturar e oscilar

A eletrônica fornece uma advertência tão útil quanto a inspiração: realimentação negativa não garante estabilidade sozinha. Atrasos e relações de ganho e fase podem produzir excesso de correção, oscilação e demora para estabilizar. Nos limites de saída, o amplificador sai da região linear e já não corrige como previsto nessa aproximação. Texas Instruments: estabilidade de amplificadores [10].

No software, uma sequência de revisões pode alternar entre respostas excessivamente restritivas e excessivamente permissivas. Pode remover contexto importante ou repetir o mesmo erro com outra redação. São comportamentos a procurar na avaliação, sem presumir que seguem exatamente as equações do circuito.

A proposta precisaria, por exemplo, limitar a quantidade de revisões, evitar mudanças grandes por sinais pouco confiáveis e conferir se uma correção introduziu outro problema. Uma pequena perturbação no score não deveria provocar uma reescrita desnecessária de toda a resposta. Como obter esse comportamento é parte da engenharia do controlador.

O modo de falhar é central: quando a medição está ruim, o sistema ainda consegue fazer uma pergunta útil? Quando não consegue concluir, comunica a incerteza? Quando precisa limitar uma ação, preserva as partes atendíveis? Continuar emitindo texto, por si só, não responde a nenhuma dessas perguntas.

Onde o desenho encontra a pesquisa existente

Revisão por feedback já aparece em diferentes níveis. Constitutional AI usa críticas e revisões em um processo de treinamento. Self-Refine explora geração, feedback e revisão durante a execução. CRITIC acrescenta observações de ferramentas externas para orientar a revisão. Constitutional AI [11], Self-Refine [12], CRITIC [13].

São antecedentes úteis, com objetivos e avaliações próprios. Nenhum deles, por essa descrição, comprova as propriedades de estabilidade, proporcionalidade ou menor observabilidade pretendidas aqui.

Também não basta pedir ao mesmo modelo que se julgue repetidamente. Um estudo sobre autocorreção de raciocínio encontrou dificuldades e regressões sem feedback externo nas condições examinadas. Isso não prova que toda revisão falha; mostra por que medir correções e erros introduzidos faz parte do trabalho. Limites da autocorreção intrínseca [14].

O desenho deste post reúne uma prioridade específica: medir a intervenção pelo desvio que ela corrige e pela continuidade útil que preserva. Sua contribuição pretendida precisa ser descrita e testada nessa combinação, sem reivindicar que toda revisão iterativa foi inventada aqui.

Como saber se a proposta funciona

O próximo passo de pesquisa seria comparar o controlador com alternativas definidas: o mesmo modelo sem essa camada, um desenho de classificação e substituição e uma revisão iterativa com orçamento equivalente. Mudanças de modelo, dados ou custo precisam ser registradas para não atribuir ao controlador um efeito de outra variável.

Uma avaliação deveria observar separadamente:

Contenção — Pergunta a responder: Que respostas inadequadas ainda são produzidas, e com qual gravidade?

Intervenção indevida — Pergunta a responder: Que pedidos legítimos foram interrompidos ou alterados sem necessidade?

Utilidade preservada — Pergunta a responder: A correção mantém a parte atendível da tarefa?

Proporcionalidade — Pergunta a responder: Pequenas variações do contexto ou do sinal geram mudanças desnecessariamente grandes?

Estabilidade entre turnos — Pergunta a responder: Há oscilações, revisões repetidas ou perda progressiva de contexto?

Observabilidade externa — Pergunta a responder: Que sinais de intervenção continuam inferíveis no cenário de teste?

Custo — Pergunta a responder: Quantas passagens, quanto tempo e quais recursos cada resposta exige?

Os dados de calibração devem ficar separados dos de avaliação. É preciso variar a linguagem, incluir situações legítimas com termos sensíveis e testar mudanças ao longo de vários turnos. Quando houver variabilidade, repetir as medições e apresentar a dispersão ajuda a distinguir um caso favorável de um resultado consistente.

A avaliação humana deve olhar a resposta entregue, além do score do próprio sistema. O perfil de IA generativa do NIST oferece referências para medição de riscos e acompanhamento ao longo do uso; não substitui os critérios específicos deste experimento. NIST AI 600-1 [15].

O objetivo não é construir um sistema que nunca admita um limite. É projetar uma defesa capaz de ajustar o necessário, perceber quando a própria correção falhou e continuar oferecendo ajuda útil. Na eletrônica, a qualidade do circuito aparece também na passagem entre regimes. Em uma conversa, esse pode ser justamente o momento em que a pessoa mais precisa que o sistema continue prestando atenção.