Como pôr a IA a responder a partir dos vossos documentos (e porque às vezes inventa)

Pôr a IA a responder a partir dos vossos documentos chama-se RAG: procura no que têm e responde com base nisso. Inventa quando não encontra, por isso o importante é obrigá-la a citar a fonte e a dizer que não sabe.

Uma empresa tem o seu saber espalhado por contratos, procedimentos, manuais e emails. A promessa de "perguntar aos nossos próprios documentos" e receber a resposta certa é das mais úteis que a IA traz. Também é das que mais desilude quando é mal feita, e a razão tem nome.

O que é, em linguagem simples

Um modelo de linguagem, sozinho, responde de cor, com o que aprendeu em geral, e não conhece os vossos documentos. O RAG (geração aumentada por recuperação) muda isto: antes de responder, o sistema procura nos vossos documentos os pedaços relevantes para a pergunta, e dá-os ao modelo para ele responder com base neles. A resposta deixa de vir da memória do modelo e passa a vir do que a empresa escreveu.

Porque às vezes inventa

A parte perigosa é esta: um modelo responde sempre, mesmo quando a procura não encontrou nada de útil. Se o sistema não o travar, ele preenche o vazio com algo plausível e errado, e di-lo com a mesma confiança com que diria a verdade.

As causas mais comuns:

• A procura falhou. A pergunta estava noutras palavras que não as do documento, ou o documento foi partido em pedaços que separaram a resposta do contexto. O modelo recebeu lixo e respondeu à mesma.
• Documentos desactualizados ou em conflito. Há três versões do mesmo procedimento, e o sistema cita a antiga, ou mistura-as.
• A pergunta está fora dos documentos. A resposta honesta era "isto não está aqui", mas o modelo prefere inventar a calar-se.
• Confiança a toda a prova. O tom é igual, acerte ou erre. Sem a fonte à vista, quem lê não tem como saber.

O que separa um bom sistema de um mau

• Cita a fonte. Mostra de que documento e de que parte tirou a resposta, para a pessoa poder confirmar.
• Diz "não sei". Quando os documentos não cobrem a pergunta, responde isso, em vez de inventar.
• Mantém os documentos frescos. Sabe qual é a versão actual e deita fora as velhas.
• Respeita as permissões. Cada pessoa só recebe respostas dos documentos a que tem direito, não dos salários de toda a gente.
• Mede-se. Testa-se com perguntas reais, incluindo algumas cuja resposta não está nos documentos, para ver se resiste à tentação de inventar.

Onde faz diferença

Em quem perde tempo a procurar o que já está escrito: apoio ao cliente, equipas que consultam contratos e procedimentos, especificações técnicas, integração de quem entra. O ganho não é só a rapidez; é toda a gente responder a partir da mesma versão, a actual.

Como a CAIS AI o faz

Construímos estes sistemas para responder só a partir dos vossos documentos, com a fonte sempre à vista, e para dizerem que não sabem quando a resposta não lá está, em vez de inventar. As permissões de quem vê o quê são respeitadas, os documentos têm versão, e validamos a qualidade com perguntas reais antes de pôr à frente das pessoas. É a diferença entre uma ferramenta em que se confia e uma que ninguém volta a abrir depois do primeiro erro.

In English

Getting AI to answer from your own documents is called RAG (retrieval-augmented generation): instead of answering from memory, the system first searches your documents for the relevant passages and has the model answer based on them. The danger is that a model always answers, even when the search found nothing useful, filling the gap with something plausible and wrong, stated with full confidence. Common causes: the search missed (different wording, bad chunking), stale or conflicting documents, questions outside the documents, and uniform confidence whether right or wrong. A good system cites its source, says "I don't know" when the documents do not cover the question, keeps documents current and versioned, respects per-user permissions, and is measured with real questions including ones not in the documents. CAIS AI builds these to answer only from your documents, always with the source shown, to say when they don't know rather than invent, with permissions respected and quality validated before people rely on it.