Unde greșește AI-ul și cum construiești în jurul lui.

Prima automatizare cu AI pe care am pus-o în producție a citit facturi o săptămână întreagă fără nicio problemă. În a doua săptămână a citit „Total: 1.250,00” ca 125000. Factura a trecut mai departe cu o sumă de o sută de ori mai mare și a ajuns într-un registru. N-a explodat nimic, pentru că cineva se uita. Dar lecția a rămas.

Un program clasic, când nu știe, se oprește. Un model, când nu știe, ghicește. Și ghicește cu aceeași voce sigură cu care răspunde corect. Nu e un defect pe care îl repari; e felul în care funcționează. Așa că nu construiesc ca să nu greșească niciodată. Construiesc ca greșeala să nu conteze.

Cum greșește, concret

• Inventează. Un număr de factură care nu există, un nume de produs apropiat de cel real, o dată plauzibilă.
• Citește strâmb. Virgula și punctul din sume, data în format american, un „1” care e de fapt „l”, a doua pagină ignorată.
• Răspunde diferit. Același text, de două ori, două rezultate ușor diferite. Pentru un rezumat e în regulă; pentru o sumă, nu.
• Se lasă dus de text. Un email care conține „ignoră instrucțiunile anterioare” chiar poate să le ignore, dacă n-ai avut grijă.

Cele patru plase de siguranță

1. Validare cu reguli. Tot ce scoate modelul trece printr-un filtru clasic. Suma trebuie să fie un număr. CUI-ul trebuie să existe în lista de furnizori. Data trebuie să fie din ultimele 90 de zile. Totalul trebuie să fie suma liniilor. Dacă orice pică, documentul merge la om, nu mai departe.

2. „Nu știu” e un răspuns valid. Îi cer modelului să spună cât de sigur e și tratez „nesigur” ca pe o cale normală, nu ca pe o excepție. Un folder „de verificat” cu trei fișiere pe săptămână e un succes, nu un eșec.

3. Omul semnează. Tot ce pleacă spre un client, spre contabil sau spre ANAF are un pas în care cineva se uită. Un clic, nu o oră. Diferența e că greșeala se oprește la tine, nu la client.

4. Jurnal. Fiecare apel: ce a intrat, ce a ieșit, cât de sigur a fost. Când ceva pare în neregulă peste trei luni, știi exact ce s-a întâmplat și poți repara instrucțiunea, nu doar factura.

Ce înseamnă pentru tine

Că o automatizare cu AI nu înlocuiește controlul, îl mută. În loc să citești 200 de facturi, verifici cinci. În loc să scrii 40 de răspunsuri, aprobi 40. Dacă cineva îți promite un sistem „complet autonom” pe date dezordonate, întreabă-l ce se întâmplă în ziua în care modelul citește 125000.