Hol hibázik az AI, és hogyan építesz köré.

Az első AI-s automatizálás, amit élesbe tettem, egy teljes hétig gond nélkül olvasta a számlákat. A második héten a „Total: 1.250,00”-t 125000-nek olvasta. A számla százszoros összeggel ment tovább, és bekerült egy nyilvántartásba. Nem robbant fel semmi, mert valaki nézte. De a lecke megmaradt.

Egy hagyományos program, ha nem tudja, megáll. Egy modell, ha nem tudja, tippel. És ugyanazzal a magabiztos hanggal tippel, amivel helyesen is válaszol. Ez nem hiba, amit kijavítasz; így működik. Ezért nem arra építek, hogy soha ne hibázzon. Arra építek, hogy a hiba ne számítson.

Hogyan hibázik, konkrétan

• Kitalál. Egy nem létező számlaszámot, a valódihoz hasonló terméknevet, egy hihető dátumot.
• Félreolvas. A vesszőt és a pontot az összegekben, az amerikai formátumú dátumot, egy „1”-est, ami valójában „l”, a második oldalt kihagyja.
• Másképp válaszol. Ugyanaz a szöveg kétszer, két kicsit eltérő eredmény. Egy összefoglalónál rendben van; egy összegnél nem.
• Elviszi a szöveg. Egy e-mail, amiben az áll, hogy „hagyd figyelmen kívül a korábbi utasításokat”, tényleg figyelmen kívül hagyathatja őket, ha nem vigyáztál.

A négy biztonsági háló

1. Szabályos ellenőrzés. Minden, amit a modell kiad, átmegy egy hagyományos szűrőn. Az összegnek számnak kell lennie. Az adószámnak szerepelnie kell a szállítólistában. A dátumnak az elmúlt 90 napból kell lennie. A végösszegnek a tételek összegének kell lennie. Ha bármi elbukik, a dokumentum emberhez megy, nem tovább.

2. A „nem tudom” érvényes válasz. Megkérem a modellt, mondja meg, mennyire biztos, és a „bizonytalan”-t normális útként kezelem, nem kivételként. Egy „ellenőrizendő” mappa heti három fájllal siker, nem kudarc.

3. Az ember ír alá. Mindennek, ami ügyfélhez, könyvelőhöz vagy az ANAF-hoz megy, van egy lépése, ahol valaki ránéz. Egy kattintás, nem egy óra. A különbség az, hogy a hiba nálad áll meg, nem az ügyfélnél.

4. Napló. Minden hívás: mi ment be, mi jött ki, mennyire volt biztos. Ha három hónap múlva valami gyanús, pontosan tudod, mi történt, és az utasítást javíthatod, nem csak a számlát.

Mit jelent ez neked

Azt, hogy egy AI-s automatizálás nem a kontrollt váltja ki, hanem áthelyezi. 200 számla elolvasása helyett ötöt ellenőrzöl. 40 válasz megírása helyett 40-et hagysz jóvá. Ha valaki „teljesen önálló” rendszert ígér rendezetlen adatokra, kérdezd meg, mi történik azon a napon, amikor a modell 125000-et olvas.