AI of deterministische automatisering: matrix
Welke stappen van een proces hebben regels nodig, welke begrensde AI en welke een verantwoordelijk mens? Een eenvoudige matrix, met faalwijzen.
“Moeten we hier AI voor gebruiken?” is meestal de verkeerde vraag. Een proces is een keten van stappen, en verschillende stappen vragen om verschillende logica. Sommige zijn volledig gespecificeerd en moeten elke keer hetzelfde doen. Sommige hebben rommelige invoer die interpretatie vraagt. En een paar hebben gevolgen waarvoor een benoemd persoon verantwoordelijk moet zijn.
Dit artikel geeft proceseigenaren en securityverantwoordelijken een manier om de stappen van één proces over drie banen te verdelen: deterministische regels, begrensde AI en verantwoordelijke mensen. Het gaat over de logicakeuze. Waar de capaciteit vandaan komt (configureren, kopen, integreren of bouwen) is een andere beslissing, die we behandelen in configureren, kopen, integreren of bouwen. Wat de banen coördineert, is het onderwerp van wat een agentic operating layer is.
De drie banen
| Baan | Gebruik als | Gedrag dat je mag verwachten | Typische voorbeelden |
|---|---|---|---|
| Deterministische regels | De invoer gestructureerd is, de logica uitgeschreven kan worden en dezelfde invoer dezelfde uitvoer moet geven. | Herhaalbaar, testbaar, goedkoop in gebruik, makkelijk te auditen. | Controle op verplichte velden, berekeningen op afgesproken voorwaarden, routering op bekende status, statusovergangen, dubbelcontrole op exacte identificatoren. |
| Begrensde AI | De invoer ongestructureerd of dubbelzinnig is en enige variatie in de uitkomst acceptabel is als die wordt gecontroleerd of beoordeeld. | Nuttig maar variabel; kan stellig fout zijn; vraagt evaluatie en grenzen. | Vrije correspondentie lezen, een bericht indelen, twee documentversies vergelijken, relevante context vinden, een aanbeveling opstellen. |
| Verantwoordelijk mens | De beslissing ingrijpend, betwist, onomkeerbaar of juridisch of commercieel bindend is. | Trager, maar met duidelijk eigenaarschap en oordeel. | Kredietuitzonderingen, concessies, afboekingen, technische vrijgave, goedkeuring van een systeemupdate met materieel effect. |
De agentrichtlijn van Microsoft (leveranciersdocumentatie) ondersteunt de eerste baan direct: waar stappen duidelijk en herhaalbaar zijn en strikte regels volgen, adviseert ze gewone code of niet-generatieve modellen, die ze sneller, goedkoper en betrouwbaarder noemt dan een agent voor vaste workflows. De strategierichtlijn formuleert hetzelfde onderscheid anders: generatieve AI kan bij dezelfde invoer verschillende uitkomsten geven en past bij ongestructureerde invoer, terwijl niet-generatieve AI consistente, herhaalbare uitkomsten uit gestructureerde invoer geeft en past bij gedefinieerde workflows. Een model toevoegen aan een stap die een regel exact afhandelt, voegt kosten en onzekerheid toe zonder waarde.
Waarom de grens ertoe doet
Het NIST-profiel voor generatieve AI (een vrijwillige richtlijn) benoemt een risico dat je in een demo makkelijk vergeet: confabulatie, dus stellig geformuleerde maar onjuiste inhoud. Het merkt ook op dat generatieve systemen het aanvalsoppervlak vergroten, bijvoorbeeld via prompt injection, waarbij gemanipuleerde invoer het gedrag van het systeem verandert. Geen van beide risico’s bestaat in een regel die controleert of een veld is ingevuld. Beide zijn een reden om AI weg te houden van stappen waar een onopgemerkte fout duur zou zijn, tenzij er een controle, limiet of beoordeling achter zit.
Hetzelfde profiel vraagt om monitoring na uitrol, met mogelijkheden voor bezwaar en override, incidentrespons en herstel. Die mechanismen zijn het makkelijkst te ontwerpen als de baan van elke stap expliciet is.
Een beslismatrix voor één stap
Neem elke stap van het proces en beantwoord deze vragen. Waar de antwoorden uiteenlopen, wint de veiligere baan totdat je bewijs hebt.
| Vraag | Bij ja, neig naar | Bij nee, neig naar |
|---|---|---|
| Kan de logica als expliciete voorwaarden worden uitgeschreven die de voorkomende gevallen dekken? | Regels | AI, met een regel of mens erachter |
| Moet dezelfde invoer altijd dezelfde uitvoer geven? | Regels | AI kan acceptabel zijn |
| Is de invoer gestructureerd (bekende velden, codes, formaten)? | Regels | AI voor extractie of interpretatie |
| Vraagt de stap om het lezen of vergelijken van vrije tekst of documenten? | AI (begrensd) | Regels |
| Zou een foute uitkomst duur en moeilijk te ontdekken zijn? | Regel of mens beslist; AI bereidt alleen voor | AI mag binnen grenzen handelen |
| Is de actie omkeerbaar en is er een rollbackpad? | AI mag voorstellen of binnen grenzen handelen | Mens keurt goed |
| Speelt een juridische, financiële of technische bevoegdheid mee? | Verantwoordelijk mens | Regel of begrensde AI |
| Kunnen we nauwkeurigheid meten op echte voorbeelden, inclusief uitzonderingen? | AI kan worden getest en bewaakt | Zet AI voor deze stap nog niet in |
| Ontstaat er inmiddels een stabiel patroon in wat AI afhandelt? | Leg het vast als regel; houd AI voor de rest | Houd AI onder toezicht |
Gebruik de matrix per stap, niet per proces. Eén proces heeft vaak alle drie de banen nodig.
Vijf patronen die werken
- Eerst regels, AI voor de rest. Pas exacte regels toe. Stuur alleen niet-gematchte posten naar AI voor indeling of suggestie.
- AI stelt voor, regel valideert. AI haalt waarden uit een document; regels toetsen ze aan leidende data voordat er iets wordt geschreven.
- AI stelt op, mens keurt goed. AI bereidt een aanbeveling met bewijs voor; een benoemd persoon beslist.
- Een regel bewaakt de actie. Wat AI ook voorstelt, een deterministische rechtencheck en limiet bepalen of een actie mag worden uitgevoerd.
- Uitzonderingswachtrij met eigenaar. Alles buiten de regel- of zekerheidsgrens gaat naar een wachtrij met een benoemde eigenaar, een ouderdomslimiet en een vastlegging van hoe het is afgehandeld.
Een synthetisch voorbeeld
Het volgende is illustratief en verzonnen; het beschrijft geen klant.
Een klant betwist per e-mail een deel van een factuur. Behandel de afhandeling als stappen.
| Stap | Baan | Waarom |
|---|---|---|
| Het bericht vastleggen en op exacte referentie aan klant en factuur koppelen | Regels | Gestructureerde identificatoren; moet exact zijn. |
| Controleren of het geschil binnen de contractuele termijn valt | Regels | Berekening op afgesproken voorwaarden. |
| Het bericht lezen en de reden indelen (prijs, levering, aantal, anders) | Begrensde AI | Vrije tekst; vaste categorielijst en resultaten zijn te beoordelen. |
| De claim vergelijken met leveringsbewijs en prijsvoorwaarden | Regels voor opzoeken, AI voor documentvergelijking | Opzoekingen zijn exact; documenten verschillen in opmaak. |
| Een aanbevolen oplossing met bewijs opstellen | Begrensde AI | Alleen voorbereiding. |
| Een creditnota boven een afgesproken drempel goedkeuren | Verantwoordelijk mens | Financiële consequentie. |
| Het grootboek bijwerken en de klant informeren | Regels | Statuswijziging na goedkeuring, met auditregel. |
| Alles wat niet in te delen is of een lage zekerheid heeft | Uitzonderingswachtrij met eigenaar | Buiten de grens. |
AI komt voor in drie van de acht stappen, steeds in een begrensde rol met een regel of een mens erachter. Dat is gebruikelijk. Het is een uitkomst van het ontwerp, geen doel om te maximaliseren.
Faalwijzen
| Faalwijze | Hoe het zich toont | Waarborg |
|---|---|---|
| AI waar een regel volstaat | Hogere kosten, wisselende resultaten bij een stap die exact moet zijn. | Standaard regels voor gestructureerde, gespecificeerde stappen. |
| Regels opgerekt tot dubbelzinnige gevallen | Een groeiende stapel uitzonderingsregels en broze voorwaarden. | Verplaats het dubbelzinnige deel naar begrensde AI met beoordeling. |
| Stellig foute uitkomst | Een plausibele indeling of bedrag wordt ongecontroleerd geaccepteerd. | Evalueer op echte uitzonderingen; valideer tegen leidende data vóór actie. |
| Te veel vertrouwen in de aanbeveling | Beoordelaars klikken goedkeuren zonder te lezen. | Toon het bewijs bij de aanbeveling, controleer goedkeuringen steekproefsgewijs, meet overrides. |
| Verborgen schrijftoegang | Een modelgestuurde stap kan gegevens wijzigen zonder controlepunt. | Rechtencheck, actielimieten en audit bij elke schrijfactie. |
| Prompt injection via invoer | Tekst in een document probeert het systeem te sturen. | Behandel documentinhoud als data, niet als instructie; beperk tools en rechten. |
| Geen eigenaar voor uitzonderingen | De wachtrij groeit en niemand is verantwoordelijk. | Benoemde eigenaar, ouderdomslimiet en escalatieregel. |
| Drift | De nauwkeurigheid daalt langzaam als invoer verandert. | Monitor volgens vast schema, houd een vaste testset aan, leg triggers voor bijstelling vast. |
Wat je vraagt voordat je een AI-stap goedkeurt
- Wat zijn de invoer, de uitvoer en de actie die de stap kan veroorzaken?
- Hoe nauwkeurig is de stap op echte voorbeelden, ook de lastige, en hoe is dat gemeten?
- Wat gebeurt er als de uitkomst fout is, en wie merkt dat?
- Wat kan de stap lezen en schrijven, en is dat per actie beperkt?
- Kan een mens de uitkomst overrulen en wordt elke override vastgelegd?
- Wie beheert monitoring, incidenten en rollback?
Wat dit niet bewijst
De matrix is een beslishulp, geen meting. Hij toont niet aan dat een stap een bepaalde nauwkeurigheid, kosten of snelheid haalt, en de ja/nee-vragen vereenvoudigen oordelen die vaak gradueel zijn. Het aangehaalde materiaal bestaat uit richtlijnen van een leverancier en een vrijwillige standaard, en het voorbeeld is synthetisch. Elke echte indeling van stappen vraagt om je data, je uitzonderingen en een test tegen je eigen acceptatiecriteria. Niets hier is juridisch advies over regelgeving zoals de AI-verordening, die afhangt van het systeem, het gebruik en jouw rol.
Waar Sembium past
Sembium ontwerpt hele operationele processen: deterministische regels voor bekende paden, begrensde AI waar interpretatie helpt en verantwoordelijke mensen voor ingrijpende beslissingen, met rechten, foutafhandeling, audit en overdracht. De baantoewijzing per stap maakt deel uit van de herontwerpfase; zie de aanpak voor hoe het werk is opgebouwd.
Heb je een knelpunt dat je $1M of meer kost en dat je opgelost wilt hebben? Plan het gesprek van 30 minuten. Neem één proces mee. Je krijgt één praktische aanbeveling en een helder antwoord of het past.
Vragen die kopers stellen
Wanneer gebruik je regels in plaats van AI voor een processtap?
Als de invoer gestructureerd is, de logica uitgeschreven kan worden en dezelfde invoer altijd hetzelfde resultaat moet geven. Validaties, berekeningen, routering op bekende velden en statuswijzigingen horen meestal hier.
Waar voegt AI waarde toe in de operatie?
Waar de invoer ongestructureerd of dubbelzinnig is: correspondentie lezen, documenten vergelijken, vrije tekst indelen, relevante context terugvinden of een begrensde aanbeveling voorbereiden die een mens beoordeelt.
Moet AI de beslisser zijn?
Nee. In een goed ontworpen proces bereidt AI voor, deelt het in of adviseert het, en beslist een regel of een verantwoordelijk mens. Ingrijpende financiële, commerciële of technische beslissingen hebben een expliciete menselijke eigenaar nodig.
Kan een stap met AI beginnen en later naar regels overgaan?
Vaak wel. Als AI een stabiel patroon blootlegt, leg je dat vast als regel, test je het en bewaar je AI voor wat dubbelzinnig blijft. Dat verlaagt doorgaans variatie en kosten.
Bronnen
Bronnen geven context. De datum toont wanneer ze voor het laatst zijn gecontroleerd.