Čo je human in the loop?
Human in the loop (človek v procese) je princíp, pri ktorom AI prácu pripraví, ale dôležité rozhodnutia alebo výstupy pred použitím skontroluje a schváli človek.
Vysvetlenie
AI je rýchla, no môže sa pomýliť alebo si vymýšľať. Princíp human in the loop preto do procesu vkladá kontrolné body, kde rozhoduje človek: pred odoslaním e-mailu zákazníkovi, pred úhradou faktúry, pred zverejnením príspevku či pred zmenou údajov v systéme.
Miera kontroly sa nastavuje podľa rizika. Pri bežných a overených úlohách stačí, ak človek kontroluje výnimky alebo náhodnú vzorku; pri úlohách s finančným, právnym či reputačným dopadom schvaľuje každý výstup. Dobré riešenie ukáže človeku presne to, čo potrebuje na rozhodnutie, a schválenie zvládne jedným klikom.
Princíp má oporu aj v predpisoch. AI Act vyžaduje pri vysokorizikových systémoch účinný ľudský dohľad a GDPR dáva ľuďom právo nebyť predmetom výlučne automatizovaného rozhodnutia s právnymi alebo podobne závažnými účinkami. V AI-CO platí pravidlo „AI pripraví, človek schváli“ v každom projekte.
Príklad z firmy
AI pripraví odpovede na reklamácie, no vrátenie peňazí alebo výnimky z podmienok schvaľuje vedúci zákazníckej podpory. Jednoduché odpovede o stave objednávky po overení odchádzajú automaticky.
Súvisiace pojmy
Súvisiaca služba AI-CO
AI automatizácia: AI automatizácia procesov na mieru: objednávky z e-mailov, faktúry, sklad, ERP. Od 2 900 € + od 99 €/mes. Výsledok do 30 dní, inak ladíme zadarmo.
Neviete, kde začať? Objednať AI Discovery zadarmo, náš človek prejde s vami firmu a do 24 hodín máte mapu príležitostí.