A jóváhagyási kapu: miért ez a termék, nem az AI

Mindenki AI-t árul. Kevesen tudják megmondani, mi történik, ha az AI téved. Nálunk ez a válasz: semmi, amit ne lehetne visszacsinálni, mert az AI nem dönt.

Minden új jegyhez Kolli egy döntési lapot ír. Rövid, egy telefonképernyőn elfér: mibe kerül nekünk, mit kérhetünk érte, mi a kockázat, mekkora a változás, ki kérte és kérheti-e, kit érint, ha rossz, hogyan vonjuk vissza, jár-e vele állandó teher, mit ígérünk vele minden más ügyfélnek. A végén egy ajánlás. Aztán egy ember dönt.

A döntés a jegy állapota. Nem egy chatüzenet, amit egy program félreérthet. Rögzített, időbélyeges, névhez kötött, és nem lehet átugrani. Minden művelet, ami a rendszerhez nyúl, a művelet előtt újra ellenőrzi ezt az állapotot. Egy ügyfél e-mailjébe rejtett utasítás ezért nem ér el semmit: az AI véleményét senki nem kérdezi meg.

Ugyanez igaz kifelé. A válaszlevél és a lezáró összefoglaló tervezet marad, amíg egy ember el nem küldi. Erre nincs kiskapu a rendszerben. Megpróbáltuk kikerülni, szándékosan, tesztből. Nem lehet.

Ezért mondjuk, hogy a kapu a termék. Az AI attól lesz használható, hogy van, ami megállítja.