Preskočiť na obsah
AgentID

Platform / Riadenie AI agentov

Dajte agentom úlohu. A jasné hranice.

Riaďte nástroje, oprávnenia a akcie v autonómnych pracovných postupoch. Pri rozhodnutiach s významnými dôsledkami ponechajte posledné slovo človeku.

Výzva

Prístup agenta je rozhodnutím firmy.

Keď AI dokáže používať nástroje, meniť záznamy či spúšťať procesy, nestačí sledovať len kvalitu odpovedí. Potrebujete vedieť, kto za agenta zodpovedá, čo smie robiť a ako zastaviť akciu, ktorá prekročí povolené hranice.

Prediskutovať vaše prostredie

Vaše kontrolné mechanizmy

Od pravidiel ku každodennej praxi.

01

Identita a zodpovednosť

Priraďte pripojeným agentom identitu a zodpovednú osobu. Jasne určite, kto za ich prevádzku zodpovedá.

02

Oprávnenia s jasným rozsahom

Určite, ktoré nástroje a akcie môže agent používať. Kontrolujte ich pri vykonávaní pripojených akcií.

03

Schválenie človekom

Pri vybraných akciách s významnými dôsledkami vyžadujte schválenie pred vykonaním. Rutinné činnosti môžu pokračovať v dohodnutých hraniciach.

04

História akcií

Uchovávajte záznamy o požiadavkách a rozhodnutiach podľa pravidiel na riešenie chýb, bezpečnostné kontroly a dohľad.

Príklad z praxe

Agent sa pokúsi zmeniť záznam zákazníka.

Ilustračný postup. Konkrétne kontroly závisia od vášho nastavenia.

  1. 01

    Request

    Automatizácia pripraví zmenu, ktorá presahuje jej schválené oprávnenia.

  2. 02

    Kontrola podľa pravidiel

    Pred vykonaním pripojeným nástrojom sa akcia porovná s rozsahom oprávnení agenta.

  3. 03

    Outcome

    Podľa nastaveného pravidla sa akcia zamietne alebo odošle na schválenie.

Nasadenie

Začnite s jasne určeným rozsahom.

Zmapujte agentov, zodpovedné osoby a nástroje, ktoré môžu používať.

Nastavte rozsah oprávnení a požiadavky na schvaľovanie akcií.

Pred rozšírením autonómie otestujte povolené aj zamietnuté akcie.

Kontrola akcií vyžaduje integráciu pri príslušnom nástroji alebo mieste vykonania. Samotné pokyny modelu oprávnenia nevynucujú.

Porozprávajme sa o bezpečnosti AI

Získajte kontrolu nad AI vo firme.

Začnite nástrojmi AI, ktoré používajú vaši ľudia. Potom pripravte plán pre systémy, ktoré prevádzkujete.

Dohodnúť ukážku