Ako AgentID pomáha riadiť Shadow AI v ChatGPT, Copilote a Gemini

AgentID poskytuje správu dvoma doplnkovými spôsobmi. Pre vlastné systémy AI funguje ako AI API brána a kontrolná vrstva spúšťacieho času. Pre verejné rozhrania AI poskytuje prehliadač-založené riadiace vrstvy, ktoré môžu uplatňovať politiku pred prompty alebo súborové nahrávanie sú predložené. Tento článok sa zameriava na druhú vrstvu, pretože to je miesto, kde mnoho podnikov stále majú najväčšie slepé miesto.

Tieň AI je to, čo sa stane, keď zamestnanci používajú verejné nástroje AI, ako sú ChatGPT, Microsoft Copilot, Google Gemini, a podobné prehliadač-založené asistentov mimo schválené interné pracovné postupy. To záleží, pretože verejné AI je už rozšírený. Index pracovného trendu spoločnosti Microsoft 2024 uvádza, že 75% vedomostných pracovníkov používa rodovú NI pri práci a 78% užívateľov AI prináša svoje vlastné nástroje AI do práce. Štúdia spoločnosti Cisco o referenčných hodnotách ochrany osobných údajov uvádza, že 48% respondentov priznalo vkladanie informácií o neverejných spoločnostiach do generatívnych nástrojov AI.

Problémom správy nie je len existencia UI. Je to tak, že zamestnanci môžu vložiť citlivý text, nahrať dokumenty a komunikovať s výkonnými verejnými modelmi priamo v prehliadači, často mimo interných AI brán a schválených aplikačných stack. Oficiálna dokumentácia o produktoch od OpenAI, Microsoft a Google potvrdzuje, že tieto rozhrania podporujú priame výzvy a nahrávanie súborov a že spracovanie údajov sa môže líšiť podľa úrovne produktu, typu účtu a nastavenia.

Scenár priateľský: AgentID je určený na odstránenie medzery medzi politikou AI a správaním AI. Riadi vlastné AI systémy prostredníctvom API riadiacej vrstvy, a pomáha riadiť verejné AI nástroje, ako sú ChatGPT, Copilot, a Gemini prostredníctvom prehliadača-založené vrstvy, ktoré môžu kontrolovať prompty, vyhodnocovať súbory, maska citlivé dáta, blokovať zakázané podania a vytvoriť viditeľnosť riadenia predtým, ako údaje opustia obrazovku používateľa.

AgentID by sa mal chápať ako riadiaca infraštruktúra, nie len doska dodržiavania predpisov alebo knižnica politík. Hodnota platformy pochádza z kontroly AI v mieste, kde sa riziko skutočne stane.

1AgentID ako AI API brána a riadiaca vrstva pre vlastné systémy AI. Pre vlastné aplikácie AI, interné kopilotné, agentické pracovné postupy a modely-poháňané obchodné systémy, AgentID pôsobí ako AI API brána a riadiaca vrstva bežca. V tejto úlohe môže sedieť v ceste medzi podnikovými systémami a poskytovateľmi modelov, pomáhať organizáciám uplatňovať pravidlá, monitorovať správanie, rozhodnutia o logoch a vytvárať dôkazy o riadení v rámci vnútorného používania AI.

To je vrstva väčšina kupujúcich už pochopiť. Ak spoločnosť stavia svoj vlastný interný asistent, interné RAG workflow, alebo AI-poháňané zákaznícke pracovného postupu, môže riadiť tento systém ovládaním API, prompty, nástroje, výstupy, a beh v rámci tejto schválenej architektúry.

2AgentID ako riadiaca vrstva pre prehliadač pre verejné rozhrania AI. Pre prehliadačové použitie nástrojov ako sú ChatGPT, Copilot, Gemini, a podobné verejné nástroje AI chatu, AgentID poskytuje iný druh kontroly: úroveň prehliadača alebo rozšírenie-založené na riadiacej vrstve. To je dôležité, pretože mnohí zamestnanci nezostávajú vo vnútri schválených interných nástrojov. Používajú najrýchlejšie rozhranie dostupné v okamihu: karta prehliadača už otvorená na obrazovke.

To je miesto, kde sa Shadow AI stáva problémom riadenia. Zamestnanec stále robí prácu. Obchodné údaje sú stále podnikové dáta. Ale interakcia sa deje mimo vnútornej brány organizácie AI, čo znamená, že vnútorné kontroly nikdy vidieť prompt alebo súbor pred tým, než je predložený.

Prečo podniky často potrebujú oboje. NIST's AI RMF a NIST generative AI profil v oboch prípadoch sa zdôrazňuje riadenie počas celého životného cyklu používania umelej inteligencie vrátane monitorovania po uvedení do prevádzky a mechanizmov na zachytávanie a hodnotenie vstupov od používateľov. V praxi to znamená, že podniky zriedka riešia riadenie AI len jedným kontrolným bodom. Často potrebujú jednu vrstvu pre vlastné systémy AI, ktoré priamo fungujú, a druhú pre verejné rozhrania AI zamestnancov môžu prístup cez prehliadač.

Tieň AI nie je jednoducho neschválený AI. Je to podnikové používanie AI, ktoré sa deje mimo plánovaného spôsobu riadenia organizácie. Najčastejšie to znamená, že zamestnanci otvárajú verejný asistent založený na prehliadači, vkladanie v pracovnom obsahu, a žiada o pomoc bez toho, aby prechádzal schválenými vnútornými systémami.

Toto správanie je ľahko pochopiteľné. Verejné AI chat nástroje sú rýchle, známe, a už súčasťou mnohých ľudí pracovného postupu. Microsoft 2024 Index pracovného trendu zistil, že zamestnanci už prijímajú rodové AI na trhu práce vo veľkom, a mnohí prinášajú svoje vlastné nástroje, pretože organizačné plány zaostávajú za dopytom.

Riziko vyplýva z typu obsahu, ktorý ľudia zdieľajú, keď sú pod časovým tlakom. Cisco je 2024 privacy benchmark zistil, že 48% respondentov priznalo vstup informácií o neverejnej spoločnosti do generatívnych nástrojov AI. To je presne ten druh skutočného správania, ktoré mení politiku AI na operačný problém.

Verejné nástroje AI už nie sú len textovými poľami. Dokumenty Microsoft priamo nahrávajú súbor do Copilotu. Dokumenty OpenAI nahráva v ChatGPT a poznamenávajú, že nahrané súbory môžu byť uložené v užívateľskej knižnici. Dokumenty Google nahráva súbor v Gemini a vysvetľuje, že veľkosť, počet a spracovanie súborov závisí od kontextu produktu a typu účtu.

To znamená, že Shadow AI nie je obmedzená na niekoho, kto vloží odsek do promptu. Môže zahŕňať nahrané tabuľky, PDF, prezentácie, zdrojové súbory, screenshoty, exporty zákazníkov, právne návrhy, HR dokumenty alebo interné strategické materiály.

Vládne usmernenia a usmernenia o ochrane súkromia odrážajú rovnaké obavy. Usmernenia vlády Spojeného kráľovstva pre štátnych zamestnancov hovorí, že by nikdy nemali vložiť citlivé informácie alebo osobné údaje do týchto nástrojov, a výslovne poznamenáva, že vláda nemá žiadny dohľad nad tým, ako sa potom používajú údaje vložené do webových rodových nástrojov AI. EDPS osobitne vydala praktické usmernenia o spracúvaní osobných údajov pri používaní generatívnych systémov AI.

Mnohé organizácie už majú interné kontroly AI. Môžu mať schváleného AI asistenta, modelovú bránu, API politiky, bezpečné promptné šablóny, alebo preskúmať pracovné postupy okolo vnútorne postavených nástrojov.

Tieto ovládacie prvky sú užitočné, ale automaticky sa nimi neriadi používanie AI na verejnosti založené na prehliadači.

Interná brána AI ovláda systémy, ktoré ňou prechádzajú. Ak zamestnanec namiesto toho otvorí ChatGPT, Copilot alebo Gemini priamo v prehliadači, interakcia nesmie nikdy prejsť cez interný čas prevádzky podniku. To znamená, že organizácia nemusí vidieť prompt, súbor, kategóriu dát alebo otázku politiky pred tým, než sa uskutoční podanie.

Toto je hlavné slepé miesto. Podnik môže mať zrelé kontroly pre svoje interné aplikácie AI a stále má slabú správu miesta použitia pre verejné rozhrania AI.

Rozdiel je dôležitý aj preto, že prostredie predajcov nie je jednotné. Centrum pomoci OpenAI vysvetľuje, že používanie konverzácií a súborov ChatGPT závisí od nastavenia a typu plánu a že obsah individuálnych služieb sa môže použiť na školenie modelov, pokiaľ sa používateľ neodhlási. Dokumentácia spoločnosti Google podobne rozlišuje medzi používaním Gemini v spotrebiteľskom štýle a pracovnými alebo školskými účtami s ochranou podnikovej kvality. Microsoft samostatne dokumentuje verejné Copilot súbory nahráva a Microsoftu 365 Copilota Diskusný súbor analýzy.

Takže problém podniku nie je len riziko AI. Je to nesúlad prostredia. Spoločnosť môže riadiť interné AI dobre, zatiaľ čo veľké objemy skutočného zamestnanca AI použitie deje vo verejných rozhraniach mimo tohto riadiaceho lietadla.

Riadenie na úrovni prehliadača je riadenie na mieste použitia. Namiesto spoliehania sa len na politické dokumenty alebo následné preskúmanie, uplatňuje kontroly takmer v momente, keď sa užívateľ chystá poslať rýchly alebo nahrať súbor.

Na vysokej úrovni to môže zahŕňať päť koncepčných krokov.

1Rýchla kontrola pred predložením. Pred odoslaním promptného, riadiaca vrstva môže skontrolovať obsah pre signály relevantné pre politiku. To môže zahŕňať osobné údaje, informácie o zákazníkoch, interné názvy projektov, finančné údaje, odkazy na právne záležitosti, bezpečnostné reťazce alebo iné kategórie údajov definované politikou.

Účelom nie je čítať všetko bez rozdielu. Účelom je uplatňovať podnikovú politiku pred tým, než dáta opustia riadené prostredie, v súlade s organizačným oznámením, vnútornej politiky, jurisdikcie, a návrhu riadenia. [VERIFY PRIVACY / ZAMESTNANOSŤ / PRÁVNE HRANICE S TAMOM ALEBO COUNSEL]

2Kontrola súboru pred predložením. Ak užívateľ pripojí súbor, riadiaca vrstva môže vyhodnotiť nahrávanie udalosti pred podaním. To záleží, pretože súbory často obsahujú viac koncentrované a rizikovejšie informácie ako zadaný prompt.

3Kontrola politiky. Kontrolovaný prompt alebo súbor potom môže byť skontrolovaný proti pravidlám podniku. Niektoré organizácie môžu definovať červené riadky okolo PII, neuverejnené finančné informácie, záznamy zákazníkov, obchodné tajomstvo, právne výsady, regulované kategórie dát, alebo nepodporované nástroje.

4Maskovanie. V niektorých prípadoch, správne opatrenie nie je zastaviť pracovné postupy úplne. To môže byť transformovať rýchle, takže vysoko rizikové prvky sú maskované alebo znížené pred podaním výnosov.

5Blokovanie a riadenie dôkazov. Ak si to politika vyžaduje, môže vrstva riadenia pred jej predložením blokovať riskantný prompt alebo súbor nahrať. Môže tiež vytvoriť telemetriu riadenia a dôkazy, ktoré pomôžu podniku pochopiť modely používania, politické tlakové body a opakujúce sa rizikové kategórie. Tento všeobecný prístup je v súlade so širším dôrazom NIST na monitorovanie po uvedení do prevádzky, hodnotenie vstupov používateľov, reakciu na incidenty a transparentnosť v súvislosti s riadením rizika UI.

Viditeľnosť je často prvou požiadavkou, najmä pre podniky, ktoré vedia, že Shadow AI existuje, ale ešte nechápu, kde sa to deje alebo aké druhy údajov sa týkajú.

V tejto súvislosti viditeľnosť znamená telemetriu riadenia, nie všeobecný dohľad. Cieľom je pomôcť organizáciám pochopiť vzory, ako sú to, ktoré verejné nástroje AI sa používajú v obchodných pracovných postupoch, aké kategórie promptov sú najčastejšie, kde sa vyskytuje rizikové zdieľanie správania, ktoré tímy alebo pracovné postupy môžu potrebujú bezpečnejšie alternatívy a ktoré oblasti politiky vytvárajú najväčšie trenie.

To je dôležité, pretože nemôžete vládnuť, čo nemôžete vidieť. BYOAI spoločnosti Microsoft a Cisco údaje o neverejných informáciách, ktoré sú vložené do generatívnych nástrojov AI obe poukazujú na rovnakú operatívnu realitu: použitie zamestnancov je už pred mnohými programami riadenia.

AgentID zodpovedá tejto potrebe tým, že poskytuje podnikom spôsob, ako vytvoriť prehľadávač, aby sa zviditeľňovalo riadenie v súvislosti s verejnými modelmi používania nástrojov AI, ktoré by inak sedeli mimo vnútorných brán AI.

Maskovanie je vhodné, ak je základná úloha používateľa legitímna, ale nespracované údaje by sa nemali posielať ako údaje.

Rýchle zakrytie pomáha znížiť náhodné vystavenie a zároveň zachovať dostatok kontextu pre nástroj AI, aby zostal užitočný. V závislosti od politiky a konfigurácie môže byť maskovanie relevantné pre osobné identifikovateľné informácie, názvy zákazníkov alebo identifikátory účtu, interné čísla cestovných lístkov, identifikátory zamestnancov, hodnoty zmlúv, citlivé obchodné podmienky a vybrané regulované kategórie informácií.

To je často najpraktickejšia stredná cesta. Podnik nemusí vyberať len medzi umožnením všetkého a blokovaním všetkého. Môže to umožniť produktívne využitie a zároveň znížiť zbytočné detaily v tom, čo dostane predložený.

To je užitočné najmä v prehliadač-založené verejné nástroje AI, pretože zamestnanci môžu vložiť skutočný prevádzkový obsah do nástrojov, ktoré podporujú širokú výzvu a bohaté interakcie súborov. OpenAI, Microsoft a Google všetky dokumenty hlavné súbory a obsah pracovných tokov v ich produktoch AI chatu, čo zvyšuje potrebu pred-send dát minimalizovanie.

Blokovanie je vhodné, ak má podnik jasnú červenú čiaru.

Medzi príklady môžu patriť vysoko citlivé podnety, obmedzený právny alebo HR obsah, zakázané triedy údajov o zákazníkoch, citlivý materiál na bezpečnosť, dôverný zdrojový kód alebo vnútorné tajomstvá a rizikové nahrávanie do nástrojov alebo prostredí, ktoré nie sú schválené pre danú kategóriu údajov.

Blokovanie nie je správna reakcia pre každý prípad použitia. Ale pre jasne zakázané kategórie, to je často jediná dôveryhodná kontrola. Ak rýchle alebo nahrať prekročí politiku definovanú prahovú hodnotu, môže riadiaca vrstva zastaviť predloženie pred odoslaním obsahu.

To je to, čo robí riadenie na úrovni prehliadača zmysluplne odlišné od správy len politiky. Politika hovorí, čo by sa malo stať. Blokovanie pomáha presadzovať to, co sa nesmie stať.

Mnohé diskusie o správe AI sa stále príliš úzko zameriavajú na napísané podnety. V praxi sú súbory často väčším rizikovým povrchom.

Súbor môže obsahovať stovky stránok interného materiálu, štruktúrované údaje, vložené metaúdaje, obrázky, tabuľky, zdrojový kód, vzorce, komentáre, sledované zmeny a osobné údaje. Môže tiež predstavovať oveľa väčšiu udalosť zverejnenia ako krátky zadaný prompt.

A verejné nástroje AI čoraz viac podporujú pracovné postupy zamerané na súbor. Dokumenty OpenAI nahrávajú v ChatGPT a poznamenávajú, že nahrané súbory môžu zostať v knižnici až do vymazania. Dokumenty Microsoft nahrávať do Copilot a Microsoftu 365 Copilott Chat. Dokumenty Google nahráva do Gemini, vrátane nahrávania zo skladu zariadení a Googlu Drive v podporovaných kontextoch.

Preto by sa správa súboru mala považovať za prvotriednu požiadavku, nie za následnú. Ak podnik len kontroluje zadané podnety, ale ignoruje prílohy, zanecháva veľkú dieru vo svojom modeli kontroly Tieňového AI.

Zrelý program riadenia Shadow AI je zvyčajne založený na riziku, nie na jednom rozmere.

Riadenie na úrovni prehliadača je dôležité, pretože podporuje kontrolu AI podnikov, kde sa skutočne vyskytujú mnohé skutočné interakcie.

Z bezpečnostného hľadiska môže pomôcť znížiť náhodné zverejnenie citlivých informácií do verejných rozhraní AI.

Z hľadiska ochrany súkromia a dodržiavania súladu môže podporovať pracovné postupy ochrany údajov uplatňovaním politiky pred predložením údajov a zlepšením dôkazov o tom, ako sa používajú verejné nástroje UI. EDPS zdôraznil praktické usmernenia pre organizácie spracúvajúce osobné údaje pri používaní rodového UI. Dokumentácia spoločnosti Google pre pracovné účty tiež ukazuje, že podmienky na spracovanie údajov sa môžu podstatne líšiť v závislosti od kontextu licencie a služby, a práve preto podniky potrebujú jasný návrh riadenia, a nie predpoklady.

Z hľadiska riadenia AI pomáha odstrániť priepasť medzi politikou a správaním. Generatívny AI profil NIST výslovne vyzýva na plány monitorovania po uvedení do prevádzky a mechanizmy na zachytávanie a vyhodnocovanie užívateľských vstupov. Riadenie prehliadača je jedným z praktických spôsobov, ako túto zásadu sprevádzkovať pre verejné rozhrania AI.

Je potrebné len politické riadenie, ale neúplné. Môže definovať prijateľné použitie, očakávania tréningu, schvaľovacie modely a eskalačné cesty. To, čo nemôže urobiť sám, je skontrolovať živý prompt v karte prehliadača pred tým, než užívateľ klikne.

Je to vynikajúce pre interné aplikácie AI, ktoré smerujú cez schválené podnikové systémy. To, čo automaticky nepokrýva, je zamestnanec, ktorý obíde tento zásobník a ide priamo na verejné rozhranie AI.

AgentID sa hodí do tejto medzery spojením oboch vrstiev: pre vlastné systémy AI, ovládaciu vrstvu API; pre verejné rozhrania AI, prehliadač-založené riadiacu vrstvu.

To je kľúčové rozlíšenie. AgentID sa neobmedzuje na riadenie interných aplikácií AI. Je postavený na pomoc podnikom riadiť AI, ktoré oficiálne stavajú a zamestnanci AI skutočne používajú.

Tento prístup je obzvlášť dôležitý pre vedúcich pracovníkov v oblasti bezpečnosti zodpovedných za zníženie rizika úniku údajov z podnikov, dodržiavanie predpisov a riadenie, ktorí budujú skutočné kontroly UI mimo politických dokumentov, tímy pre ochranu súkromia, ktoré hodnotia, ako osobné údaje môžu byť zdieľané do verejných nástrojov AI, IT a digitálne pracovné tímy rozhodovanie, či a ako umožniť ChatGPT, Copilot, Gemini, alebo podobné nástroje, podniky, ktoré už umožňujú niektoré verejné AI použitie, ale potrebujú väčšiu štruktúru okolo neho, a organizácie, ktoré potrebujú riadiť vnútorné systémy AI a verejné rozhrania AI.

Je to užitočné najmä pre kupujúcich, ktorí už vedia, že zákaz verejných nástrojov AI je len zriedka trvanlivý, ale umožnenie neriadeného použitia nie je prijateľné.

Čo by mala skutočná vrstva riadenia Tieňovej umelej inteligencie poskytovať za rámec politických dokumentov:

aplikovať kontroly v mieste použitia, nielen po skutočnosti,

pred podaním lieku skontrolovať inštruktáž

kontrola súborov nahrá pred podaním

podpora zakrývania citlivého obsahu založeného na politike

blokovať jasne zakázané prompty alebo nahrávanie

vytvoriť viditeľnosť riadenia do verejných modelov používania AI

rozlíšenie medzi menej rizikovými a rizikovejšími pracovnými postupmi

podpora kontrolovateľnosti a dôkazov o riadení

doplniť svoju vnútornú AI bránu skôr ako duplikovať

byť implementovaný v súlade s vnútornou politikou, oznamovacou povinnosťou, jurisdikciou a príslušnými právnymi požiadavkami

Ak odpoveď znie nie, potom máte pravdepodobne politiku AI, ale ešte nie úplnú správu AI Tieňov.

Je AgentID len ako AI API brána? Nie. AgentID by sa mal chápať ako dvojvrstvová riadiaca platforma. Pre vlastné AI systémy pôsobí ako AIAA a riadiaca vrstva bežeckého času. Pre verejné AI rozhrania poskytuje prehliadač-založené riadiace vrstvy zamerané na riziko Tieňového AI.

Riadi aj AgentID ChatGPT, Copilot a Gemini? Áno, to je základná časť umiestnenia v tomto článku. AgentID je určený na pomoc podnikom riadiť používanie prehliadača na základe verejného AI chatu nástroje, ako je Chat GPT, Microsoft Copilo, Google Gemiini, a podobné rozhrania.

Ako pomáha AgentID riešiť Shadow AI? Presúvaním riadenia bližšie k bodu použitia. Namiesto spoliehania sa len na školenie alebo schválené interné aplikácie, môže AgentID pomôcť skontrolovať prompty a súbory pred predložením, aplikovať politiku, podporu zamaskovanie, blokovanie zakázaných činností a vytvoriť viditeľnosť riadenia.

Môže AgentID skontrolovať prompty pred tým, než sú zaslané? To je hlavný prehliadač-správa použiť prípad je popísané tu. Rýchla kontrola umožňuje aplikovať politiku pred tým ako je obsah predložený do verejného rozhrania AI.

Môže AgentID pred predložením zakryť citlivé údaje? Áno, koncepčne to je jedna z najdôležitejších kontrol v tejto kategórii. Maskovanie môže pomôcť znížiť náhodné zverejnenie a zároveň umožniť legitímnu prácu s podporou AI.

Môže AgentID blokovať riskantné nahrávanie? Áno, kde politika vyžaduje. To záleží, pretože verejné nástroje AI teraz podporuje bohatý súbor nahráva a analýzy v rámci hlavných rozhraní.

Prečo sa riadenie na úrovni prehliadača líši od riadenia API? Pretože riadenie API kontroluje systémy, ktoré sa tiahnu prostredníctvom schválenej podnikovej infraštruktúry. Správa na úrovni prehľadávača zahŕňa verejné nástroje AI zamestnancov, ktorí môžu používať priamo v prehliadaču, mimo vnútorného času.

Prečo podniky potrebujú oboje? Pretože podniky často čelia riziku na dvoch miestach naraz: systémy AI, ktoré budujú, a verejné nástroje AI používajú zamestnanci sami. Riadenie NIST podporuje tento širší pohľad na riadenie AI v reálnom operačnom kontexte vrátane monitorovania po presune a hodnotenia užívateľských vstupov.

NIST, rámec pre riadenie rizík umelej inteligencie (AI RMF 1.0)

NIST, generatívny AI profil pre AI RMF

Microsoft, 2024 Index pracovného trendu

Cisco, 2024 Štúdia referenčných hodnôt pre ochranu údajov

Usmernenia vlády Spojeného kráľovstva pre štátnych zamestnancov o rodovej NI

EDPS, generatívna umelá inteligencia a ochrana osobných údajov

OpenAI, Súbor odosiela často kladené otázky

OpenAI, Dátové kontroly FAQ

Microsoft, Microsoft 365 Copilot Diskusia

Google, používať Gemini Apps s prácou alebo školské konto Googlu

Google, Nahrať a analyzovať súbory v Aplikáciách Gemini

Čo je agent ID?

Čo vlastne robí platforma riadenia UI?

Platforma riadenia AI vs nástroj na zabezpečenie súladu AI

AgentID vs Tradičné GRC a nástroje na dodržiavanie súladu s pravidlami

Pozorovateľnosť agenta AI

Riadenie agentov AI v roku 2026

Dôkaz o dodržiavaní súladu s AI

Platforma

Bezpečnosť

Cenové podmienky