Začínáme s ChatGPT (6): Jak ho používat bezpečně ve firmě

Je pondělí ráno. Kolega potřebuje rychle shrnout smlouvu, a tak ji celou nahraje do ChatGPT. Dokument obsahuje jména, neveřejné ceny, podpisy i podmínky sjednané jen pro jednoho zákazníka. Výsledek možná ušetří deset minut. Otázka ale zní: měl se celý dokument vůbec dostat do chatu?

Bezpečné používání AI ve firmě nezačíná zákazem. Začíná schopností rozlišit, s čím pracujeme, proč to nástroj potřebuje a kdo zkontroluje výsledek. Zaměstnanec nemá při každém promptu studovat právní rozbor. Potřebuje několik jednoduchých pravidel, která fungují i ve spěchu.

Tento článek není právní ani bezpečnostní audit. Je to praktický základ pro malou firmu nebo tým, který chce ChatGPT používat užitečně, ale nechce při tom ztratit kontrolu nad daty, rozhodnutími a odpovědností.

Bezpečnost není jen starost IT oddělení

Největší riziko často nevznikne složitým útokem. Vznikne běžným pracovním krokem: někdo vloží celou zákaznickou komunikaci, aby z ní vytvořil odpověď, nahraje tabulku zaměstnanců nebo požádá o opravu souboru s přístupovými údaji.

IT může nastavit účty, oprávnění a přístupové politiky. Nemůže ale stát za každým člověkem ve chvíli, kdy kopíruje text do chatu. Proto bezpečné používání potřebuje tři vrstvy:

• Technické prostředí: správný typ účtu, přihlášení, vícefaktorové ověření, správa přístupů a povolených funkcí.
• Pravidla firmy: co lze vkládat, co se nesmí, kdo schvaluje výstupy a kam se ukládají.
• Každodenní úsudek: minimalizace podkladů, kontrola výsledku a schopnost včas se zastavit.

Jedna vrstva nenahrazuje ostatní. Bezpečnější firemní účet neznamená, že do něj automaticky patří každé osobní nebo smluvně chráněné datum. A sebelepší směrnice nepomůže, když lidé nevědí, jak ji použít v běžné situaci.

Nejdřív určete, jaký účet a službu používáte

Firemní pravidla musí vycházet z konkrétní služby, nikoli z obecného slova „ChatGPT“. Osobní účet, spravovaný firemní pracovní prostor a aplikace napojená přes API mají odlišné nastavení, smluvní rámec i možnosti správy.

OpenAI uvádí, že obsah v ChatGPT Business, Enterprise a na API platformě se ve výchozím nastavení nepoužívá k trénování modelů. Firemní varianty nabízejí také organizační a bezpečnostní prvky podle konkrétního plánu. U osobního ChatGPT lze v Data Controls vypnout použití nových konverzací ke zlepšování modelů; toto nastavení ale nemění interní povinnost chránit data. Podrobnosti se mohou vyvíjet, proto je ověřujte v aktuální dokumentaci: Business data privacy a Data Controls FAQ.

Důležité: věta „data se nepoužívají k trénování“ není totéž jako „můžeme vložit cokoli“. Stále řešíte oprávnění, smlouvy, účel zpracování, dobu uchování, přístup dalších lidí a povinnost chránit zákazníka.

Čtyři úrovně informací

Nejjednodušší praktické pravidlo je rozdělit informace podle citlivosti. Firma si může názvy i hranice upravit, ale lidé musí poznat, do které skupiny jejich podklad patří.

1. Veřejné informace

Obsah, který už firma zveřejnila nebo jej může bez obav zveřejnit: text veřejné stránky, tisková zpráva, veřejný ceník, katalog nebo anonymní obecný popis služby. I zde kontrolujte autorská práva, přesnost a aktuálnost.

2. Interní informace

Běžné pracovní poznámky, návrhy, procesy a nepublikované materiály s malým dopadem při nechtěném zpřístupnění. Mohou být vhodné pro schválené firemní prostředí, ale nemají se bez rozmyslu přesouvat do osobního účtu.

3. Důvěrné informace

Zákaznické dokumenty, neveřejné ceny, obchodní podmínky, osobní údaje, interní finanční údaje, smlouvy nebo podklady chráněné mlčenlivostí. Je potřeba ověřit oprávnění, účel, konkrétní službu a často data zkrátit či anonymizovat.

4. Přísně chráněné informace

Hesla, privátní klíče, autentizační tokeny, údaje o kartách, přístupové kódy, kompletní databáze, zvláštní kategorie osobních údajů nebo tajemství, jejichž únik by měl vážné následky. Tyto údaje do běžného chatu nepatří. Pro práci s nimi je nutné specializované, schválené prostředí a přesný bezpečnostní postup.

Minimalizace: vložte jen to, co úkol potřebuje

Nejbezpečnější údaj je ten, který do nástroje vůbec neposkytnete. Před vložením dokumentu si položte otázku: Potřebuje model opravdu celý soubor?

Pro stylistickou úpravu e-mailu obvykle nepotřebuje jméno zákazníka, telefon, číslo objednávky ani celou historii. Pro návrh struktury smluvního shrnutí nemusí vidět podpisy a přílohy. Pro vytvoření tabulky kategorií nepotřebuje skutečné kontakty.

Praktický postup:

1. Určete přesný úkol.
2. Vyberte nejmenší relevantní výňatek.
3. Odstraňte nepotřebné identifikátory a tajné údaje.
4. Nahraďte konkrétní osoby a firmy neutrálními označeními.
5. Zkontrolujte, zda kombinace zbývajících údajů stále někoho neidentifikuje.
6. Teprve potom podklad vložte do schváleného prostředí.

Anonymizace není jen smazání jména

Text může osobu nebo firmu odhalit i bez názvu. Adresa provozovny, přesný čas nehody, neobvyklá pracovní pozice, číslo zakázky nebo kombinace několika detailů může být dostatečná k opětovnému rozpoznání.

Místo prostého přepsání jména postupujte ve vrstvách:

• odstraňte přímé identifikátory, například jméno, e-mail a telefon,
• zobecněte nepřímé identifikátory, například přesnou obec na region,
• nahraďte čísla a částky realistickými zástupnými hodnotami, pokud jejich přesnost není potřeba,
• vynechte celý odstavec, pokud pro úkol nemá význam,
• ponechte si mapu zástupných označení mimo chat a mimo sdílený výstup.

Pseudonymizovaný text stále může být osobním údajem, pokud lze identitu znovu spojit. Proto anonymizaci nevnímejte jako automatické povolení k použití.

Co do chatu nikdy nekopírovat

Některé údaje nejsou podkladem pro jazykový úkol, ale klíčem k systému. Patří do správce hesel nebo úložiště tajemství, nikoli do konverzace:

• hesla a jednorázové přihlašovací kódy,
• API klíče, privátní SSH klíče a přístupové tokeny,
• čísla platebních karet a bezpečnostní kódy,
• záložní kódy vícefaktorového ověření,
• celé konfigurační soubory obsahující tajné hodnoty,
• kompletní databázové exporty bez předchozího bezpečnostního návrhu.

Potřebujete-li pomoci s konfigurací, nahraďte tajnou hodnotu zřetelným zástupným textem, například YOUR_API_KEY. Model k vysvětlení struktury skutečný klíč nepotřebuje.

Bezpečnost výstupu je stejně důležitá jako vstup

Riziko nekončí odesláním promptu. Výstup může obsahovat domyšlené tvrzení, nevhodně zopakované osobní údaje, chybnou interpretaci smlouvy nebo příliš sebejisté doporučení.

Každý firemní výstup by měl mít vlastníka. Ten kontroluje:

• fakta, jména, čísla, termíny a odkazy,
• soulad s podklady a interními pravidly,
• zda text neprozrazuje více informací, než příjemce potřebuje,
• zda nevznikl nový slib, závazek nebo doporučení,
• zda je použití výstupu přiměřené jeho dopadu.

Rozdíl mezi návrhem a rozhodnutím

ChatGPT může připravit varianty odpovědi na reklamaci. Neměl by sám rozhodnout, zda zákazník dostane finanční kompenzaci. Může shrnout životopisy podle předem definovaných kritérií, ale nemá bez odpovědného člověka rozhodnout o přijetí. Může vypsat otázky ke smlouvě, ne nahradit právní posouzení.

U každého procesu označte:

• přípravu, kterou může nástroj urychlit,
• kontrolní bod, kde člověk ověřuje data a význam,
• rozhodnutí, které nese konkrétní role,
• záznam, kam se schválený výsledek uloží.

Kontrola podle dopadu

Ne každý výstup potřebuje stejnou úroveň kontroly. Návrh interního nadpisu má jiný dopad než odpověď na právní výzvu. Pomůže jednoduchý semafor:

• Nízký dopad: brainstorming, osnova, interní pracovní seznam. Běžná kontrola autorem.
• Střední dopad: veřejný článek, nabídka, zákaznický e-mail, analýza dat. Kontrola faktů a druhý pár očí podle situace.
• Vysoký dopad: právní, finanční, zdravotní, bezpečnostní a personální rozhodnutí. Kvalifikovaný odborník, schválený proces a dohledatelný zdroj.

Čím hůře dokážete chybu poznat a čím větší by měla následky, tím méně samostatnosti nástroji dávejte.

Právní, finanční a personální obsah

U vysoce citlivých oblastí může ChatGPT pomoci s orientací, strukturou a přípravou otázek. Nesmí se z něj stát neviditelný schvalovatel.

Smlouvy a právní texty

Nechte vypsat témata k prověření, termíny a možné rozpory. Závěr ověřte v originálu a podle potřeby s právníkem. Nevydávejte automatický souhrn za právní stanovisko.

Finance

Model může pomoci strukturovat rozpočet nebo vysvětlit pojmy. Výpočty ověřte v účetním či tabulkovém systému a konečné rozhodnutí přenechte odpovědné osobě.

Personalistika

Chraňte údaje uchazečů a zaměstnanců, definujte férová kritéria a nepřenášejte konečné personální rozhodnutí na model. Sledujte, zda doporučení nezvýhodňuje nebo nevylučuje člověka na základě nevhodných znaků.

Osobní účet versus spravovaný pracovní prostor

Firma by neměla spoléhat na to, že každý zaměstnanec nastaví svůj osobní účet správně. Pro pracovní použití je vhodné rozhodnout, zda má být používán spravovaný pracovní prostor, kdo jej administruje a které funkce jsou povolené.

OpenAI u spravovaných účtů popisuje, že organizace může podle plánu řídit členství, funkce, sdílení, uchování a další nastavení. Správce může mít přístup k obsahu a aktivitě pracovního účtu v rozsahu konfigurace a příslušných pravidel. Zaměstnanci proto mají vědět, že pracovní a osobní účet nejsou totéž. Aktuální přehled je v dokumentu Data access for your managed ChatGPT account.

Data Controls a Temporary Chat

Na osobním účtu umožňují Data Controls upravit, zda nové konverzace pomáhají zlepšovat modely. Temporary Chat se podle aktuální dokumentace neukládá do historie, nevytváří paměti a nepoužívá se k trénování; OpenAI uvádí odstranění ze systémů po 30 dnech s možností omezené kontroly kvůli zneužití.

Temporary Chat ale není firemní trezor. Neřeší, zda jste směli data použít, zda je podklad chráněný smlouvou ani zda měl být vůbec předán externí službě. Berte jej jako produktové nastavení, ne jako náhradu bezpečnostního posouzení.

Sdílené odkazy, aplikace a připojené zdroje

Uživatel může bezpečně pracovat v chatu a potom výsledek omylem zpřístupnit nevhodným způsobem. Pravidla proto musí zahrnout také sdílení konverzací, exporty, vlastní GPT, aplikace a připojené firemní zdroje.

• Sdílený odkaz považujte za zveřejnění lidem, kteří jej získají.
• Před připojením externí aplikace ověřte jejího provozovatele, oprávnění a účel.
• Povolujte pouze zdroje potřebné pro konkrétní práci.
• Pravidelně kontrolujte aktivní integrace a odebírejte nepoužívané.
• Nekopírujte pracovní obsah do osobního prostoru jen kvůli pohodlí.

Jednostránková firemní směrnice

Malá firma nepotřebuje na začátku padesátistránkový dokument. Potřebuje jednu srozumitelnou stránku, kterou lidé skutečně přečtou. Měla by odpovědět na tyto otázky:

1. Který účet nebo nástroj je pro práci schválený?
2. Jaké typy dat jsou povolené, podmíněné a zakázané?
3. Jak data před vložením zkrátit a anonymizovat?
4. Které výstupy musí schválit druhý člověk nebo odborník?
5. Kam se ukládá finální dokument a jeho zdroje?
6. Jak se hlásí chyba nebo nechtěné vložení dat?
7. Kdo pravidla spravuje a kdy se revidují?

Krátké pravidlo pro tým: Používejte pouze schválený účet. Nevkládejte tajné přístupy ani celé databáze. U zákaznických a osobních údajů nejprve ověřte oprávnění a použijte nejmenší nutný výňatek. Každý výstup před použitím zkontroluje odpovědný člověk.

Čtyři praktické scénáře

1. Odpověď zákazníkovi

Bezpečnější postup je odstranit jméno, kontakt a číslo objednávky, ponechat pouze podstatu situace a požádat o návrh formulace. Skutečné údaje doplňte až ve schváleném systému a před odesláním zkontrolujte závazky.

2. Shrnutí smlouvy

Nejdřív ověřte, zda lze dokument v daném prostředí zpracovat. Odstraňte podpisové stránky a nerelevantní osobní údaje. Zadejte konkrétní otázky a výsledky kontrolujte proti originálu. U právního rozhodnutí zapojte právníka.

3. Analýza zákaznického exportu

Pokud potřebujete jen rozdělení témat, exportujte anonymizované texty bez kontaktů, interních identifikátorů a údajů o platbách. U většího množství dat použijte schválený technický proces, nikoli ruční nahrání kompletní databáze.

4. Zápis ze schůzky

Připravte poznámky bez nepotřebných osobních detailů. Požádejte o rozhodnutí, úkoly a otevřené otázky. Výstup porovnejte s původním zápisem a uložte do skutečného projektového systému.

Co dělat, když citlivá data už byla vložena

Nejdůležitější je nepanikařit a nezakrývat chybu. Rychlá, klidná reakce může dopad výrazně omezit.

1. Zastavte další práci: neposílejte další kopie a nesdílejte konverzaci.
2. Určete rozsah: co přesně bylo vloženo, kdy, do jakého účtu a komu bylo zpřístupněno.
3. Zneplatněte tajné hodnoty: pokud šlo o heslo, token nebo klíč, okamžitě jej změňte či odvolejte. Pouhé smazání chatu nestačí.
4. Informujte odpovědnou osobu: správce, bezpečnost, vedení nebo pověřence podle firemního postupu.
5. Proveďte a zapište nápravu: posuďte povinnosti, uchovejte nezbytnou auditní stopu a upravte proces, který chybu umožnil.

Konkrétní právní a oznamovací povinnosti závisí na typu dat, smlouvách a okolnostech. Proto má firma předem určit, kdo incident posoudí.

Cvičení: co byste do chatu vložili?

U každého příkladu zvolte: použít, použít po úpravě, nebo nepoužít bez zvláštního schválení.

1. Text již zveřejněné stránky služeb.
2. Interní osnova školení bez osobních údajů.
3. E-mail zákazníka s telefonem a číslem objednávky.
4. Smlouva s podpisy a neveřejnými cenami.
5. API klíč, u kterého potřebujete ověřit formát.
6. Anonymizovaných deset odpovědí z průzkumu.
7. Kompletní export zákazníků pro hledání témat.
8. Životopis uchazeče o zaměstnání.
9. Veřejná výroční zpráva.
10. Lékařská zpráva zaměstnance.

Orientační řešení: veřejné texty bývají nejméně problematické. Interní osnova může patřit do schváleného pracovního prostředí. Zákaznické zprávy a průzkumy minimalizujte a anonymizujte. Smlouvy, životopisy a zdravotní údaje vyžadují zvláštní posouzení. Tajné klíče a kompletní exporty do běžného chatu nevkládejte.

Kontrolní karta před vložením dat

• Používám schválený pracovní účet a správný prostor?
• Znám citlivost podkladu?
• Mám právo a důvod data tímto způsobem použít?
• Potřebuji celý dokument, nebo stačí výňatek?
• Odstranil jsem tajné údaje a nepotřebné identifikátory?
• Neprozradí osobu kombinace zbývajících detailů?
• Vím, kdo výstup zkontroluje a kam se uloží?

Kontrolní karta před použitím výstupu

• Ověřil jsem fakta proti původnímu zdroji?
• Nevznikl nový slib, termín nebo právní význam?
• Neobsahuje výstup osobní či důvěrná data navíc?
• Je jasné, co vytvořil model a co schválil člověk?
• Odpovídá úroveň kontroly možnému dopadu chyby?
• Mohu za výsledek převzít odpovědnost?

Závěrečný kvíz

1. Stačí vypnout používání konverzací k trénování?

Odpověď: Ne. Toto nastavení řeší jednu část práce s daty. Nenahrazuje oprávnění, minimalizaci, smluvní povinnosti, správu přístupů ani kontrolu výstupu.

2. Je dokument po odstranění jména anonymní?

Odpověď: Ne nutně. Osobu mohou odhalit další údaje nebo jejich kombinace.

3. Co udělat s API klíčem omylem vloženým do chatu?

Odpověď: Zastavit sdílení a klíč okamžitě odvolat či nahradit. Nespoléhat jen na smazání konverzace.

4. Kdo odpovídá za e-mail připravený pomocí ChatGPT?

Odpověď: Člověk a organizace, kteří jej schválili a odeslali. Nástroj odpovědnost nepřebírá.

5. Kdy použít kvalifikovaného odborníka?

Odpověď: Když výstup ovlivňuje právo, finance, zdraví, bezpečnost, zaměstnání nebo jinou oblast s vysokým dopadem a sami nedokážete správnost spolehlivě posoudit.

Co si odnést

Bezpečná práce s ChatGPT není jednorázové nastavení. Je to krátký řetězec rozhodnutí: správný účet, nejmenší potřebná data, jasný účel, přiměřená kontrola a odpovědný člověk. Dobrá směrnice tento řetězec zjednodušuje, aby fungoval i v běžném pracovním tempu.

V příštím díle se vrátíme k samotnému zadávání a půjdeme více do hloubky. Ukážeme si, jak prompty strukturovat, testovat a ukládat tak, aby byly opakovatelné i pro celý tým.