Tým už ChatGPT používá každý den. Má uložené prompty, několik společných dokumentů a pár povedených automatizací. Přesto lidé stále kopírují údaje mezi systémy, nahrávají různé verze směrnic a nevědí, kdo schválil poslední odpověď zákazníkovi.
V této chvíli se často objeví věta: „Potřebujeme vlastní AI.“ Může to být správný závěr. Stejně často ale firma potřebuje jen lépe uspořádaný projekt, vlastní GPT, jednoduché API propojení nebo obyčejně uklidit dokumenty.
Vlastní řešení není automaticky chytřejší. Je vhodné tehdy, když máte jasný opakovatelný proces, vlastní data, oprávnění, integrace, audit a měřitelný přínos. Tento poslední díl hlavní série vám pomůže poznat, kde se zastavit a kdy už má smysl stavět.
Co může znamenat „vlastní AI řešení“
Pod tímto názvem se skrývá několik velmi rozdílných věcí:
- uložená šablona promptu,
- projekt se společnými soubory a instrukcemi,
- vlastní GPT pro opakovaný úkol,
- automatizace propojující několik systémů,
- webová aplikace používající model přes API,
- znalostní asistent nad firemními dokumenty,
- agent s oprávněním provádět více kroků,
- vlastní nebo doladěný model.
Tyto varianty mají jinou cenu, složitost i míru kontroly. Proto je potřeba nejdřív pojmenovat problém a až potom technologii.
Pět úrovní řešení
1. Běžný chat
Vhodný pro jednorázové otázky, návrhy, vysvětlení a práci, kterou člověk přímo kontroluje. Nevyžaduje vývoj a rychle ukáže, zda je úkol pro AI vůbec vhodný.
2. Projekt nebo sdílený pracovní kontext
Hodí se pro práci, ke které se vracíte: dlouhodobý obsah, výzkum, klientský projekt nebo společnou sadu dokumentů. OpenAI Projects mohou podle plánu sdružovat konverzace, soubory a instrukce a podporovat spolupráci.
3. Vlastní GPT nebo opakovatelný asistent
Pomáhá, když tým stále opakuje stejné instrukce, formát a podklady. Může obsahovat znalosti a nástroje, stále však funguje převážně v prostředí ChatGPT a člověk jej používá vědomě.
4. Automatizace
Propojuje událost, model a další systémy. Zpracuje formulář, dokument nebo změnu stavu podle navrženého toku. Potřebuje validaci, frontu, logy a chybový postup.
5. Vlastní aplikace
Má vlastní rozhraní, uživatele, role, databázi, integrace, monitoring a správu životního cyklu. Dává smysl, pokud potřebujete proces pevně začlenit do provozu firmy nebo jej nabídnout zákazníkům.
Nejlepší řešení může být „zatím nic nestavět“
Pokud úkol vzniká jednou za měsíc, vstupy jsou pokaždé jiné a zkušený člověk jej zvládne za deset minut, vlastní aplikace se pravděpodobně nevyplatí. Stejně tak není dobré automatizovat proces, který se každý týden mění nebo nemá vlastníka.
Nejdřív zkuste:
- zjednodušit samotný proces,
- odstranit zbytečné přepisování,
- sjednotit šablony a názvy stavů,
- určit jedno místo pravdy,
- ověřit úkol ručně v běžném chatu.
Někdy problém nevyřeší AI, ale lepší formulář, vyhledávání nebo jasnější odpovědnost.
Kdy běžný ChatGPT stále stačí
- Úkol provádí jeden člověk a vždy výstup kontroluje.
- Objem je malý a ruční předání není překážkou.
- Podklady lze bezpečně a jednoduše přiložit.
- Nepotřebujete automaticky zapisovat do dalších systémů.
- Chyba je snadno rozpoznatelná a opravitelná.
- Není nutná jednotná historie schválení.
- Zadání se stále vyvíjí a teprve hledáte vhodný postup.
V této fázi investujte do kvalitních promptů, testovací sady a pracovních pravidel. Vývoj by byl předčasný.
Kdy pomůže projekt
Projekt je vhodný, když největším problémem není automatizace, ale roztříštěný kontext. Máte několik souvisejících konverzací, stále stejné soubory a dlouhodobý cíl.
Typické příklady:
- příprava obsahu pro jednu značku,
- dlouhodobý výzkum,
- řízení jedné zakázky,
- společná práce nad příručkami a podklady,
- opakované reporty ze stejného kontextu.
Projekt nepřidá plnohodnotný podnikový workflow ani vlastní databázi. Může ale odstranit velkou část opakovaného vysvětlování bez jediného řádku kódu.
Kdy dává smysl vlastní GPT
OpenAI popisuje vlastní GPT jako účelově připravenou variantu ChatGPT s instrukcemi, znalostmi a povolenými nástroji. Hodí se, když lidé opakují stejný typ práce a potřebují společný standard.
Silný kandidát:
- má jeden srozumitelný účel,
- používá stabilní instrukce,
- pracuje s kurátorovanými podklady,
- má známé hranice a kontrolní postup,
- lze otestovat na deseti až patnácti typických otázkách.
Vlastní GPT není náhradou CRM ani automatickou synchronizací. Je to řízené pracovní prostředí pro člověka.
Signály, že ruční používání začíná brzdit
- Stejný prompt a soubory ručně používá mnoho lidí.
- Vznikají odlišné výstupy podle toho, kdo úkol zadal.
- Data se kopírují mezi webem, e-mailem, CRM a dokumenty.
- Není dohledatelné, kdo výstup schválil.
- Je potřeba respektovat různé role a oprávnění.
- Objem případů už nelze pohodlně ručně kontrolovat.
- Případy čekají, protože nemají vlastníka nebo termín.
- Potřebujete výsledek vracet přímo do firemního systému.
Jeden signál ještě neznamená potřebu velké aplikace. Je to důvod proces změřit a navrhnout pilot.
Vlastní aplikace řeší provoz, ne jen odpověď
Model je pouze jedna součást. Produkční řešení potřebuje:
- přihlášení a správu uživatelů,
- role a oprávnění,
- databázi a historii změn,
- napojení na zdrojové systémy,
- validaci vstupů a výstupů,
- frontu a řešení výpadků,
- lidské schvalování,
- monitoring, náklady a bezpečnost,
- správu promptů, modelů a testů.
Často je samotné volání modelu nejjednodušší část projektu.
Firemní znalosti: vyhledávání není trénování
Firma často řekne: „Chceme model naučit naše dokumenty.“ Ve většině případů nepotřebuje trénovat nový model. Potřebuje bezpečně vyhledat relevantní část aktuální dokumentace a přiložit ji k otázce.
Tento přístup se běžně označuje jako retrieval-augmented generation neboli RAG:
- Dokumenty se připraví, rozdělí a indexují.
- Uživatel položí otázku.
- Systém vyhledá relevantní části.
- Model odpovídá s tímto kontextem.
- Výsledek odkazuje na zdroje a projde kontrolou.
OpenAI API nabízí pro podobné scénáře například nástroje File Search a vector stores. Volba konkrétní technologie je až druhý krok. Nejdřív musí být jasná správa dokumentů.
Znalostní základna je tak dobrá jako její zdroje
Pokud obsahuje staré, rozporné a neoznačené dokumenty, systém bude rychleji vracet staré a rozporné odpovědi. Každý zdroj potřebuje:
- vlastníka,
- datum a verzi,
- stav platnosti,
- okruh oprávněných uživatelů,
- pravidlo nahrazení nebo archivace,
- jasnou prioritu při rozporu.
Nejdřív spravte znalosti. Teprve potom stavte asistenta.
Kdy je RAG zbytečně složitý
RAG se nemusí vyplatit, když máte pět krátkých stabilních dokumentů, které lze přiložit do projektu nebo vlastního GPT, nebo když otázky vznikají velmi zřídka.
Přidaná složitost zahrnuje:
- import a aktualizaci souborů,
- dělení dokumentů na části,
- metadata a oprávnění,
- kvalitu vyhledávání,
- citace a kontrolu zdrojů,
- mazání a synchronizaci,
- hodnocení odpovědí.
Začněte nejmenší sadou dokumentů a jedním konkrétním typem otázky.
Kdy zvažovat fine-tuning
Doladění modelu není běžný způsob, jak do něj nahrát proměnlivou firemní dokumentaci. Hodí se spíš pro stabilní chování, formát nebo úlohu, kterou lze ukázat na kvalitní sadě příkladů.
Nejdřív vyzkoušejte:
- lepší prompt,
- strukturovaný výstup,
- příklady správných výsledků,
- vyhledání aktuálních zdrojů,
- vhodnější model a evaluaci.
Fine-tuning přidává přípravu dat, testování, verze a provozní správu. Není to oprava nejasného procesu.
Role, oprávnění a oddělení klientů
Vlastní systém dává smysl, pokud různí lidé smějí vidět různé informace. Oprávnění se musí uplatnit před vyhledáním dat, ne až při zobrazení odpovědi.
Například pracovník podpory smí vyhledat dokumentaci a vlastní případy, ale ne mzdy nebo smlouvy jiných klientů. Správce může měnit znalostní zdroje, běžný uživatel pouze klást otázky.
Model nikdy nesmí sám rozhodovat, zda uživatel má přístup. To musí ověřit aplikace.
Audit a historie změn
U důležitého procesu potřebujete vědět:
- kdo položil otázku nebo spustil úlohu,
- které zdroje byly použity,
- jaká verze promptu a modelu odpověděla,
- co model navrhl,
- co člověk změnil a schválil,
- jaký následující krok systém provedl.
Auditní stopa nemá bez omezení kopírovat citlivý obsah. Musí odpovídat účelu, době uchování a oprávněním.
Bez evaluace nevíte, zda se systém zlepšil
Pocit z několika ukázek nestačí. Připravte reprezentativní testovací sadu:
- běžné otázky,
- neúplné a nejasné případy,
- rozporné dokumenty,
- otázky mimo znalostní základnu,
- případy s omezeným oprávněním,
- rizikové situace, které mají být předány člověku.
U každého případu určete očekávané chování. Nemusí existovat jedna přesná věta, ale musí být jasné, které zdroje použít, která fakta zachovat a kdy odmítnout odpověď.
Co měřit
- věcnou správnost,
- úplnost rozhodujících bodů,
- správnost a použitelnost citací,
- dodržení oprávnění,
- podíl bezpečného předání člověku,
- čas a cenu na případ,
- množství ručních oprav,
- spokojenost skutečných uživatelů.
OpenAI u vlastních GPT doporučuje testovat na sadě typických otázek. Stejný princip platí pro API aplikace a znalostní asistenty, jen musí být systematičtější.
Spolehlivost a lidská eskalace
Vlastní systém musí umět říct „nevím“ a předat případ člověku. Eskalace má být součástí návrhu:
- které signály ji spustí,
- komu případ přijde,
- jaký kontext uvidí,
- do kdy jej má převzít,
- jak se rozhodnutí vrátí do procesu.
Systém bez eskalace není autonomnější. Je jen méně kontrolovatelný.
Build, buy, nebo jednoduchá integrace
Koupit hotové řešení
Vhodné, když je proces běžný, produkt jej dobře pokrývá a nechcete spravovat vývoj. Prověřte export dat, oprávnění, integrace, smlouvy a závislost na dodavateli.
Propojit existující systémy
Vhodné, když potřebujete několik jasných kroků mezi webem, CRM a modelem. Přináší rychlejší start, ale složitější výjimky mohou narazit na limity platformy.
Postavit vlastní aplikaci
Vhodné pro specifický proces, vlastní uživatelské rozhraní, hluboké integrace, oprávnění a konkurenční výhodu. Přináší největší kontrolu i největší odpovědnost za provoz.
Skutečné náklady vlastního řešení
Cena modelu je jen jedna položka. Počítejte také:
- analýzu procesu a dat,
- vývoj rozhraní a integrací,
- přípravu a údržbu znalostí,
- bezpečnost, právní a smluvní posouzení,
- testovací data a evaluace,
- monitoring, logy a řešení incidentů,
- podporu uživatelů a školení,
- pravidelné změny promptů, modelů a zdrojů.
Levný prototyp může být drahý v provozu, pokud každý výstup vyžaduje dlouhou opravu.
Jak počítat návratnost
Nezačínejte odhadem „AI ušetří polovinu práce“. Změřte současný proces:
- počet případů za měsíc,
- čas aktivní práce a čekání,
- počet oprav a ztracených případů,
- dopad na zákazníka,
- náklady na současné systémy.
Po pilotu porovnejte celý cyklus včetně kontroly a výjimek. Přínosem může být rychlejší reakce, konzistence nebo menší chybovost, ne jen ušetřené minuty.
Malý ověřovací projekt
- Vyberte jeden proces a jednoho vlastníka.
- Popište cílový přínos a hranice.
- Shromážděte anonymizovanou testovací sadu.
- Začněte nejjednodušší úrovní řešení.
- Provozujte systém nejdřív v režimu návrhu.
- Porovnávejte výstup s lidským rozhodnutím.
- Měřte kvalitu, čas, náklady a výjimky.
- Rozhodněte, zda rozšířit, zjednodušit, nebo zastavit.
Pilot má ověřit předpoklad, ne obhájit již rozhodnutý velký projekt.
Čtyři příklady vhodného řešení
Interní znalostní asistent
Vhodný při velkém množství spravovaných dokumentů a opakovaných otázkách. Potřebuje citace, oprávnění a proces aktualizace zdrojů.
Zpracování poptávek
Vhodné při vyšším objemu a jasném CRM procesu. AI může klasifikovat a shrnovat, člověk rozhoduje o obchodním postupu.
Tvorba dokumentů
Vhodná při strukturovaných vstupech a stabilních šablonách. Deterministická část vytváří dokument, AI připraví jen jasně vymezený text.
Zákaznická podpora
Vhodná pro navigaci v ověřené dokumentaci. Musí umět citovat zdroj, přiznat neznalost a předat případ člověku.
Kdy projekt zastavit nebo zjednodušit
- Proces se stále mění a nemá vlastníka.
- Testovací sada neprokazuje dostatečnou kvalitu.
- Lidská oprava trvá stejně dlouho jako původní práce.
- Není možné bezpečně zajistit oprávnění a data.
- Výjimky tvoří většinu případů.
- Náklady rostou rychleji než měřitelný přínos.
- Hotový produkt řeší problém lépe a levněji.
Zastavený pilot není prohra. Ušetřil náklady na špatně zaměřený provozní systém.
Rozhodovací matice
RYCHLÝ JEDNORÁZOVÝ ÚKOL
→ běžný chat
DLOUHODOBÝ KONTEXT A SPOLEČNÉ SOUBORY
→ projekt
OPAKOVANÉ INSTRUKCE PRO LIDI
→ vlastní GPT nebo pracovní šablona
JASNÁ UDÁLOST MEZI SYSTÉMY
→ automatizace a API
VLASTNÍ ROZHRANÍ, ROLE, DATA, AUDIT A INTEGRACE
→ vlastní aplikace
AKTUÁLNÍ FIREMNÍ DOKUMENTACE
→ řízené vyhledávání / RAG
STABILNÍ SPECIALIZOVANÉ CHOVÁNÍ S KVALITNÍMI PŘÍKLADY
→ případně fine-tuning až po ověření jednodušších cestKontrolní seznam před investicí
- Máme jeden přesně popsaný problém?
- Známe současný objem, čas, chyby a náklady?
- Je proces stabilní a má vlastníka?
- Vyzkoušeli jsme nejjednodušší funkční variantu?
- Máme kvalitní a oprávněné zdroje dat?
- Víme, kdo spravuje dokumenty a prompty?
- Máme testovací sadu a očekávané výsledky?
- Je navrženo lidské schválení a eskalace?
- Známe plné provozní náklady?
- Lze řešení bezpečně vypnout nebo nahradit?
Závěrečný kvíz
1. Znamená vlastní AI řešení vlastní model?
Odpověď: Ne. Nejčastěji jde o aplikaci nebo proces používající existující model spolu s vlastními daty, pravidly a integracemi.
2. Kdy použít projekt místo aplikace?
Odpověď: Když potřebujete hlavně sdílený dlouhodobý kontext, soubory a instrukce, nikoli automatické akce a vlastní provozní rozhraní.
3. Učí RAG model firemní dokumenty natrvalo?
Odpověď: Ne. Vyhledá relevantní části spravovaných zdrojů a poskytne je modelu jako kontext pro konkrétní odpověď.
4. Proč potřebujeme evaluace?
Odpověď: Bez stejné testovací sady nelze spolehlivě poznat, zda změna promptu, modelu nebo znalostí kvalitu zlepšila.
5. Kdy je správné pilot zastavit?
Odpověď: Když nepřináší měřitelnou hodnotu, nelze bezpečně spravovat data, výjimky převažují nebo jednodušší řešení funguje lépe.
Uzavření hlavní série
V deseti dílech jsme prošli cestu od první otázky až k návrhu vlastního systému. Nejdůležitější princip se přitom nezměnil: AI je nejužitečnější, když má jasný úkol, kvalitní podklady, viditelné hranice a člověka, který rozumí výsledku.
Nemusíte začínat velkým projektem. Začněte jedním skutečným problémem. Naučte se jej dobře zadat, bezpečně zpracovat a poctivě vyhodnotit. Teprve opakovaný přínos je důvodem přidávat automatizaci, integrace a vlastní software.
Na hlavní sérii mohou navázat praktičtější větve: AI v práci, AI v kanceláři, AI marketing, AI grafika a AI automatizace. Každá z nich vezme stejné zásady a použije je na konkrétní pracovní situace.