Jak zvolit architekturu AI řešení
Začněte úlohou a měřením
Zvolte nejjednodušší řešení, které splní požadavky na kvalitu, bezpečnost, odezvu a cenu. Pro část úloh stačí pravidla nebo jedno volání modelu. Více agentů přidává režii, body selhání a potřebu kontroly.
Pojem frontier model označuje model na technologické špičce; neříká sám o sobě, který model je nejlepší pro konkrétní úlohu. Menší obecný model může fungovat bez vlastního tréninku. Vlastní provoz nemusí být levnější než API: započítejte hardware, vytížení, správu, aktualizace i bezpečnost.
Čtyři možnosti
| Vzor | Kdy jej zvažovat | Co ověřit |
|---|---|---|
| Pravidla a běžná automatizace | Kroky a požadovaný výsledek jsou přesně určitelné | Pokrytí výjimek a údržbu pravidel |
| Jeden model s potřebným kontextem | Úloha se vejde do jednoho dobře definovaného kroku | Kvalitu na vlastních příkladech a dostupnost zdrojů |
| Pevný postup nebo směrování | Různé typy vstupů vyžadují odlišné nástroje či modely | Chyby směrování, návaznosti a náklady celého procesu |
| Orchestrátor a pracovní agenti | Podúlohy se mění podle zadání a nelze je předem dobře rozepsat | Oprávnění agentů, koordinaci, limity a kvalitu výsledné syntézy |
Orchestrátor může rozdělovat práci a sestavovat výsledek. Pracovní agent může použít model, vyhledávání nebo běžný program. Rozdělení na „velký model pro myšlení“ a „malý pro provedení“ je možnost k ověření, nikoli obecné pravidlo.
Příklad: návrh odpovědi na zákaznickou stížnost
- Načtěte oprávněně dostupná data a ověřte typ požadavku.
- Vyhledejte platné podmínky a potřebnou historii případu.
- Sestavte návrh odpovědi s odkazy na podklady.
- Zkontrolujte faktické údaje a pravomoc nabídnout nápravu.
- Před odesláním nechte rizikové nebo nejednoznačné případy schválit člověkem.
Nejdříve tento postup otestujte s jedním modelem. Směrování na menší model nebo více agentů přidejte, pokud měření prokáže přínos. Žádný obecně doložený poměr „20 % nákladů / 80 % hodnoty“ pro tento příklad neexistuje.
Kritéria pilotu
Předem stanovte reprezentativní úlohy, chybové případy a přijatelnou kvalitu. Porovnejte varianty na stejných vstupech. Sledujte náklady celého případu včetně oprav, dobu do použitelného výsledku, chybné akce a zásahy člověka. Po změně modelu měření opakujte.
Vzory odpovídají obecnému rozlišení workflow a agentů v technickém článku Anthropic; konkrétní volba musí vycházet z vlastního ověření.