Monitoring a logging AI systémů

Co má monitoring zjistit

Sledujte, zda systém nadále plní svůj účel, jaké vznikají chyby a zda fungují bezpečnostní a organizační opatření. Chování se může změnit s modelem, vstupy, konfigurací nebo okolním procesem. Ani deterministický systém tím není bez provozního rizika.

Oblast	Příklady měření	Co připravit před provozem
Kvalita	Chybovost, opravy, odchylky mezi skupinami, změna proti baseline	Reprezentativní kontrolní případy a přijatelnou mez
Bezpečnost	Změny oprávnění, neobvyklé akce, pokusy o přenos dat	Eskalační pravidla a vlastníka reakce
Provoz	Dostupnost, latence, chyby integrací a náklady dokončeného případu	Služební cíle, upozornění a kapacitní plán
Lidská kontrola	Přepsání výstupu, eskalace, chybná schválení	Oprávnění, kontext pro rozhodnutí a způsob vyhodnocení

Prahy jsou rozhodnutím konkrétního projektu. Zjištění má vést k určené akci: kontrole, omezení funkce, návratu předchozí verze nebo nápravě. Nesbírejte metriky bez vlastníka a účelu.

Co vyžaduje právo

AI Act čl. 12 stanoví schopnost automatického zaznamenávání událostí vysokorizikových systémů; podrobnost odpovídá účelu a riziku. Není univerzálním příkazem ukládat celý obsah každého promptu a odpovědi. Článek 72 upravuje post-market monitoring poskytovatelů vysokorizikových systémů; zavádějící subjekty mají vlastní povinnosti zejména podle čl. 26. Ověřte příslušnou roli, systém a datum použitelnosti.

GDPR vyžaduje přiměřenou bezpečnost, minimalizaci a doložitelnost zpracování. Článek 22 upravuje určitá výlučně automatizovaná rozhodnutí s významnými účinky; není obecnou logging normou pro každou AI. Kybernetické a finanční předpisy se použijí podle působnosti organizace a služby.

Návrh záznamu

Podle účelu mohou být užitečné čas události, identifikátor systému a jeho verze, typ akce, stav dokončení, odkaz na relevantní vstup, výsledek kontroly a zásah člověka. Obsah vstupu či výstupu ukládejte jen v potřebném a přípustném rozsahu. Logy chraňte před neoprávněným přístupem a změnou.

Hash pomáhá porovnat obsah, ale sám o sobě neprokazuje anonymizaci. Předvídatelné hodnoty lze odhadnout a identifikátory propojit. Zvažte omezení obsahu, pseudonymizaci, oddělení identifikátorů a řízení přístupu.

Retenční matice

Typ záznamu	Východisko pro dobu uchování
Vybraná dokumentace poskytovatele vysokorizikového systému	AI Act čl. 18: 10 let od uvedení na trh nebo do provozu; nejde o obecnou dobu pro všechny logy
Automaticky generované logy vysokorizikového systému pod kontrolou poskytovatele či zavádějícího subjektu	Čl. 19 odst. 1 a čl. 26 odst. 6: přiměřená doba nejméně 6 měsíců, pokud použitelné unijní či vnitrostátní právo nestanoví jinak
Provozní telemetrie, prompty a odpovědi ostatních systémů	Konkrétní účel, riziko, smlouva a použitelné předpisy; žádná univerzální pětiletá lhůta
Osobní údaje v kterékoli kategorii	Minimalizace a omezení uložení podle čl. 5 GDPR; určit důvod, rozsah, přístup a výmaz

Pro každý typ doplňte začátek běhu lhůty, vlastníka, úložiště, výjimky při sporu či incidentu a ověřitelný postup smazání. Lhůty AI Actu se uplatní po ověření časové použitelnosti dané povinnosti; samotná tabulka je nezavádí předčasně.

Ověřeno 6. 9. 2026: AI Act, čl. 12, 18, 19, 26 a 72, GDPR.