Úvod do NIST AI RMF

Základy AI Risk Management Framework a jak začít s implementací

---

1. Co je NIST AI RMF

NIST AI Risk Management Framework je dobrovolný rámec vyvinutý americkým National Institute of Standards and Technology pro řízení rizik spojených s AI systémy.

Klíčové vlastnosti

Vlastnost	Popis
Dobrovolný	Není právně závazný, ale uznávaný jako best practice
Flexibilní	Adaptovatelný na různé velikosti organizací a odvětví
Iterativní	Kontinuální cyklus zlepšování
Komplementární	Doplňuje existující standardy (ISO, NIST CSF)

Verze a dokumenty

Dokument	Datum	Popis
AI RMF 1.0	Leden 2023	Základní framework
AI RMF Playbook	Leden 2023: dílčí verze; 30. března 2023: první kompletní verze	Návrhy praktických akcí
AI 600-1 (GAI Profile)	Červenec 2024	Specifika pro generativní AI

---

2. Proč NIST AI RMF

Pro české organizace

Důvod	Vysvětlení
Tematické mapování na AI Act	Vybrané postupy NIST mohou podpořit plnění použitelných požadavků AI Actu
Mezinárodní uznání	Relevantní pro firmy s US mateřskou společností nebo klienty
Praktičnost	Dobrovolné návrhy opatření vybírané podle kontextu
Best Practice	Uznávaný standard v AI governance komunitě

Synergie s EU regulacemi

Vztah metodiky a práva

NIST AI RMF pomáhá strukturovat řízení rizik. AI Act stanoví povinnosti podle role, systému a časové použitelnosti. Vybraná opatření mohou sloužit více účelům, ale samotné mapování neprokazuje soulad ani úplnost programu. NIST Playbook je dobrovolný soubor návrhů, nikoli povinný checklist k provedení v plném rozsahu.

---

3. Čtyři základní funkce

Níže uvedené role, výstupy a kroky jsou příklady implementace. Nejde o univerzálně povinné názvy funkcí či dokumentů; konkrétní právní povinnosti posuzujte zvlášť podle své role, systému a zpracování.

3.1 GOVERN - Governance

Účel: Vytvořit kulturu a procesy pro řízení AI rizik

Klíčové oblasti:

• Politiky a procedury
• Role a odpovědnosti
• Organizační kultura
• Third-party management

Výstupy:

• AI governance politika
• Definované role (AI Risk Officer, AI Ethics Board)
• Risk tolerance thresholds
• Vendor management procesy

3.2 MAP - Mapování

Účel: Identifikovat kontext, účel a rizika AI systémů

Klíčové oblasti:

• Inventura AI systémů
• Definice intended use
• Identifikace stakeholderů
• Impact assessment

Výstupy:

• AI System Inventory
• Risk classification
• Stakeholder mapping
• DPIA/AIIA dokumentace

3.3 MEASURE - Měření

Účel: Analyzovat, testovat a validovat AI systémy

Klíčové oblasti:

• Testování a validace (TEVV)
• Metriky a KPIs
• Bias assessment
• Security testing

Výstupy:

• Test results
• Performance metrics
• Fairness reports
• Security assessment

3.4 MANAGE - Řízení

Účel: Prioritizovat rizika a implementovat mitigační opatření

Klíčové oblasti:

• Risk prioritization
• Mitigační akce
• Incident management
• Continuous improvement

Výstupy:

• Risk treatment plans
• Incident response procedures
• Remediation actions
• Improvement roadmap

---

4. Trustworthy AI charakteristiky

NIST definuje 7 klíčových charakteristik důvěryhodné AI:

4.1 Accountable & Transparent

Otázky k zodpovězení

• Kdo je zodpovědný za AI systém?
• Jsou rozhodnutí dokumentována?
• Je proces transparentní pro stakeholdery?
• Existuje audit trail?

Praktické kroky:

1. Definujte AI System Ownera pro každý systém
2. Implementujte logging a audit trail
3. Dokumentujte rozhodovací procesy
4. Komunikujte transparentně o použití AI

4.2 Fair with Harmful Bias Managed

Otázky k zodpovězení

• Jsou výstupy spravedlivé napříč demografickými skupinami?
• Je testován bias v trénovacích datech?
• Existuje monitoring pro disparitní dopady?
• Je human oversight pro citlivá rozhodnutí?

Praktické kroky:

1. Testujte bias před nasazením
2. Monitorujte fairness metriky v produkci
3. Implementujte appeal/review proces
4. Diverzifikujte hodnotící týmy

4.3 Privacy Enhanced

Otázky k zodpovězení

• Jsou osobní údaje minimalizovány?
• Je určen odpovídající právní základ zpracování, včetně souhlasu, pokud je použitelný?
• Jsou data anonymizována kde možné?
• Je data retention definována?

Praktické kroky:

1. Posuďte nutnost DPIA podle rizika zpracování a čl. 35 GDPR; u pravděpodobného vysokého rizika ji proveďte před zahájením zpracování
2. Implementujte privacy by design
3. Minimalizujte sběr dat
4. Zajistěte GDPR compliance

4.4 Safe

Otázky k zodpovězení

• Může systém způsobit fyzickou újmu?
• Může způsobit psychickou újmu?
• Existují fail-safe mechanismy?
• Je testován edge cases?

Praktické kroky:

1. Identifikujte potenciální harm scenarios
2. Implementujte safety guardrails
3. Testujte adversarial inputs
4. Zajistěte human override capability

4.5 Secure & Resilient

Otázky k zodpovězení

• Je systém chráněn před kyberútoky?
• Je odolný vůči adversarial attacks?
• Existuje incident response plán?
• Je zajištěna business continuity?

Praktické kroky:

1. Proveďte security assessment
2. Testujte adversarial robustness
3. Implementujte monitoring a alerting
4. Připravte incident response

4.6 Valid & Reliable

Otázky k zodpovězení

• Funguje systém správně v intended context?
• Jsou výstupy konzistentní?
• Je měřena accuracy/performance?
• Je systém pravidelně revalidován?

Praktické kroky:

1. Definujte performance metriky
2. Implementujte continuous monitoring
3. Proveďte pravidelnou revalidaci
4. Dokumentujte limitations

4.7 Explainable & Interpretable

Otázky k zodpovězení

• Lze vysvětlit, jak systém funguje?
• Lze vysvětlit konkrétní rozhodnutí?
• Je vysvětlení srozumitelné pro end-usery?
• Jsou známy faktory ovlivňující výstupy?

Praktické kroky:

1. Dokumentujte model architecture
2. Implementujte explainability tools
3. Připravte user-friendly vysvětlení
4. Posuďte informační povinnosti a práva při automatizovaném rozhodování podle čl. 13–15 a 22 GDPR; jejich rozsah závisí na konkrétním zpracování

---

5. Jak začít - Quick Start

Uvedené týdny představují příklad interního plánu, nikoli příslib délky dodávky.

Krok 1: Vytvořte AI inventuru (Týden 1)

Pro každý AI systém zaznamenejte:
- [ ] Název a ID
- [ ] Účel použití
- [ ] Vlastník (Owner)
- [ ] Typ (Internal/Third-party/Embedded)
- [ ] Status (Development/Production/Retired)
- [ ] Interní hodnocení rizika a jeho zdůvodnění
- [ ] Samostatné posouzení AI Actu: účel, role, čl. 5 a 6, souběžné povinnosti včetně čl. 50 a data použitelnosti

Krok 2: Definujte odpovědnosti (Týden 2)

Role	Odpovědnost	Kdo ve vaší organizaci?
AI System Owner	Celková odpovědnost za systém
AI Risk Contact	Řízení rizik, compliance
Technical Lead	Technická implementace, testování
Data Steward	Kvalita dat, privacy

Krok 3: Klasifikujte rizika (Týden 3)

Nejdříve určete účel systému a svou roli. Potom prověřte zákazy v čl. 5, vysoké riziko podle čl. 6 odst. 1 a přílohy I i podle čl. 6 odst. 2 a přílohy III, včetně relevantních výjimek. Samostatně posuďte transparentnost podle čl. 50, případné povinnosti kolem modelů GPAI a další použitelné předpisy. U každého závěru zaznamenejte podklad, odpovědnou osobu a příslušnou lhůtu. Podrobnosti uvádí průvodce klasifikací.

Krok 4: Implementujte základní kontroly (Týden 4)

Doporučený výchozí soubor kontrol k přizpůsobení:

• Dokumentace účelu a použití
• Definovaný owner
• Základní monitoring
• User awareness

U vysokorizikových systémů ověřte povinnosti podle své role; poskytovatel řeší zejména:

• Risk management system
• Data governance
• Technical documentation
• Human oversight
• Accuracy/robustness testing

---

6. Orientační sebehodnocení

Následující osmibodové hodnocení je pomůcka TECHNOMATON pro diskusi. Není validovanou diagnostikou, oficiálním skóre NIST ani posouzením právního souladu. Hodnoťte vždy i důkazy a rozdíly mezi jednotlivými systémy. Nízkou hodnotu v kritické oblasti nelze vykompenzovat průměrem.

Self-assessment otázky

Ohodnoťte svou organizaci (1-4):

Oblast	Otázka	Score
GOVERN	Máme definované AI politiky a role?	/4
GOVERN	Je AI governance součástí kultury?	/4
MAP	Máme inventuru všech AI systémů?	/4
MAP	Provádíme impact assessment?	/4
MEASURE	Testujeme AI před nasazením?	/4
MEASURE	Monitorujeme performance v produkci?	/4
MANAGE	Máme incident response pro AI?	/4
MANAGE	Provádíme kontinuální zlepšování?	/4

Interpretace

Průměrné skóre	Orientační stav	Další krok
1 až 1,5 včetně	Začínáme	Ujasnit účel, inventář a odpovědnosti
Více než 1,5 až 2,5 včetně	Zavádíme základ	Doplnit chybějící pravidla a měření
Více než 2,5 až 3,5 včetně	Opakujeme postup	Ověřit důkazy, výjimky a nápravná opatření
Více než 3,5 až 4	Průběžně zlepšujeme	Prověřit účinnost kontrol a změny rizik

Pojmy Partial, Risk Informed, Repeatable a Adaptive patří mezi Tiers v NIST Cybersecurity Framework. Nejde o stupně vyspělosti NIST AI RMF ani o matematické pásmo jeho skóre.

---

7. Časté chyby

Chyba	Důsledek	Jak se vyhnout
Žádná inventura	Neznámá rizika	Začněte s MAP
Nejasné odpovědnosti	Nikdo není zodpovědný	Definujte role v GOVERN
Chybějící testování	Nespolehlivé systémy	Implementujte TEVV
Reaktivní přístup	Pozdní reakce na incidenty	Proaktivní MANAGE
Izolované řešení	Nekonzistentní governance	Integrujte s existujícími procesy

---

8. Další kroky

Po přečtení tohoto úvodu pokračujte na:

1. GOVERN - Detailní implementace governance
2. MAP - Jak vytvořit AI inventuru a risk assessment
3. MEASURE - Testování a měření AI systémů
4. MANAGE - Řízení rizik a incident management
5. GAI Rizika - Specifika generativní AI

---

Reference

Odborné odkazy zkontrolovány 6. 9. 2026.

• NIST: vysvětlení Tiers v Cybersecurity Framework

• NIST AI RMF 1.0

• NIST AI RMF Playbook

• NIST AI 600-1 GAI Profile

---

AI-Native Entry Framework | CC BY-NC-SA 4.0