GAI Risk Quick Scan
GAI Risk Quick Scan
Section titled “GAI Risk Quick Scan”5minutové hodnocení rizik generativní AI
Verze: 1.0 | Zdroj: NIST AI 600-1 | Čas: ~5 minut
Instrukce
Section titled “Instrukce”Pro každé riziko odpovězte na klíčovou otázku:
- ✅ ANO = Riziko je pod kontrolou
- ⚠️ ČÁSTEČNĚ = Vyžaduje pozornost
- ❌ NE = Kritická mezera
- N/A = Neaplikuje se
Quick Scan: 12 GAI Rizik
Section titled “Quick Scan: 12 GAI Rizik”| # | Riziko | Klíčová otázka | ✅⚠️❌ |
|---|---|---|---|
| R1 | 🔴 CBRN | Jsou blokovány dotazy na výrobu zbraní/nebezpečných látek? | ☐ |
| R2 | 🔴 Halucinace | Je povinné ověřovat faktické výstupy z GAI? | ☐ |
| R3 | 🔴 Škodlivý obsah | Má GAI systém funkční content safety filtry? | ☐ |
| R4 | 🔴 Data Privacy | Je zakázáno vkládat osobní údaje do GAI bez oprávnění? | ☐ |
| R5 | 🟢 Environment | Je environmentální dopad zvažován při výběru GAI? | ☐ |
| R6 | 🔴 Bias | Je zakázáno používat GAI pro rozhodování o lidech bez oversight? | ☐ |
| R7 | 🟡 Human-AI | Jsou uživatelé informováni o limitech GAI systému? | ☐ |
| R8 | 🔴 Dezinformace | Je GAI-generovaný obsah označován jako syntetický? | ☐ |
| R9 | 🔴 Security | Jsou implementovány ochrany proti prompt injection? | ☐ |
| R10 | 🟡 IP | Je jasné, kdo vlastní výstupy generované GAI? | ☐ |
| R11 | 🔴 CSAM/NCII | Je absolutně zakázáno generovat obscénní/abuzivní obsah? | ☐ |
| R12 | 🟡 Supply Chain | Existuje due diligence proces pro výběr GAI poskytovatele? | ☐ |
Rychlé skóre
Section titled “Rychlé skóre”| Výsledek | Počet | Akce |
|---|---|---|
| ✅ ANO | /12 | Udržovat |
| ⚠️ ČÁSTEČNĚ | /12 | Prioritizovat |
| ❌ NE | /12 | Okamžitá akce |
Interpretace
Section titled “Interpretace”| Skóre ✅ | Úroveň | Doporučení |
|---|---|---|
| 10-12 | 🟢 Vyspělá | Pravidelný přezkum |
| 7-9 | 🟡 Pokročilá | Cílená vylepšení |
| 4-6 | 🟠 Základní | Prioritní akce |
| 0-3 | 🔴 Kritická | Stop & Fix |
Kritická rizika - Detail
Section titled “Kritická rizika - Detail”Pokud jste odpověděli ❌ na některé z těchto, vyžaduje okamžitou akci:
🔴 R1: CBRN - Zbraně hromadného ničení
Section titled “🔴 R1: CBRN - Zbraně hromadného ničení”- Filtry na CBRN dotazy aktivní
- Monitoring podezřelých promptů
- Uživatelé proškoleni
🔴 R2: Halucinace
Section titled “🔴 R2: Halucinace”- Povinnost fact-checkingu
- Zákaz jako jediný zdroj pro rozhodnutí
- Human-in-the-loop pro kritické výstupy
🔴 R4: Data Privacy
Section titled “🔴 R4: Data Privacy”- Klasifikace dat (co lze/nelze do GAI)
- GDPR školení pro uživatele
- Opt-out z trénování na firemních datech
🔴 R9: Information Security
Section titled “🔴 R9: Information Security”- Ochrana proti prompt injection
- Bezpečné uložení API klíčů
- Incident response plán pro GAI
🔴 R11: Obscénní obsah
Section titled “🔴 R11: Obscénní obsah”- Zero-tolerance politika
- Robustní content filtry
- Povinné hlášení incidentů
Follow-up akce
Section titled “Follow-up akce”| Priorita | Akce | Odpovědnost | Termín |
|---|---|---|---|
| 🔴 | |||
| 🔴 | |||
| 🟡 |
Metadata
Section titled “Metadata”| Pole | Hodnota |
|---|---|
| Organizace | |
| GAI systém | |
| Hodnotitel | |
| Datum | |
| Další scan |
Další kroky
Section titled “Další kroky”| Pokud… | Pak… |
|---|---|
| Více než 3× ❌ | → Proveďte plný GAI Risk Assessment |
| Kritické riziko ❌ | → Okamžitá eskalace na management |
| Většina ✅ | → Naplánujte přezkum za 3 měsíce |
Pro detailní hodnocení použijte: 10-gai-risk-assessment.md nebo .xlsx
Licence: CC BY-SA 4.0 | AI-Native Entry Framework