NIST AI Risk Assessment Record (AI 600-1)
NIST AI Risk Assessment Record (AI 600-1)
Section titled “NIST AI Risk Assessment Record (AI 600-1)”Tento záznam slouží k hodnocení rizik generativní AI (GAI) podle 12 kategorií definovaných v NIST AI 600-1.
Název systému: ___________________ Datum hodnocení: ___________________ Hodnotitel: ___________________
Hodnocení 12 GAI rizik
Section titled “Hodnocení 12 GAI rizik”Pro každé riziko určete pravděpodobnost (1-5), dopad (1-5) a popište mitigační opatření.
1. CBRN Information or Capabilities
Section titled “1. CBRN Information or Capabilities”Usnadnění přístupu k informacím o zbraních hromadného ničení.
- Relevance: [ ] Ano [ ] Ne
- Mitigace:
2. Confabulation (Halucinace)
Section titled “2. Confabulation (Halucinace)”Produkce chybného obsahu, který působí věrohodně.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. RAG, grounding):
3. Dangerous, Violent, or Hateful Content
Section titled “3. Dangerous, Violent, or Hateful Content”Generování nenávistného nebo násilného obsahu.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. filtry, moderace):
4. Data Privacy
Section titled “4. Data Privacy”Únik osobních údajů nebo jejich inference.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. anonymizace, smlouvy):
5. Environmental Impacts
Section titled “5. Environmental Impacts”Energetická náročnost modelu.
- Relevance: [ ] Ano [ ] Ne
- Mitigace:
6. Harmful Bias and Homogenization
Section titled “6. Harmful Bias and Homogenization”Stereotypy a diskriminace ve výstupech.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. testování biasu):
7. Human-AI Configuration
Section titled “7. Human-AI Configuration”Nadměrná důvěra (automation bias) nebo antropomorfizace.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. školení uživatelů):
8. Information Integrity
Section titled “8. Information Integrity”Tvorba misinformací nebo dezinformací.
- Relevance: [ ] Ano [ ] Ne
- Mitigace:
9. Information Security
Section titled “9. Information Security”Prompt injection, data poisoning, zneužití pro kyberútoky.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. input validation):
10. Intellectual Property
Section titled “10. Intellectual Property”Porušení autorských práv.
- Relevance: [ ] Ano [ ] Ne
- Mitigace:
11. Obscene, Degrading, and/or Abusive Content
Section titled “11. Obscene, Degrading, and/or Abusive Content”Generování nevhodného nebo urážlivého obsahu.
- Relevance: [ ] Ano [ ] Ne
- Mitigace:
12. Value Chain and Component Integration
Section titled “12. Value Chain and Component Integration”Rizika spojená s dodavateli a komponentami třetích stran.
- Relevance: [ ] Ano [ ] Ne
- Mitigace (např. due diligence):
Závěr a doporučení
Section titled “Závěr a doporučení”Celkové rizikové skóre: ____________ Rozhodnutí: [ ] Schváleno k nasazení [ ] Schváleno s podmínkami [ ] Zamítnuto