AI Verify → EU AI Act Mapping

This content is not available in your language yet.

Mapování 11 principů AI Verify frameworku na konkrétní požadavky EU AI Act.

Přehled

AI Verify Princip	EU AI Act Reference	Relevance
1. Transparency	Čl. 13, 50, 52	HIGH-RISK, LIMITED
2. Explainability	Čl. 13, 14	HIGH-RISK
3. Repeatability/Reproducibility	Čl. 15, Annex IV	HIGH-RISK
4. Safety	Čl. 9, 15	HIGH-RISK
5. Security	Čl. 15(5)	HIGH-RISK
6. Robustness	Čl. 15(4)	HIGH-RISK
7. Fairness	Čl. 10(2)(f), 10(5)	HIGH-RISK
8. Data Governance	Čl. 10	HIGH-RISK
9. Accountability	Čl. 16, 17, 26	HIGH-RISK
10. Human Agency & Oversight	Čl. 14	HIGH-RISK
11. Inclusive Growth & Wellbeing	Čl. 27 (FRIA)	HIGH-RISK

Detailní Mapping

1. Transparency (Transparentnost)

AI Verify definice:

Srozumitelnost AI systému pro uživatele a dotčené osoby.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 13	Instructions for use pro high-risk AI	AI Verify: Transparency checklist → dokumentace
Čl. 50(1)	Informování o AI interakci	AI Verify: User disclosure testing
Čl. 50(2)	Označení AI-generated obsahu	AI Verify: Content labeling verification
Čl. 52	Transparency pro chatboty, deepfakes	AI Verify: Disclosure adequacy assessment

AI Verify testy:

Transparency disclosure checklist
User comprehension testing
Labeling completeness audit

Mapování na ANEF checklist: A8 (Transparency & User Info)

2. Explainability (Vysvětlitelnost)

AI Verify definice:

Schopnost vysvětlit, jak AI systém dospěl k rozhodnutí.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 13(1)	Srozumitelné informace pro deployers	AI Verify: Explainability metrics (SHAP, LIME)
Čl. 14(4)(c)	Interpretace výstupů člověkem	AI Verify: Human interpretation testing
Annex IV.2(b)	Popis logiky AI systému	AI Verify: Model explanation documentation

AI Verify testy:

SHAP/LIME explainability scores
Feature importance analysis
Decision path visualization
Counterfactual explanations

Doporučené nástroje:

Mapování na ANEF checklist: A6 (Technical Documentation)

3. Repeatability/Reproducibility (Opakovatelnost)

AI Verify definice:

Konzistence výstupů AI systému při stejných vstupech.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 15(1)	Přesnost, robustnost, kybernetická bezpečnost	AI Verify: Consistency testing
Annex IV.2(e)	Metriky pro měření přesnosti	AI Verify: Reproducibility benchmarks
Čl. 12(1)	Automatické logování	AI Verify: Audit trail verification

AI Verify testy:

Input-output consistency testing
Cross-environment reproducibility
Version control verification
Seed/determinism testing

Mapování na ANEF checklist: A10 (Accuracy & Robustness), A7 (Logging)

4. Safety (Bezpečnost)

AI Verify definice:

AI systém nepůsobí škodu uživatelům ani třetím stranám.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 9(2)	Risk management system	AI Verify: Safety assessment framework
Čl. 9(5)	Eliminace/snížení rizik	AI Verify: Risk mitigation verification
Čl. 15(2)	Odolnost vůči chybám	AI Verify: Failure mode testing
Čl. 73	Hlášení vážných incidentů	AI Verify: Incident classification

AI Verify testy:

Failure mode analysis
Edge case testing
Boundary condition testing
Error handling verification

Mapování na ANEF checklist: A4 (Risk Management System), A15 (AI Incident Management)

5. Security (Kybernetická bezpečnost)

AI Verify definice:

Ochrana AI systému před útoky a zneužitím.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 15(5)	Odolnost vůči pokusům o manipulaci	AI Verify: Adversarial testing
Čl. 15(5)(a)	Ochrana před data poisoning	AI Verify: Data integrity testing
Čl. 15(5)(b)	Ochrana před model extraction	AI Verify: Security assessment

AI Verify testy (Framework 2.0):

Prompt injection testing
Data leakage detection
Model extraction attempts
Adversarial input testing

Doporučené nástroje:

Mapování na ANEF checklist: A10.2 (Robustness testing)

6. Robustness (Odolnost)

AI Verify definice:

Schopnost AI systému fungovat správně i při neočekávaných vstupech.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 15(4)	Odolnost vůči chybám a nekonzistencím	AI Verify: Robustness metrics
Čl. 15(3)	Technická odolnost (high-risk)	AI Verify: Stress testing
Annex IV.2(f)	Specifikace výkonu	AI Verify: Performance benchmarks

AI Verify testy:

Out-of-distribution testing
Noise injection testing
Data drift simulation
Stress testing (high load)

Mapování na ANEF checklist: A10.2, A10.3 (Drift detection)

7. Fairness (Spravedlnost)

AI Verify definice:

AI systém nezpůsobuje diskriminaci chráněných skupin.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 10(2)(f)	Zkoumání možných biasů	AI Verify: Bias detection
Čl. 10(5)	Detekce a řešení biasů	AI Verify: Fairness metrics
Recital 47	Nediskriminace	AI Verify: Protected attribute testing

AI Verify fairness metriky:

Metrika	Popis	Threshold
Statistical Parity	Rovná míra pozitivních výsledků	< 0.1 rozdíl
Equal Opportunity	Rovná TPR napříč skupinami	< 0.1 rozdíl
Equalized Odds	Rovná TPR i FPR	< 0.1 rozdíl
Predictive Parity	Rovná PPV	< 0.1 rozdíl
Individual Fairness	Podobní jedinci → podobné výsledky	Konzistence

Doporučené nástroje:

Mapování na ANEF checklist: A17 (Bias Testing), A5.2 (Data bias assessment)

8. Data Governance (Správa dat)

AI Verify definice:

Kvalita, reprezentativnost a správné řízení dat.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 10(1)	Správa training dat	AI Verify: Data governance checklist
Čl. 10(2)	Relevantní, reprezentativní, bez chyb	AI Verify: Data quality metrics
Čl. 10(3)	Úplnost s ohledem na účel	AI Verify: Completeness testing
Čl. 10(4)	Vlastnosti dat s ohledem na geografii	AI Verify: Distribution analysis

AI Verify testy:

Mapování na ANEF checklist: A5 (Data Governance)

9. Accountability (Odpovědnost)

AI Verify definice:

Jasná odpovědnost za AI systém a jeho výstupy.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 16	Povinnosti providera	AI Verify: Accountability mapping
Čl. 17	Quality management system	AI Verify: QMS verification
Čl. 26	Povinnosti deployera	AI Verify: Deployer compliance check
Čl. 19	Uchovávání dokumentace	AI Verify: Documentation audit

AI Verify testy:

Role & responsibility mapping
Decision ownership tracking
Escalation path verification
Audit trail completeness

Mapování na ANEF checklist: A3 (AI Governance & QMS)

10. Human Agency & Oversight (Lidská kontrola)

AI Verify definice:

Zachování lidské kontroly nad AI rozhodnutími.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 14(1)	Design pro human oversight	AI Verify: HITL assessment
Čl. 14(4)(a)	Porozumění kapacitám a limitacím	AI Verify: Capability documentation
Čl. 14(4)(d)	Rozhodnutí nepoužít AI výstup	AI Verify: Override testing
Čl. 14(4)(e)	Zastavení AI systému	AI Verify: Kill switch verification

AI Verify testy:

Human-in-the-loop workflow testing
Override mechanism verification
Emergency stop testing
Automation bias assessment

Mapování na ANEF checklist: A9 (Human Oversight)

11. Inclusive Growth & Wellbeing (Společenský dopad)

AI Verify definice:

Pozitivní dopad AI na společnost a jednotlivce.

EU AI Act požadavky:

Článek	Požadavek	Implementace přes AI Verify
Čl. 27	Fundamental Rights Impact Assessment	AI Verify: FRIA support
Recital 5	Udržitelný rozvoj	AI Verify: Sustainability metrics
Recital 27	Ochrana zranitelných skupin	AI Verify: Vulnerability assessment

AI Verify testy:

Societal impact assessment
Accessibility testing
Environmental impact (optional)
Vulnerable group protection

Mapování na ANEF checklist: A13 (FRIA)

Implementační matice

Prioritizace podle rizika

AI Verify Princip	Minimal Risk	Limited Risk	High-Risk	Prohibited
Transparency	Doporučeno	Povinné	Povinné	N/A
Explainability	Doporučeno	Doporučeno	Povinné	N/A
Repeatability	Doporučeno	Doporučeno	Povinné	N/A
Safety	Doporučeno	Doporučeno	Povinné	N/A
Security	Doporučeno	Doporučeno	Povinné	N/A
Robustness	Doporučeno	Doporučeno	Povinné	N/A
Fairness	Doporučeno	Doporučeno	Povinné	N/A
Data Governance	Doporučeno	Doporučeno	Povinné	N/A
Accountability	Doporučeno	Doporučeno	Povinné	N/A
Human Oversight	Doporučeno	Doporučeno	Povinné	N/A
Inclusive Growth	Doporučeno	Doporučeno	Povinné	N/A

AI Verify testovací workflow pro EU AI Act

GenAI rozšíření (Framework 2.0)

Nové testy pro generativní AI

Test	EU AI Act Reference	AI Verify 2.0 Coverage
Hallucination detection	Čl. 15(1) - přesnost	✅
Prompt injection	Čl. 15(5) - bezpečnost	✅
Data leakage	Čl. 10, GDPR	✅
Toxicity detection	Čl. 5 - prohibited practices	✅
Copyright compliance	Čl. 53 - GPAI	✅

Agentic AI rozšíření

Test	Popis
Multi-step reasoning	Testování řetězení rozhodnutí
Tool use safety	Bezpečnost použití externích nástrojů
Goal alignment	Soulad s definovanými cíli
Sandboxing verification	Izolace agentů

AI Verify → EU AI Act Mapping

Přehled

Detailní Mapping

1. Transparency (Transparentnost)

2. Explainability (Vysvětlitelnost)

3. Repeatability/Reproducibility (Opakovatelnost)

4. Safety (Bezpečnost)

5. Security (Kybernetická bezpečnost)

6. Robustness (Odolnost)

7. Fairness (Spravedlnost)

8. Data Governance (Správa dat)

9. Accountability (Odpovědnost)

10. Human Agency & Oversight (Lidská kontrola)

11. Inclusive Growth & Wellbeing (Společenský dopad)

Implementační matice

Prioritizace podle rizika

AI Verify testovací workflow pro EU AI Act

GenAI rozšíření (Framework 2.0)

Nové testy pro generativní AI

Agentic AI rozšíření

Checklist: AI Verify → EU AI Act Compliance

Pro High-Risk AI systémy

Zdroje

AI Verify

EU AI Act

Testovací nástroje