Open Source AI Governance Nástroje

Přehled open source a source-available nástrojů pro AI governance, testování a compliance.

---

Proč open source?

Výhoda	Popis
Nákladová efektivita	Žádné licenční poplatky, pouze provozní náklady
Transparentnost	Možnost auditu kódu, žádný vendor lock-in
Customizace	Přizpůsobení specifickým potřebám organizace
Komunita	Sdílené best practices, rychlý vývoj

Kdy zvolit open source

• Organizace s DevOps/IT kapacitou pro self-hosting
• Omezený budget, ale potřeba robustního řešení
• Potřeba plné kontroly nad daty (on-premise)
• Tech-savvy týmy schopné integrace

Kdy raději komerční řešení

• Žádná interní IT kapacita
• Potřeba SLA a enterprise support
• Rychlý time-to-value bez customizace

---

1. VerifyWise

Komplexní AI governance platforma s native podporou EU AI Act

Základní info

Aspekt	Detail
Vývojář	Bluewave Labs
Licence	BSL 1.1 (source-available)
Web	verifywise.ai
GitHub	bluewave-labs/verifywise
Deployment	Docker, Kubernetes, On-premise

Hodnocení

Aspekt	Rating	Poznámka
Cena	⭐⭐⭐⭐⭐	Zdarma (self-hosted)
EU AI Act	⭐⭐⭐⭐⭐	Native podpora
ISO 42001	⭐⭐⭐⭐⭐	Plná podpora
NIST AI RMF	⭐⭐⭐⭐⭐	Plná podpora
Audit trail	⭐⭐⭐⭐⭐	Automatické logování všech akcí
UI/UX	⭐⭐⭐⭐	Moderní, intuitivní
Dokumentace	⭐⭐⭐⭐	Dobrá, aktivní komunita
Setup složitost	⭐⭐⭐	Vyžaduje Docker/K8s znalosti

Klíčové funkce

Doplňkové produkty (stejný ekosystém)

Produkt	Účel
MaskWise	Anonymizace citlivých dat v LLM training datasets
EvalWise	LLM evaluation, red teaming, testování

Kdy použít

• Organizace potřebující kompletní governance platformu
• Self-hosting požadavek (data sovereignty)
• Potřeba EU AI Act compliance tracking
• Střední až velké AI portfolio (10+ modelů)

Kdy nepoužívat

• Žádná interní IT kapacita pro Docker/Kubernetes
• Potřeba okamžitého enterprise supportu
• Velmi malá organizace bez AI governance potřeb

Deployment příklad

# Docker Compose deployment
git clone https://github.com/bluewave-labs/verifywise.git
cd verifywise
docker-compose up -d

# Kubernetes (Helm)
helm repo add verifywise https://charts.verifywise.ai
helm install verifywise verifywise/verifywise

Integrace s ANEF frameworkem

Vrstva	Využití
L1 — Align	Policy management, compliance tracking
L2 — Transform	Model registry, dokumentace
L4 — Verify	Audit trails, evidence collection
L5 — Execute	Governance overlay pro projekty

---

2. AI Verify

Testovací framework pro AI ethics a governance od Singapore IMDA

Základní info

Aspekt	Detail
Vývojář	IMDA Singapore + AI Verify Foundation
Licence	Apache 2.0 (plně open source)
Web	aiverifyfoundation.sg
GitHub	IMDA-BTG/aiverify
Premier členové	Google, IBM, Microsoft, Salesforce, Red Hat

Hodnocení

Aspekt	Rating	Poznámka
Cena	⭐⭐⭐⭐⭐	Zdarma
Metodologie	⭐⭐⭐⭐⭐	11 AI governance principů
EU AI Act alignace	⭐⭐⭐⭐	Mapovatelné na požadavky
GenAI podpora	⭐⭐⭐⭐⭐	Framework 2.0 (květen 2025)
Dokumentace	⭐⭐⭐⭐⭐	100+ stran, detailní
Enterprise backing	⭐⭐⭐⭐⭐	Big Tech podpora
Setup složitost	⭐⭐⭐	Technické znalosti nutné

11 AI Governance principů

Framework 2.0 (2025) - Nové funkce

Funkce	Popis
GenAI Testing	Testování generativních AI aplikací
Agentic AI	Podpora pro AI agenty
Hallucination Testing	Detekce halucinací LLM
Red Teaming	Adversarial testování
Prompt Injection	Testování zranitelností
Data Leakage	Detekce úniku dat

Kdy použít

• Technické testování AI systémů před nasazením
• Potřeba strukturovaného assessment frameworku
• Příprava na audit (interní i externí)
• Vzdělávání týmu v AI ethics principech

Kdy nepoužívat

• Potřeba kompletní governance platformy (použít s VerifyWise)
• Non-technical stakeholders bez IT podpory
• Pouze dokumentační potřeby

Alignace s regulacemi

Regulace	Pokrytí
EU AI Act	✅ Mapovatelné na Annex III požadavky
OECD AI Principles	✅ Plná alignace
G7 Hiroshima Process	✅ Plná alignace
NIST AI RMF	✅ Komplementární
ISO 42001	✅ Podpůrný nástroj

Integrace s ANEF frameworkem

Vrstva	Využití
L1 — Align	Assessment proti 11 principům
L2 — Transform	Vzdělávací materiál o AI ethics
L4 — Verify	Technické testování, red teaming
L5 — Execute	Validace před deploymentem

---

3. Další open source nástroje

Fairness & Bias

Nástroj	Licence	Popis
IBM AI Fairness 360	Apache 2.0	70+ fairness metrik
Microsoft Fairlearn	MIT	Fairness assessment & mitigation
Google What-If Tool	Apache 2.0	Vizuální analýza modelů

Explainability

Nástroj	Licence	Popis
SHAP	MIT	SHapley Additive exPlanations
LIME	BSD	Local Interpretable Explanations
Captum	BSD	PyTorch interpretability

Model Registry & Lineage

Nástroj	Licence	Popis
MLflow	Apache 2.0	Model versioning, tracking
DVC	Apache 2.0	Data version control
Hugging Face Model Cards	Apache 2.0	Standardizovaná dokumentace

Security & Robustness

Nástroj	Licence	Popis
NIST Dioptra	CC BY 4.0	Adversarial ML testování
Adversarial Robustness Toolbox	MIT	IBM security testing

---

Komplementární strategie

Doporučená kombinace

Rozhodovací matice

Potřeba	Primární nástroj	Sekundární
Kompletní governance	VerifyWise	-
Technické testování	AI Verify	SHAP, Fairlearn
Model registry	MLflow	VerifyWise
Bias detection	AI Fairness 360	AI Verify
Explainability	SHAP/LIME	AI Verify

---

Srovnání s komerčními alternativami

Aspekt	Open Source (VerifyWise + AI Verify)	Komerční (OneTrust)
Cena	€0 (+ hosting)	€500-2000/měsíc
EU AI Act	✅ Native	✅ Native
Setup	DIY (Docker/K8s)	Managed SaaS
Support	Komunita, Discord	Enterprise SLA
Customizace	Plná	Omezená
Data sovereignty	On-premise možný	Cloud (EU datacenter)
Time-to-value	1-2 týdny	Okamžitě
Vhodné pro	Tech-savvy SME	Enterprise

---

Implementační checklist

Fáze 1: Příprava (1 týden)

• Zhodnotit interní IT kapacity
• Vybrat deployment model (Docker/K8s/Cloud)
• Připravit infrastrukturu

Fáze 2: Instalace (1 týden)

• Deploy VerifyWise
• Konfigurace autentizace (SSO/LDAP)
• Setup AI Verify testovacího prostředí

Fáze 3: Konfigurace (1-2 týdny)

• Import AI systémů do registru
• Nastavit rizikové kategorie dle EU AI Act
• Vytvořit workflow pro assessmenty

Fáze 4: Integrace (průběžně)

• Propojit s MLflow (pokud používáte)
• Nastavit Slack/Teams notifikace
• Automatizovat testování v CI/CD

---

Zdroje a odkazy

VerifyWise

• Oficiální web
• GitHub
• Dokumentace
• Discord komunita

AI Verify

• AI Verify Foundation
• GitHub
• Testing Framework dokumentace

Další zdroje

• Open AI Governance Directory
• EU AI Act Compliance Checker