AI Verify jako podklad pro testování
Co může nástroj poskytnout
AI Verify je testovací framework a softwarový toolkit. Oficiální repozitář popisuje technické testy podporovaných klasifikačních a regresních modelů nad tabulkovými a obrazovými daty a modulární pluginy. Rozsah závisí na konkrétní verzi a pluginu. Projekt sám neuděluje obecnou záruku bezpečnosti ani nepřítomnosti rizik a biasu. Oficiální README.
Výsledek testu může být podkladem pro hodnocení určité vlastnosti systému. Není certifikátem AI Act compliance ani automatickým splněním článku zákona. Ze samotného názvu AI Verify 2.0 nelze odvodit pokrytí všech rizik generativní AI, autorského práva nebo bezpečnosti agentů.
Nejdříve určete otázku a důkaz
| Otázka | Možný důkaz z testování | Co je potřeba doplnit |
|---|---|---|
| Je výkon přijatelný pro daný účel? | Výsledky na reprezentativních datech a chybových scénářích | Zdůvodněný práh, nejistotu, důsledky chyby a provozní monitoring |
| Liší se dopady mezi skupinami? | Metriky chybovosti a relevantní fairness analýzy | Právně přípustný způsob práce s atributy, kontext a odborné vyhodnocení |
| Je model odolný vůči zvoleným změnám vstupů? | Výsledky konkrétních testů robustnosti | Pokrytí scénářů, bezpečnost systému a závislostí |
| Lze doložit opakovatelnost testu? | Verzi modelu, pluginu, dat a konfigurace | Uchování podkladů, postup opakování a správu změn |
| Je člověk schopen účinného dohledu? | Výsledky uživatelského scénáře a záznam zásahu | Pravomoci, školení, dostupný kontext a fungující provozní proces |
Vybrané výsledky mohou podpořit například dokumentaci přesnosti a robustnosti podle čl. 15 AI Actu u vysokorizikových systémů. Působnost a použitelnost těchto požadavků se posuzuje zvlášť.
Fairness nemá univerzální mez 0,1
Statistical parity, equal opportunity, equalized odds a predictive parity měří různé vlastnosti a nemusí být splnitelné současně. Volbu určete podle konkrétního rozhodnutí, účelu a rizika. Rozdíl pod 0,1 nebo 5 % sám neprokazuje nepřítomnost diskriminace.
Před testem stanovte dotčené skupiny, velikost a reprezentativnost vzorku, nejistotu výsledku, zdůvodnění metriky a postup při nepřijatelném dopadu. Citlivé atributy nezpracovávejte jen proto, že je testovací knihovna umí přijmout; ověřte právní podmínky.
Reprodukovatelný postup
- Popište systém, zamýšlené použití a testovanou vlastnost.
- Vyberte podporovanou verzi nástroje a konkrétní plugin podle jeho dokumentace.
- Připravte oprávněně dostupná testovací data a baseline.
- Zaznamenejte verze, nastavení, omezení a neúspěšné testy.
- Nechte výsledek vyhodnotit odpovědným odborníkem; uveďte, na co závěr nelze zobecnit.
- Propojte zjištění s nápravným úkolem nebo zdůvodněným rozhodnutím a podmínkami opakování testu.
Co řešit mimo testovací nástroj
Inventář a právní klasifikaci, odpovědnosti, požadovanou dokumentaci, smlouvy, transparentnost, incidentní postupy a případné posouzení shody. Povinnosti poskytovatele vysokorizikového systému a zavádějícího subjektu nejsou stejné. Článek 18 AI Actu upravuje uchování vybrané dokumentace poskytovatele, čl. 19 automaticky generované logy; čl. 52 není obecnou transparentností chatbotů, ale postupem pro GPAI se systémovým rizikem.
Ověřeno 6. 9. 2026: AI Verify — repozitář a dokumentace, AI Act, konsolidované znění. Pro navazující práci použijte MEASURE a přípravu na odborné ověření.