ISO/IEC 42001: Nový standard pro systémy řízení umělé inteligence

V loňském roce ISO vydalo novou a ve své oblasti jedinečnou normu ISO/IEC 42001.

Ve světě, kde umělá inteligence (AI) proniká do všech oblastí našeho života, je nezbytné zajistit, že její implementace je prováděna zodpovědně a eticky. S tímto cílem byl vytvořen mezinárodní standard ISO/IEC 42001, který se soustředí na systémy řízení umělé inteligence (AIMS). Tento standard je průkopnickým krokem v regulaci AI a poskytuje organizacím strukturovaný přístup k řízení rizik a využívání příležitostí, které AI přináší.

Účelem standardu je podpora odpovědného vývoje a používání AI systémů organizacemi. To zahrnuje nejen technické aspekty, ale i etické a společenské dopady AI. Standard poskytuje cenné vedení v rychle se měnícím oboru technologie a je prvním svého druhu na světě.

ISO/IEC 42001 je relevantní pro všechny organizace, které využívají AI produkty nebo služby napříč různými průmyslovými odvětvími. To znamená, že jeho aplikace je široká a vztahuje se na malé startupy až po velké korporace. Standard klade důraz na rizikové řízení, hodnocení dopadu AI systémů, správu životního cyklu systému a vztahy s třetími stranami.

Jedním z klíčových prvků standardu je cyklus Plan-Do-Check-Act, který vyžaduje, aby organizace určily rozsah aplikovatelnosti AI management systému, vytvořily prohlášení o aplikovatelnosti, které musí zahrnovat nezbytné kontroly, a podporovaly proces vývoje AI systému udržováním vysokých standardů pro neustálé zlepšování a údržbu. Dále je třeba monitorovat výkon AI management systému a zlepšovat systém na základě předchozích pozorování a provádění nápravných akcí.

ISO/IEC 42001 je také v souladu s dalšími systémy řízení, jako je Systém řízení informační bezpečnosti (ISO/IEC 27001) a Systém řízení ochrany osobních údajů (ISO/IEC 27701), což usnadňuje integraci s existujícími systémy řízení organizací.

Vzhledem k tomu, že mnoho zemí nyní připravuje zákony, včetně očekávaného EU AI Act v roce 2024, slouží ISO/IEC 42001 jako základní kámen a poskytuje nezbytné vedení pro dodržování předpisů.

Tento standard je tedy nejen milníkem v oblasti AI, ale také důležitým nástrojem pro organizace, které chtějí zajistit, že jejich AI systémy jsou bezpečné, efektivní a etické. S rostoucím významem AI v našich životech je ISO/IEC 42001 klíčovým prvkem, který pomáhá formovat budoucnost technologie a společnosti.

Veronika Soukupová, S-cope