ハイリスクAI とは？

禁止とは別だよ。たとえば採用で応募者を選別したり、融資の信用を評価したりするAIは、人の機会や権利に大きく関わるね。EUのAI規則では、そうした用途を高リスクとして、条件を満たして使う仕組みを設けているんだ。

分野だけでは決まらないよ。規則の第6条や付属書にある用途・条件を確認するんだ。製品に組み込むAIでは、対象製品の安全部品などに当たり、第三者による適合性評価が必要か、といった条件もあるよ。列挙された用途にも一定の例外があるので、具体的な役割を見て判断するんだ。

リスク管理、データの品質、記録、利用者への情報、人による監督などが求められるよ。開発して市場に出す提供者と、業務で使う導入者では義務が違うんだ。「人が最後に見るからそれだけで大丈夫」ではなく、それぞれの役割に沿って管理する必要があるね。

違反した義務などによって違うよ。元の規則では、禁止された利用への違反と、高リスクAIの提供者などの義務違反で制裁金の上限を分けているんだ。高リスクという分類だけから、禁止行為向けの最大額を当てはめることはできないね。

日本の会社でも、EU市場へ提供する場合などは関係するよ。EUの外で提供・利用していても、出力をEUで使う場合が対象になることがあるんだ。適用時期も確認しよう。2026年10月時点の欧州委員会の案内では、付属書IIIの高リスク用途の規定は2027年12月2日、対象製品に組み込むものは2028年8月2日から適用されるとされているよ。