Europese AI-Act: een checklist om de risico-klasse van een AI-App te bepalen
Het bepalen van de risico-klasse van een AI-toepassing (no-risk, low-risk, high-risk) is niet eenvoudig. Daarom een aantal checkpunten met voorbeelden in onderstaande tabel.
De Europese AI-Act is eigenlijk nog helemaal niet klaar. Er zal nog veel jurisprudentie komen die de echt omvang van de wet gaat bepalen. En wat mij betreft zou je dus altijd een check moeten laten doen door een gespecialiseerd advocatenkantoor, als je zelf iets wilt ontwikkelen.
| Checkpunt | Uitleg | Voorbeelden | Risico-indicatie |
| Kritieke infrastructuren | AI gebruikt in sectoren zoals energie, transport of waterbeheer. | Slimme netwerken voor elektriciteit in energiebedrijven. | High-risk |
| Productveiligheid | AI-toepassingen geïntegreerd in producten die onder productveiligheidswetgeving vallen, zoals medische apparaten. | AI in chirurgische robots, medische scanners. AI-gebaseerd systeem voor monitoring en onderhoud van slimme verkeersinfrastructuur | High-risk |
| Rechtshandhaving of strafrecht | AI ingezet door de politie, justitie of voor migratiebeheer. | AI voor criminaliteitsvoorspelling of risicobeoordeling. | High-risk |
| Onderwijs of beroepsopleiding | AI voor het beoordelen van prestaties van leerlingen of studenten. | AI-gebaseerde toetsing en evaluatie in scholen. | High-risk |
| Toegang tot essentiële diensten | AI die toegang bepaalt tot diensten zoals werk, leningen, huisvesting of sociale bijstand. | AI voor sollicitatiescreening in een MKB-bedrijf. AI voor het beoordelen van aanvragen voor sociale bijstand of uitkeringen | High-risk |
| HR-systemen voor werknemers-beslissingen | AI voor het inhuren, promoten of ontslaan van werknemers. | AI voor prestatiebeoordeling van zorgpersoneel. | High-risk |
| Fundamentele rechten beïnvloeden | AI die invloed heeft op grondrechten zoals privacy, vrijheid van meningsuiting. | AI die content modereert op een overheidsplatform. | High-risk |
| Biometrische identificatie op afstand | AI voor biometrische herkenning op afstand, bijvoorbeeld gezichtsherkenning in openbare ruimtes. | Gezichtsherkenning op een luchthaven of in openbare ruimte | High-risk |
| Onderzoek of interne bedrijfsprocessen | AI voor interne processen of onderzoek zonder directe impact op derden. | Slimmer en sneller zoeken door interne kennisbanken; Detectie van de staat van verkeersborden of bomen, risico gestuurd handhaven; Detectie criminele ondermijning (gericht op bedrijven) | Low-risk |
| Algemene besluitvorming zonder impact | AI voor ondersteuning van beslissingen zonder juridische of substantiële impact. | Automatische categorisering van e-mails en meldingen (MOR); Geautomatiseerde beantwoording raadsvragen. | Low-risk |
| Communicatie, marketing of gepersonaliseerde berichten | Chatbots (gebaseerd op openbare info), AI voor marketing, gepersonaliseerde berichten of aanbevelingssystemen. | Chatbots, AI in aanbevelingssystemen van een webshop of website, vertalen van brieven | Low-risk |
| Interactief entertainment of recreatie | AI voor puur recreatief gebruik zonder substantiële impact. | AI-gebaseerde games of interactieve assistenten. | No-risk |