Artificial Intelligence Act: een update
Op donderdag 11 mei 2023 hebben de Commissie interne markt en de Commissie burgerlijke vrijheden van het Europees Parlement ingestemd met een concept-onderhandelingsmandaat over de Wet op de Artificiële Intelligentie (hierna: AI Act). De AI Act is de eerste vorm van regelgeving ten aanzien van kunstmatige intelligentie in de Europese Unie en volgt hierin een risicogebaseerde benadering. Hoe hoog het risico is, is bijvoorbeeld afhankelijk van het beoogde doel van het gebruik van de technologie en de sector waarin de technologie wordt ingezet. Afhankelijk van het risico dat een AI-systeem met zich meebrengt, gelden voor aanbieders en gebruikers bepaalde verplichtingen. Zie ook onze eerdere blog over het voorstel van de Europese Commissie in 2021.
Wijzigingen en aanvullingen
Met hun wijzigingen wil het Europees Parlement ervoor zorgen dat AI-systemen veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. Daarnaast willen ze een uniforme definitie van kunstmatige intelligentie opnemen die technologieneutraal is, zodat deze ook kan worden toegepast op toekomstige vormen van kunstmatige intelligentie.
AI-systemen met een onaanvaardbaar risico worden door de AI Act op voorhand al verboden. Het Europees Parlement heeft de lijst van kunstmatige intelligentie met een onaanvaardbaar risico aanzienlijk gewijzigd, onder andere om een verbod op discriminerend gebruik van AI-systemen uit te breiden. Voorbeelden hiervan zijn AI-systemen die worden gebruikt voor social scoring: het evalueren of classificeren van individuen op basis van hun sociale gedrag, sociaaleconomische status of hun bekende of voorspelde persoonlijkheidskenmerken. Het Europees Parlement heeft hier een aantal AI-toepassingen aan toegevoegd, zoals onder andere biometrische categorisatiesystemen die gebruik maken van gevoelige gegevens om natuurlijke personen te categoriseren, het ongericht verzamelen van biometrische gegevens van sociale media of van camerabeelden om een gezichtsherkenningsdatabanken te creëren of uit te breiden en AI-systemen die emoties van een persoon afleiden voor doeleinden zoals rechtshandhaving, grensbeheer, op de werkplek en in onderwijsinstellingen.
Daarnaast werd in eerste instantie bepaald dat een AI-systeem als hoog risico werd beschouwd op basis van het beoogde doel. Deze definitie is nu uitgebreid met het vereiste dat het systeem ook een aanzienlijk risico op de gezondheid, veiligheid of grondrechten moet vormen om als hoog risico te worden beschouwd. De aanbevelingssystemen van sociale mediaplatforms die onder de digitaledienstenverordening (DSA) als zeer grote online platforms zijn aangewezen, zijn nu toegevoegd aan de lijst van hoge risico AI-systemen.
General Purpose AI
De wijzigingen van het Europees Parlement zien daarnaast in een lacune die nu al ontstaan is in het regulerend kader. ChatGPT en andere generative AI hebben de Europese wetgevers gedwongen om opnieuw naar het Europese wetsvoorstel te kijken, wat uitgaat van een professioneel gebruik van AI-systemen. Kenmerkend aan generatieve AI voor consumenten is dat het breed en sectoroverschrijdend wordt ingezet. Dit lijkt niet aan te sluiten op de risicobenadering die wordt gehanteerd in de verordening (waarbij het risico onder andere wordt bepaald door het doeleinde en de sector). De AI Act zal niet standaard op general purpose AI, ofwel AI voor algemeen gebruik, van toepassing zijn, maar kent een gefaseerde aanpak. Generatieve AI zoals ChatGPT vallen na deze wijzigingen onder de hoog risicosystemen en worden onderworpen aan aanvullende transparantie-eisen. Er zal bijvoorbeeld duidelijk moeten worden aangeven wanneer inhoud door AI gegenereerd is. Bovendien is het verplicht om alle auteursrechtelijk beschermde gegevens die zijn gebruikt voor het trainen van AI-systemen vast te leggen en het gebruik hiervan in een gedetailleerd overzicht openbaar te maken.
What’s next
Mid-juni zal het Europees Parlement een plenaire stemming houden. Hierna gaan de onderhandelingen tussen de Europese Commissie, de Europese Raad en het Europees Parlement van start om overeenstemming te bereiken over een definitieve tekst, die naar verwachting worden voortgezet onder het komende Spaanse voorzitterschap van de Europese Raad, van juni tot en met december 2023. Zodra de definitieve verordening in werking is getreden, wordt deze 24 maanden hierna van toepassing. Momenteel wordt verwacht dat dit in de eerste helft van 2026 zal zijn.
