Een grote meerderheid van het Europees parlement steunde vandaag de AI-wet. Het gebruik van een specifieke AI-toepassing zou op basis van het risico dat eraan verbonden is, op een van vier mogelijke niveaus ingeschaald worden. Is dat risico onaanvaardbaar hoog, dan moet de toepassing in kwestie eenvoudigweg verboden worden.
De komende maanden moeten het Europees Parlement, de Europese Raad van Ministers en de Europese Commissie het nu eens worden over een gezamenlijke compromistekst tijdens de zogenoemde 'triloog'.
Verboden AI-praktijken
De regels zijn opgesteld volgens een op risico’s gebaseerde aanpak en bevatten verplichtingen voor aanbieders en zij die AI systemen gebruiken, afhankelijk van het risiconiveau dat de AI kan opleveren.
AI-systemen met een onaanvaardbaar risico voor de veiligheid van mensen, zoals systemen die worden gebruikt voor sociale scores (het indelen van mensen op basis van hun sociale gedrag of persoonlijke kenmerken), zouden verboden zijn.
Algemene doeleinden
Aanbieders van basismodellen – een nieuwe en snelle ontwikkeling binnen de AI – moeten mogelijke risico’s (voor gezondheid, veiligheid, grondrechten, milieu, democratie en de rechtstaat) beoordelen en beperken. Ook moeten ze hun modellen registreren in de EU-databank voordat ze in de EU in de handel worden gebracht.
Generatieve AI-systemen gebaseerd op dergelijke modellen, zoals ChatGPT, moeten voldoen aan transparantievereisten. Zo moet altijd worden vermeld dat de content door AI is gegenereerd (wat zal helpen zogenaamde 'deep-fakes' te onderscheiden) en zijn waarborgen tegen het genereren van illegale content nodig. Ook moeten gedetailleerde samenvattingen openbaar worden gemaakt van de auteursrechtelijk beschermde gegevens die worden gebruikt om deze systemen te trainen.
Innovatie
De EP-leden hebben vrijstellingen toegevoegd voor onderzoeksactiviteiten en AI-componenten die worden verstrekt in het kader van opensourcelicenties. Dit moet AI-innovatie stimuleren en kmo’s ondersteunen.
De nieuwe wet bevordert testomgevingen voor regelgeving onder levensechte omstandigheden, die door overheidsdiensten worden gecreëerd om de AI te testen voordat deze wordt ingezet.
BEKIJK - Persconferentie verordening artificiële intelligentie
