De Europese AI Act: wat bedrijven nu al moeten weten.

Uiteraard hebben ondernemers niet gewacht op dit Europees regelgevend kader om nu al AI te omarmen en beter te worden in wat ze doen, wat de innovatie alleen maar ten goede komt.

Betekent dit dan dat deze AI adepten in een juridisch vacuüm rondzwerven? Helemaal niet, veel van de principes van de AI Act vinden immers vandaag al toepassing.

Wat moet je weten over de AI Act?

De voornaamste doelstelling van de Europese wetgever is om ervoor te zorgen dat artificiële intelligentie binnen de EU veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zal worden gebruikt.

De nieuwe regels beogen vooral ondernemingen die AI inzetten en bevatten vooral het volgende:

• Risico-gebaseerde aanpak: AI-systemen worden ingedeeld volgens het risiconiveau.
• Verbod op AI met een onaanvaardbaar risico: denk aan massa surveillance, sociale scoring, emotie-herkenning op de werkplek, enz.
• AI-systemen met een hoog risico worden onderworpen aan een hele reeks controle vereisten waaronder kwaliteitscriteria en menselijk toezicht.
• Voor AI-systemen met een beperkt risico gelden er minder strikte eisen maar moeten gebruikers wel duidelijk worden geïnformeerd over het AI-systeem.
• Ook bij generatieve AI, zoals ChatGPT, zullen ontwikkelaars transparant moeten vermelden dat de inhoud is gegenereerd door AI en een overzicht opstellen van auteursrechtelijk beschermde gegevens die gebruikt zijn in het trainen.
• Tot slot geeft de AI Act ook regels mee rond markttoezicht en monitoring, zoals het voorzien van AI-testomgevingen.

Is dit nieuw?

De AI Act is het eerste juridisch kader dat artificiële intelligentie op een algemene wijze zal reguleren. Dat betekent niet dat er vandaag nog geen regels zouden bestaan rond AI en het gebruik daarvan. Artificiële intelligentie zit namelijk verweven in allerlei producten, diensten en processen waarvoor bepaalde regels gelden. Veel principes van de AI Act zijn dan ook niet nieuw en zijn terug te vinden in de huidige wetgeving.

Zonder volledig te willen zijn, denken wij aan allerlei transparantieverplichtingen in onder meer de wetgeving rond consumentenbescherming en oneerlijke marktpraktijken. De geldende anti-discriminatiewetgeving verbiedt ondernemingen (die AI gebruiken) om een onderscheid te maken op grond van bijvoorbeeld ras, geslacht of seksualiteit. Wanneer ondernemingen AI inzetten, dienen zij verder ook rekening te houden met de exclusieve intellectuele eigendomsrechten van anderen. Uiteraard kunnen er mogelijks eigen auteursrechten gelden op de output van een AI-systeem (alhoewel hieromtrent discussie bestaat, zie hier).

Tot slot loert ook de GDPR om de hoek. De GDPR is immers technologieneutraal en geldt voor alle activiteiten waarbij bedrijven persoonsgegevens verwerken. Bijgevolg moeten ondernemingen ook nu al over een rechtsgrond beschikken wanneer zij aan de hand van AI persoonsgegevens verwerken (d.i. vnl. van belang voor de datasets op basis waarvan AI wordt getraind of gebruikt), deze enkel voor welbepaalde doeleinden verwerken en hierover transparant zijn naar klanten en werknemers toe, enz.

Wat is het nut van de AI Act?

AI wordt vandaag de dag dus al uitgebreid gereguleerd dankzij bestaande regels en principes die kunnen worden toegepast op AI-gerelateerde kwesties. De AI Act zorgt ervoor dat deze verschillende regels worden gecentraliseerd en dus makkelijker zullen zijn terug te vinden.

Aan de andere kant dringt ook een verduidelijking of uitbreiding van de bestaande regels zich op om AI-systemen correct te gaan gebruiken. Het is in dit opzicht dat de AI Act een algemeen kader probeert te schetsen dat artificiële intelligentie horizontaal zal reguleren, ongeacht de sector waarbinnen het wordt gebruikt. De AI Act biedt een meer directe, hands-on aanpak om aan de ontwikkeling en het gebruik van AI zowel juridische als ethische standaarden op te leggen en meer verantwoordelijk gebruik te stimuleren.

Toets uw AI-systemen nu al af: act now!

Het voorstel van de AI Act zal harde wetgeving worden zodra de Europese Raad en het Europees Parlement een akkoord vinden over de tekst van de verordening. Uiteraard kan u nu al gebruik maken van AI binnen uw onderneming, mits u de huidige wetgeving respecteert. Er zijn op dit moment geen wetten die AI-toepassingen in algemene zin reguleren. Dat betekent niet dat er geen regels zijn.

Heeft u vragen over de juridische aspecten van het gebruik van AI binnen uw onderneming of wenst u uw systemen af te toetsen aan de wetgeving?

U kan gerust een van onze experts van het team Data, Tech & Entertainment contacteren!