Ethische Code Artificial Intelligence
Artificial Intelligence (kunstmatige intelligentie, AI) biedt kansen voor het oplossen van maatschappelijke en economische vraagstukken. Die kansen moeten we niet onbenut laten. AI-toepassingen brengen echter ook ethische vragen met zich mee. Vanzelfsprekend moeten dergelijke innovaties daarom op een verantwoorde wijze plaatsvinden. De ICT-sector is zich daarvan bewust en heeft daarom deze ethische gedragscode AI opgesteld als richtsnoer voor en met haar leden.
Uitgangspunt is dat een AI-oplossing zelden op zichzelf staat, maar tot stand komt door samenwerking in het ecosyteem van de opdrachtgever, de eindgebruiker, ICT-leveranciers en onderliggende technologie leveranciers. Ieder heeft daarin zijn eigen rol en verantwoordelijkheid in de keten en staat open voor samenwerking tijdens het maakproces. Ook ná oplevering en tijdens het gebruik van de toepassing, blijven de partijen open staan voor feedback op het gedrag van de AI-toepassing.
De EU heeft een aantal principes opgesteld en een aantal concept richtsnoeren. De ethische code van NLdigital is in overeenstemming met deze principes en richtsnoeren en is een verdieping voor de leden van de branche.
Dit betekent voor de lidbedrijven van NLdigital het volgende.
Het lidbedrijf:
- is zich bewust van, en anticipeert op, de invloed die implementatie van AI kan hebben op publieke waarden, zoals eerlijkheid, rechtvaardigheid en inclusiviteit, als ook de principes van uitlegbaarheid en gebruik van (en rechten op de) data.
- maakt binnen de keten duidelijk wanneer een gebruiker van doen heeft met AI, alsook de verantwoordelijkheid die ieder draagt in de keten op de toepassing van AI.
- is zich bewust van en transparant over de stand van de techniek ten aanzien van AI, de technische mogelijkheden maar ook de technische tekortkomingen van toepassingen, en de noodzaak om hierover te communiceren. Dit leidt tot (o.a.) het minimaliseren van ongewenste “bias” en de promotie van inclusieve representatie.
- geeft inzicht in de data die gebruikt wordt door de AI-toepassing, dan wel biedt mogelijkheid voor de ketenpartners om dat inzicht te verschaffen.
- zorgt voor de (technische) mogelijkheid om de adviezen of beslissingen van hun AI-systemen herleidbaar te maken voor alle direct betrokkenen.
- zorgt ervoor dat het gedrag van de applicatie actief gemonitord kan worden en dat er altijd een feedback mogelijkheid voor gebruikers in AI-applicaties kan zijn.
- draagt bij aan het delen van kennis en het geven van educatie over AI in het algemeen, binnen en buiten de sector.
- verschaft binnen de keten beschikbare informatie over:
- de systemen en het achterliggend gebruik van de data,
- de toegepaste technologie,
- de leercurve voor het systeem,
- datagebruik buiten de EU.
Gezien de snelle technologische en maatschappelijke ontwikkelingen zal deze code een levend document zijn waarbij jaarlijks gekeken zal worden of een aanpassing van de code nodig zal zijn.