De Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) heeft een update van haar beleid op generatieve AI (GAI) vastgesteld. Dit beleid maakt duidelijk voor aanvragers, beoordelaars en medewerkers hoe zij moeten omgaan met GAI. Waar aanvragers gebruik mogen maken van GAI, is dit binnen het subsidieproces voor beoordelaars en betrokken NWO-werknemers nog steeds volledig uitgesloten.

Begin vorig jaar deelde NWO richtlijnen voor het gebruik van GAI. Om ontwikkelingen rondom AI en ervaringen met het beleid snel te vertalen naar de richtlijnen krijgt het beleid regelmatig een update.

Gebruik GAI in het beoordelingsproces nog steeds uitgesloten

Bij de beoordeling van een aanvraag is het gebruik van GAI nog steeds volledig uitgesloten. Zowel beoordelaars (onder wie referenten, commissie- en juryleden) als NWO-werknemers moeten in het subsidieproces voldoen aan de geheimhoudingsplicht voor alle documenten rondom een aanvraag. NWO kan deze geheimhouding niet garanderen bij het gebruik van GAI door beoordelaars en NWO-medewerkers betrokken in het beoordelingsproces. Daarnaast heeft NWO een vergewisplicht. Dit houdt in dat NWO dient te kunnen controleren of het advies van een beoordelaar is gebaseerd op een zorgvuldige beoordeling. Het gebruik van GAI bemoeilijkt de naleving van deze plicht, omdat vaak niet kan worden achterhaald op welke wijze GAI is gebruikt. 

Belangrijkste updates

Het doel van de update is om de richtlijnen waar mogelijk simpeler te maken en waar nodig voor nieuwe ontwikkelingen of witte vlekken richtlijnen toe te voegen. Hieronder is een overzicht opgenomen van de belangrijkste updates.

Algemeen beleidskader:

  • De onbetrouwbaarheid van AI-controlesoftware is opgenomen in het beleidskader. Op dit moment zijn dergelijke applicaties niet betrouwbaar genoeg om het gebruik van GAI vast te stellen en worden daarom niet door NWO gebruikt. Resultaten van dergelijke applicaties worden niet als bewijs van gebruik van GAI geaccepteerd.
  • Het uitgangspunt betreffende duurzaamheid is versimpeld zodat het duidelijker is hoe NWO hiermee omgaat en wat het advies is aan aanvragers, beoordelaars en NWO-medewerkers. Zo worden NWO-medewerkers gevraagd om na te gaan of het gebruik van GAI noodzakelijk is, of dat er een duurzamere oplossing beschikbaar is.

Richtlijn aanvrager:

  • Voor aanvragers is de richtlijn uitgebreid met het verbod om verborgen prompts op te nemen in hun aanvraag. Een verborgen prompt is een voor de lezer van een document niet (of slecht) zichtbare opdracht aan een GAI-applicatie, met als doel om de GAI-applicatie te beïnvloeden met een nieuwe opdracht. Een dergelijke opdracht kan zijn om een positieve beoordeling te genereren over de desbetreffende voorliggende tekst. Dit is in geen geval toegestaan.
  • De richtlijn met betrekking tot transparantie is versimpeld; alleen als GAI als bron wordt gebruikt wordt aanvragers gevraagd om dit te melden in de bronvermelding van hun aanvraag.

Richtlijn beoordelaar en/of referenten

  • In het ISAAC-formulier voor referenten is opgenomen dat de referent verklaard geen GAI te gebruiken.
  • Er is expliciet opgenomen in deze richtlijn dat gebruik van GAI is als taalhulp of voor vertalingen niet is toegestaan voor referenten en beoordelaars.

Richtlijn NWO-medewerkers

  • Er is in deze richtlijn opgenomen hoe NWO-medewerkers moeten omgaan met samenwerkingspartners die gebruik (willen) maken van GAI. In dergelijke situaties dienen NWO-medewerkers na te gaan óf er daadwerkelijk GAI gebruikt is, en als dit het geval is te voorkomen dat er vertrouwelijke informatie wordt gedeeld.

Gebruik GAI voor NWO’ers in overige werkzaamheden

NWO-medewerkers mogen – voor werkzaamheden buiten het beoordelingsproces – gebruikmaken van GAI, maar alleen van GAI-applicaties die volgens het (IT-) inkoopproces zijn goedgekeurd en veilig verklaard en beschikbaar gesteld. Op dit moment mogen NWO'ers gebruik maken van Microsoft Copilot Chat en de DeepL vertaalapplicatie.

Lees het beleidsdocument