AI in duurzame voedselsystemen: ‘Ethische, juridische en sociale aspecten essentieel’

Hoe kan Artificiële Intelligentie (AI) een positieve bijdrage leveren aan duurzame voedselsystemen? Deze vraag staat centraal in het ELSA Lab van Wageningen University & Research (WUR). Hoogleraar Vincent Blok en senior-onderzoeker Mireille van Hilten zien veel kansen: “Het meenemen van ethische, juridische en sociale aspecten in de technologische ontwikkeling, leidt tot een betere acceptatie.”

AI is een veelbelovende toepassing, vertelt Vincent Blok, hoogleraar techniekfilosofie en verantwoord innoveren. “Tegelijkertijd zijn er ook allerlei zorgen. Als je de maatschappij niet op een goede manier bij technologische ontwikkelingen betrekt, dan ontstaat er weerstand. Daarom heeft de Nederlandse overheid besloten om te investeren in sociaal maatschappelijke vraagstukken rond AI-ontwikkelingen.”

Dat gebeurt in de vorm van ELSA (Ethical, Legal and Social Aspects) Labs. Blok licht toe: “In deze laboratoria wordt niet gekeken naar de technologische ontwikkeling, of de businesscase, maar wordt ingezoomd op de ethische, juridische en sociale aspecten. Zo kunnen we ervoor zorgen dat de technologische ontwikkelingen niet alleen de doelstellingen van bedrijven dienen, maar ook maatschappelijke doelen helpen te realiseren.” Dat illustreert hij met een voorbeeld: “In het ELSA lab worden de effecten van AI toepassingen in melkrobots op het boerenbedrijf onderzocht, zoals de vraag met wie de eigenaar is van de data die de melkrobot verzamelt en met wie deze worden gedeeld. Als je hier in de ontwerpfase al rekening mee houdt, dan zal men de nieuwe technologieën eerder en beter accepteren.”

Vijf labs

Inmiddels zijn er vijf ELSA Labs, die door de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) zijn gesubsidieerd. “Ieder lab heeft zijn eigen specialiteit. In Delft richt men zich op veiligheid, in Groningen op gezondheidszorg en hier in Wageningen op agrifood. Ondanks deze verschillen wisselen de labs kennis uit en kunnen we van elkaar leren. Voor de toekomst is het de bedoeling dat iedere universiteit een eigen ELSA Lab krijgt.”

Het ELSA Lab in Wageningen is in september vorig jaar gestart. “Daarvoor hebben we samen met de landbouwsector, het bedrijfsleven en het ministerie van LNV om tafel gezeten om te bespreken welke verwachtingen er zijn en welke problemen er rond AI worden verwacht, zodat we deze vragen en kansen kunnen meenemen in het ontwikkelen van het project”, legt Blok uit.

Verduurzaming

Verduurzaming is een belangrijk onderwerp, zo blijkt uit deze gesprekken. Blok: “AI is er en gaat nooit meer weg. Alleen wordt de markt nu vooral beheerst wordt door cowboys. Grote technologiebedrijven die alle kanten op kunnen gaan, terwijl we voor grote opgaven staan op onder meer het gebied van verduurzaming. Hoe kunnen we de AI-ontwikkelingen in de juiste richting sturen? Dus niet alleen in de richting van het geld verdienend vermogen, maar ook in de richting van duurzaamheid.”

Mireille van Hilten, senior onderzoeker bij Wageningen Economic Research, vult aan: “Om te weten te komen welke AI-toepassingen daadwerkelijk bijdragen aan duurzaamheid, hebben we vooronderzoek gedaan naar welke richtlijnen er al zijn. We willen het wiel niet opnieuw uitvinden, maar wel een combinatie maken van ethische kaders, juridische richtlijnen en de bestaande literatuur op het gebied van sociale inbedding.”

ELSA Scan

Een ELSA-scan brengt snel de ethische, juridische en sociale aspecten van een AI applicatie in kaart

Voor de onderzoeksdiensten van het ELSA lab zijn volgens Van Hilten twee instrumenten essentieel: een ELSA-scan om snel de ethische, juridische en sociale aspecten van een AI applicatie in kaart te brengen en interventies die stakeholders in staat stellen ELSA in de AI ontwikkeling mee te nemen. “Inmiddels hebben we een eerste versie van de scan ontwikkeld en twee scans uitgevoerd. Tijdens zo’n scan gaan we met stakeholders uit verschillende groepen om de tafel om de AI toepassing door te lichten op ELSA.” Blok vult aan: “Als blijkt dat je een risico loopt, dan wil je er alles aan doen om dat te verkleinen. Dat maakt zo’n scan een enorm belangrijke eerste stap in het proces.”

De scans vinden plaats in een ELSA pop-up Lab op de locatie van de AI ontwikkeling. “We nodigen verschillende stakeholders uit, zoals onderzoekers, mensen uit het bedrijfsleven en vertegenwoordigers vanuit de overheid en de maatschappij. In het virtuele lab gaan zij met elkaar in overleg. Zo ontstaat een hele interessante stakeholderdialoog over die ethische, juridische en sociale aspecten. Uit zo’n sessie komen allerlei aanbevelingen, die we verder kunnen uitwerken.”

Eindgebruikers betrekken

Een van de gehouden scans ging over dierengezondheid en dierenwelzijn, namelijk: de behandeling van uierinfectie bij koeien. “Dat is een AI-oplossing die nog echt in het begin stadium van de ontwikkeling zit”, legt Van Hilten uit. “Momenteel is de dierenarts wettelijk gezien verantwoordelijk voor de behandeling. Maar als een AI -toepassing een heel goed advies kan leveren, dan ontstaat de vraag wie de eindbeslisser in de toekomst zou kunnen zijn. De vraag wie medisch verantwoordelijke en ook aansprakelijk is in het geval van eventuele fouten is heel belangrijk. Deze zal al in een vroeg stadium van de AI-ontwikkeling meegenomen moeten worden. Ook is het van belang dat eindgebruikers direct betrokken worden bij het opstellen van de wensen en eisen aan zo’n oplossing.”

Een ELSA- scan kan voor extra inzichten zorgen, benadrukt Blok. “Het gaat om een heel andere werkwijze. Als technologie-ontwikkelaar probeer je jezelf in de markt te vechten met AI-oplossingen. Dan wil je natuurlijk niet je businesscase met eindgebruikers overleggen, terwijl het juist heel belangrijk is om te weten welke perceptie zij hebben. Idealiter zou zelfs hun kennis en ervaring meegewogen kunnen worden in het besluitvormingsproces.”

Blok vindt met name de koppeling tussen het onderzoek en de praktijk heel interessant. “We onderzoeken welke strategieën wel en niet werken, maar proberen tegelijkertijd bedrijven erbij te betrekken en te helpen. Daarin proberen we echt een middenweg te vinden.” Nederland is in deze werkwijze uniek. “Het structurele onderzoek naar hoe je die ethische aspecten betrekt in technisch onderzoek – en dat noemen we verantwoord innoveren – zie je vrijwel nergens.”

Toekomst

We willen een methodologie ontwikkelen met inbegrip van tools, ethische en juridische richtlijnen en engagementstrategieën rond het gebruik van AI

Blok en Van Hilten willen de komende tijd niet alleen het aantal scans uitbreiden, maar bedrijven ook praktische handvaten bieden. ‘Steeds meer bedrijven zijn zich ervan bewust dat ze in hun R&D-proces rekening moeten houden met ELSA. Ze kunnen ervoor kiezen om dit uit te besteden, maar in de toekomst willen we hen ook de mogelijkheid bieden om dit in eigen huis te doen. Wij willen ervoor zorgen dat we een deel van de aspecten zo kunnen formuleren dat we ze kunnen publiceren. Denk bijvoorbeeld aan het ontwikkelen van richtlijnen voor de agrifood sector. Wat is er allemaal wel of niet mogelijk? We willen een methodologie ontwikkelen met inbegrip van tools, ethische en juridische richtlijnen en engagementstrategieën rond het gebruik van AI in de agri-foodsector. Dat is een enorme klus, maar we gaan de uitdaging aan.”