De gemeente Amsterdam stopt met een pilot met Microsoft Copilot. Uit een recente privacytoets van SLM Rijk blijkt dat Copilot vooralsnog niet compliant te gebruiken is, zegt de Vereniging Nederlandse Gemeenten.
SLM Rijk, dat namens de overeenkomsten met cloud- en softwareleveranciers voor de Rijksoverheid beheert, publiceerde eind december de resultaten van een Data Protection Impact Assessment over Microsoft Copilot. Daaruit blijkt dat er vier hoge risico's gepaard gaan met het gebruik van de AI-tool, die vooral voortkomen uit een gebrek aan transparantie van Microsoft over de verwerking van persoonsgegevens.
"De geïdentificeerde risico’s maken dat deze technologie op dit moment niet veilig en juridisch verantwoord binnen onze organisatie kan worden toegepast", zegt de gemeente Amsterdam een reactie aan de Vereniging van Nederlandse Gemeenten. "Daarom hebben we besloten onze pilot met Microsoft Copilot stop te zetten en de technologie voorlopig niet te implementeren."
VNG raadt het gebruik van Copilot en andere generatieve AI-tools echter niet af. De organisatie adviseert gemeenten vooral om bewust de keuze te maken of de risico's opwegen tegen de baten. "Gemeenten zullen zelf moeten afwegen of zij de risico’s die volgen uit de privacytoets van Copilot voldoende kunnen mitigeren of bewust accepteren."
SURF raadt naar aanleiding van de DPIA Nederlandse onderwijs- en onderzoeksinstellingen wel af om Copilot te gebruiken. De organisatie zei in december dat het in gesprek is met Microsoft om de risico's te mitigeren. Ook SLM Rijk zei in december met Microsoft in gesprek te zijn over de privacyrisico's. "Zodra er overeenstemming is bereikt over maatregelen die voldoende waarborgen bieden, zal SLM deze maatregelen evalueren en een herbeoordeling uitvoeren."
Source: Tweakers.net