Google is verantwoordelijk voor een aantal onjuiste uitspraken die in een AI-overzicht van zoekresultaten stonden. Dat heeft een rechter in München bepaald. Twee uitgeverijen waren naar de rechter gestapt, omdat het AI-overzicht hen ten onrechte als onbetrouwbaar en frauduleus had omschreven.
is techredacteur van de Volkskrant. Hij schrijft onder meer over digitale autonomie, sociale media en games.
Als het oordeel van de rechter blijft staan, schept dat een precedent dat Google aansprakelijk zou kunnen stellen voor de inhoud van uitspraken van zijn zoekmachine-chatbot. Een belangrijke kanttekening is dat het de uitspraak van een kort geding betreft, en de uitspraak daarom niet definitief is. Het is bovendien zeer aannemelijk dat Google ertegen in beroep gaat.
Volgens onderzoek dat AI-bedrijf Oumi deed op verzoek van The New York Times is zo’n 91 procent van de tekst van Googles AI-overzicht feitelijk juist. Dat betekent dat de AI-functie wereldwijd elk uur vele miljoenen onjuiste of misleidende teksten genereert. Volgens de Duitse rechter komen die uitspraken niet van een ontoerekeningsvatbaar AI-systeem, maar van Google zelf.
De Duitse rechtszaak ging over Google-zoekopdrachten naar VerslagsHaus24 en GeraMond, twee uitgeverijen. Zodra werd gezocht op, bijvoorbeeld, ‘GeraMond betrouwbaar’, gaf het AI-overzicht van Google het antwoord dat de uitgeverijen bekendstaan als onbetrouwbare partijen. Dit is niet het geval. Volgens de gegenereerde samenvatting zouden de uitgeverijen zelfs frauduleus te werk gaan, slecht bereikbaar zijn en banden hebben met schimmige internetbedrijven.
De uitgeverijen maanden Google om deze foutieve en schadelijke omschrijvingen aan te passen, maar hier werd niet direct gevolg aan gegeven. Daarom spanden de uitgeverijen een kort geding aan.
Dat wonnen ze: volgens de rechter verwarde het AI-overzicht de uitgeverijen met andere, minder betrouwbare bedrijven. In het oordeel schrijft de rechter dat geen van de webpagina’s die onder de AI-samenvatting te vinden waren, stelde dat de uitgeverijen slecht zaken deden.
‘We bestuderen deze beslissing zorgvuldig’, reageerde een woordvoerder van Google. Hij benadrukte dat Google ervoor probeert te zorgen dat het overgrote deel van de AI-samenvattingen accurate informatie bevat.
‘Dit is potentieel een enorm belangrijke uitspraak’, zegt Natali Helberger, hoogleraar recht en digitale technologie aan de Universiteit van Amsterdam. De zaak gaat volgens haar over een fundamentele kwestie in het internetrecht.
Bedrijven zoals Google of Meta worden wettelijk over het algemeen niet aansprakelijk gesteld voor de uitspraken op hun platforms, tenzij die uitspraken zelf onrechtmatig zijn. Was de foutieve informatie over de Duitse uitgeverijen bijvoorbeeld op een website te vinden geweest, dan zou de eigenaar van de website verantwoordelijk zijn.
Maar volgens de Duitse uitspraak gaat dat niet op voor de samenvattingen van Googles AI-overzicht. Wat er in dat overzicht stond, is volgens het Duitse hof geproduceerd door Googles AI-functie, en dus is het bedrijf verantwoordelijk voor de inhoud.
De vrijstelling die techbedrijven krijgen voor de inhoud op hun platforms staat al lang ter discussie. ‘Aan de ene kant kun je zeggen dat die regeling het functioneren van de bedrijven mogelijk maakt’, zegt de hoogleraar. ‘Maar aan de andere kant bieden de bedrijven niet alleen een platform. Ze maken vaak sturende beslissingen over welke websites, berichten en video’s we zien en niet zien.’
De argumenten waarmee de rechter het oordeel onderbouwt, zijn volgens Helberger interessant. Ten eerste maakt de rechter een onderscheid tussen een pagina zoekresultaten en een AI-overzicht: dat laatste is een gestructureerde, nieuwe tekst. Ook stelt de uitspraak dat alleen Google de controle heeft over de technologie die de samenvattingen genereert.
Ten slotte schrijft de rechter dat de AI-samenvattingen niet noodzakelijk zijn voor het gebruik van het internet, in tegenstelling tot een pagina met zoekresultaten. Google probeert de nieuwe AI-functies juist neer te zetten als essentieel onderdeel van de evolutie van het internet.
Blijft de uitspraak staan, dan schept het volgens Helberger een ‘enorm belangrijk precedent’. Dat kan ook gelden in Nederland, waar de wet ongeveer hetzelfde is ingericht als in Duitsland. ‘Denk aan de praktische gevolgen’, zegt Helberger. ‘Dat Google alles moet gaan checken wat AI opschrijft. Ik weet niet eens hoe ze dat gaan doen.’
Luister hieronder naar onze podcast de Volkskrant Elke Dag. Kijk voor al onze podcasts op volkskrant.nl/podcasts.
Geselecteerd door de redactie
Source: Volkskrant