Hoe zou de sfeer op Google’s hoofdkwartier zijn? Gokje: niet zo heel erg best. Het machtige techbedrijf is gezien zijn grote financiële belangen gedwongen voorzichtig te opereren en kan, anders dan bijvoorbeeld OpenAI, niet al te snel vol op het AI-orgel gaan.
Daar is veel voor te zeggen. Die behoedzaamheid zou dan wel moeten resulteren in nieuwe diensten en producten waar goed over is nagedacht en die aantoonbaar beter zijn dan die van de jonge honden die de concurrentie vormen.
Dat is niet het geval. Neem AI Overview, Google’s nieuwe manier van zoeken die onlangs in de VS het licht zag. Voor wie het heeft gemist: zo’n 25 jaar geleden kregen we van Google een lijst linkjes met de volgens de zoekdienst meest relevante sites die antwoord moeten geven op iedere vraag.
Dat kan ook anders, toonde nieuwkomer Perplexity al aan. In plaats van een rij linkjes kan AI ook een kant-en-klaar antwoord formuleren. AI plukt dan uit diverse bronnen nuttige informatie, gooit dat in een vat, roert wat en combineert alles tot één verhaal.
Prachtig, vinden veel mensen dat. Het antwoord van Google liet lang op zich wachten, omdat de zoekgigant niet over één nacht ijs wilde gaan. Allemaal volkomen logisch: de belangen zijn zowel op gebied van financiën als reputatie gigantisch.
Des te pijnlijker is het pr-drama dat zich de afgelopen week rondom AI Overview ontvouwde. Net als Perplexity geeft AI Overview een prettig leesbaar verhaal als antwoord op vragen. Dat gaat niet altijd goed. Google mag dan benadrukken dat het bijna altijd wél goed gaat, de voorbeelden die het tegendeel bewijzen, blijven hangen. Doe lijm op je pizza als je wil dat de kaas beter blijft kleven. Doe mosterdgas in je wasmachine als je hem schoon wil maken.
In het kielzog van deze rare adviezen werden sociale media overspoeld met nog meer bizarriteiten, waarvan lastig is na te gaan of Google echt die antwoorden gaf of dat ze door nijvere internetters in elkaar zijn geknutseld in de hoop op likes. Het doet er niet eens meer toe, het kwaad is al geschied.
De voorvallen tonen een fundamentele kwetsbaarheid aan van AI-teksten. Die komen tot stand op basis van statistiek in combinatie met grote hoeveelheden teksten waarmee de AI-modellen zijn getraind. In dat bronmateriaal zit ook rommel, die er op onverwachte momenten ook uitkomt. Die lijm op de pizza? Een elf jaar oud lollig commentaar op het forum Reddit.
Hoe nu verder? Ook al lukt het Google om alle blunders eruit te slopen, dan nog is er een elementair probleem met deze manier van presenteren van zoekresultaten. In de woorden van AI-onderzoeker Emily Bender: informatie is relationeel. Wie op ‘ouderwetse’ linkjes klikt, ziet informatie in een bepaalde context en kan die informatie wegen tegenover andere bronnen.
Maar die ‘oude’ zoekdienst van Google? Het algoritme erachter geldt sinds jaar en dag als het best bewaarde geheim in de tech-industrie. Welke sites komen bovenaan? Alleen Google wist dat. Deze week lekten duizenden pagina’s documentatie uit die een inzicht geven in Google’s grootste geheimen. Nóg weer een hoofdpijndossier.
Geselecteerd door de redactie
Source: Volkskrant columns