Bij persoonlijke gesprekken van gebruikers van AI-agent Muse kon iedereen meekijken. Meta grijpt in, maar het incident laat zien hoe privacygevoelig dit nieuwe gereedschap is.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Notities van een kandidaat ter voorbereiding op een vertrouwelijk sollicitatiegesprek met een bekend AI-bedrijf: niet iets wat deze kandidaat met de rest van de wereld wilde delen. Toch is dit wel gebeurd.
Het is een van de voorbeelden die beveiligingsbedrijf Claroc noemt na analyse van ruim 6.800 conversaties tussen gebruikers en de app Muse van Meta. Muse is een zogenoemde AI-agent, een persoonlijke assistent die autonoom taken kan uitvoeren namens de gebruiker; denk aan het beantwoorden van mails, het reserveren van een restaurant of het verrichten van aankopen.
Net als Google, OpenAI en Anthropic gelooft Meta heilig in dit soort toepassingen. Het bedrijf van Mark Zuckerberg integreert het hulpje in al zijn bestaande toepassingen, zoals WhatsApp.
De app, die vorige maand op de markt kwam, kende een extreem snelle opmars en was al snel het meest gedownload in de Amerikaanse appwinkels van zowel Android als Apple. In de eerste veertig dagen werd de app al bijna elf miljoen keer gedownload (waarvan ruim tien miljoen keer in de Verenigde Staten). In Europa is Muse overigens nog niet beschikbaar.
Meta heeft de assistent, waarvan de aaibare Joly de mascotte is, sterk gepromoot als een platform dat vanaf de basis is gebouwd met het oog op privacy en veiligheid. Maar juist daar gaat het mis, blijkt uit het onderzoek van Claroc.
Het probleem zit in de optie om interacties met Muse te delen met anderen. Wie daarvoor kiest, stuurt iemand anders een (lang) webadres waarop het gesprek is mee te lezen. Meta heeft er echter voor gekozen dat deze link in principe door iedereen is te openen.
Het bedrijf verwerkte de gekozen titel van het gesprek, gevolgd door een willekeurige code, rechtstreeks in het webadres. Zoekmachines indexeerden vervolgens al deze linkjes in een doorzoekbare database, zo bemerkte Claroc. Lang niet alle gevonden gesprekken bevatten gevoelige informatie, maar een deel wel. Zo bevatte een gesprek de volledige jaarlijkse vakantieplanning van een bedrijf met tientallen werknemers.
Experts wijzen al langer op privacyrisico’s van dit soort agents. Hoe meer vertrouwen gebruikers in hun agents hebben, hoe beter ze werken. Zo is het ook mogelijk om creditcardgegevens te koppelen, zodat de digitale hulpjes aankopen kunnen doen.
Meta heeft de deelfunctie inmiddels uitgezet.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant