Ny webbplats avslöjar Googles AI:s förmåga att utvinna detaljerad information från foton uppladdade på Google foto-tjänst.
Google avslöjad: Webbplats exponerar Googles AI-övervakning
Åsa Wallenrud
Uppdaterad: 04 dec. 2024Publicerad: 04 dec. 2024
ANNONS
ANNONS
Mest läst i kategorin
Theyseeyourphotos.com, som lanserades i maj, är ett initiativ av den tidigare Google-ingenjören Vishnu Mohandas. Mohandas, som nu driver den krypterade fotodelningstjänsten Ente, ville ge allmänheten en inblick i hur AI-modeller analyserar bilder.
De ser dina foton
Tjänsten låter användare ladda upp en bild till webbplatsen. Bilden skickas sedan till Googles bildanalysprogram i Google Cloud. Programmet genererar därefter en detaljerad beskrivning av bilden i tre paragrafer.
Mohandas testade webbplatsen med ett foto på sig själv, sin fru och dotter framför ett tempel i Indonesien. Googles AI identifierade inte bara templet och platsen, utan även modellbeteckningen på hans frus klocka – en Casio F-91W.
AI:n noterade dessutom att denna klockmodell ofta förknippas med islamistiska extremister. Ente justerade därefter AI-modellen för att ge mer objektiva och mindre kontroversiella beskrivningar.
ANNONS
Senaste nytt
Oro för framtiden och Google
Trots justeringarna kan AI:n fortfarande dra slutsatser om personerna på bilden, som etnicitet, social klass och sinnesstämning. Den kan också analysera klädsel och detaljer som tidpunkten på klockan.
Google hävdar att bilder som laddas upp till Google Photos endast används för att träna AI-modeller som hjälper användare att hantera sina bildbibliotek. Enligt Google säljs inte bildinnehållet till tredje part eller används för reklamändamål.
ANNONS
Användare kan även stänga av vissa analysfunktioner i Google Photos. Det är dock inte möjligt att helt förhindra att Google analyserar bilderna, eftersom datan inte är krypterad.
Ente – ett alternativ
Mohandas hoppas att Theyseeyourphotos.com får människor att reflektera över hur mycket information Google, och andra AI-företag, kan samla in genom att analysera tusentals bilder i molnet. Han uppmanar användare att överväga alternativa tjänster som Ente, som erbjuder kryptering och större kontroll över användarnas data.
Ente har dock också nackdelar. Eftersom tjänsten är mindre och öppen källkod, kan funktioner som fildelning och sökning vara mindre avancerade. Om en användare förlorar sitt lösenord, som också fungerar som krypteringsnyckel, kan de förlora åtkomst till hela sitt bildbibliotek. Inte bra.
Mohandas är bekymrad över hur mänsklighetens visuella arkiv kommer att användas i framtiden. Han oroar sig för att information från bilder kan missbrukas för att manipulera människor.
“Det skadar inte att vara försiktig, och det skadar inte att ha ett alternativ”, säger han.
Läs också:
Apple stäms för spioneri på anställda. Dagens PS
Sänkt skatt på din pension: Så mycket mer i plånboken efter nyår. News 55
Klonad AI-röst lurade bankernas säkerhetssystem. Realtid
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
ANNONS
ANNONS
Senaste nytt
ANNONS
