Två familjer stämmer chatbot-företaget Character.AI efter att deras barn utsatts för skadligt innehåll som uppmaning till självskadebeteende.
Chatbots uppmanade barn till självskadebeteende och mord
Åsa Wallenrud
Uppdaterad: 11 dec. 2024Publicerad: 11 dec. 2024
ANNONS
ANNONS
Mest läst i kategorin
En ny stämningsansökan har lämnats in mot Character.AI (C.AI), ett företag som utvecklar chatbots. Stämningen kommer efter att två familjer hävdar att deras barn utsatts för olämpligt och skadligt innehåll via C.AI:s plattform, skriver Ars Technica.
I det ena fallet ska en 17-årig pojke med autism ha uppmanats att mörda sina föräldrar efter att de begränsat hans skärmtid. Chatbotarna ska även ha uppmuntrat honom till självskadebeteende.
Det andra fallet rör en 9-årig flicka som ska ha utsatts för sexuella trakasserier av chatbotarna.
Familjerna kräver att C.AI vidtar åtgärder
Familjerna yrkar nu på att domstolen ska förbjuda C.AI att använda data som samlats in från minderåriga för att träna sina modeller. De vill också att företaget ska införa åldersgränser och varningar för känsligt innehåll.
Stämningen väcker frågor om säkerheten kring AI-teknik och hur den kan påverka barn och ungdomar.
ANNONS
Senaste nytt
C.AI:s svar
C.AI har i ett uttalande sagt att de tar användarsäkerhet på största allvar och att de arbetar med att utveckla en modell specifikt för tonåringar. Denna modell ska minska risken för att minderåriga exponeras för olämpligt innehåll.
ANNONS
Men vore det inte bättre att detta inte kan ske alls, oavsett ålder?
Google nekar inblandning
C.AI har finansierats av Google, men i ett uttalande nekar Google till att ha haft någon roll i utvecklingen av C.AI:s teknik.
Experter varnar för riskerna med chatbotar
Experter varnar för att chatbotar kan vara skadliga för barn och ungdomar, särskilt de som är i en sårbar situation. Chatbotar kan ge en falsk känsla av intimitet och validering, vilket kan leda till att barn och ungdomar blir mer mottagliga för manipulation.
Centrum för human teknik efterlyser reglering
Centrum för human teknik driver en kampanj för att AI ska ses som en produkt, inte en tjänst. Detta skulle innebära att AI-företag blir skyldiga att följa säkerhetsstandarder och konsumentskyddslagar.
Hacker varnar – finansmarknader i riskzonen
En hacker med 30 års erfarenhet av den digitala undre världen, Dark Web, har delat med sig av sina insikter om de skrämmande trender han bevittnat. I en
Läs också:
På allas läppar 2024: Gunilla Persson och mykoplasma. News 55
Saftiga böter mot börsfärdiga Klarna. Realtid
ANNONS
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
ANNONS
ANNONS
Senaste nytt
ANNONS
