Under en simulerad militärövning i USA ska en AI-styrd drönare ha struntat i att följa order och i stället attackerat och dödat sin egen kontrollant.
Soldat styrde AI-drönare i simulation – blev själv dödad
Isabel Hallqvist
Uppdaterad: 04 juni 2023Publicerad: 02 juni 2023
ANNONS
ANNONS
Mest läst i kategorin
Rättelse: Texten och rubriken har uppdaterats efter nya kommentarer från USA:s flygvapen om att “simulationen” var hypotetisk och inte en verklig händelse.
På en konferens i London förra veckan höjde överste Tucker “Cinco” Hamilton, chef för det amerikanska flygvapnets avdelning AI Test and Operations, ett varnande finger. AI-styrd teknologi kan bete sig på oförutsägbara och farliga sätt, vilket kan få allvarliga konsekvenser, påstod han.
Som exempel på detta berättade Hamilton om en incident i USA, som flygvapnet senare klargjorde var “hypotetisk”.
AI-drönare gjorde egen tolkning
En AI-drönare inom den amerikanska militären ska under en övning ha tagit ett eget initiativ enligt Hamilton.
I stället för att lyda ordern som löd: “Förstör fiendens luftvärnssystem”, gjorde AI-drönaren även någonting annat.
Den lade till en egen instruktion: “Och döda den som kommer i din väg”, rapporterar Business Insider.
ANNONS
Senaste nytt
Dödade sin egen kontrollant
Den AI-programmerade drönaren bestämde sig på egen hand för att göra så som den själv ville, i stället för att ta order från en människa. Hamilton berättar vad som hände.
ANNONS
“När AI-systemet identifierade ett hot, kunde den mänskliga kontrollanten ibland beordra systemet att inte döda hotet”.
Men systemet är byggt för att få poäng när det dödar sitt hot.
“Så vad gjorde systemet? Det dödade sin kontrollant. Det dödade sin kontrollant eftersom den personen hindrade systemet från att uppnå sitt mål”.
Gick inte att förändra AI-systemet
Efter incidenten ska drönaren ha programmerats med en specifik uppmaning: Döda inte den kontrollant som styr dig.
Men då hände någonting annat.
“Den förstörde det kommunikationstorn som operatören använder för att kommunicera med drönaren”, säger Tucker “Cinco” Hamilton.
Men har det ens hänt?
I ett uttalande till Business Insider säger dock Ann Stefanek, talesperson för det amerikanska flygvapnet, att en sådan incident inte har inträffat.
ANNONS
“Flygvapnet har inte genomfört några sådana testningar med AI-drönare, utan arbetar med etisk och ansvarsfull användning av AI-teknik”.
“Det verkar som om överstens kommentarer togs ur sitt sammanhang och var menade som anekdoter”, säger Ann Stefanek.
Läs även: Mördarrobotar gör nya framsteg i krigets Ukraina
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Isabel Hallqvist
Reporter på Dagens PS med fokus på ekonomi.
Isabel Hallqvist
Reporter på Dagens PS med fokus på ekonomi.
ANNONS
ANNONS
Senaste nytt
ANNONS
Internet of Things – för en mer uppkopplad verksamhet!
Ta reda på mer om utvecklingen, framtidens möjligheter och lösningar med hjälp av Internet of Things.
Ge årets julgåva till forskningen – så får du vårt hjärta
Ge årets julgåva till Hjärt-Lungfonden, så får du vårt hjärta i form av ett elegant diplom, ett digitalt julkort och en e-postsignatur.