Expert om AI: existentiell katastrof sannolik

AI – artificiell intelligens – brukar nämnas som en lösning i flera viktiga sammanhang. AI ska köra bilar, göra livsavgörande bedömningar inom olika vårdsektorer, komponera och skapa konst. En del av det har man redan uppnått.

Men det finns också rädsla för att artificiell intelligens ska skada människor, skriver Vice.

Oxfordforskare har i samarbete med Google DeepMind har nu kommit fram till att det inte bara är möjligt utan också “sannolikt” i en ny artikel.

Anledningen till att artificiell intelligens kan utgöra en existentiell risk för mänskligheten är att en AI är konstruerad med ett belöningssystem.

De mest framgångsrika AI-modellerna idag är kända som GAN, eller Generative Adversarial Networks. De har en tvådelad struktur där en del av programmet försöker förstå världen från de data den samlar in, och den andra delen försöker bedöma hur bra resultat det blir och fungerar som en artificiell belöning.

Men vad händer om incitamentet för den artificiella intelligensen att nå en belöning leder till att den börjar fuska? Och vad händer om mänskligheten då kommer till skada?

AI konkurrerar om energi och resurser

”Under de förhållanden vi har identifierat är vår slutsats mycket starkare än någon tidigare publikation – en existentiell katastrof är inte bara möjlig, utan sannolikt”, skriver forskaren  Michael Cohen på Twitter om studien.

Han säger i en intervju med Vice att världens ändliga resurser gör ett sådant scenario än mer troligt.

En AI som löpt amok kan vilja “eliminera potentiella hot” och “använda all tillgänglig energi” för att säkra kontroll över sin belöning. Exempelvis kan AI:n konstruera och tillämpa egna hjälpprogram.

Studien ser möjligheten att livet på jorden förvandlas till en kamp mellan mänskligheten, med dess behov av att odla mat och använda energi, och den avancerade AI:n, som skulle försöka utnyttja alla tillgängliga resurser för att säkra sin belöning.

Än så länge befinner sig inte den teknik som vi kallar för artificiell intelligens i den här kategorin. Men Cohen menar att vi inte bör utveckla mer avancerad artificiell intelligens förrän människor har lärt sig att hantera och kontrollera algoritmerna.

Läs också:

Metas chatrobot baktalar Zuckerberg: “utnyttjar människor”
AI vann konsttävling – retar upp konstnärer
AI lösning för jämställdhet bland chefer