Nya kemiska vapen – så enkla är de att framställa

AI är bland de hetaste ämnena inom biotech just nu – läkemedelsutvecklare använder sig av AI för att komma fram till hur tusentals, kanske miljontals, molekyler interagerar med specifika biologiska mål för att utveckla nya läkemedel.

Men nyligen presenterade framstående forskare en studie om hur samma teknik med AI kan användas för att göra ont, särskilt oroande genom att upptäcka nya, läskigare kemiska vapen som giftiga gaser och pulver genom maskininlärning.

Hittade tiotusentals nya molekyler

Frågan dök upp under förra året, då den schweiziska staten beställde en studie som utfördes vid The Swiss Federal Institute for NBC (nuclear, biological and chemical) Protection av det lilla företaget Collaborations Pharmaceuticals. De gjorde om en maskininlärningsmodell för att plocka fram nya läkemedel och vände på steken – i stället sattes AI:n till att identifiera nya molekyler liknande den mycket dödliga nervgasen VX. På kort tid hittades tiotusentals nya molekyler. Det behövdes inte heller någon särskilt avancerad teknik – hela experimentet genomfördes på sex timmar med en vanlig Mac-dator.

”Det som inledningsvis stod ut mest var att många av de föreningar som hade genererats förutspåddes vara giftigare än VX. Och skälet till att det överraskar är att VX får anses vara ett av de mest potenta ämnen som vi känner till. Det innebär att du behöver en väldigt, väldigt, väldigt liten mängd för att det ska vara dödligt”, säger studiens huvudförfattare Fabio Urbina till The Verge.

Att AI kan framställa nya kemiska vapen gör experter inom bioteknikområdet oroliga – både över AI:s dolda faror och möjligheten att överdriva dem, skriver Lisa Jarvis i en analys hos Bloomberg.

Enklare att använda kända kemiska vapen än nya

Den omedelbara risken är sannolikt minimal, skriver hon, men debatten sätter fokus på behovet att se hur den snabba utvecklingen inom maskininlärning kan ge oavsiktliga konsekvenserna av framtida framsteg för läkemedelsutvecklare och statliga tillsynsmyndigheter.

Även om farliga molekyler kan identifieras med denna nya metod måste de fortfarande framställas och testas för att veta hur de beter sig i kontakt med människor – något som gör att sannolikheten för att en ondskefull aktör skulle försöka sjunker drastiskt.

“Jag är inte säker på att någon behöver distribuera en ny förening för att skapa förödelse – de kan bespara sig själva en hel del problem genom att bara göra Sarin eller VX, gud hjälpe oss”, säger Derek Lowe, en medicinsk kemist som skriver för tidningen Sciences läkemedelsblogg.

Läs även: Varningar och rapporter om kemiska vapen i Ukraina