Den svenska AI-forskaren Professor Max Tegmark, varnar för att utvecklingen av artificiell generell intelligens (AGI) kan få långtgående konsekvenser om det inte regleras nu.
Svenska forskaren larmar: AI måste regleras nu
Mikael Gullström
Uppdaterad: 17 nov. 2024Publicerad: 17 nov. 2024
ANNONS
ANNONS
Mest läst i kategorin
Under en intervju med Fast Company framhöll Max Tegmark att AGI sannolikt kan bli verklighet inom en snar framtid och att detta kräver omedelbara insatser för att säkerställa teknologins ansvarstagande användning.
Vi måste ta ansvar för utvecklingen
I mars 2023 publicerade Future of Life Institute ett öppet brev som uppmanade tech-industrin att pausa utvecklingen av AI-modeller kraftigare än OpenAIGPT-4 i sex månader.
Trots att brevet fick över 33 000 underskrifter, inklusive tunga namn inom AI-forskningen, ignorerades uppmaningen.
Tegmark menar dock att initiativet ändå var framgångsrikt genom att det mainstreamade diskussionen om riskerna med AGI och gav legitimitet åt en oro som många tidigare inte vågade uttrycka.
Läs mer:
AI motståndare varnas: Anpassa er eller dö. Realtid
En central del av diskussionen rör behovet av säkerhetsstandarder för AI, något Tegmark anser vara märkligt frånvarande i jämförelse med andra industrier.
Han liknar AI-industrin vid läkemedelsindustrin innan FDA etablerades: utan en reglerande myndighet är det omöjligt för företag att ensidigt pausa utvecklingen utan att förlora konkurrensfördelar.
ANNONS
Senaste nytt
Donald Trumps roll i framtida AI-politik
ANNONS
Med Donald Trump president kan frågan om AGI komma att bli avgörande, enligt Tegmark.
Han ser Elon Musk, som är rådgivare till Future of Life Institute och förespråkar AI-reglering, som en potentiell nyckelspelare i att påverka Trumps administration i en mer ansvarsfull riktning.
Musk har tidigare stöttat lagförslag som SB 1047 i Kalifornien, vilket stärker AI-reglering.
Tegmark uttrycker dock oro över att politiska krafter kan motarbeta även de svagaste regleringarna, inklusive Joe Bidens exekutiva order om AI, som han beskriver som “väldigt svag”.
Han framhåller att om AGI utvecklas utan kontroll under denna period, kan konsekvenserna bli katastrofala, både för mänskligheten och den politiska sfären. “Om vi förlorar kontrollen över AGI, spelar inget annat någon roll längre,” beskriver han i intervjun med Fast Company.
Vetenskapen om att förstå och kontrollera AI
Parallellt med sitt policyarbete bedriver Tegmark forskning vid MIT för att bättre förstå hur stora språkmodeller fungerar, ett område han kallar “digital neurovetenskap”.
Genom att analysera de digitala motsvarigheterna till neuroner i AI-system kan forskare kartlägga hur modeller lagrar information och tar beslut.
Detta arbete, menar Tegmark, är avgörande för att skapa de säkerhetsmekanismer som krävs för att förhindra oavsiktlig skada, exempelvis genom att begränsa AIkunskap om farliga ämnen som biologiska vapen.
ANNONS
Han ser också potential för AI att användas för positiva ändamål, såsom att bota sjukdomar och minska mänskligt lidande. Dock kräver detta att utvecklingen sker under noggrann kontroll och med tydliga säkerhetsstandarder.
Måste fatta demokratiska beslut
Tegmark efterlyser tydligare nationella riktlinjer för AI och framhåller att industrin måste behandlas som vilken annan bransch som helst. Han kritiserar de dubbla budskapen från teknikföretag som ber om reglering men motsätter sig specifika lagförslag när de läggs fram.
För honom är det avgörande att besluten fattas demokratiskt och att företagens inflytande begränsas i dessa processer.
Sammanfattningsvis ställer Max Tegmark utvecklingen av AGI i centrum för mänsklighetens framtid. Med rätt säkerhetsåtgärder kan teknologin bli en kraft för det goda, men utan dem riskerar vi att förlora kontrollen över vår egen framtid
Fakta om olika typer av AI:
Generativ AI
Generativ AI är en form av artificiell intelligens som kan producera nytt innehåll som text, bilder, ljud eller video baserat på stora mängder träningsdata.
Den kan skapa originellt material som liknar mänskligt skapat innehåll. Exempel inkluderar ChatGPT och Perplexity.
Artificiell Generell Intelligens (AGI)
AGI, även kallad stark AI, syftar på hypotetiska AI-system som kan matcha eller överträffa mänsklig intelligens över ett brett spektrum av kognitiva förmågor.
AGI skulle kunna utföra alla intellektuella uppgifter som en människa kan, inklusive att använda tidigare kunskap i nya situationer, fatta egna beslut och vara kreativ.
Artificiell Superintelligens (ASI)
ASI representerar en teoretisk nivå av AI som är ännu mer avancerad än AGI. Ett ASI-system skulle besitta alla mänskliga förmågor men vara oerhört mycket snabbare och bättre, och därmed kunna överträffa människor inom i princip alla områden
Läs mer:
Miljoner svenskar använder AI – men det finns en hake. Dagens PS
ANNONS
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Mikael Gullström
Chefredaktör och ansvarig utgivare.
Mikael Gullström
Chefredaktör och ansvarig utgivare.
ANNONS
ANNONS
Senaste nytt
ANNONS
