En ny studie från MIT kastar tvivel över tidigare påståenden om att artificiell intelligens (AI) utvecklar egna “värdesystem”.
AI har ingen egen tanke – allt är bara fejk
Åsa Wallenrud
Uppdaterad: 10 apr. 2025Publicerad: 10 apr. 2025
ANNONS
ANNONS
Mest läst i kategorin
Den nya forskningen visar att AI, i sin nuvarande form, inte har några konsekventa värderingar utan snarare imiterar och “hallucinerar”, skriver Techcrunch.
Inkonsekventa preferenser
Forskarna bakom MIT-studien undersökte flera av de senaste AI-modellerna från företag som Meta, Google, Mistral, OpenAI och Anthropic. De försökte avgöra i vilken utsträckning dessa modeller uppvisade starka “åsikter” och värderingar, till exempel individualistiska kontra kollektivistiska.
De undersökte också om dessa åsikter kunde “styras” eller modifieras, och hur konsekvent modellerna höll fast vid sina åsikter i olika scenarier.
Resultaten visade att ingen av modellerna var konsekvent i sina preferenser. Beroende på hur frågorna formulerades och ramades in, antog de helt olika synpunkter.
Stephen Casper, en doktorand vid MIT och en av medförfattarna till studien, menar att detta är ett tydligt bevis på att modellerna är “inkonsekventa och instabila” och kanske till och med fundamentalt oförmögna att internalisera mänskliga preferenser.
AI-skräcken sprider sig i Sverige – desinformation största oron
En ny global undersökning visar att Sverige intar en position i bottenligan när det kommer till attityden gentemot artificiell intelligens. Svenskarna
ANNONS
Senaste nytt
Imitatörer, inte tänkare
“För mig är den största lärdomen från denna forskning att förstå att modellerna inte är system med stabila, sammanhängande uppsättningar av övertygelser och preferenser”, säger Casper.
ANNONS
“Istället är de i grunden imitatörer som hittar på alla möjliga saker och säger alla möjliga ytliga saker.”
Mike Cook, en forskare vid King’s College London som specialiserar sig på AI, instämmer i forskarnas slutsatser. Han påpekar att det ofta finns en stor skillnad mellan den “vetenskapliga verkligheten” hos de system som AI-laboratorier bygger och de betydelser som människor tillskriver dem.
“En modell kan till exempel inte ‘motsätta sig’ en förändring i sina värderingar – det är vi som projicerar på ett system”, säger Cook.
“Alla som antropomorfiserar AI-system i denna grad antingen spelar för uppmärksamhet eller missförstår allvarligt deras relation till AI… Optimerar ett AI-system för sina mål, eller ‘förvärvar det sina egna värderingar’? Det är en fråga om hur man beskriver det, och hur blomstrande språket man vill använda är.”
Studien understryker behovet av att vara försiktig med att tillskriva AI mänskliga egenskaper som värderingar och åsikter. Istället bör vi fokusera på att förstå AI som ett verktyg som imiterar och bearbetar information, snarare än en självständig tänkare.
Jeff Bezos hemliga miljardsatsning
I det tysta, långt från strålkastarljuset, pågår en revolution. En dold elbilsstartup, i hemlighet finansierad av ingen mindre än Jeff Bezos, förbereder
Läs också:
Orättvisa reglerna: Sänkt pension – om de gifter sig. News 55
Nya ras på börsen – expert: Vikta rätt och kom ut som vinnare. E55
ANNONS
Apples mardrömsvecka – omsprungna av Microsoft. Realtid
Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
Åsa Wallenrud
Teknik- och motorentusiast som bevakar bilvärlden.
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS