DeepSeek: Kinesisk AI för bra för att vara sann?

Medan OpenAI spenderade mellan 100 miljoner och 1 miljard dollar bara för att träna GPT-4, plus hundratals miljoner i hårdvara, hävdar det kinesiska AI-företaget DeepSeek att det kan uppnå liknande resultat för bara 5,5 miljoner dollar totalt. Detta med endast 2 048 Nvidia-chip, jämfört med OpenAI:s uppskattade 10 000-30 000 enheter.

Historien har lärt oss att vara försiktiga med stora löften, inte minst från öst. År 1959 skröt Sovjetunionen med att man byggde kärnvapenmissiler ”som korvar”. USA tog påståendena på allvar och rustade upp kraftigt. Senare visade det sig att Sovjet bara hade fyra missiler som faktiskt fungerade. Vi har sett liknande mönster när det gäller Nordkoreas påståenden om militärteknologi.

Vad är DeepSeek?

DeepSeek är först och främst en språkmodell som kan hålla konversationer, skriva texter och lösa många språkbaserade uppgifter. I vissa språktester matchar den västerländska konkurrenter. Men den har också tydliga begränsningar – den kan till exempel inte läsa PDF-filer eller förstå bilder. Du kan dock gå tillbaka och återuppta tidigare konversationer.

Eftersom DeepSeeks AI inte är ansluten till internet hallucinerar den ofta fram falska svar där kunskapen tar slut. Vi har alla försökt att fråga en AI om oss själva. Medan ChatGPT och Gemini kan berätta vem jag är med god precision, ber Claude om ursäkt genom att säga att den inte vet. DeepSeek, å andra sidan, hävdar att jag är en fiktiv karaktär – en katt, skapad av Ingvar Ambjørnsen. Ack och ve.

Kinesisk AI och integritet

Det mest oroande är hur DeepSeek hanterar information. Allt lagras på servrar i Kina, där myndigheterna har full tillgång. Den kinesiska AI:n censurerar också aktivt innehåll om känsliga ämnen som Tiananmen-massakern, Taiwan-konflikten – och till och med Nalle Puh. Svar på sådana frågor raderas snabbt och ersätts med standardursäkter.

DeepSeek befinner sig i en speciell position eftersom bolaget delvis ägs av den kinesiska staten. Det innebär att normala marknadsregler inte gäller – staten kan subventionera verksamheten så länge den vill. Men vi måste också vara kritiska till västerländska AI-bolag som OpenAI, Google och Microsoft. De styrs av starka marknadskrafter och kommer alltid att prioritera vinst.

Skillnaden är att de västerländska bolagen verkar i öppna demokratier med pressfrihet och oberoende tillsyn. Det gör det lättare att avslöja och kritisera problematiska metoder. I Kina kontrollerar staten både medierna och tillsynsorganen.

Nya avslöjanden förändrar bilden

Nyligen gjordes sensationella påståenden av Scale AI-grundaren Alexandr Wang: DeepSeek påstås ha tillgång till över 50 000 Nvidia H100-chip som de inte kan prata om på grund av amerikanska exportkontroller. Om detta är sant sätter det DeepSeeks uttalanden i ett helt nytt ljus.

Påståendet att de bara använder 2 048 H800-chip kan vara ett försök att dölja deras faktiska kapacitet. Med 50 000 H100-chips kommer DeepSeek sannolikt att ha betydligt mer datorkraft än ChatGPT. Detta gör inte deras modell mer energieffektiv – tvärtom kan det betyda att de använder mycket mer resurser än de hävdar.

Detta förstärker farhågorna om DeepSeeks trovärdighet och transparens. Det tyder också på att företaget har hittat sätt att kringgå USA:s exportrestriktioner, vilket väcker nya säkerhetspolitiska frågor.

Reglering är nödvändig

Strikt reglering av AI, oavsett ursprung, kommer att vara nödvändig under de kommande åren. Både för att skydda integriteten och för att förhindra missbruk. Särskilt oroande är hur AI kan användas för att sprida felaktig information. Språkmodeller kan generera övertygande men falska nyhetsartiklar på några sekunder. De kan skapa deepfake-videor som är nästan omöjliga att skilja från verkliga inspelningar och sprida desinformation i stor skala på sociala medier.

Här har västländerna en fördel genom sina demokratiska system och fria medier, som kan avslöja och motverka sådan manipulation. Men avslöjandena om DeepSeeks påstått dolda datakapacitet visar hur svårt det kan vara att få insyn i vad statskontrollerade bolag från auktoritära regimer faktiskt gör. När sådana organisationer får tillgång till kraftfull AI-teknologi samtidigt som de aktivt döljer sina resurser och förmågor blir hotet mot demokratiska processer än mer allvarligt.

Kina har redan använt AI-verktyg för att påverka val i andra länder, sprida propaganda och manipulera den offentliga debatten. Med DeepSeek får de ytterligare ett kraftfullt verktyg i sin tekniska arsenal.

Mer info: chat.deepseek.com

Källor:

Forbes, Reuters, Medium