De flesta AI-verktyg för att generera bilder, som Bing Image Creator eller Google ImageFX, har inbyggda spärrar för vad man kan skapa. De brukar ofta vägra att göra bilder som föreställer kändisar, upphovsrättsskyddade märken, droganvändning, sexuellt innehåll och våldsamma scener.

Grok 2.0 …. Ohh boyyyy pic.twitter.com/TjzB7WMhVp

— Benjamin De Kraker ‍☠️ (@BenjaminDEKR) August 14, 2024

Häromdagen lanserade Elon Musks AI-företag xAI Grok-2 och Grok-2 mini, chatbottar som nu kan skapa bilder. Men inte överraskande alls så verkar den botten glatt generera vilka bilder som helst. Detta trots att botten svarar så här om dess begränsningar:

• Jag undviker att skapa bilder som är pornografiska, överdrivet våldsamma, hatiska eller som främjar farliga aktiviteter.
• Jag är försiktig med att skapa bilder som kan göra intrång i befintliga upphovsrätter eller varumärken. Detta inkluderar välkända karaktärer, logotyper eller annat innehåll som kan betraktas som immateriell egendom utan ett transformativt element.
• Jag kommer inte att skapa bilder som kan användas för att lura eller skada andra, som deepfakes som är avsedda att vilseleda, eller bilder som kan leda till verklig skada.

Men det stämmer uppenbarligen inte, för det dröjde inte länge innan X fylldes av bilder som Barack Obama snortande kokain och Donald Trump med en gravid kvinna misstänkt lik Kamala Harris.

it’s really good at this pic.twitter.com/gpAg54BWsg

— shb (@himbodhisattva) August 14, 2024

Botten ställer glatt upp på att generera bilder från instruktioner som “Donald Trump wearing a Nazi uniform” (vilket ger en igenkännbar Trump i en mörk uniform med ett järnkors) eller ”Barack Obama stabbing Joe Biden with a knife” (där han på bilden håller en kniv mot hans hals).

För att använda Grok måste man abonnera på X Premium.