Googles AI Overviews ger farliga och ospecifika svar

För några dagar sedan, i samband med utvecklarkonferensen Google I/O, lanserade Google funktionen AI Overviews för amerikanska användare. Den nya sökfunktionen ska kunna använda realtidsinformation, förstå flerskiktade argument och sammanfatta svar från många olika källor.

Som en del av presentationen visades hur AI Overviews kan svara på frågor som ”hitta de bästa yogastudiorna inom 10 minuter från mitt hem och vilka introduktionserbjudanden de har”.

Men bara några dagar efter att den nya sökfunktionen, vars svar visas ovanför de vanliga sökresultaten, blev tillgänglig började användare på sociala medier visa exempel på AI Overviews som ibland kom med galna svar på helt normala frågor.

Osmakliga och rent av farliga råd

En användare frågade Google hur han skulle göra för att förhindra att osten gled av hans pizza. Svaret på frågan? Du kan blanda lim i osten så fastnar den bättre!

Google is dead beyond comparison pic.twitter.com/EQIJhvPUoI

— PixelButts (@PixelButts) May 22, 2024

Ännu värre var att en annan användare fick ett recept på senapsgas när han bad om råd om hur han skulle rengöra sin tvättmaskin.

I asked how to clean my washing machine, and it told me to make chlorine gas pic.twitter.com/BniM2j1VGv

— goose queef (@Mia62651937) May 15, 2024

Källan till rådet att lägga lim i osten? Ett 11 år gammalt inlägg på den sociala mediesajten Reddit från en användare vid namn ”fucksmith”.

60 miljoner dollar till Reddit

Det är ingen slump att AI Overviews vidarebefordrar ett svar från en Reddit-användare, för i början av året ingick Google ett avtal med Reddit som innebär att det sociala mediet får 60 miljoner dollar (nästan 414 miljoner danska kronor) för att Google använder det sociala mediets innehåll för att träna sina AI-modeller. Detta rapporterades av det tyska teknikmediet Winfuture redan i februari.

Läs det finstilta

Men Google frånsäger sig allt ansvar för de svar som AI Overviews ger användarna. ”Generative AI is experimental”, står det i det finstilta under alla AI-genererade sökresultat, så det är upp till användarnas eget ansvar och mediekompetens att utvärdera de svar som den artificiella intelligensen ger.

Meghann Farnswort, en talesperson för Google, säger till The Verge att felen i fråga härrör från ”generellt mycket ovanliga frågor som inte är representativa för de flesta människors erfarenheter”.

Företaget har vidtagit åtgärder mot överträdelser av sina policyer, sa hon, och använder dessa ”isolerade exempel” för att fortsätta förbättra produkten.

Peter Gotschalk

(f. 1973): Chefredaktör L&B Home. Peter har arbetat för Ljud & Bild sedan 2012. Han har varit aktiv som teknikjournalist i många medier sedan 1998, bland annat som chefredaktör för prylmagasinet GEAR och som journalist för tidningarna PC World och Privat Computer. Peter skriver om mobiltelefoner och andra bärbara enheter samt om teknisk innovation, inklusive 5G, elektrisk mobilitet och smarta hem.