Vad kostar generativ AI (SGE) Google?

En stor språkmodell, som Googles PaLM 2 eller OpenAIs ChatGPT, kräver enorma mängder datorkraft när den beräknar hur den ska formulera sitt svar på användarens fråga. Med det följer en betydande kostnad, främst på grund av behovet av dyra servrar.

Underskattas kostnaden för generativ AI?

Sedan den publika lanseringen av ChatGPT har det kommit åtskilliga rapporter om att Open AI blöder pengar.

Min hypotes är att många underskattar kostnaden för Googles generativa AI.
Eller är det jag som underskattar djupet på Googles fickor? 🤔

Oavsett vilket, så har jag försökt räkna på (med breda penseldrag, ska tilläggas) kostnaden för att lansera SGE brett, för miljarder Google-användare. Det ryktas nämligen att det är precis det som Google avser att göra under 2024.

Siffrorna

För att göra en någorlunda bra uppskattning av kostnaden krävs det såklart siffror:

• Hur många sökningar hanterar Google dagligen?
• För hur många av dessa avser Google att visa SGE?
• Vad kostar varje AI-genererat svar?

Antalet dagliga sökningar på Google

8.5 miljarder

Enligt dom senaste siffrorna så görs det varje dag cirka 8.5 miljarder sökningar på Google. Om världens rikaste, Elon Musk, skulle ge bort en dollar (av sina 248 miljarder) för varje sökning skulle det alltså ta mindre än en månad innan han var luspank.

SGEs penetrationsgrad

78%

Enligt en undersökning från Content Detector, där man manuellt har gått igenom 1000 sökningar med SGE aktiverat, visas generativ AI i hela 78% av fallen.

Kostnaden för generativ AI

0.36 cent per svar

Enligt analysföretaget SemiAnalysis är kostnaden för att generera ett svar från ChatGPT i snitt cirka 0.36 cent. Då PaLM 2 bygger på i princip samma teknik, är det rimligt att anta att kostnaden är likvärdig för Googles generativa AI.

Min uppskattningen är att SGE kommer att kosta Google cirka…

23,9 miljoner dollar per dag

Uppskattningen bygger på modellen: (dagliga sökningar × SGEs penetrationsgrad) × kostnaden per AI svar.

Det vill säga 8,7 miljarder (!) dollar årligen.

Notera att kostnaden för SGE ska adderas till redan befintliga kostnader som Google sök har för saker så som löpande utveckling av sina algoritmer, spindling av webben, anställda etc.

Dessutom tillkommer kostnaden för att kontinuerligt mata språkmodellen med ny, aktuell, information – något som jag inte har tagit med i min beräkning.

Googles nuvarande kostnader, utan SGE, beräknas uppgå till cirka 1.06 cent per sökning. Intäkterna sägs i sin tur vara 1.61 cent. Vinsten på 0.55 cent per sökning skulle med andra ord sjunka till runt 0.19 cent varje gång SGE visas.

Grovt uppskattat innebär alltså Googles implementering av generativ AI en minskad vinst med drygt 65% på runt 78% av alla sökningar.

Vad kan Google göra för kostnadsbesparingar?

För att spara pengar tror jag att Google kommer försöka att:

• Återanvända AI genererade svar
• Välja bort SGE oftare än vad som har spekulerats i

Google vore närmast korkade om de avser att låta AI generera helt nya och unika svar varje gång en sökning görs. För vanligt förekommande sökningar tror jag att sökjätten kommer att cache:a och återanvända svar.

Då löser de samtidigt ett annat stort problem med generativ AI – att svaren levereras för långsamt.

Vidare tror jag att Google under testperioden visar AI-genererade svar långt oftare än vad som kommer att vara fallet när SGE lanseras på bred front.

I många fall är AI:n nämligen helt överflödig.

Nedan är ett tydligt exempel på när den befintliga featured snippeten faktiskt levererar ett bättre och mer direkt svar på sökfrågan än SGE:

Kommer sökjätten att drabbas av intäktsförluster?

SGE kommer sannolikt innebära att:

• Färre väljer att lämna SERPenAkronym för Search Engine Results Page
• Antalet sökningar minskar

Mer kompletta svar direkt i SERPen leder troligen till att färre väljer att klicka sig vidare till externa källor, och längre sökfrågor leder sannolikt till ett färre antal sökningar. Svar som tidigare krävde 3-4 sökningar ska med hjälp av SGE kunna rymmas i en och samma sökning.

Problemet för Google är att:

1. Företagets affärsmodell bygger på att driva trafik från sökresultatet till externa sajter
2. Prismodellen för deras annonser är, och har alltid varit, ”pay-per-click” (dvs. att annonsören endast betalar vid ett annons-klick)

Ett sätt för Google att skydda sig mot intäktsförluster skulle kunna vara att ändra prismodell, från klassiska PPC till en CPM-modellAkronym för Cost Per Mille – där annonsören istället betalar för visningar.

Jag tror dock att PPC-modellen är för hårt inarbetad, och spår snarare att PPC-priserna kommer att skjuta i höjden.

Men… Nya intäkter då?

Hur jag vrider och vänder på det kan jag inte se hur övergången till SGE ska kunna ge Google nya eller ökade intäkter. Den ”nya” sökmotorn kommer med största sannolikhet vara sämre på det som är sökjättens stora kassako: att driva trafik till andra sajter via annonser.

Och eftersom man redan äger runt 90% av marknaden för sök, finns det inte heller mycket mer att hämta i form av en ökad marknadspenetration.

Drivkraften bakom förändringen tror jag är en helt annan: att försvara sin position som världens överlägset mest populära sökmotor. Google har insett att det vore kommersiellt självmord att inte hoppa på AI-hypen, och har beslutat sig för att acceptera den monetära förlusten för att behålla användarna.

Utan lanseringen av ChatGPT, och den press som konkurrenterna OpenAI och Microsoft har satt på företaget, tror inte jag att SGE hade lanserats. Åtminstone inte inom en överskådlig framtid.

Slutsats

Det här inlägget är såklart spekulativt – mina uträkningar är simpla och bygger på en rad mer eller mindre osäkra siffror. Jag påstår mig därför inte ha ett svar på vad SGE faktiskt kommer att kosta Google.

Det finns dessutom betydligt smartare människor än jag som jobbar dygnet runt med att få ekonomi i modellen.

Jag tror dock att vi konstatera att generativ AI inte kommer få Googles resultat att växa exponentiellt. Snarare tvärtom. Det kommer sannolikt kosta sökjätten att behålla sin marknadsposition. Exakt hur mycket tror jag knappt Sundar PichaiGoogles VD själv kan svara på.