Vvedenie

Sami po sebe kliki s reklami uje davno ne interesuut reklamodateley. V samom prostom slu4ae reklamodateley interesuet 4islo konversiy. Poetomu pered tem kak vistavit' stavki, nujno ocenit' kakaa dola klikov po klu4eviku zakon4itsa konversiey.

Kone4no, est' i reklamodateli, kotorix interesuet ne tol'ko 4islo konversiy, no i doxod. No ojidaemiy doxod na klik rass4itivaetsa primerno po takim je principam, kak i konversia.

Mi, kone4no, mojem prosto vzat' pokazatel' konversii klu4evika, odnako eto dovol'no neto4naa ocenka. Naprimer, esli mi monetku podkinem 10 raz, to ne vsegda u nas budet 5 orlov i 5 re6ek. Takje i pokazatel' konversii dovol'no sil'no kolebletsa iz nedeli k nedele v silu slu4aynosti.

Veroatnost' konversii

Pokazatel' konversii i veroatnost' konversii – eto dve bol'6ie raznici. Naprimer, pri 1 klike i 0 konversiy pokazatel' nulevoy. No eto ne zna4it, 4to veroatnost' konversii toje nulevaa, i nikto nikogda ne konvertiruetsa.

Pokazatel' – eto nekotoroe 4islo, kotoroe pozvolaet nam ocenit' veroatnost' konversii. 4em bol'6e u nas klikov, tem to4nee pokazatel' konversii. Dalee mi budem nazivat' veroatnost' konversii prosto «konversiey».

Na6a zada4a maksimal'no to4no ocenit' konversiu. 4em to4nee mi eto sdelaem, tem bol'6e konversiy smojem polu4it' za te je den'gi.

Kombinacia ocenok

Po4ti vse sovremennie algoritmi ma6innogo obu4enia ispol'zuut princip vzve6ennogo golosovania. On dovol'no prost i xoro6o vam znakom po nekotorim vidam sporta, KVN i konkursam krasoti.

Neskol'ko sudey vistavlaet ocenki u4astniku, posle 4ego s4itaetsa itogovaa ocenka – kak srednee mejdu ocenkami sudey. Naprimer, 3 sud'i postavili 7, 8 i 9, vi4islaetsa srednaa ocenka (7+8+9)/3= 24/3=8.

Sud'i, ne vsegda ob&ektivni, i ix ocenki ne to4ni. No s rostom 4isla sudey povi6aetsa ob&ektivnost' (to4nost') ocenki. Dopustim, ob&ektivnaa ocenka u4astnika 7 ballov. Sud'a s veroatnost'u v 50% snijaet ocenku na 1 ball. S veroatnost' v 50% zavi6aet na 1 ball. Srednaa o6ibka ravna 1 ballu.

Esli u nas est' 2 sud'i, to vozmojni 4 ravnoveroatnix kombinacii

V itoge srednaa o6ibka sokratilas' vdvoe do 0,5 ballov. Drugimi slovami, uveli4enie 4isla sudey povi6aet to4nost' itogovoy ocenki.

Vesa

Vse ludi raznie, i odin sud'a mojet davat' bolee to4nie ocenki, 4em drugoy. Eto takje mojno u4est'. Nujno vzat' ne prostoe srednee, a srednevzve6ennoe, gde ves kajdogo sud'i zavisit ot ego ob&ektivnosti. Naprimer, golos pervogo sud'i s4itat' za 2 golosa.

• E – final'naa ocenka
• E – ocenki sudey
• w – vesa sudey
• n – 4islo sudey

Svoystva

Pri vzve6ivanii itogovaa ocenka budet mejdu isxodnimi ocenkami, ne bol'6e maksimal'noy i ne men'6e minimal'noy.

Esli mi pravil'no podberem vesa, to eto povisit ka4estvo ocenki. Pri xoro6em podbore final'naa ocenka budet lu46e, 4em ee sostavlau6ie. Daje esli mnojestvo ocenok ne namnogo lu46e slu4aynix, to final'naa ocenka budet namnogo lu46e slu4aynoy.

Pereobu4enie

Drugoe preimu6estvo vzve6ennogo golosovania – otsutstvie pereobu4enia. E6e let 15 nazad v ma6innom obu4enii nabludalsa paradoks: vi4islitel'nie mo6nosti rosli, no ma6ini ot etogo ne stanovilis' umnee. Posle nekotorogo urovna uveli4enie slojnosti algoritma uxud6alo ka4estvo prognoza. Etot effekt nazivaetsa pereobu4eniem.

Odnako, v konce 90-x obnarujili vixod. Okazalos', 4to vzve6ennoe golosovanie, snijaet pereobu4enie. Poetomu sey4as po4ti vse algoritmi ma6innogo obu4enia ispol'zuut vzve6ennoe golosovanie.

Nadejnost'

No samoe vajnoe v na6em slu4ae – eto visokaa nadejnost'. Esli odna iz ocenok imeet visokuu pogre6nost', to eto re6aetsa avtomati4eski – prosto snijeniem vesa. Pri pravil'nom podbore vesov, vzve6ennoe golosovanie budet davat' adekvatniy rezul'tat, daje kogda po4ti vse ocenki «viydut iz stroa».

Daje esli u klu4evika net klikov i net pokazatela konversii, u nas est' pokazatel' konversii ob&avlenia i sayta.

Paradoks Markovi4a

Mnogie iz vas sli6ali o portfel'noy teorii Markovi4a. Ona rasskazivaet o tom, kak podbirat' optimal'niy investicionniy portfel', obladau6iy samoy visokoy doxodnost'u pri zadannom riske.

Na perviy vzglad, nujno vse vlojit' v samuu bistrorastu6uu kompaniu. Odnako etot variant o4en' riskovanniy – esli ona razoritsa, to mi vse poteraem. Nujno diversificirovat' portfel', 4tobi snizit' risk.

A protiv ispol'zovania t.n. portfel'noy teorii v kontekstnoy reklame, kotoraa s teoriey Markovi4a ne imeet ni4ego ob6ego. Odnako v teorii Markovi4a est' dovol'no prime4atel'niy paradoks.

Dopustim est' 2 tipa cennix bumag, bumaga B avno xuje A: men'6aa doxodnost' i vi6e risk. V ob6em slu4ae optimal'niy investicionniy portfel' budet soderjat' obe cennie bumagi (estestvenno, dola bumagi A budet vi6e). Eto proisxodit, poskol'ku ob6iy risk snijaetsa iz-za diversifikacii portfela.

Primerno takoy je paradoks su6estvuet i pri vzve6ivanii. Esli est' dve ocenki: o4en' xoro6aa A i o4en' ploxaa B, to optimal'niy ves B ne budet raven nulu.

Eti dva paradoksa ob&asnautsa odnoy i toy je formuloy. Toje proisxodit 4to-to vrode diversifikacii riskov.

Kontekstnaa reklama

Vernemsa k kontekstnoy reklame. Kak a uje govoril, pokazatel' konversii – ocenka konversii. T.e. mojno skazat' 4to veroatnost' konversii primerno ravna pokazatelu konversii. Obozna4im pokazatel' kak r, a veroatnost' kak p:

Takje mi mojem skazat', 4to veroatnost' konversii primerno ravna pokazatelu konversii sayta (m).

Iz 4ego polu4aem vzve6ennuu ocenku:

Vesa (w) podbirautsa tak, 4tobi snizit' pogre6nost' itogovogo prognoza:

• ves pokazatela klu4a zavisit ot 4isla klikov. Esli 4islo klikov nulevoe, to on raven nulu i formula svoditsa prosto k konversii sayta.
• ves konversii sayta zavisit ot togo, naskol'ko raznaa konversia klu4evix slov. 4em bolee raznie klu4evie slova, tem men'6e ves m.

PBB

Odin iz metodov re6enia na6ey zada4i v matstatistike – eto beta-binomial'naa model' s opredeleniem apriornoy dispersii po metodu naibol'6ego pravdopodobia. Dla kratkosti mi budem ego nazivat' PBB (Prostey6aa Beta-Binomial'naa model').

Eto metod izvesten uje let 50. Takje on upomanut v patente Marin Software. Xota, vozmojno, v Marin Software sey4as ispol'zuet drugoy algoritm.

Beta-binomial'naa model'

Slu4aynie veli4ini pod4inautsa nekotorim zakonam raspredeleniam. Zakon govorit o tom, kakie zna4enia vstre4autsa 4a6e, a kakie – reje. Naprimer, ludey srednego rosta bol'6e, 4em o4en' visokix. Znaa zakon, mi mojem sdelat' nekotorie vivodi. Naprimer, esli mi voz'mem slu4aynogo 4eloveka, to s veroatnost'u v 95% ego rost budet nije dvux metrov.

U zakona raspredelenia est' 2 osnovnix momenta:

• Matojidanie. Grubo govora, srednee. Naprimer, sredniy rost 4eloveka.
• Dispersia – govorit o tom, naskol'ko razniy rost u raznix ludey.

Iz teorii veroatnostey izvestno, 4to 4islo konversiy pod4inaetsa binomial'nomu raspredeleniu s parametrami p (konversia) i n (4islo klikov). Eto zapisivaetsa tak:

Esli mi voz'mem slu4ayniy klu4evik s sayta (o kotorom mi bol'6e ni4ego ne znaem), to ego konversia budet pod4inat'sa nekotoromu zakonu. Kak ni trudno dogadat'sa, v beta-binomial'noy modeli s4itaetsa konversia pod4inatsa beta-raspredeleniu.

Gde m – matojidanie (srednaa konversia u klu4evikov na sayte). Parametr A – eto nekotoraa mera «odinakovosti» konversii u klu4evikov. On obratno zavisit ot dispersii. 4em bolee raznaa konversia u klu4ey, tem men'6e A.

Dopustim, mi znaem, 4to u klu4evika bilo n klikov i s konversiy. Ispol'zua teoremu Bayesa, posle dolgix ras4etov polu4im, 4to konversia etogo klu4evika imeet sleduu6ee raspredelenie:

Eto na6e predstavlenie o konversii klu4evika, sdelannoe na osnove ego dannix i raspredelenia klu4evikov na sayte.

Matojidanie etogo raspredelenia budet ravno:

Eta formula govorit o sredney konversii klu4evogo slova, imeu6ego s konversiy i n klikov. Eto iskomaa ocenka konversii.

Parametr A vi4islaetsa metodom naibol'6ego pravdopodobia. Nujno podobrat' takoy A, kotoriy lu46e vsego sootvetstvuet dannim sayta. Etot ras4et dovol'no slojen i daje na komp'utere zanimaet mnogo vremeni. Dla nego nujno vi4islit' po 90 special'nix matemati4eskix funkciy (gamma i poligamma) na kajdiy klu4evik.

Srednee vzve6ennoe

Formula iz pro6loy glavi eto srednee vzve6ennoe pokazatela sayta i klu4evogo slova s vesami:

4em bolee odnorodnie klu4i na sayte, tem sil'nee u4itivaetsa pokazatel' sayta. 4em bol'6e klikov, tem sil'nee v ney u4itivaetsa pokazatel' klu4a. Pri 0 4isle klikov, na6a ocenka ravna m, a pri beskone4nom – r.

Primeri

Dopustim, u nas est' m=1%, posmotrim, kakuu ocenku mi dadim.

Kak mi vidim, na bol'6ix dannix ocenki ne sil'no otli4autsa ot pokazatela. No pri malix dannix vzve6ennie ocenki adekvatnee pokazatela konversii.

Pogre6nost'

Mojno sravnit' o6ibki pokazatela konversii i vzve6ennoy ocenki:

Pri malom 4isle klikov vzve6ennaa ocenka obladaet v neskol'ko raz men'6ey pogre6nost'u, no s rostom 4isla klikov to4nost' oboix ocenok stanovitsa primerno odinakovoy.

Pribil'

To4nost' v 6veycarskiy bank ne poloji6', poetomu smodeliruem vlianie pogre6nosti na pribil':

100% maksimal'naa pribil' (pri ideal'nom prognoze). Kak mi vidim, pri ispol'zovanii vzve6ennoy ocenki pribil' vsegda vi6e, 4em pri ispol'zovanii pokazatela konversii ili vistavlenii odinakovix stavok.

MREM

Eto nebol'6oe ulu46enie PBB, etot algoritm rabotaet v besplatnom onlayn kal'kulatore konversii.

Ras4et m

Osnovnaa problema PBB v tom, 4to m doljno bit' ocenkoy konversii srednego klu4evika, a ne ocenkoy konversii po saytu. Eto raznie ve6i, poskol'ku u raznix klu4evix slov – raznoe 4islo klikov.

Naprimer, u nas est' 11 klu4evix slov. V 10 iz nix po millionu klikov, i pokazatel' konversii raven 2%, a v 11-om 10 millionov klikov i pokazatel' konversii raven 1%. Pokazatel' konversii sayta raven 1,5%, no konversia srednego klu4evika v rayone 1.9%.

Eta problema usugublaetsa e6e i tem, 4to est' korrelacia mejdu 4islom klikov i konversiey. T.e. konversia zavisit ot 4astotnosti klu4evika. Nizko4astotniki, obi4no imeut bol'6uu konversiu. V silu 4ego m obi4no zanijen.

Daje esli korrelacii izna4al'no net, to ona poavlaetsa pri adekvatnoy rasstanovke stavok, poskol'ku 4islo klikov zavisit ot stavki, kotoraa v svou o4ered' zavisit ot veroatnosti konversii po klu4eviku.

V itoge, iz-za etogo ocenka m metodom PBB obladaet bol'6oy pogre6nost'u, daje na o4en' bol'6ix dannix, daje pri beskone4nom 4isle klikov i klu4evix slov. Takie ocenki v statistike nazivaut nesostoatel'nimi. Takaa pogre6nost' v m privodit k tomu, 4to to4nost' ocenki, osobenno, nizko4astotnix klu4evix slov snijaetsa.

REM

4tobi ulu46it' ras4et m, obi4no v matstatistike ispol'zuut dvuxparametri4eskuu model', kogda metodom naibol'6ego pravdopodobia i6etsa ne tol'ko A, no e6e i m. Odnako takaa model' nestabil'na na malix dannix.

V ka4estve kompromissa mi ispol'zovali REM (Random Effect Model) iz Meta-analiza (razdela teorii veroatnostey). V MREM m s4itaetsa po slojnoy formule, v kotoroy u4itivaetsa dispersia. Eto povi6aet to4nost' vi4islenia m i stabiliziruet ras4et na malix dannix.

Pri 100 klu4evikax:

Kak mi vidim, posle kakogo-to poroga 4islo klikov ne ulu46aet ocenku m po PBB. Eto svazano s tem, 4to korrelacia mejdu klikami i konversiey rojdaet sistemati4eskuu o6ibku.

Pri 1000 klu4evikax etot effekt e6e zametnee:

Kak mi vidim, pogre6nost' Marin perestaet zaviset' ot ob&ema dannix. Poskol'ku eta o6ibka v osnovnom svazana ne s malim ob&emom dannix, a s problemami modeli.

Ves m

Pri ispol'zovanii REM ves m teper' zavisit ne tol'ko ot A i m, no e6e i 4isla klu4evikov na sayte, 4isla klikov u sayta, a takje xaraktera raspredelenia klikov mejdu klu4evikami.

Naprimer, esli u nas malo klikov na sayte, to eto povi6aet o6ibku v vi4islenii m, i mi snijaem ves m. Esli kliki raspredeleni neravnomerno, naprimer, v osnovnom naxodatsa u odnogo klu4evika, to eto toje snijaet to4nost' m, i mi snijaem ves etoy ocenki.

Bolee to4niy prognoz o6ibki povi6aet stabil'nost' ras4eta A i to4nost' ocenki na malix dannix.

Drugie ulu46enia

Krome ispol'zovania REM modeli est' e6e sleduu6ie ulu46enia PBB.

Differenciacia

V ka4estve m lu46e ispol'zovat' REM-ocenku vzatuu ne po vsem klu4evim slovam, a po vsem, krome teku6ego. Blagodara etomu mi ne u4itivaem dvajdi odni i te je dannie. Takje eto izbavlaet ot zavi6enia ocenki A u nebol'6ix klientov.

Odnako differenciacia povi6aet vrema ras4eta vdvoe. Ona trebuet ras4eta 180 poligamma funkcia na 1 klu4evik protiv 90 v slu4ae ee otsutstvia.

Maksimum aposteriori

A 4to esli na sayte o4en' malo klu4evix slov? V etom slu4ae pri vi4islenii A budet bol'6aa pogre6nost'.

Kak i v slu4ae konversii, pri ocenke A mojno sdelat' srednee vzve6ennim dvux ocenok: togo A, kotoriy polu4aetsa maksimumom pravdopodobia, i togo A, kotoriy v srednem nabludaem u drugix klientov.

Dopustim u klientov A v srednem raven 1,5. Esli u klienta voob6e net dannix, to mojno skazat', 4to u nego A okolo 1,5.

V teorii mi mojem dat' neploxuu ocenku A, daje esli u klienta voob6e net dannix. Na praktike, estestvenno, nam nujen e6e i m, dla vi4islenia kotorogo nujni xota-bi 10–30 konversiy v statistike za neskol'ko mesacev.

V bolee prodvinutix versiax dvijkov pri ocenke A ispol'zuetsa krome dannix teku6ego klienta, raspredelenie A u drugix klientov. Eto nazivaetsa maksimumom aposteori. V itoge na nebol'6ix dannix vozrastaet stabil'nost' vi4isleniy A, na bol'6ix dannix ocenki etimi dvuma metodami po4ti ne otli4autsa.

Dva perioda

V optimizatorax est' nastroyka period sbora statistiki. 4em on vi6e tem bol'6e u nas dannix i tem men'6e pogre6nost' i vi6e pribil'. Na perviy vzglad etot period nujno uveli4it'.

Odnako konversia klu4evix slov menaetsa vo vremeni. Eto proisxodit iz-za sezonnosti, pogodi, ekonomi4eskoy situacii, ulu46eniy na sayte, reklamnix akciy i mnojestva drugix faktorov. 4em operativnee mi reagiruem na eto, tem bol'6e pribili polu4im. 4tobi povisit' operativnost', nujno sokratit' period sbora statistiki.

Poetomu nujno iskat' kompromissnuu dlinu perioda. Esli period sli6kom korotkiy, to to4nost' ocenki budet nevisokoy. Pri sli6kom dlinnom periode, sistema budet reagirovat' na izmenenia s o4en' bol'6oy zaderjkoy.

V nekotorix optimizatorax stavok est' 2 perioda. Blagodara osnovnomu (bolee dlinnomu) mi polu4aem mnogo dannix, a blagodara vspomogatel'nomu (bolee korotkomu) mi operativno reagiruem na izmenenia.

Dla bol'6ix saytov mojno vistavit' vspomogatel'niy period v neskol'ko nedel', a osnovnoy – v polgoda. Blagodara 4emu prognoz budet odnovremenno i to4nim, i operativnim.

Ierarxia

Mi dovol'no legko mojem sdelat' Beta-binomial'nuu model' ierarxi4eskoy. 4tobi ona u4itivala dannie gruppi ob&avleniy i kampanii.

Sna4ala mi ocenivaem konversiu kampanii:

Potom vi4islaem ocenku konversii gruppi ob&avlenia, ispol'zua vmesto m ocenku kampanii.

Posle 4ego vi4islaem ocenku klu4evogo slova, ispol'zua ocenku gruppi:

V kone4nom s4ete, eti formuli svodatsa k srednevzve6anomu 4-x ocenok: po saytu, kampanii, gruppe i samomu klu4eviku. Pri4em poskol'ku grupp i kampaniy namnogo men'6e, 4em klu4evix slov, to resurkoemkost' ras4eta prakti4eski ne uveli4ivaetsa, esli mi ne budem ispol'zovat' differenciaciu.

Odnako ierarxi4eskaa model' imeet i svoi problemi:

• Konversia kampanii i srednaa konversia klu4evogo slova kampanii – eto raznie ve6i. REM v ramkax etoy modeli ne re6aet problemu.
• Doljna bit' 4etkaa ierarxia. Mi ne mojem u4itivat' kakie-to drugie ocenki vne ierarxii, naprimer po URL.
• Ras4et A na poslednix urovnax stanovitsa ne stabil'nim uje u srednix klientov.

4tobi re6it' podobnie problemi trebuetsa bolee slojnaa model', kotoraa trebuet uje namnogo bol'6ego ob&ema vi4isleniy.

Pokazatel' otkazov

V teorii krome prognoza po gruppam mi mojem ispol'zovat' i drugie ocenki. Samaa vajnaa iz nix eto ocenka po pokazatelu otkazov. Naprimer, pust' b – eto pokazatel' otkazov. 4em vi6e pokazatel' otkazov, tem men'6e konversia. Vot samiy prostoy metod:

Naprimer, m = 1%, a pokazatel' otkazov po saytu raven 60%, togda k = 1%/(1-60%)=1%/40%=0,025=2,5%.

Dopustim, u klu4evika 80% otkazov, togda mi mojem dat' sleduu6uu ocenku konversii:

Dopustim, u drugogo klu4evika 30% otkazov, togda mi mojem dat' sleduu6uu ocenku konversii:

Etu model' mojno ponat' blagodara voronke iz trex 6agov. Sna4ala idut kliki, 4ast' iz nix stanovitsa otkazami. Ostav6iesa kliki (ne otkazi) s nekotoroy veroatnost'u (k) prevra6autsa v konversii.

4tobi rass4itat' ves etoy ocenki, nujno ocenit' ee pogre6nost'. Ona sostoit iz dvux komponentov. Pust' B eto veroatnost' otkaza, togda

• Pogre6nost' dannix. Voznikaet iz-za togo, 4to veroatnost' otkaza ne ravna pokazatelu otkazov. Pri uveli4enii 4isla klikov snijaetsa vplot' do nula na beskone4nom ob&eme dannix. Obi4no v 5–20 raz nije, 4em u pokazatela konversiy.
• Sistemati4eskaa pogre6nost' voznikaet iz-za togo, 4to na6a model' ne absolutno to4na. Iz-za togo, 4to k u raznix klu4evix slov raznoe. Eta pogre6nost' ne zavisit ot ob&ema dannix. Pri beskone4nom ob&eme dannix summarnaa pogre6nost' bila bi ravna sistemati4eskoy.

Mojno ispol'zovat' bolee slojnuu model', v kotoroy est' e6e i skritie otkazi, v ney sistemati4eskaa pogre6nost' nevelika. Eta model' o4en' to4no predskazivaet promejuto4nie celi vrode dobavlenia tovara v korzinu.

O6ibka dannix toje nevelika. Obi4no veroatnost' otkazov v rayone 50%, a konversia 1%. V etom slu4ae, esli bi sistemati4eskaa o6ibka bila nulevoy, to na6a formula pri 10 klikax bila bi takoy je to4noy, kak i pokazatel' konversii pri 1000!

Esli u klu4evogo slova budet o4en' malo klikov, to ocenka po otkazam budet xuje ocenki po gruppam. No s rostom 4isla klikov ona budet bistro ulu46at'sa (namnogo bistree, 4em pokazatel' otkazov) do tex por, poka ne dostignet sistemati4eskoy o6ibki.

Obi4no osnovnaa massa klikov u klienta prixoditsa kak raz na te klu4eviki, u kotorix ne sil'no mnogo i ne sil'no malo klikov. U takix klu4evikov lu46e vsego rabotaet ocenka po otkazam, i poetomu ocenka po otkazam zna4itel'no povi6aet ka4estvo itogovoy ocenki.

V ob6em, nesmotra na to 4to ocenka po otkazam tol'ko odna iz mnogix, ee vklad v uveli4enie pribili dovol'no visok.

Kak mi vidim, pri ne sil'no bol'6om 4isle klikov, u4et otkazov zna4itel'no povi6aet pribil'.

Zaklu4enie

Optimizatori stavok ocenivaut konversiu po mnojestvu faktorov. Pokazatel' konversii odin iz nix, no pri malen'kom 4isle klikov u klu4evika ego vklad v ob6uu ocenku budet nezna4itel'nim.

Pokazatel' konversii obi4no igraet su6estvennuu rol' tol'ko u visoko4astotnix klu4evix slov, kogda on dovol'no dostoverno otrajaet konversiu.

Pri ras4ete konversii ispol'zuetsa srednee vzve6ennoe neskol'kix ocenok. Esli kakaa-to iz ocenok imeet visokuu pogre6nost' (kak pokazatel' pri malom 4isle klikov), to ona prosto beretsa s o4en' malen'kim vesom. Eto ne uxud6aet ocenku.