Eksperyment
Teczka nr 009, Platformy i media
| Wskaźnik | Przed | Po |
|---|---|---|
| Średnia końcowa ocena komentarzy z losowym pierwszym plusem | — | +25% |
101 281 komentarzy, 5 miesięcy, serwis podobny do Reddita (2013)
Case studiesTeczka nr 009
Czy jeden przypadkowy plus może zmienić los komentarza? Lev Muchnik, Sinan Aral i Sean Taylor sprawdzili to na ponad 100 tys. komentarzy w serwisie społecznościowym. Omawiamy projekt eksperymentu, asymetrię między plusami i minusami oraz to, co z niej wynika dla systemów opinii w sklepach i na platformach.
Eksperyment
Teczka nr 009, Platformy i media
| Wskaźnik | Przed | Po |
|---|---|---|
| Średnia końcowa ocena komentarzy z losowym pierwszym plusem | — | +25% |
101 281 komentarzy, 5 miesięcy, serwis podobny do Reddita (2013)
Efekt stada w ocenach polega na tym, że wczesne oceny wpływają na kolejne niezależnie od jakości ocenianej treści. W eksperymencie Leva Muchnika, Sinana Arala i Seana Taylora, opublikowanym w „Science” w 2013 r., jeden losowo dodany plus zwiększał o 32% szansę na kolejny pozytywny głos, a końcowa średnia ocena takich komentarzy była o 25% wyższa niż w grupie kontrolnej.
Badacze – Lev Muchnik z Uniwersytetu Hebrajskiego w Jerozolimie, Sinan Aral z MIT i Sean Taylor z Uniwersytetu Nowojorskiego – nawiązali współpracę z serwisem agregującym wiadomości, w którym użytkownicy komentują artykuły i oceniają komentarze innych plusami i minusami. Ze względów prawnych nie ujawniono nazwy serwisu; Aral opisywał go jako działający podobnie do Reddita.
Projekt był prosty i mocny jednocześnie. Gdy w serwisie pojawiał się nowy komentarz, system losowo decydował, czy:
Losowanie oznaczało, że sztuczny głos nie miał nic wspólnego z jakością komentarza. Jeśli więc komentarze z plusem radziły sobie potem lepiej, różnicę można było przypisać wyłącznie pierwszemu, fałszywemu sygnałowi. Eksperyment trwał pięć miesięcy i objął 101 281 komentarzy, które oceniali zwykli użytkownicy serwisu, nieświadomi manipulacji.
Najważniejsze wyniki da się zebrać w jednej tabeli:
| Grupa | Zachowanie kolejnych oceniających | Efekt końcowy |
|---|---|---|
| Losowy plus | o 32% większa szansa na plus od pierwszego kolejnego czytelnika; szansa na minus bez zmian | średnia ocena wyższa o 25%; o 30% częściej bardzo wysokie wyniki |
| Losowy minus | więcej kolejnych minusów, ale też więcej plusów | końcowa średnia bez istotnej różnicy wobec kontroli |
| Kontrola | naturalne ocenianie | punkt odniesienia |
Efekt plusa nie był chwilowy. Przewaga komentarzy z losowym plusem utrzymywała się przez cały pięciomiesięczny okres obserwacji. Pierwszy głos ustawiał trajektorię: przyciągał kolejne pozytywne oceny, a te – następne.
Minusy działały inaczej. Komentarz ze sztucznym minusem częściej dostawał kolejne minusy, ale jednocześnie część użytkowników „broniła” go plusami. Autorzy nazwali to efektem korekty. W efekcie końcowe średnie w grupie z minusem nie różniły się od grupy kontrolnej.
Ta asymetria jest kluczowym wnioskiem badania. Tłum skutecznie koryguje niesprawiedliwie zaniżone oceny, ale nie koryguje zawyżonych. Pozytywny sygnał na starcie jest więc przyjmowany bez sprzeciwu i wzmacniany.
Badacze sprawdzili też, czy efekt jest jednakowy w różnych kategoriach tematycznych serwisu. Nie był.
| Kategoria | Pozytywne stadne ocenianie |
|---|---|
| Polityka | wystąpiło |
| Kultura i społeczeństwo | wystąpiło |
| Biznes | wystąpiło |
| Ekonomia | nie wystąpiło |
| Technologie informacyjne | nie wystąpiło |
| Rozrywka | nie wystąpiło |
| Wiadomości ogólne | nie wystąpiło |
Autorzy nie przesądzili, skąd te różnice, i wskazali je jako temat dalszych badań. Jedna z możliwych interpretacji jest taka, że w tematach, w których ocena jest bardziej subiektywna i wiąże się z tożsamością (polityka, kultura), ludzie chętniej opierają się na sygnałach od innych. Ta interpretacja jest jednak hipotezą, a nie wynikiem badania.
Dla praktyka wniosek jest ostrożny, ale użyteczny: podatność na stadne ocenianie zależy od kategorii. Nie można zakładać, że wszystkie produkty czy treści są nią dotknięte w tym samym stopniu.
Eksperyment pokazał asymetrię, ale nie wyjaśnił jej mechanizmu – autorzy wprost wezwali do dalszych badań nad psychologią efektu korekty. Psychologia społeczna podsuwa kilka wyjaśnień, które warto znać jako hipotezy:
Każdy z tych mechanizmów prowadzi do tego samego wniosku praktycznego: systemy oparte na widocznych ocenach są bardziej podatne na sztuczne zawyżanie niż zaniżanie. Podobny mechanizm kumulacji wczesnej przewagi opisuje eksperyment MusicLab ze sztucznym rynkiem muzyki, a psychologiczne tło – nasz tekst o efekcie stada w zakupach online.
Eksperyment dotyczył komentarzy, ale jego logika przenosi się na recenzje produktów, głosy „przydatne” pod opiniami, oceny w aplikacjach czy wątki na forach.
Pierwsze opinie ustawiają trajektorię. Jeśli pierwsza recenzja produktu jest entuzjastyczna i zebrała kilka głosów „przydatna”, kolejni klienci czytają ją jako pierwszą i mogą dopasowywać do niej swoje oceny. Dlatego pierwsze opinie powinny pochodzić od prawdziwych, zweryfikowanych klientów, a nie od znajomych czy pracowników.
Asymetria to furtka dla manipulacji. Skoro sztuczne zawyżenie przyjmuje się bez korekty, nieuczciwi gracze mają motywację, by podbijać oceny na starcie. To jeden z powodów, dla których fałszywe recenzje są tak szkodliwe – nie tylko same w sobie, ale też przez to, że wpływają na oceny prawdziwych klientów. Sygnały ostrzegawcze opisujemy w poradniku o tym, jak rozpoznać fałszywą opinię, a konsekwencje prawne – w tekście o fałszywych opiniach a prawie.
Sortowanie według „najbardziej pomocnych” wzmacnia efekt. Opinia, która jako pierwsza zebrała głosy, jest wyświetlana wyżej, więc dostaje kolejne. Warto okresowo mieszać kolejność lub dawać nowszym opiniom szansę na pojawienie się u góry.
Przykład obliczeniowy (ilustracja, nie dane z badania): produkt ma dwie równie rzeczowe opinie dodane tego samego dnia. Pierwsza dostaje na starcie dwa głosy „przydatna” od znajomych autora i trafia na górę listy. Przez kolejny miesiąc czyta ją każdy odwiedzający kartę produktu, a drugą – tylko co dziesiąty. Nawet jeśli obie są równie pomocne, pierwsza zbierze wielokrotnie więcej głosów, bo miała wielokrotnie więcej czytelników.
Dyskusje użytkowników, w których efekt pierwszego plusa działa najsilniej, mają dziś dodatkowe znaczenie – są cytowane przez wyszukiwarki i asystentów AI. Piszemy o tym w tekście o tym, dlaczego Reddit i fora stały się nowym social proof.
Eksperyment jest metodologicznie bardzo mocny dzięki losowemu przydziałowi i dużej próbie, ale jego wnioski mają granice:
Mimo to wynik dobrze współgra z innymi badaniami nad wpływem społecznym i z doświadczeniem platform, które walczą z kupowanymi ocenami. Dla marketera najważniejsza jest ogólna lekcja: średnia ocena w systemie z widocznymi głosami nie jest czystą miarą jakości, tylko wynikiem jakości i historii głosowania.
Platformy mają kilka sposobów, by ograniczać błąd wpływu społecznego. Żaden nie jest idealny, ale wybór ma znaczenie.
| Rozwiązanie | Jak ogranicza efekt stada | Koszt lub ryzyko |
|---|---|---|
| Ukrycie wyniku nowych treści przez pewien czas | pierwsi oceniający nie widzą wcześniejszych głosów | mniej sygnałów dla czytelników na starcie |
| Ocena przed zobaczeniem cudzych ocen | klient wystawia gwiazdki, zanim zobaczy średnią | wymaga zmiany przepływu w interfejsie |
| Jednoczesna publikacja ocen obu stron | strony nie dopasowują się do siebie | dłuższe oczekiwanie na publikację |
| Mieszanie kolejności opinii | nowe opinie mają szansę na widoczność | mniej przewidywalny wygląd strony |
| Weryfikacja zakupu | ogranicza sztuczne podbijanie na starcie | nie eliminuje stadności prawdziwych klientów |
| Moderacja i wykrywanie anomalii | wyłapuje skoordynowane głosowanie | koszt zespołu lub narzędzi |
Część serwisów dyskusyjnych daje moderatorom możliwość ukrycia punktacji nowych komentarzy na pewien czas. Pokrewne rozwiązanie – jednoczesne odsłanianie ocen gościa i gospodarza – opisujemy w teczce o opiniach „w ciemno” na Airbnb. Szerzej o zasadach pracy z treściami użytkowników piszemy w tekście o moderacji treści od klientów, a o układzie opinii w e-commerce – w poradniku o karcie produktu z opiniami.
Eksperyment Muchnika, Arala i Taylora to jeden z najczystszych dowodów na to, że oceny w internecie nie są prostą sumą niezależnych opinii. Pozostałe badania i przypadki – od hotelowych ręczników po decyzje regulatorów – zebraliśmy w przeglądzie 30 udokumentowanych badań o skuteczności social proof.
Badacze we współpracy z serwisem społecznościowym podobnym do Reddita losowo wybierali nowe komentarze i dodawali im jeden plus, jeden minus albo nie robili nic. Następnie przez pięć miesięcy obserwowali, jak oceniają je kolejni użytkownicy. Eksperyment objął 101 281 komentarzy, a wyniki opublikowano w 2013 r. w czasopiśmie „Science”.
Komentarz z losowo dodanym plusem miał o 32% większą szansę na pozytywną ocenę od pierwszego kolejnego czytelnika niż komentarz z grupy kontrolnej. Efekt się kumulował: końcowa średnia ocena takich komentarzy była o 25% wyższa, a częściej osiągały one bardzo wysokie wyniki.
Losowy minus wywoływał więcej kolejnych minusów, ale jednocześnie więcej plusów – użytkownicy korygowali ocenę, którą uznali za niesprawiedliwą. W efekcie końcowe średnie nie różniły się od grupy kontrolnej. Autorzy nazwali to efektem korekty i wskazali, że jego psychologiczne podłoże wymaga dalszych badań.
Pierwsze oceny i pierwsze głosy „przydatne” mają nieproporcjonalny wpływ na to, jak zostanie odebrany produkt lub recenzja. Dlatego warto zbierać pierwsze opinie od prawdziwych, zweryfikowanych klientów i projektować system tak, by wczesne głosy nie dominowały na stałe. Sztuczne podbijanie ocen jest nieuczciwe i nielegalne.
Nie. W eksperymencie pozytywne stadne ocenianie wystąpiło w kategoriach polityka, kultura i społeczeństwo oraz biznes, a nie pojawiło się w ekonomii, technologiach informacyjnych, rozrywce ani wiadomościach ogólnych. Oznacza to, że podatność na sugestię zależy od tematu i prawdopodobnie od tego, jak bardzo oceny są subiektywne.