Eksperyment terenowy
Teczka nr 011, Turystyka
| Wskaźnik | Przed | Po |
|---|---|---|
| Odsetek gospodarzy Airbnb wystawiających opinię gościom | 71,5% | 78,7% |
Eksperyment Airbnb od maja 2014 r., ponad 120 tys. pobytów
Case studiesTeczka nr 011
System opinii Airbnb od 2014 r. działa „w ciemno”: gość i gospodarz oceniają się nawzajem, nie widząc, co napisała druga strona. Omawiamy eksperyment, który poprzedził tę zmianę – jak go zaprojektowano, ile dodatkowych opinii przyniósł, dlaczego oceny stały się odrobinę mniej laurkowe i co z tego wynika dla każdego, kto projektuje system ocen.
Eksperyment terenowy
Teczka nr 011, Turystyka
| Wskaźnik | Przed | Po |
|---|---|---|
| Odsetek gospodarzy Airbnb wystawiających opinię gościom | 71,5% | 78,7% |
Eksperyment Airbnb od maja 2014 r., ponad 120 tys. pobytów
System opinii Airbnb od 2014 r. działa „w ciemno”: gość i gospodarz nie widzą swoich recenzji, dopóki obaj ich nie wystawią albo nie minie 14 dni. Eksperyment opisany przez Andreya Fradkina, Elenę Grewal i Davida Holtza pokazał, że zmiana zwiększyła liczbę opinii – u gospodarzy z 71,5% do 78,7% – i osłabiła wzajemne podbijanie ocen, choć recenzje nadal pozostały bardzo pozytywne.
Airbnb należy do platform, na których oceniają się obie strony transakcji. Gość wystawia opinię gospodarzowi, gospodarz – gościowi. Taki układ buduje zaufanie, bo każdy uczestnik rynku ma własną reputację, ale rodzi problem nieznany w zwykłym sklepie: recenzja staje się elementem gry między dwiema osobami, które się znają.
Przed zmianą obowiązywała prosta zasada – opinia ukazywała się zaraz po wysłaniu. Kto pisał jako drugi, znał już ocenę pierwszej strony. To otwierało drogę do trzech zachowań:
Skutek jest łatwy do przewidzenia: oceny na platformach dwustronnych są wyjątkowo wysokie, a krytyka – rzadka. Dla przyszłych gości to realna strata, bo średnia przestaje odróżniać oferty dobre od przeciętnych. Reguła wzajemności, która w marketingu zwykle pomaga, tutaj działa na niekorzyść rzetelności.
Airbnb przetestowało nową zasadę w kontrolowanym eksperymencie, zanim wprowadziło ją dla wszystkich użytkowników. Test rozpoczął się 8 maja 2014 r. Wyniki opisali Andrey Fradkin, Elena Grewal, David Holtz i Matthew Pearson w pracy „Bias and Reciprocity in Online Reviews: Evidence From Field Experiments on Airbnb” (wersja z 2015 r.), a w rozszerzonej formie Fradkin, Grewal i Holtz w artykule opublikowanym w 2021 r. w czasopiśmie „Marketing Science”.
Projekt testu był prosty i dzięki temu czytelny. Przed jego startem użytkownicy mieli 30 dni na wystawienie opinii. Na czas eksperymentu obu grupom skrócono ten termin do 14 dni, żeby jedyną różnicą między nimi była widoczność recenzji.
| Element | Grupa kontrolna | Grupa testowa |
|---|---|---|
| Czas na wystawienie opinii | 14 dni od wymeldowania | 14 dni od wymeldowania |
| Kiedy opinia staje się widoczna | od razu po wysłaniu | gdy ocenią obie strony albo po 14 dniach |
| Czy piszący jako drugi zna pierwszą opinię | tak | nie |
| Pobyty uwzględnione w analizie | 60 743 | 61 018 |
Losowanie dotyczyło ofert, a do analizy badacze wzięli pierwszy pobyt w każdej z nich. Łącznie dało to ponad 120 tys. obserwacji – próbę wystarczającą, by wychwycić nawet niewielkie przesunięcia w ocenach.
Najsilniejszy efekt dotyczył samej liczby recenzji, szczególnie od gospodarzy. Zmiany w treści i ocenach były mniejsze, ale szły w kierunku, którego spodziewali się autorzy.
| Wskaźnik | Kontrola | Jednoczesna publikacja | Zmiana |
|---|---|---|---|
| Gospodarze wystawiający opinię | 71,5% | 78,7% | +7,2 pkt proc. |
| Goście wystawiający opinię | 67,1% | 69,0% | +1,9 pkt proc. |
| Opinie gości z oceną 5 gwiazdek | 74,1% | 72,6% | ok. −1,5 pkt proc. |
| Negatywna treść u gospodarzy, którzy nie polecali gościa | 71,4% | 74,3% | ok. +3 pkt proc. |
Wzrost o ponad 7 punktów procentowych u gospodarzy oznacza, że na każde sto pobytów pojawiało się kilka dodatkowych opinii o gościach. Dla platformy, która obsługuje miliony rezerwacji, to ogromna liczba informacji, których wcześniej brakowało. Opinie pojawiały się też szybciej, bo obie strony chciały jak najwcześniej zobaczyć ocenę partnera.
Zmiana w ocenach była skromna. Nawet w grupie testowej blisko trzy czwarte opinii gości zawierało pięć gwiazdek, a przeciętna ocena spadła według autorów zaledwie o około 0,25%. Ważniejsze od skali jest jednak to, czego dotyczyła zmiana: krytyczne uwagi gospodarzy stały się wyraźniejsze, a goście rzadziej wystawiali maksymalną ocenę „z grzeczności”.
Przykład obliczeniowy (ilustracja, nie dane Airbnb): platforma z 10 000 zakończonych zleceń miesięcznie, na której ocenia 71,5% wykonawców, zbiera 7150 opinii. Przy odsetku 78,7% byłoby ich 7870, czyli o 720 więcej co miesiąc – bez żadnych nagród i dodatkowych przypomnień.
Eksperyment dotyczył jednej platformy i specyficznej relacji: gość i gospodarz często kontaktują się osobiście, co wzmacnia presję uprzejmości. Wyniki dotyczą też pierwszego pobytu w danej ofercie, a nie całej historii ocen. Kierunek wniosków jest przekonujący, ale skali efektu nie należy przenosić wprost na serwisy, w których strony transakcji nigdy się nie spotykają.
Autorzy wskazują dwa mechanizmy. Pierwszy to ciekawość: skoro opinię drugiej strony można zobaczyć dopiero po wystawieniu własnej, rośnie motywacja, żeby nie odkładać oceny. Drugi to chęć, by własna recenzja była widoczna dla innych – w nowym systemie nie da się jej „przeczekać” i dopasować.
Równocześnie zniknęła podstawa do odwzajemniania i odwetu. Gość, który nie wie, co napisał gospodarz, nie ma powodu podnosić oceny w rewanżu za pochwałę ani obniżać jej w odpowiedzi na krytykę. W pracy z 2021 r. badacze opisują to jako spadek ocen wynikający z ograniczenia „odwzajemnionej” informacji zwrotnej.
To zjawisko bliskie efektowi stada: kiedy widzimy cudzą ocenę przed wystawieniem własnej, przesuwamy się w jej stronę. Podobny mechanizm, tyle że w ocenach komentarzy, pokazał eksperyment z „Science” o stadnym ocenianiu. Szerzej o tym, jak wcześniejsze głosy wpływają na kolejne decyzje, piszemy w tekście o efekcie stada w zakupach online.
Jednoczesna publikacja rozwiązała problem gry między stronami, ale nie problem milczenia. Część osób po słabszym pobycie po prostu nie pisze opinii – i tego żaden mechanizm ujawniania nie zmieni. Fradkin i Holtz zwracali uwagę, że bez dodatkowych zachęt goście oceniali gospodarzy w około 69% przypadków, a brakujące recenzje były przeciętnie mniej pozytywne niż te opublikowane.
Airbnb sprawdziło to w osobnym eksperymencie. Gościom, którzy od wielu dni nie wystawili opinii, zaproponowano kupon o wartości 25 dolarów za recenzję. Liczba opinii w tej grupie wyraźnie wzrosła, a udział ocen pięciogwiazdkowych spadł według autorów o około 8 punktów procentowych. Zachęta okazała się skuteczna, ale kosztowna – i niesie własne ryzyka. W Unii Europejskiej nagrodę za opinię trzeba ujawnić, a niektóre platformy zakazują jej całkowicie; zasady opisujemy w artykule o opiniach za nagrodę.
Z perspektywy czytelnika recenzji wniosek jest praktyczny. Bardzo wysoka średnia na platformie dwustronnej mówi mniej, niż się wydaje, a pojedyncza krytyczna opinia waży więcej, niż sugeruje jej udział w średniej. Dlaczego klienci ufają ocenom poniżej ideału, pokazuje analiza badania Northwestern University o ocenie 4,7 i 5,0, a rolę krytyki opisuje tekst o tym, jak negatywne opinie zwiększają wiarygodność.
Jednoczesna publikacja nie jest uniwersalnym ulepszeniem. Ma sens tam, gdzie obie strony transakcji oceniają się nawzajem i mogą na siebie wpływać.
| Typ serwisu | Czy obie strony się oceniają | Co zastosować |
|---|---|---|
| Sklep internetowy | nie | zbieranie oceny, zanim klient zobaczy średnią innych |
| Marketplace z ocenami kupujących i sprzedawców | tak | ukrycie ocen do czasu wystawienia obu, stały termin |
| Serwis dla freelancerów i zleceń | tak | publikacja „w ciemno” plus prywatna ocena dla platformy |
| Wynajem mieszkań i samochodów | tak | okno czasowe jak w Airbnb, publikacja po obu ocenach |
| Referencje w B2B | częściowo | oddzielenie prośby o referencję od oceny partnera |
W turystyce, gdzie opinie decydują o rezerwacjach, mechanizm stał się standardem platform z ocenami wzajemnymi. Jak goście korzystają z recenzji w różnych serwisach, opisujemy w przeglądzie opinii w turystyce.
Projektując własny system, trzeba też pamiętać o oknie czasowym. Zbyt krótkie zmniejsza liczbę opinii, zbyt długie – ich aktualność i sens ukrywania. Podobny dylemat dotyczy możliwości edycji recenzji po publikacji; jak rozwiązała go największa polska platforma handlowa, omawiamy w teczce o edycji opinii na Allegro do 360 dni.
Eksperyment Airbnb to jeden z niewielu przypadków, w których platforma pokazała, jak zasady publikacji wpływają na treść opinii, a nie tylko na ich liczbę. Pokazuje, że dowód społeczny zależy od architektury systemu ocen co najmniej tak samo jak od zadowolenia klientów. Inne badania, w których mierzono siłę i granice opinii, zebraliśmy w przeglądzie 30 udokumentowanych badań i przypadków.
Po zakończeniu pobytu gość i gospodarz mają 14 dni na wystawienie sobie nawzajem opinii. Żadna z recenzji nie jest widoczna, dopóki obie strony nie opublikują swoich ocen albo nie minie ten termin. Dzięki temu nikt nie może dopasować swojej opinii do tego, co napisała druga strona, ani odpowiedzieć odwetem na krytykę.
Przede wszystkim dlatego, że część osób po słabszym pobycie w ogóle nie pisze opinii, a w relacji z konkretnym gospodarzem łatwiej o uprzejmość niż o krytykę. Jednoczesna publikacja ograniczyła odwzajemnianie ocen, ale badacze pokazali, że brakujące recenzje są przeciętnie mniej pozytywne niż te opublikowane, więc zawyżenie średnich nie zniknęło.
W eksperymencie Airbnb, który objął ponad 120 tys. pobytów, odsetek gospodarzy wystawiających opinię wzrósł z 71,5% do 78,7%, czyli o ponad 7 punktów procentowych. U gości wzrost był mniejszy: z 67,1% do 69,0%. Badacze tłumaczą to głównie ciekawością – żeby zobaczyć ocenę drugiej strony, trzeba najpierw wystawić własną.
W klasycznym sklepie ocenia tylko klient, więc nie ma ryzyka odwetu ze strony sprzedawcy i sam mechanizm nie jest potrzebny. Przydaje się tam, gdzie obie strony oceniają się nawzajem: na platformach ogłoszeniowych, w serwisach dla freelancerów, w wynajmie mieszkań i samochodów oraz przy zleceniach realizowanych przez pośrednika.
Tylko częściowo. W innym eksperymencie Airbnb kupon o wartości 25 dolarów zwiększył liczbę opinii od gości, którzy długo zwlekali z oceną, a nowe recenzje były mniej entuzjastyczne. Zachęta jest jednak kosztowna, w Unii Europejskiej wymaga ujawnienia, a część platform zakazuje jej całkowicie.