socialproof Zgłoś case study

Case studiesTeczka nr 011

Airbnb i opinie „w ciemno”: jak jednoczesna publikacja ocen zmieniła ich szczerość

System opinii Airbnb od 2014 r. działa „w ciemno”: gość i gospodarz oceniają się nawzajem, nie widząc, co napisała druga strona. Omawiamy eksperyment, który poprzedził tę zmianę – jak go zaprojektowano, ile dodatkowych opinii przyniósł, dlaczego oceny stały się odrobinę mniej laurkowe i co z tego wynika dla każdego, kto projektuje system ocen.

Autor: Redakcja Social ProofOpublikowano: Aktualizacja: 7 min czytania

Eksperyment terenowy

Teczka nr 011, Turystyka

Wynik przed i po
WskaźnikPrzedPo
Odsetek gospodarzy Airbnb wystawiających opinię gościom71,5%78,7%

Eksperyment Airbnb od maja 2014 r., ponad 120 tys. pobytów

W skrócie

  • Airbnb publikuje opinie gościa i gospodarza dopiero wtedy, gdy obie strony je wystawią albo gdy minie 14 dni przeznaczonych na ich napisanie.
  • W eksperymencie rozpoczętym 8 maja 2014 r. odsetek gospodarzy wystawiających opinię wzrósł z 71,5% do 78,7%, a gości – z 67,1% do 69,0%.
  • Udział pięciogwiazdkowych ocen od gości spadł o około 1,5 punktu procentowego, a wśród gospodarzy, którzy nie polecali gościa, odsetek opinii z negatywną treścią wzrósł z 71% do 74%.
  • Jednoczesna publikacja ograniczyła odwzajemnianie ocen i odwet, ale nie usunęła głównego źródła zawyżonych średnich: osób, które po słabszym pobycie w ogóle nie piszą opinii.
  • Mechanizm ma sens wszędzie tam, gdzie obie strony transakcji oceniają się nawzajem – na marketplace’ach, w serwisach dla freelancerów i w wynajmie.
Spis treści
  1. Problem dwustronnych ocen: uprzejmość, odwzajemnianie i odwet
  2. Jak wyglądał eksperyment z publikacją opinii „w ciemno”
  3. Wyniki: więcej opinii i odrobinę mniej laurek
  4. Dlaczego jednoczesna publikacja zadziałała
  5. Czego „opinie w ciemno” nie naprawiły
  6. Gdzie przenieść lekcję z Airbnb
  7. Wnioski z eksperymentu Airbnb – checklista dla projektujących system opinii
  8. Najczęstsze pytania

System opinii Airbnb od 2014 r. działa „w ciemno”: gość i gospodarz nie widzą swoich recenzji, dopóki obaj ich nie wystawią albo nie minie 14 dni. Eksperyment opisany przez Andreya Fradkina, Elenę Grewal i Davida Holtza pokazał, że zmiana zwiększyła liczbę opinii – u gospodarzy z 71,5% do 78,7% – i osłabiła wzajemne podbijanie ocen, choć recenzje nadal pozostały bardzo pozytywne.

Problem dwustronnych ocen: uprzejmość, odwzajemnianie i odwet

Airbnb należy do platform, na których oceniają się obie strony transakcji. Gość wystawia opinię gospodarzowi, gospodarz – gościowi. Taki układ buduje zaufanie, bo każdy uczestnik rynku ma własną reputację, ale rodzi problem nieznany w zwykłym sklepie: recenzja staje się elementem gry między dwiema osobami, które się znają.

Przed zmianą obowiązywała prosta zasada – opinia ukazywała się zaraz po wysłaniu. Kto pisał jako drugi, znał już ocenę pierwszej strony. To otwierało drogę do trzech zachowań:

  • odwzajemniania – ciepła opinia od gospodarza skłaniała gościa do odpowiedzi w tym samym tonie, nawet jeśli pobyt miał wady,
  • odwetu – krytyczna recenzja mogła spotkać się z równie krytyczną odpowiedzią, niezależnie od faktów,
  • strategicznego czekania – część użytkowników zwlekała z oceną, by najpierw zobaczyć, co napisze druga strona, albo rezygnowała z niej, by nie narazić się na odwet.

Skutek jest łatwy do przewidzenia: oceny na platformach dwustronnych są wyjątkowo wysokie, a krytyka – rzadka. Dla przyszłych gości to realna strata, bo średnia przestaje odróżniać oferty dobre od przeciętnych. Reguła wzajemności, która w marketingu zwykle pomaga, tutaj działa na niekorzyść rzetelności.

Jak wyglądał eksperyment z publikacją opinii „w ciemno”

Airbnb przetestowało nową zasadę w kontrolowanym eksperymencie, zanim wprowadziło ją dla wszystkich użytkowników. Test rozpoczął się 8 maja 2014 r. Wyniki opisali Andrey Fradkin, Elena Grewal, David Holtz i Matthew Pearson w pracy „Bias and Reciprocity in Online Reviews: Evidence From Field Experiments on Airbnb” (wersja z 2015 r.), a w rozszerzonej formie Fradkin, Grewal i Holtz w artykule opublikowanym w 2021 r. w czasopiśmie „Marketing Science”.

Projekt testu był prosty i dzięki temu czytelny. Przed jego startem użytkownicy mieli 30 dni na wystawienie opinii. Na czas eksperymentu obu grupom skrócono ten termin do 14 dni, żeby jedyną różnicą między nimi była widoczność recenzji.

Element Grupa kontrolna Grupa testowa
Czas na wystawienie opinii 14 dni od wymeldowania 14 dni od wymeldowania
Kiedy opinia staje się widoczna od razu po wysłaniu gdy ocenią obie strony albo po 14 dniach
Czy piszący jako drugi zna pierwszą opinię tak nie
Pobyty uwzględnione w analizie 60 743 61 018

Losowanie dotyczyło ofert, a do analizy badacze wzięli pierwszy pobyt w każdej z nich. Łącznie dało to ponad 120 tys. obserwacji – próbę wystarczającą, by wychwycić nawet niewielkie przesunięcia w ocenach.

Wyniki: więcej opinii i odrobinę mniej laurek

Najsilniejszy efekt dotyczył samej liczby recenzji, szczególnie od gospodarzy. Zmiany w treści i ocenach były mniejsze, ale szły w kierunku, którego spodziewali się autorzy.

Wskaźnik Kontrola Jednoczesna publikacja Zmiana
Gospodarze wystawiający opinię 71,5% 78,7% +7,2 pkt proc.
Goście wystawiający opinię 67,1% 69,0% +1,9 pkt proc.
Opinie gości z oceną 5 gwiazdek 74,1% 72,6% ok. −1,5 pkt proc.
Negatywna treść u gospodarzy, którzy nie polecali gościa 71,4% 74,3% ok. +3 pkt proc.

Wzrost o ponad 7 punktów procentowych u gospodarzy oznacza, że na każde sto pobytów pojawiało się kilka dodatkowych opinii o gościach. Dla platformy, która obsługuje miliony rezerwacji, to ogromna liczba informacji, których wcześniej brakowało. Opinie pojawiały się też szybciej, bo obie strony chciały jak najwcześniej zobaczyć ocenę partnera.

Zmiana w ocenach była skromna. Nawet w grupie testowej blisko trzy czwarte opinii gości zawierało pięć gwiazdek, a przeciętna ocena spadła według autorów zaledwie o około 0,25%. Ważniejsze od skali jest jednak to, czego dotyczyła zmiana: krytyczne uwagi gospodarzy stały się wyraźniejsze, a goście rzadziej wystawiali maksymalną ocenę „z grzeczności”.

Przykład obliczeniowy (ilustracja, nie dane Airbnb): platforma z 10 000 zakończonych zleceń miesięcznie, na której ocenia 71,5% wykonawców, zbiera 7150 opinii. Przy odsetku 78,7% byłoby ich 7870, czyli o 720 więcej co miesiąc – bez żadnych nagród i dodatkowych przypomnień.

Ograniczenia badania

Eksperyment dotyczył jednej platformy i specyficznej relacji: gość i gospodarz często kontaktują się osobiście, co wzmacnia presję uprzejmości. Wyniki dotyczą też pierwszego pobytu w danej ofercie, a nie całej historii ocen. Kierunek wniosków jest przekonujący, ale skali efektu nie należy przenosić wprost na serwisy, w których strony transakcji nigdy się nie spotykają.

Dlaczego jednoczesna publikacja zadziałała

Autorzy wskazują dwa mechanizmy. Pierwszy to ciekawość: skoro opinię drugiej strony można zobaczyć dopiero po wystawieniu własnej, rośnie motywacja, żeby nie odkładać oceny. Drugi to chęć, by własna recenzja była widoczna dla innych – w nowym systemie nie da się jej „przeczekać” i dopasować.

Równocześnie zniknęła podstawa do odwzajemniania i odwetu. Gość, który nie wie, co napisał gospodarz, nie ma powodu podnosić oceny w rewanżu za pochwałę ani obniżać jej w odpowiedzi na krytykę. W pracy z 2021 r. badacze opisują to jako spadek ocen wynikający z ograniczenia „odwzajemnionej” informacji zwrotnej.

To zjawisko bliskie efektowi stada: kiedy widzimy cudzą ocenę przed wystawieniem własnej, przesuwamy się w jej stronę. Podobny mechanizm, tyle że w ocenach komentarzy, pokazał eksperyment z „Science” o stadnym ocenianiu. Szerzej o tym, jak wcześniejsze głosy wpływają na kolejne decyzje, piszemy w tekście o efekcie stada w zakupach online.

Czego „opinie w ciemno” nie naprawiły

Jednoczesna publikacja rozwiązała problem gry między stronami, ale nie problem milczenia. Część osób po słabszym pobycie po prostu nie pisze opinii – i tego żaden mechanizm ujawniania nie zmieni. Fradkin i Holtz zwracali uwagę, że bez dodatkowych zachęt goście oceniali gospodarzy w około 69% przypadków, a brakujące recenzje były przeciętnie mniej pozytywne niż te opublikowane.

Airbnb sprawdziło to w osobnym eksperymencie. Gościom, którzy od wielu dni nie wystawili opinii, zaproponowano kupon o wartości 25 dolarów za recenzję. Liczba opinii w tej grupie wyraźnie wzrosła, a udział ocen pięciogwiazdkowych spadł według autorów o około 8 punktów procentowych. Zachęta okazała się skuteczna, ale kosztowna – i niesie własne ryzyka. W Unii Europejskiej nagrodę za opinię trzeba ujawnić, a niektóre platformy zakazują jej całkowicie; zasady opisujemy w artykule o opiniach za nagrodę.

Z perspektywy czytelnika recenzji wniosek jest praktyczny. Bardzo wysoka średnia na platformie dwustronnej mówi mniej, niż się wydaje, a pojedyncza krytyczna opinia waży więcej, niż sugeruje jej udział w średniej. Dlaczego klienci ufają ocenom poniżej ideału, pokazuje analiza badania Northwestern University o ocenie 4,7 i 5,0, a rolę krytyki opisuje tekst o tym, jak negatywne opinie zwiększają wiarygodność.

Gdzie przenieść lekcję z Airbnb

Jednoczesna publikacja nie jest uniwersalnym ulepszeniem. Ma sens tam, gdzie obie strony transakcji oceniają się nawzajem i mogą na siebie wpływać.

Typ serwisu Czy obie strony się oceniają Co zastosować
Sklep internetowy nie zbieranie oceny, zanim klient zobaczy średnią innych
Marketplace z ocenami kupujących i sprzedawców tak ukrycie ocen do czasu wystawienia obu, stały termin
Serwis dla freelancerów i zleceń tak publikacja „w ciemno” plus prywatna ocena dla platformy
Wynajem mieszkań i samochodów tak okno czasowe jak w Airbnb, publikacja po obu ocenach
Referencje w B2B częściowo oddzielenie prośby o referencję od oceny partnera

W turystyce, gdzie opinie decydują o rezerwacjach, mechanizm stał się standardem platform z ocenami wzajemnymi. Jak goście korzystają z recenzji w różnych serwisach, opisujemy w przeglądzie opinii w turystyce.

Projektując własny system, trzeba też pamiętać o oknie czasowym. Zbyt krótkie zmniejsza liczbę opinii, zbyt długie – ich aktualność i sens ukrywania. Podobny dylemat dotyczy możliwości edycji recenzji po publikacji; jak rozwiązała go największa polska platforma handlowa, omawiamy w teczce o edycji opinii na Allegro do 360 dni.

Wnioski z eksperymentu Airbnb – checklista dla projektujących system opinii

  1. Jeżeli obie strony transakcji się oceniają, ukryj opinie do czasu, aż wystawią je obie albo minie stały termin.
  2. Ustal jedno okno na wystawienie opinii – Airbnb stosuje 14 dni – i komunikuj je w prośbie o ocenę.
  3. Mierz nie tylko średnią, ale też odsetek transakcji bez opinii; milczenie bywa ważniejszą informacją niż gwiazdki.
  4. Rozważ kanał prywatnej informacji zwrotnej dla platformy, w którym łatwiej o szczerą krytykę.
  5. Jeśli stosujesz zachęty, nie uzależniaj ich od treści i ujawniaj je przy opinii.
  6. W prośbie o ocenę nie pokazuj średniej innych użytkowników – ogranicza to dopasowywanie się do tłumu. Sprawdzone sposoby formułowania próśb zawiera poradnik o tym, jak prosić klientów o opinie.
  7. Pokazuj weryfikację: na Airbnb opinię może wystawić tylko ktoś, kto faktycznie odbył pobyt, co czyni ją opinią zweryfikowaną.

Eksperyment Airbnb to jeden z niewielu przypadków, w których platforma pokazała, jak zasady publikacji wpływają na treść opinii, a nie tylko na ich liczbę. Pokazuje, że dowód społeczny zależy od architektury systemu ocen co najmniej tak samo jak od zadowolenia klientów. Inne badania, w których mierzono siłę i granice opinii, zebraliśmy w przeglądzie 30 udokumentowanych badań i przypadków.

Najczęstsze pytania

Jak działa system opinii na Airbnb?

Po zakończeniu pobytu gość i gospodarz mają 14 dni na wystawienie sobie nawzajem opinii. Żadna z recenzji nie jest widoczna, dopóki obie strony nie opublikują swoich ocen albo nie minie ten termin. Dzięki temu nikt nie może dopasować swojej opinii do tego, co napisała druga strona, ani odpowiedzieć odwetem na krytykę.

Dlaczego oceny na Airbnb są tak wysokie?

Przede wszystkim dlatego, że część osób po słabszym pobycie w ogóle nie pisze opinii, a w relacji z konkretnym gospodarzem łatwiej o uprzejmość niż o krytykę. Jednoczesna publikacja ograniczyła odwzajemnianie ocen, ale badacze pokazali, że brakujące recenzje są przeciętnie mniej pozytywne niż te opublikowane, więc zawyżenie średnich nie zniknęło.

Ile więcej opinii dało ukrycie ich do czasu oceny przez obie strony?

W eksperymencie Airbnb, który objął ponad 120 tys. pobytów, odsetek gospodarzy wystawiających opinię wzrósł z 71,5% do 78,7%, czyli o ponad 7 punktów procentowych. U gości wzrost był mniejszy: z 67,1% do 69,0%. Badacze tłumaczą to głównie ciekawością – żeby zobaczyć ocenę drugiej strony, trzeba najpierw wystawić własną.

Czy jednoczesna publikacja opinii ma sens w sklepie internetowym?

W klasycznym sklepie ocenia tylko klient, więc nie ma ryzyka odwetu ze strony sprzedawcy i sam mechanizm nie jest potrzebny. Przydaje się tam, gdzie obie strony oceniają się nawzajem: na platformach ogłoszeniowych, w serwisach dla freelancerów, w wynajmie mieszkań i samochodów oraz przy zleceniach realizowanych przez pośrednika.

Czy płacenie za opinie rozwiązuje problem brakujących recenzji?

Tylko częściowo. W innym eksperymencie Airbnb kupon o wartości 25 dolarów zwiększył liczbę opinii od gości, którzy długo zwlekali z oceną, a nowe recenzje były mniej entuzjastyczne. Zachęta jest jednak kosztowna, w Unii Europejskiej wymaga ujawnienia, a część platform zakazuje jej całkowicie.