socialproof Zgłoś case study

Case studiesTeczka nr 012

Fałszywe opinie hoteli: TripAdvisor kontra Expedia w badaniu Mayzlin, Dover i Chevalier

Fałszywe opinie hoteli rzadko da się udowodnić pojedynczo, ale można je wykryć w danych. Dina Mayzlin, Yaniv Dover i Judith Chevalier porównali recenzje tych samych hoteli w serwisie otwartym dla wszystkich i w serwisie dla zweryfikowanych gości. Omawiamy metodę, liczby i to, co badanie mówi o motywacji do manipulacji.

Autor: Redakcja Social ProofOpublikowano: Aktualizacja: 7 min czytania

Analiza danych

Teczka nr 012, Turystyka

Wynik przed i po
WskaźnikPrzedPo
Szacowane dodatkowe opinie 5★ hotelu niezależnego vs sieciowego—ok. 7 opinii

2931 hoteli w USA, dane z października 2011 r., średnio 120 opinii

W skrócie

  • Badanie Mayzlin, Dover i Chevalier, opublikowane w 2014 r. w „American Economic Review”, porównało opinie blisko 3 tys. hoteli w TripAdvisorze, gdzie recenzję mógł dodać każdy, i w Expedii, gdzie mógł to zrobić tylko gość z rezerwacją.
  • Hotele niezależne, należące do małych właścicieli, miały na TripAdvisorze relatywnie więcej ocen pięciogwiazdkowych niż hotele sieciowe – autorzy szacują to na około 7 dodatkowych fałszywych pochwał przy przeciętnie 120 opiniach.
  • Hotele sąsiadujące w promieniu 0,5 km z niezależnym konkurentem miały więcej ocen jedno- i dwugwiazdkowych na TripAdvisorze, co odpowiada około 6 dodatkowym fałszywym krytykom.
  • Manipulacja była według autorów istotna ekonomicznie, ale niewielka w porównaniu z całą liczbą recenzji – większość opinii pozostawała autentyczna.
  • Weryfikacja zakupu podnosi koszt fałszowania: w serwisie z obowiązkową rezerwacją efekty motywacji do manipulacji były znacznie słabsze.
Spis treści
  1. Naturalny eksperyment: te same hotele w dwóch serwisach
  2. Kto ma motywację, żeby fałszować opinie
  3. Dane: blisko 3 tys. hoteli i ponad 470 tys. recenzji
  4. Wyniki: więcej piątek u siebie, więcej jedynek u sąsiada
  5. Jak mocne są te dowody
  6. Co zmieniło się od czasu badania
  7. Wnioski dla hotelarzy, marketerów i czytelników opinii
  8. Najczęstsze pytania

Fałszywe opinie hoteli zostawiają ślad w statystyce. Dina Mayzlin, Yaniv Dover i Judith Chevalier porównali recenzje tych samych hoteli w TripAdvisorze i Expedii i wykazali, że hotele z silną motywacją do manipulacji mają w otwartym serwisie więcej pięciogwiazdkowych ocen, a ich sąsiedzi – więcej jedynek i dwójek. Skala była zauważalna, ale dotyczyła niewielkiej części wszystkich opinii.

Naturalny eksperyment: te same hotele w dwóch serwisach

Największą przeszkodą w badaniu fałszywych opinii jest to, że dobrze napisana fałszywka wygląda jak prawdziwa recenzja. Autorzy ominęli ten problem. Zamiast oceniać pojedyncze teksty, wykorzystali różnicę w zasadach dwóch dużych serwisów turystycznych:

  • TripAdvisor – opinię mógł dodać każdy, kto zadeklarował, że nie jest powiązany z hotelem i nie dostał zachęty,
  • Expedia – opinię mógł dodać tylko użytkownik, który w ciągu ostatnich sześciu miesięcy zarezerwował przez serwis co najmniej jedną noc w danym hotelu.

Fałszywa opinia w TripAdvisorze kosztowała więc tyle, ile założenie konta i napisanie tekstu. W Expedii wymagała opłacenia pobytu. Jeśli hotele manipulują recenzjami, ślady powinny być wyraźniejsze w serwisie otwartym.

Badanie, zatytułowane „Promotional Reviews: An Empirical Investigation of Online Review Manipulation”, ukazało się w sierpniu 2014 r. w „American Economic Review”. Wcześniej krążyło jako wersja robocza National Bureau of Economic Research (NBER) z lat 2012–2013 – z niej pochodzą szczegółowe liczby przytaczane poniżej. Kierunek wniosków w wersji opublikowanej jest taki sam.

Kto ma motywację, żeby fałszować opinie

Drugi element pomysłu to przewidzenie, które hotele powinny manipulować częściej. Autorzy rozumowali w kategoriach kosztów i korzyści.

Hotel niezależny należący do małego właściciela zyskuje najwięcej: każda dodatkowa rezerwacja trafia bezpośrednio do niego, a ryzyko wykrycia dotyczy tylko jednego obiektu. Hotel sieciowy należący do dużej firmy ma mniej do zyskania, bo goście wybierają go także ze względu na markę, i więcej do stracenia – skandal z fałszywymi opiniami mógłby uderzyć w setki obiektów. Ważna była nie tylko marka, ale też struktura właścicielska i to, kto zarządza hotelem.

Trzeci element to sąsiedztwo. Fałszywa negatywna opinia ma sens wtedy, gdy uderza w bezpośredniego konkurenta. Autorzy sprawdzali więc, czy hotele położone w promieniu 0,5 km od niezależnego obiektu mają w TripAdvisorze więcej krytycznych ocen, niż wynikałoby to z ich ocen w Expedii. Sąsiada w takiej odległości miało 76% hoteli w próbie.

Dane: blisko 3 tys. hoteli i ponad 470 tys. recenzji

Autorzy zebrali opinie w październiku 2011 r. dla hoteli z amerykańskich miast od 25. do 75. miejsca pod względem liczby ludności (bez Las Vegas). Do analizy trafiło 2931 hoteli, które miały recenzje w obu serwisach – łącznie 350 485 opinii z TripAdvisora i 123 569 z Expedii. Dane o hotelach, w tym o właścicielach i zarządcach, pochodziły z bazy firmy badawczej STR.

Średnio na hotel TripAdvisor Expedia
Liczba opinii 119,6 42,2
Średnia ocena 3,52 3,95
Udział ocen 1-gwiazdkowych 14% 7%
Udział ocen 2-gwiazdkowych 11% 8%
Udział ocen 5-gwiazdkowych 31% 44%

Sama różnica między serwisami niczego jeszcze nie dowodzi – TripAdvisor przyciąga innych użytkowników niż serwis rezerwacyjny i jest ogólnie bardziej krytyczny. Dowodem jest dopiero to, że różnica zmienia się zależnie od motywacji hotelu do manipulacji.

Wyniki: więcej piątek u siebie, więcej jedynek u sąsiada

Zmienną badaną była różnica w udziale danych ocen między TripAdvisorem a Expedią. Najważniejsze wyniki z wersji roboczej badania:

Cecha hotelu Efekt na różnicę TripAdvisor – Expedia
Sąsiad w promieniu 0,5 km +1,9 pkt proc. udziału ocen 1–2 gwiazdki
Sąsiad niezależny dodatkowo +1,7 pkt proc. ocen 1–2 gwiazdki
Sąsiad należący do dużego właściciela −2,5 pkt proc. ocen 1–2 gwiazdki
Własny hotel niezależny +2,4 pkt proc. ocen 5 gwiazdek
Własny hotel dużego właściciela −3,1 pkt proc. ocen 5 gwiazdek

Autorzy przełożyli te wartości na liczby opinii. Hotel niezależny należący do małego właściciela miał – w porównaniu z hotelem sieciowym dużej firmy – około 7 dodatkowych fałszywych pochwał w TripAdvisorze, przy przeciętnie 120 opiniach, w tym 37 pięciogwiazdkowych. Hotel położony obok takiego niezależnego obiektu miał – w porównaniu z hotelem bez sąsiadów – około 6 dodatkowych fałszywych krytyk, przy przeciętnie 30 ocenach jedno- i dwugwiazdkowych.

Dla pojedynczego hotelu kilka opinii to niewiele. Ale 6 fałszywych jedynek wśród 30 krytycznych recenzji to jedna piąta negatywnego obrazu obiektu – wystarczająco dużo, by przesunąć średnią i decyzje gości. Wpływ jednej gwiazdki na przychody dobrze pokazuje badanie Yelp i restauracji.

Równie wymowny jest wynik odwrotny. Hotel, którego sąsiadem był obiekt dużego właściciela, miał w TripAdvisorze mniej krytycznych ocen niż hotel z sąsiadem niezależnym. To zgodne z hipotezą autorów: duże firmy, które mają dużo do stracenia, rzadziej sięgają po fałszywe ataki na konkurencję. Gdyby różnice wynikały wyłącznie z odmiennych gustów użytkowników obu serwisów, struktura właścicielska sąsiada nie powinna mieć znaczenia.

Jak mocne są te dowody

Autorzy przeprowadzili szereg testów odporności, które wzmacniają wnioski, ale też pokazują ich granice:

  • Jednorazowi recenzenci. Około 23% opinii w TripAdvisorze pochodziło od osób, które napisały tylko jedną recenzję. Aż 47,6% z nich to piątki, wobec 38,1% w całym serwisie, a hotele niezależne miały o 8,8 pkt proc. więcej takich opinii.
  • Inny serwis kontrolny. Porównanie z Orbitz na danych ze stycznia 2013 r. (2512 hoteli) potwierdziło efekt niezależności dla ocen pięciogwiazdkowych, ale efekty sąsiedztwa były już nieistotne.
  • Wrażliwość na dodatkowe zmienne. Efekty dotyczące własnych piątek słabły po uwzględnieniu cech hoteli, a efekty sąsiedztwa pozostawały stabilne.

Wniosek autorów jest wyważony: manipulacja jest istotna ekonomicznie, ale niewielka w porównaniu z całą liczbą recenzji. Badanie nie mówi, że opinie hotelowe są fałszywe, tylko że w otwartym serwisie istnieje mierzalny margines manipulacji, który rośnie wraz z motywacją firm.

Jak użyć tej metody we własnej firmie

Logika badania sprawdza się także na małą skalę. Firma, która zbiera opinie w kilku miejscach, może porównać ich rozkłady i wychwycić anomalie, zanim zauważą je klienci:

  1. Zestaw rozkład ocen z kanału zweryfikowanego (np. ankiet wysyłanych po zakupie lub pobycie) z rozkładem w serwisie otwartym, takim jak Mapy Google.
  2. Sprawdź, jaki odsetek skrajnych ocen pochodzi od kont z jedną recenzją. W badaniu to właśnie jednorazowi recenzenci częściej wystawiali piątki.
  3. Zestaw daty krytycznych opinii z wydarzeniami rynkowymi – otwarciem konkurenta w okolicy, zmianą cen, sezonem.
  4. Porównaj wyniki z konkurentami o podobnym profilu. Jeśli różnica między kanałami jest u ciebie znacznie większa niż u nich, przyjrzyj się pojedynczym opiniom.

Taka analiza nie udowodni, że konkretna recenzja jest fałszywa, ale wskaże, gdzie szukać problemu i jakie dane dołączyć do zgłoszenia w serwisie. Przy kilkudziesięciu opiniach wnioski będą jedynie orientacyjne – badacze potrzebowali tysięcy hoteli, by uchwycić efekt rzędu kilku punktów procentowych.

Co zmieniło się od czasu badania

Dane pochodzą z 2011 r., a rynek opinii wygląda dziś inaczej. Platformy rozwinęły automatyczne filtry, a w Unii Europejskiej zamieszczanie i zlecanie fałszywych opinii znalazło się na liście praktyk zakazanych w każdych okolicznościach; wyjaśniamy ją w artykule o czarnej liście nieuczciwych praktyk. W Polsce przepisy wdrażające dyrektywę Omnibus obowiązują od 1 stycznia 2023 r., a odpowiedzialność firm i menedżerów omawiamy w tekście o fałszywych opiniach a prawie.

Zmieniła się też podaż. Fałszywe opinie są dziś często kupowane od wyspecjalizowanych pośredników, a nie pisane przez właściciela. Polski regulator ścigał takie firmy, o czym piszemy w przeglądzie kar UOKiK dla handlarzy opiniami. Niezmienny pozostał natomiast mechanizm opisany przez Mayzlin, Dover i Chevalier: najwięcej do zyskania na manipulacji mają małe, niezależne firmy w gęstej konkurencji lokalnej.

Wnioski dla hotelarzy, marketerów i czytelników opinii

Badanie daje praktyczne wskazówki trzem grupom.

Hotelarzom i firmom lokalnym:

  1. Monitoruj nagłe skoki negatywnych ocen od jednorazowych kont – to typowy ślad ataku konkurencji. Procedurę zgłaszania takich recenzji opisuje poradnik o tym, jak usunąć fałszywą opinię z Google.
  2. Zbieraj opinie w kanałach z weryfikacją pobytu – recenzja powiązana z rezerwacją jest dla gościa mocniejszym dowodem niż anonimowa pochwała. Sposoby oznaczania takich opinii omawia tekst o opiniach zweryfikowanych zakupem.
  3. Nie kupuj opinii – zysk w postaci kilku dodatkowych piątek jest niewspółmierny do ryzyka kary i utraty zaufania.

Marketerom:

  1. Pokazuj źródło i sposób weryfikacji ocen; opinia zweryfikowana jest dziś wyróżnikiem, a nie formalnością.
  2. Porównuj oceny marki w kilku serwisach – rozbieżności bywają pierwszym sygnałem manipulacji, także przeciwko tobie.

Czytelnikom opinii:

  1. Zwracaj uwagę na konta z jedną recenzją i skrajną oceną oraz na skupiska podobnych opinii w krótkim czasie; pełną listę sygnałów zawiera tekst o tym, jak rozpoznać fałszywą opinię.
  2. W turystyce porównuj serwisy z weryfikacją i bez niej – gdzie goście szukają recenzji, opisujemy w przeglądzie opinii w turystyce.

Praca Mayzlin, Dover i Chevalier należy do najczęściej cytowanych badań o manipulacji opiniami, bo pokazuje ją bez polowania na pojedyncze fałszywki. Pozostałe badania o sile i słabościach dowodu społecznego zebraliśmy w przeglądzie 30 udokumentowanych badań i przypadków.

Najczęstsze pytania

Jak naukowcy wykryli fałszywe opinie hoteli, nie wskazując konkretnych recenzji?

Porównali rozkład ocen tych samych hoteli w dwóch serwisach: TripAdvisorze, gdzie opinię mógł dodać każdy, i Expedii, gdzie trzeba było mieć rezerwację. Następnie sprawdzili, czy różnice między serwisami są większe u hoteli, które mają silniejszą motywację do manipulacji. Taka metoda nie wskazuje pojedynczych fałszywek, ale pozwala oszacować skalę zjawiska.

Które hotele najczęściej publikowały fałszywe opinie?

Według badania największą motywację miały hotele niezależne należące do małych właścicieli. Jeden hotel nie rozkłada ryzyka wykrycia na wiele obiektów, a każda dodatkowa rezerwacja trafia bezpośrednio do właściciela. Najmniejszą motywację miały hotele sieciowe należące do dużych firm, dla których skandal mógłby zaszkodzić całej marce.

Czy fałszywe są głównie pozytywne, czy negatywne opinie?

Badanie wskazuje na oba rodzaje. Hotele z silną motywacją miały więcej ocen pięciogwiazdkowych na TripAdvisorze, a ich bezpośredni sąsiedzi – więcej ocen jedno- i dwugwiazdkowych. Autorzy szacowali to na około 7 dodatkowych fałszywych pochwał dla hotelu niezależnego i około 6 dodatkowych fałszywych krytyk dla hotelu sąsiadującego z takim konkurentem.

Czy opiniom w serwisach z weryfikacją rezerwacji można ufać bardziej?

Weryfikacja nie gwarantuje prawdziwości, ale znacząco podnosi koszt fałszowania, bo każda opinia wymaga rzeczywistej rezerwacji. W badaniu efekty motywacji do manipulacji były wyraźnie widoczne na TripAdvisorze, a nie w Expedii. Przy porównywaniu ocen hotelu rozsądnie jest traktować serwis z weryfikacją jako punkt odniesienia.

Czy wnioski z badania z 2011 roku są nadal aktualne?

Mechanizm motywacji jest aktualny, liczby – już nie. Od czasu zebrania danych platformy rozbudowały systemy wykrywania fałszywych opinii, a w Unii Europejskiej od 2022 r. ich zamieszczanie i zlecanie jest zakazane w każdych okolicznościach. Badanie pozostaje jednak wzorcowym przykładem, jak wykrywać manipulację w danych zamiast w pojedynczych tekstach.