Analiza danych
Teczka nr 012, Turystyka
| Wskaźnik | Przed | Po |
|---|---|---|
| Szacowane dodatkowe opinie 5★ hotelu niezależnego vs sieciowego | — | ok. 7 opinii |
2931 hoteli w USA, dane z października 2011 r., średnio 120 opinii
Case studiesTeczka nr 012
Fałszywe opinie hoteli rzadko da się udowodnić pojedynczo, ale można je wykryć w danych. Dina Mayzlin, Yaniv Dover i Judith Chevalier porównali recenzje tych samych hoteli w serwisie otwartym dla wszystkich i w serwisie dla zweryfikowanych gości. Omawiamy metodę, liczby i to, co badanie mówi o motywacji do manipulacji.
Analiza danych
Teczka nr 012, Turystyka
| Wskaźnik | Przed | Po |
|---|---|---|
| Szacowane dodatkowe opinie 5★ hotelu niezależnego vs sieciowego | — | ok. 7 opinii |
2931 hoteli w USA, dane z października 2011 r., średnio 120 opinii
Fałszywe opinie hoteli zostawiają ślad w statystyce. Dina Mayzlin, Yaniv Dover i Judith Chevalier porównali recenzje tych samych hoteli w TripAdvisorze i Expedii i wykazali, że hotele z silną motywacją do manipulacji mają w otwartym serwisie więcej pięciogwiazdkowych ocen, a ich sąsiedzi – więcej jedynek i dwójek. Skala była zauważalna, ale dotyczyła niewielkiej części wszystkich opinii.
Największą przeszkodą w badaniu fałszywych opinii jest to, że dobrze napisana fałszywka wygląda jak prawdziwa recenzja. Autorzy ominęli ten problem. Zamiast oceniać pojedyncze teksty, wykorzystali różnicę w zasadach dwóch dużych serwisów turystycznych:
Fałszywa opinia w TripAdvisorze kosztowała więc tyle, ile założenie konta i napisanie tekstu. W Expedii wymagała opłacenia pobytu. Jeśli hotele manipulują recenzjami, ślady powinny być wyraźniejsze w serwisie otwartym.
Badanie, zatytułowane „Promotional Reviews: An Empirical Investigation of Online Review Manipulation”, ukazało się w sierpniu 2014 r. w „American Economic Review”. Wcześniej krążyło jako wersja robocza National Bureau of Economic Research (NBER) z lat 2012–2013 – z niej pochodzą szczegółowe liczby przytaczane poniżej. Kierunek wniosków w wersji opublikowanej jest taki sam.
Drugi element pomysłu to przewidzenie, które hotele powinny manipulować częściej. Autorzy rozumowali w kategoriach kosztów i korzyści.
Hotel niezależny należący do małego właściciela zyskuje najwięcej: każda dodatkowa rezerwacja trafia bezpośrednio do niego, a ryzyko wykrycia dotyczy tylko jednego obiektu. Hotel sieciowy należący do dużej firmy ma mniej do zyskania, bo goście wybierają go także ze względu na markę, i więcej do stracenia – skandal z fałszywymi opiniami mógłby uderzyć w setki obiektów. Ważna była nie tylko marka, ale też struktura właścicielska i to, kto zarządza hotelem.
Trzeci element to sąsiedztwo. Fałszywa negatywna opinia ma sens wtedy, gdy uderza w bezpośredniego konkurenta. Autorzy sprawdzali więc, czy hotele położone w promieniu 0,5 km od niezależnego obiektu mają w TripAdvisorze więcej krytycznych ocen, niż wynikałoby to z ich ocen w Expedii. Sąsiada w takiej odległości miało 76% hoteli w próbie.
Autorzy zebrali opinie w październiku 2011 r. dla hoteli z amerykańskich miast od 25. do 75. miejsca pod względem liczby ludności (bez Las Vegas). Do analizy trafiło 2931 hoteli, które miały recenzje w obu serwisach – łącznie 350 485 opinii z TripAdvisora i 123 569 z Expedii. Dane o hotelach, w tym o właścicielach i zarządcach, pochodziły z bazy firmy badawczej STR.
| Średnio na hotel | TripAdvisor | Expedia |
|---|---|---|
| Liczba opinii | 119,6 | 42,2 |
| Średnia ocena | 3,52 | 3,95 |
| Udział ocen 1-gwiazdkowych | 14% | 7% |
| Udział ocen 2-gwiazdkowych | 11% | 8% |
| Udział ocen 5-gwiazdkowych | 31% | 44% |
Sama różnica między serwisami niczego jeszcze nie dowodzi – TripAdvisor przyciąga innych użytkowników niż serwis rezerwacyjny i jest ogólnie bardziej krytyczny. Dowodem jest dopiero to, że różnica zmienia się zależnie od motywacji hotelu do manipulacji.
Zmienną badaną była różnica w udziale danych ocen między TripAdvisorem a Expedią. Najważniejsze wyniki z wersji roboczej badania:
| Cecha hotelu | Efekt na różnicę TripAdvisor – Expedia |
|---|---|
| Sąsiad w promieniu 0,5 km | +1,9 pkt proc. udziału ocen 1–2 gwiazdki |
| Sąsiad niezależny | dodatkowo +1,7 pkt proc. ocen 1–2 gwiazdki |
| Sąsiad należący do dużego właściciela | −2,5 pkt proc. ocen 1–2 gwiazdki |
| Własny hotel niezależny | +2,4 pkt proc. ocen 5 gwiazdek |
| Własny hotel dużego właściciela | −3,1 pkt proc. ocen 5 gwiazdek |
Autorzy przełożyli te wartości na liczby opinii. Hotel niezależny należący do małego właściciela miał – w porównaniu z hotelem sieciowym dużej firmy – około 7 dodatkowych fałszywych pochwał w TripAdvisorze, przy przeciętnie 120 opiniach, w tym 37 pięciogwiazdkowych. Hotel położony obok takiego niezależnego obiektu miał – w porównaniu z hotelem bez sąsiadów – około 6 dodatkowych fałszywych krytyk, przy przeciętnie 30 ocenach jedno- i dwugwiazdkowych.
Dla pojedynczego hotelu kilka opinii to niewiele. Ale 6 fałszywych jedynek wśród 30 krytycznych recenzji to jedna piąta negatywnego obrazu obiektu – wystarczająco dużo, by przesunąć średnią i decyzje gości. Wpływ jednej gwiazdki na przychody dobrze pokazuje badanie Yelp i restauracji.
Równie wymowny jest wynik odwrotny. Hotel, którego sąsiadem był obiekt dużego właściciela, miał w TripAdvisorze mniej krytycznych ocen niż hotel z sąsiadem niezależnym. To zgodne z hipotezą autorów: duże firmy, które mają dużo do stracenia, rzadziej sięgają po fałszywe ataki na konkurencję. Gdyby różnice wynikały wyłącznie z odmiennych gustów użytkowników obu serwisów, struktura właścicielska sąsiada nie powinna mieć znaczenia.
Autorzy przeprowadzili szereg testów odporności, które wzmacniają wnioski, ale też pokazują ich granice:
Wniosek autorów jest wyważony: manipulacja jest istotna ekonomicznie, ale niewielka w porównaniu z całą liczbą recenzji. Badanie nie mówi, że opinie hotelowe są fałszywe, tylko że w otwartym serwisie istnieje mierzalny margines manipulacji, który rośnie wraz z motywacją firm.
Logika badania sprawdza się także na małą skalę. Firma, która zbiera opinie w kilku miejscach, może porównać ich rozkłady i wychwycić anomalie, zanim zauważą je klienci:
Taka analiza nie udowodni, że konkretna recenzja jest fałszywa, ale wskaże, gdzie szukać problemu i jakie dane dołączyć do zgłoszenia w serwisie. Przy kilkudziesięciu opiniach wnioski będą jedynie orientacyjne – badacze potrzebowali tysięcy hoteli, by uchwycić efekt rzędu kilku punktów procentowych.
Dane pochodzą z 2011 r., a rynek opinii wygląda dziś inaczej. Platformy rozwinęły automatyczne filtry, a w Unii Europejskiej zamieszczanie i zlecanie fałszywych opinii znalazło się na liście praktyk zakazanych w każdych okolicznościach; wyjaśniamy ją w artykule o czarnej liście nieuczciwych praktyk. W Polsce przepisy wdrażające dyrektywę Omnibus obowiązują od 1 stycznia 2023 r., a odpowiedzialność firm i menedżerów omawiamy w tekście o fałszywych opiniach a prawie.
Zmieniła się też podaż. Fałszywe opinie są dziś często kupowane od wyspecjalizowanych pośredników, a nie pisane przez właściciela. Polski regulator ścigał takie firmy, o czym piszemy w przeglądzie kar UOKiK dla handlarzy opiniami. Niezmienny pozostał natomiast mechanizm opisany przez Mayzlin, Dover i Chevalier: najwięcej do zyskania na manipulacji mają małe, niezależne firmy w gęstej konkurencji lokalnej.
Badanie daje praktyczne wskazówki trzem grupom.
Hotelarzom i firmom lokalnym:
Marketerom:
Czytelnikom opinii:
Praca Mayzlin, Dover i Chevalier należy do najczęściej cytowanych badań o manipulacji opiniami, bo pokazuje ją bez polowania na pojedyncze fałszywki. Pozostałe badania o sile i słabościach dowodu społecznego zebraliśmy w przeglądzie 30 udokumentowanych badań i przypadków.
Porównali rozkład ocen tych samych hoteli w dwóch serwisach: TripAdvisorze, gdzie opinię mógł dodać każdy, i Expedii, gdzie trzeba było mieć rezerwację. Następnie sprawdzili, czy różnice między serwisami są większe u hoteli, które mają silniejszą motywację do manipulacji. Taka metoda nie wskazuje pojedynczych fałszywek, ale pozwala oszacować skalę zjawiska.
Według badania największą motywację miały hotele niezależne należące do małych właścicieli. Jeden hotel nie rozkłada ryzyka wykrycia na wiele obiektów, a każda dodatkowa rezerwacja trafia bezpośrednio do właściciela. Najmniejszą motywację miały hotele sieciowe należące do dużych firm, dla których skandal mógłby zaszkodzić całej marce.
Badanie wskazuje na oba rodzaje. Hotele z silną motywacją miały więcej ocen pięciogwiazdkowych na TripAdvisorze, a ich bezpośredni sąsiedzi – więcej ocen jedno- i dwugwiazdkowych. Autorzy szacowali to na około 7 dodatkowych fałszywych pochwał dla hotelu niezależnego i około 6 dodatkowych fałszywych krytyk dla hotelu sąsiadującego z takim konkurentem.
Weryfikacja nie gwarantuje prawdziwości, ale znacząco podnosi koszt fałszowania, bo każda opinia wymaga rzeczywistej rezerwacji. W badaniu efekty motywacji do manipulacji były wyraźnie widoczne na TripAdvisorze, a nie w Expedii. Przy porównywaniu ocen hotelu rozsądnie jest traktować serwis z weryfikacją jako punkt odniesienia.
Mechanizm motywacji jest aktualny, liczby – już nie. Od czasu zebrania danych platformy rozbudowały systemy wykrywania fałszywych opinii, a w Unii Europejskiej od 2022 r. ich zamieszczanie i zlecanie jest zakazane w każdych okolicznościach. Badanie pozostaje jednak wzorcowym przykładem, jak wykrywać manipulację w danych zamiast w pojedynczych tekstach.