Dziennikarze NPR sprawdzili, skąd ChatGPT czerpie informacje o kandydatach w amerykańskich wyborach połówkowych. W około połowie przypadków chatbot powoływał się na sieć stron podszywających się pod lokalne media, które w rzeczywistości promują kandydatów Partii Demokratycznej. Nie wiadomo, kto za nimi stoi.
Strony udające lokalne gazety
Sprawę wykryła firma VisionHeight, zajmująca się bezpieczeństwem cyfrowym. Zidentyfikowała ona 37 powiązanych witryn promujących kandydatów na stanowiska federalne, stanowe i lokalne, głównie z ramienia Demokratów. Dziesięć z nich to „lokalne serwisy informacyjne”, z których każdy lansuje jednego kandydata w wyrównanym wyścigu o Izbę Reprezentantów.
Przykładem jest Kalamazoo Beacon, który w kodzie strony określa się jako serwis informacyjny o Kalamazoo i południowo-zachodnim Michigan. Opublikował jednak tylko 16 tekstów, wszystkie o Seanie McCannie, jego poglądach i dorobku w legislaturze stanowej. Na pytanie o kandydatów dbających o kwestie kosztów życia w 4. okręgu Michigan ChatGPT wskazał McCanna jako autora „najbardziej szczegółowego planu” i podał Beacon jako źródło.
Według danych rejestrowych wszystkie 37 stron założono 15 września, a niemal wszystkie w ciągu ośmiu minut. Setki artykułów pojawiły się w partiach we wrześniu i październiku, co według VisionHeight może wskazywać na użycie AI do generowania treści. Strony wprost wpuszczają boty AI, a wiele tekstów ma formę pytań i odpowiedzi, które chatboty chętnie cytują. Każda witryna miała też plik llms.txt, rzadko spotykany poza serwisami technologicznymi i biznesowymi.
Jak wypadły chatboty
NPR zadało ChatGPT, Gemini i wyszukiwarce Google 37 pytań o kandydatów w dziesięciu okręgach. ChatGPT w 19 odpowiedziach przywołał co najmniej jeden artykuł z sieci, w 17 z nich był to serwis podszywający się pod lokalne media. Szczególnie podatne okazały się wybory na niższym szczeblu: pytany o pięciu kandydatów do rad miejskich w Michigan, chatboty za każdym razem cytował stronę Wolverine State Report.
Gemini nie zacytował żadnej z tych stron, a w siedmiu przypadkach w ogóle odmówił odpowiedzi i odesłał do zewnętrznych źródeł. Google przyznało, że jedna ze stron na początku października wyświetlała się wysoko w wynikach wyszukiwania, i poinformowało o „szybkiej reakcji” po wykryciu naruszenia zasad. OpenAI odpowiedziało, że ChatGPT korzysta z wielu źródeł, by ludzie mogli samodzielnie oceniać informacje. Po zgłoszeniu NPR Kalamazoo Beacon wciąż był cytowany w każdym z pięciu kolejnych testów.
Autorzy zastrzegają, że każde pytanie zadano tylko raz, a odpowiedzi chatbotów mogą się różnić. Badacze zwracają też uwagę na zjawisko „luki danych”: gdy o jakiejś sprawie, np. wyborach lokalnych, powstaje mało rzetelnych materiałów, chatboty częściej sięgają po wątpliwe źródła.
Kto za tym stoi i co z tego wynika dla nas
Operatora sieci nie udało się ustalić. Kandydatka JoAnna Mendoza zapewniła, że nie ma z nią nic wspólnego, a komitet wyborczy Demokratów w Izbie Reprezentantów zaprzeczył swojemu udziałowi. Pozostałe zapytane strony nie odpowiedziały. Renée DiResta z Georgetown University, badaczka kampanii wpływu w sieci, uważa, że optymalizowanie przekazu pod chatboty jest zrozumiałe, ale udawanie redakcji to już oszustwo. Z kolei Patrick Warren z Clemson University przypomina, że ukryte reklamy w przebraniu wiadomości mają długą historię: „pod słońcem nie ma nic nowego”.
Dla polskiego czytelnika to przede wszystkim ostrzeżenie. Nie wiadomo, czy podobne sieci działają przy wyborach w Polsce czy w UE, ale mechanizm jest uniwersalny: kto zalewa internet pasującymi do pytań tekstami, może wpłynąć na odpowiedź chatbota, zwłaszcza w sprawach lokalnych, o których mało się pisze.
- Sprawdzaj, czy podane przez chatbota źródło ma redakcję, stopkę i historię publikacji.
- Zwracaj uwagę na serwisy z tekstami o jednym kandydacie lub jednej partii.
- Dane o kandydatach weryfikuj w kilku niezależnych źródłach i na ich oficjalnych stronach.
Źródło: NPR – „Websites pretending to be local news are boosting Democratic candidates”