Chatbot miał pomagać ludziom. Ofiary nawet nie wiedzą, że są celem

Spam, jakiego jeszcze nie było

Zespół SentinelLabs ujawnił, że ChatGPT, a dokładniej jego API powiązane z modelem GPT-4o-mini, został wykorzystany do stworzenia gigantycznej kampanii spamowej. Przestępcy posłużyli się narzędziem o nazwie AkiraBot, by automatycznie tworzyć i wysyłać unikalne wiadomości reklamowe. W odróżnieniu od tradycyjnego spamu te wiadomości były perfekcyjnie dostosowane do odbiorcy. Tak bardzo, że nie sposób było ich odróżnić od treści napisanych przez człowieka. W efekcie w ciągu zaledwie czterech miesięcy, od września 2024 roku do stycznia 2025, spam trafił na ponad 80 000 witryn internetowych, głównie przez czaty i formularze kontaktowe. Nie były to maile, lecz wpisy publikowane bezpośrednio na stronach internetowych, w polach, które zwykle służą do komunikacji z klientami.

Nowa era zagrożeń

Czasy, gdy spam dało się łatwo wykryć po dziwnej składni lub podejrzanym linku, odchodzą do przeszłości. Dzięki AI każdy komunikat może być unikalny, gramatycznie poprawny i zindywidualizowany, co pozwala skutecznie omijać filtry antyspamowe, nawet te wspierane algorytmami uczenia maszynowego. Co więcej, przestępcy nie potrzebują zaawansowanego zaplecza technologicznego. Prosty skrypt w Pythonie, dostęp do API ChatGPT i kilka domen – to wystarczyło, by uruchomić masową kampanię, która przynosi realne zyski z promowania wątpliwych usług.

OpenAI reaguje

Firma OpenAI, właściciel ChatGPT, została poinformowana o całej sytuacji i przyznała, że takie działania są sprzeczne z warunkami korzystania z usługi. Nie ujawniono jednak, czy podjęto konkretne kroki wobec użytkowników nadużywających API, ani czy badacze z SentinelLabs otrzymali jakiekolwiek wynagrodzenie za swoje odkrycie, mimo że OpenAI znane jest z programów nagród za wykrycie luk bezpieczeństwa. To jednak nie pierwszy raz, gdy ChatGPT trafia na czołówki serwisów z powodów innych niż jego kreatywność. Firma toczy obecnie spór prawny z Elonem Muskiem, a także zmaga się z kontrowersjami wokół generowania obrazów stylizowanych na twórczość studia Ghibli.

Ofiary, które nawet nie wiedzą, że zostały celem

Najbardziej niepokojące w tej historii jest to, że osoby i firmy, których strony zostały zasypane spamem, najprawdopodobniej nie mają pojęcia, że padły ofiarą ataku. Komunikaty były zbyt naturalne, by je odrzucić – mogły wyglądać jak pytania od klientów, prośby o ofertę czy zwykłe wiadomości. Eksperci twierdzą, że to dopiero początek nowej ery zagrożeń cyfrowych, w której sztuczna inteligencja będzie nie tylko naszym pomocnikiem, ale i potencjalnym narzędziem ataku.

Ciekawostką pozostaje fakt, że istnieje grupa urządzeń niemal wolna od tego typu zagrożeń. Chodzi o czytniki e-booków. Z racji swojej specyfiki, braku przeglądarek i aplikacji, są one odporne na zalew AI-spamu i innych treści generowanych maszynowo. To paradoks, że w dobie coraz szybszych smartfonów i laptopów, właśnie prostsze technologie zapewniają dziś większe bezpieczeństwo.