Google skierowało do sądu federalnego w Kalifornii pozew przeciwko grupie cyberprzestępczej, której przypisuje się wykorzystanie dużego modelu językowego Gemini do przygotowywania masowych ataków phishingowych. Koncern domaga się nakazu zablokowania infrastruktury przestępców oraz odszkodowania za naruszenie znaku towarowego i bezprawne wykorzystywanie wizerunku jego usług.
Geneza pozwu i tożsamość sprawców
Według treści pozwu adresatem roszczeń jest działająca z terytorium Chin organizacja określana przez śledczych nazwą Outsider Enterprise. Jej członkowie mieli tworzyć witryny imitujące interfejsy popularnych usług – od Gmaila i YouTube po amerykańską pocztę USPS i system opłat drogowych E-ZPass – aby nakłonić ofiary do podawania danych lub uiszczania rzekomych należności. Zgromadzone przez firmę dowody wskazują, że przestępcy przygotowali ponad 9 000 stron oraz ponad milion spreparowanych adresów URL, wykorzystując do generowania treści i kodu możliwości modelu Gemini.
Techniczne kulisy kampanii i skala strat
Gemini, jak każdy nowoczesny model generatywnej sztucznej inteligencji, potrafi wytwarzać realistycznie brzmiące komunikaty, tłumaczyć tekst na wiele języków i rekonstruować stylistykę oryginalnych serwisów. Outsider Enterprise miało użyć tych funkcji do błyskawicznego klonowania wyglądu portali oraz produkcji spójnych komunikatów e-mail i SMS. W szczytowym momencie – na przestrzeni dwóch majowych tygodni – użytkownicy systemu Android zgłosili 55 000 podejrzanych wiadomości, a zidentyfikowane pocztą elektroniczną kampanie phishingowe obejmowały około 2,5 mln wysyłek. Choć pełna wartość strat jest trudna do oszacowania, analitycy Google oceniają, że może ona sięgać wielu milionów dolarów, biorąc pod uwagę zarówno bezpośrednie przelewy, jak i kradzież danych logowania.
Koordynacja działań z FBI i operatorami telekomunikacyjnymi
Pozew to jedynie część reakcji korporacji z Mountain View. Jej zespół ds. nadużyć cyfrowych od kilku miesięcy współdziała z Federalnym Biurem Śledczym oraz największymi operatorami sieci komórkowych w Stanach Zjednoczonych. Operatorzy wdrożyli filtry ruchu SMS oparte na uczeniu maszynowym, które odrzucają wiadomości zawierające znane wzorce linków phishingowych, zanim dotrą one do odbiorców. Równolegle Google wykorzystuje wewnętrzną infrastrukturę Safe Browsing i technikę sinkhole, aby przekierowywać podejrzane domeny na serwery kontrolowane przez analityków bezpieczeństwa, co uniemożliwia dalszą eksfiltrację danych.
Regulacyjne wyzwania ery generatywnej AI
Sprawa Outsider Enterprise unaocznia szerszy problem: generatywna AI, będąca siłą napędową innowacji w wyszukiwarkach, asystentach głosowych czy narzędziach deweloperskich, staje się równocześnie bronią w rękach cyberprzestępców. Według raportu unijnej agencji ENISA liczba ataków wykorzystujących syntetyczne treści rośnie o ponad 35% rok do roku. Google zapowiada, że oprócz środków technicznych będzie lobbować za nowelizacją amerykańskiej ustawy Computer Fraud and Abuse Act, aby czynności polegające na masowym generowaniu fałszywych witryn przy użyciu modeli językowych kwalifikować jako przesłankę do surowszych kar. Rosnąca presja regulacyjna widoczna jest także w Europie, gdzie finalizowane są przepisy AI Act wymagające od dostawców modeli wdrażania zabezpieczeń chroniących przed ich niewłaściwym użyciem.
Perspektywy walki z nadużyciami AI
Eksperci z firm CrowdStrike i Mandiant zgodnie wskazują, że kluczowe będzie łączenie mechanizmów prawnych z szybką wymianą danych telemetrycznych między sektorem prywatnym a organami ścigania. Modele generatywne potrafią tworzyć unikatowe treści, co utrudnia tradycyjne filtrowanie oparte na reputacji domen lub wskaźnikach hash. Stąd rola heurystyk analizujących zachowanie użytkownika, reputację infrastruktury sieciowej oraz korelację zdarzeń w czasie rzeczywistym. Google deklaruje, że najnowsze wersje Gemini zostaną wyposażone w systemy „red-teamingu” ograniczające możliwość generowania materiałów służących do oszustw finansowych, a firmowy zespół Threat Analysis Group będzie publikował cykliczne raporty o wykrytych kampaniach. Jeśli te inicjatywy osiągną zakładany efekt, sprawa Outsider Enterprise może stać się precedensem, który utrudni wykorzystanie generatywnej AI w kolejnych próbach wyłudzeń na masową skalę.
