Dzwonisz i wpadasz w pułapkę. Jak oszuści wykorzystują AI od Google

Funkcje AI w wyszukiwarce Google budzą kontrowersje od samego początku. Streszczenia informacji podsyłane przez algorytmy nie zawsze są trafne, o ile nie całkiem absurdalne. Twórcy treści zarzucają im także, że odbierają ruch ze stron internetowych. Teraz okazuje się, że pomagają oszustom, podrzucając użytkownikom fałszywe numery telefonów.

Zakładane przez oszustów strony internetowe, udające prawdziwe marki, to nic nowego. "Washington Post" alarmuje, że AI Google nie widzi między nimi różnicy, przez co może podrzucić fejkowe numery jako wyniki wyszukiwania w Podsumowaniach AI. Innymi słowy, ludzie już zaczęli sami dzwonić i pakować się w ręce przestępców. Amerykański portal opisał przykład Alexa Rivlina, przedsiębiorcy z Las Vegas. Mężczyzna szukał informacji o rejsie statkiem wycieczkowym i dodzwonił się na "infolinię" oszustów, którym podał dane swojej karty płatniczej.

Rzecznik Google w rozmowie z "Washington Post" zapewnił, że firma jest świadoma problemu i podjęto działania do walki z takimi incydentami. Trwają też prace nad "szerszymi usprawnieniami".

Jak to się dzieje? Przestępcy, chcąc złowić ofiarę, rozrzucają takie dane kontaktowe czy linki do fałszywych stron po sieci – w komentarzach, na forach, gdzie popadnie. Sam miałem przykład z jednego portalu, gdzie pracowałem, jak luka w zabezpieczeniach wywołała zalew botów obsypujących sekcję komentarzy linkami, mailami i "reklamami".

Powtarzalność tego zjawiska sprawia, że algorytmy dają się oszukać i traktują te informacje jako autentyczne. AI Google ma preferować wypowiedzi generowane przez internautów, co pogarsza sprawę.

Źródło: Washington Post.