Niewidzialna wojna trwa w tle. Wywiad o bezpieczeństwie ze specjalistą Google

Łatwo jest zauważyć, że wzrasta liczba cyberataków i oszustów, kreatywnie korzystających z nowych technologii. Od Artura Kulińskiego usłyszeliśmy o braku 3 milionów ekspertów na rynku cyberbezpieczeństwa. To może wzbudzić niepokój. Nasz rozmóca zwraca jednak uwagę, że nadal jest ich więcej od przestępców, a firmy technologiczne dzięki swojemu zapleczu szybciej rozwijają zabezpieczenia.

Przykładem jest Google, które swój duży model językowy PaLM2 nauczyło języka security. O tym, co ws. bezpieczeństwa AI może i nie może, rozmawiamy na łamach INNPoland.

Redakcja INNPoland: Z jakimi wyzwaniami mierzy się rynek cybersecurity?

Artur Kuliński: Myślę, że należy postawić pytanie nieco inaczej - na jakie wyzwania dotyczące cyberbezpieczeństwa musi dziś odpowiedzieć branża? Rozwój technologii zawsze może zachęcić przestępców do szukania nowych sposobów na przykład nielegalnego zarobku czy wyłudzania danych. Phising i atakowanie użytkowników indywidualnych nasiliły się zwłaszcza w związku z agresją Federacji Rosyjskiej na Ukrainę.

Mówiliśmy o tym w lutym tego roku, publikując raport "Fog of War". Branża cybersecurity musi nie tylko przystosowywać się do nowych, coraz bardziej złożonych zagrożeń, ale musi być w stanie je przewidywać i wyprzedzać. Sztuczna inteligencja odegra kluczową rolę w optymalizacji działania narzędzi bezpieczeństwa, w tym w wykrywaniu i reagowaniu na zagrożenia, dostarczając osobom podejmującym decyzje w organizacji tylko te dane, które naprawdę są istotne. Wyzwaniem, które stoi przed branżą jest również brak wystarczającej liczby specjalistów i specjalistek. Na całym świecie brakuje ich przynajmniej trzy miliony.

Jak długo trwa normalnie szkolenie takiej osoby. Czy AI to przyśpieszy?

Ilość czasu przeznaczona na szkolenie specjalisty ds. cyberbezpieczeństwa oczywiście zależy od wielu czynników. Przede wszystkim od wcześniejszych doświadczeń praktycznych i teoretycznych takiej osoby. Narzędzia oparte na sztucznej inteligencji oczywiście mogą ułatwić trening takich osób i bardziej efektywnie wykorzystać ich czas. 

Coraz więcej mówi się o atakach cyberprzestępców: jakie są najbardziej powszechne metody ataku i jak wasze narzędzia z nimi sobie radzą? Każdy słyszał o metodzie wyłudzania pieniędzy "na wnuczka", kiedy to przestępcy podszywając się zazwyczaj pod członka bliskiej rodziny, proszą o pilny przelew lub przekazanie pieniędzy. Przestępcy stwarzają też wrażenie pilności. Taką metodą podszywania się w internecie jest phising.

Wyobraźmy sobie taką sytuację - otrzymujemy SMSa z informacją, że nasza paczka została zatrzymana i jeśli nie dopłacimy pozornie drobnej kwoty, to przesyłka zostanie zniszczona. Wiadomość zawiera link wyglądający łudząco podobnie do oficjalnej strony firmy kurierskiej. Podajemy tam dane swojej karty i… z konta znika nam dużo więcej pieniędzy niż te kilka groszy, o które upominała się podszywająca się pod firmę kurierską osoba lub grupa.

Użytkownicy i użytkowniczki produktów Google są stale atakowani przez cyberprzestępców, lecz nawet nie zdają sobie z tego sprawy. Dlaczego? Dlatego, że nasza ochrona działa w tle.

I tak na przykład Gmail codziennie blokuje 15 miliardów wiadomości ze spamem. Zatrzymuje ponad 99 proc. spamu, złośliwego oprogramowania i prób wyłudzenia informacji. Przykładów automatycznych procesów i narzędzi można mnożyć - dodam, że funkcja bezpieczne przeglądanie chroni 4 miliardy urządzeń.

PaLM 2 został nauczony przez was języka security – od kogo pochodzą dane, na których go szkoliliście i co stoi za jego rzetelnością? Jakie języki programowania zna?

PaLM 2 to model językowy nowej generacji stworzony przez Google. Jest wszechstronny, rozumie ponad 100 różnych języków, jest w stanie wnioskować czy kodować. PaLM 2 został wstępnie wytrenowany na dużej ilości publicznie dostępnych zbiorów danych kodu źródłowego.

Oznacza to, że doskonale radzi sobie z popularnymi językami programowania, takimi jak Python i JavaScript, ale może również generować specjalistyczny kod w językach takich jak Prolog, Fortran i Verilog.

Specjalną wersją tego modelu jest Sec-PaLM, skupiający się na cyberbezpieczeństwie. Wersja ta jest dostępna za pośrednictwem Google Cloud i wykorzystuje sztuczną inteligencję, aby analizować i wyjaśniać zachowanie potencjalnie złośliwych skryptów. Przyczynia się również do wykrywania w niespotykanym dotąd czasie, które skrypty stanowią rzeczywiste zagrożenie dla użytkowników i organizacji.

Antywirusy będą jeszcze potrzebne, po wprowadzeniu do firmy waszych narzędzi? I jak one są od nich skuteczniejsze? Na czym polegają różnice w działaniu AI od security i antywirusa, tak, by laik zrozumiał?

Odpowiem pytaniem na pytanie - czy jeśli mieszkamy na parterze, mamy drzwi wyposażone w najnowocześniejsze zamki, to wychodząc z domu możemy zostawiać otwarte na oścież okna? Oczywiście, że nie - drzwi nie zostaną co prawda sforsowane, ale złodzieje wejdą przez otwarte okno. Tak samo jest ze sztuczną inteligencją i antywirusami.

Pomimo, że my jako firma zabezpieczymy konta naszych użytkowników przed phisingiem, próbami wyłudzenia spamem itp., to nie jesteśmy w stanie zabezpieczyć go na przykład przed podłączeniem do komputera zainfekowanego pendrive’a. Tutaj jest właśnie przestrzeń dla antywirusów.

Przestępcy też używają AI – przykładem jest WormGPT – jak poważne jest zagrożenie z tej strony i jakie wyzwania to stawia przed światem security?

Sztuczna inteligencja to narzędzie. Od użytkowników zależy to, w jaki sposób je wykorzystają. Natomiast pamiętajmy, że to również dzięki sztucznej inteligencji jesteśmy w stanie łatwiej i szybciej identyfikować zagrożenia i na nie reagować.

Co oferują wasze narzędzia VertexAI i DuetAI?

Vertex AI umożliwia tworzenie, wdrażanie i skalowanie modeli uczenia maszynowego. Dzięki Vertex klienci mają dostęp do ponad 100 modeli, w tym tych oferowanych przez inne firmy i popularnych wersji open-source.

Oferujemy modele specyficzne dla branży, takie jak wspomniany Sec-PaLM 2 dla cyberbezpieczeństwa. Programiści chwalą Vertex między innymi ze względu na szeroki wybór narzędzi open source oraz możliwość tworzenia aplikacji w dowolnym środowisku.

Z kolei Duet AI to "współpracownik" użytkownika korzystającego z Google Workspace (np. z Dokumentów czy Gmaila) czy Google Cloud. W przypadku Google Cloud, Duet AI zapewnia pomoc sztucznej inteligencji w szerokim zakresie produktów i usług. Może pomóc nam wcielając się w rolę asystenta, analityka danych, zasugerować najlepszy sposób rozwiązania problemu z aplikacjami czy podpowiedzieć najlepsze praktyki, które zapobiegają cyberzagrożeniom.

W zakresie cyberbezpieczeństwa – co może zrobić człowiek, a czego nie zrobi AI?

Chciałbym jeszcze raz podkreślić - sztuczna inteligencja to narzędzie. Narzędzie niezwykle przydatne, również w cyberbezpieczeństwie. Rozwiązania wykorzystujące AI są w stanie wesprzeć specjalistów w szybszym identyfikowaniu zagrożeń. Szybkość analizy bardzo złożonych zbiorów danych to nieoceniona pomoc w codziennej pracy.

Ekspert cyberbezpieczeństwa oczywiście poradziłby sobie bez sztucznej inteligencji, ale większość rzeczy zajęłaby mu zbyt dużo czasu. A czas w naszej pracy, zwłaszcza przy kryzysach bezpieczeństwa, jest na wagę złota.