AI i cyberbezpieczeństwo - czy powinniśmy się martwić?

Obecnie dużo mówi się o sztucznej inteligencji. Nie jest to dziwne, ponieważ AI jest szybko rozwijającą się technologią, którą każdy chce zaimplementować do swoich działań.

Niestety również przez cyberprzestępców, którzy wykorzystują ją do wspierania lub przeprowadzania ataków. Być może zastanawiasz się, w jakim stopniu Twoja organizacja powinna być zaniepokojona sztuczną inteligencją. Aby odpowiedzieć na to pytanie, przyjrzyjmy się najpierw, czym jest sztuczna inteligencja i jakie są jej obecne ograniczenia.

Rozwój sztucznej inteligencji

Pamiętam, jak na początku lat dziewięćdziesiątych grałem w gry komputerowe na moim pierwszym komputerze, którym było legendarne Atari 520STFM z imponującą pamięcią 512 KiB i głębią 16 kolorów. Była tam gra w piłkę nożną o nazwie Sensible Soccer - być może niektórzy z was w nią grali. W każdym razie, grając przeciwko komputerowi, wyglądało na to, że gracze mieli własne umysły, ponieważ byli w stanie pokonać człowieka. Czy była to prosta forma sztucznej inteligencji, która sprawiała, że ci gracze biegali dookoła, czy był to po prostu komputer grający w piłkę nożną? Jeśli zapytasz twórców gry, to faktycznie nazywają to sztuczną inteligencją i polecam przeczytanie wywiadu z nimi.

Gra komputerowa Sensible Soccer na Atari została wydana w 1990 roku.

Innym interesującym przykładem, bardziej związanym z cyberbezpieczeństwem, są filtry antyspamowe, takie jak „matka” wszystkich filtrów antyspamowych, SpamAssassin. Program SpamAssassin uczy się sam od 2003 roku. Im więcej danych trafia do silnika filtrującego spam, tym staje się on „mądrzejszy”. Czy jest to forma sztucznej inteligencji, która jest wykorzystywana w cyberobronie od ponad 20 lat?

Rok 1997 jest rokiem wartym zapamiętania, ponieważ jest uważany za kamień milowy dla AI. Był to rok, w którym IBM Deep Blue rozegrał sześcioosobowy mecz szachowy z mistrzem świata Garrym Kasparowem. Deep Blue wygrał dwie partie i zremisował trzy. Jego zwycięstwo jest uważane za kamień milowy w historii sztucznej inteligencji i można czytać książki i oglądać filmy o tym historycznym wydarzeniu.

Skąd więc dzisiejszy szum wokół sztucznej inteligencji? Cóż, komputery są teraz szybsze i mogą szybciej przetwarzać ogromne ilości danych. To sprawiło, że sztuczna inteligencja stała się dostępna publicznie, w wyniku czego widzimy ją wykorzystywaną w większej liczbie narzędzi, produktów i usług, z których korzystamy na co dzień - a możliwości AI będą nadal szybko rosły.

Kiedy AI stanie się prawdziwą sztuczną inteligencją?

Jednym z głównych ograniczeń sztucznej inteligencji jest to, że wciąż jest ona jednotorowa, co oznacza, że działa w jednym obszarze naraz. Może prowadzić samochód, odpowiadać na pytania, pisać teksty piosenek, tworzyć obrazy lub filmy albo analizować kod źródłowy w celu znalezienia luk w zabezpieczeniach. Zasadniczo sztuczna inteligencja istnieje w ramach jednego oprogramowania i służy jednemu celowi na raz.

Należę do grupy osób, które uważają, że największe korzyści ze sztucznej inteligencji pojawią się, gdy będzie ona mogła działać w wielu systemach, oprogramowaniu i platformach. Podczas gdy inżynierowie oprogramowania są w fazie rozwoju, ich celem jest rozszerzenie sztucznej inteligencji na wiele różnych obszarów i uczynienie jej częściowo wielościeżkową. Agenci ci są na bardzo wczesnym etapie rozwoju i pozostaje pytanie, czy kiedykolwiek będą przydatne, zanim sztuczna inteligencja osiągnie wyższy poziom inteligencji.

Czy AI staje się prawdziwą sztuczną inteligencją dopiero wtedy, gdy osiągnie wyższy poziom inteligencji, zdolny do wyciągania wniosków, refleksji i podejmowania decyzji takich jak ludzie?

AI i cyberbezpieczeństwo

Cyberprzestępcy już wykorzystują sztuczną inteligencję do wyrządzania szkód, ale można ją również wykorzystać do ochrony organizacji przed takimi szkodami. Dopóki jednak AI będzie działać w pojedynkę, nie zrewolucjonizuje ona ani zagrożeń, ani ochrony.

W jaki sposób sztuczna inteligencja zagraża dziś Twojej organizacji?

Istnieje kilka obszarów, ale jest ich dość niewiele:

• Znajdowanie słabych punktów i wad (podatności) w kodzie, oprogramowaniu i systemach.
• Tworzenie treści wykorzystywanych w inżynierii społecznej, takich jak ataki phishingowe.
• Podszywanie się pod inne osoby (przy użyciu tekstu, głosu lub wideo) w celu uzyskania dostępu do informacji lub wyrządzenia szkód.

W każdym obszarze, w którym działają cyberprzestępcy, mogą oni wykorzystywać sztuczną inteligencję do powodowania większych szkód w organizacjach szybciej niż było to możliwe wcześniej.

Testy penetracyjne jako przykład:

Niektórzy mogą powiedzieć, że komputery stanowią wyzwanie dla pracy konsultantów ds. testów penetracyjnych, ale jest to dalekie od rzeczywistości, ponieważ ludzie mogą wyciągać wnioski i przyjmować założenia w sposób, w jaki żadna sztuczna inteligencja nie jest dziś w stanie. Ludzie mogą również pracować z wieloma różnymi systemami, oprogramowaniem, platformami i fizycznymi lokalizacjami, co jest oczywistą niemożliwością dla obecnego poziomu AI. Tak więc, jak na razie, sztuczna inteligencja nie jest porównywalna z tym, co może osiągnąć człowiek i ludzki mózg.

Wnioski dotyczące cyberzagrożeń związanych ze sztuczną inteligencją

Wiele osób będzie próbowało czerpać korzyści z nowych trendów i technologii, niektórzy (jak cyberprzestępcy) w bardziej destrukcyjny sposób, a inni w mniej. Sztuczna inteligencja nie jest wyjątkiem. Obecnie istnieje tylko kilka konkretnych zagrożeń, których należy być świadomym, ale maleją one w porównaniu z innymi zagrożeniami, przed którymi organizacja powinna się chronić. Sytuacja będzie się jednak stopniowo zmieniać. Nadążanie za rozwojem sztucznej inteligencji jest kluczowe. Pomoże to organizacji podjąć odpowiednie działania w miarę rozwoju AI. W dniu, w którym sztuczna inteligencja rozwinie świadomość i / lub będzie mogła działać w różnych obszarach i systemach, wszyscy staniemy przed poważnym i nowym rodzajem wyzwania. Zresztą cyberprzestępcy już teraz wykorzystują sztuczną inteligencję, aby być bardziej „produktywnymi”. Tak więc, jeśli ochrona Twojej organizacji nie jest dziś najwyższym priorytetem, to musi nim być w przyszłości. Działaj teraz - zacznij być proaktywny!

Tłumaczenie tekstu napisanego przez Stefan Thelberg, CEO& Founder of Holm Secuirty