ChatGPT, публичният генеративен изкуствен интелект, който се появи в края на ноември 2022 г., предизвика основателни опасения относно потенциала му да засили сериозността и сложността на киберзаплахите. Всъщност, веднага след като OpenAI обяви пускането му, много експерти по сигурността прогнозираха, че ще бъде само въпрос на време преди нападателите да започнат да използват този чатбот с ИИ, за да създават зловреден софтуер или дори да увеличават фишинг атаките.

И не след дълго подозренията им се потвърдиха, тъй като беше установено, че киберпрестъпниците вече са започнали да използват този инструмент, базиран на езиковия модел на изкуствения интелект GPT-3, за пресъздаване на щамове на зловреден софтуер и извършване на различни видове атаки. Киберпрестъпниците просто трябва да имат акаунт в OpenAI, който могат да създадат безплатно от неговия уебсайт, и след това да направят заявка.

Какво могат да направят киберпрестъпниците с ChatGPT ?

Атакуващите могат да използват генеративния изкуствен интелект на ChatGPT, за да създават злонамерени дейности, включително:

– Фишинг:
Бандитите могат да използват големия езиков модел (LLM) на системата ChatGPT, за да се откажат от универсалните формати и да автоматизират създаването на уникални фишинг или фалшиви имейли, написани с перфектна граматика и естествени речеви модели, съобразени с всяка цел. Това означава, че имейл атаките, създадени с помощта на тази технология, изглеждат много по-убедително, което затруднява получателите да ги открият и да избегнат щракването върху злонамерени връзки, които може да съдържат зловреден софтуер.

– Кражба на самоличност:
Освен за фишинг, лошите  могат да използват ChatGPT, за да се представят за доверена институция, благодарение на способността на изкуствения интелект да възпроизвежда корпоративния тон и дискурс на банка или организация, и след това да използват тези съобщения в социалните медии, SMS или чрез имейли, за да получат лична и финансова информация на хората. Злонамерени хора могат също така да пишат съобщения в социалните медии, представяйки се за известни личности, като използват тази способност.

– Други атаки на социалното инженерство:
Могат да бъдат извършени и атаки за социално инженерство, при които извършителите използват модела, за да създават фалшиви профили в социалните медии, като ги правят да изглеждат много реалистично, и след това подмамват хората да кликнат върху злонамерени връзки или ги убеждават да споделят лична информация.

– Създаване на злонамерени ботове:
ChatGPT може да се използва за създаване на чатботове, тъй като има API, който може да захранва други чатове. Неговият удобен интерфейс, предназначен за полезни цели, може да се използва за измама на хора и провеждане на убеждаващи измами, както и за разпространение на спам или извършване на фишинг атаки.

– Зловреден софтуер:
ChatGPT може да помогне за изпълнението на задача, която обикновено изисква умения за програмиране на високо ниво: генериране на код на различни езици за програмиране. Моделът позволява на хакери с ограничени технически умения или без никакви умения за кодиране да разработват зловреден софтуер. ChatGPT го пише просто като знае каква функционалност трябва да има зловредният софтуер.

На свой ред, опитни киберпрестъпници също биха могли да използват тази технология, за да направят заплахите си по-ефективни или да затворят съществуващи пропуски. В един от случаите, споделен от престъпник във форум, ChatGPT е използван за създаване на зловреден софтуер с помощта на код, базиран на Python, който може да търси, копира и извлича 12 често срещани типа файлове, като например документи от Office, PDF файлове и изображения от заразена система. С други думи, ако открие файл, който представлява интерес, зловредният софтуер го копира във временна директория, компресира го и го изпраща по мрежата. Същият автор на зловреден софтуер показа и как е използвал ChatGPT, за да напише Java код за изтегляне на PuTTY SSH и telnet клиента и тайното му стартиране в системата чрез PowerShell.

Усъвършенстваните заплахи изискват усъвършенствани решения

На напредналите киберзаплахи трябва да се реагира с решения, които са в състояние да се справят със задачата. WatchGuard EPDR съчетава възможностите за защита на крайни точки (EPP) и за откриване и реагиране (EDR) в едно решение. Благодарение на своите нови и нововъзникващи модели на изкуствен интелект за машинно обучение и дълбоко обучение WatchGuard EPDR защитава от усъвършенствани заплахи, усъвършенствани постоянни заплахи (APT), зловреден софтуер от нулев ден, ransomware, фишинг, руткитове, уязвимости в паметта и атаки без зловреден софтуер, като освен това осигурява пълна видимост на крайните точки и сървърите и следи и открива злонамерена дейност, която може да избегне повечето традиционни антивирусни решения.

Той също така непрекъснато следи всички приложения и открива злонамерено поведение, дори ако то произхожда от легитимни приложения. Освен това е в състояние да организира автоматичен отговор и на свой ред да предоставя необходимата съдебномедицинска информация за задълбочено разследване на всеки опит за атака чрез усъвършенствани индикатори за атака (IoA).

Накратко, иновацията на инструмент като ChatGPT може да бъде положителна за света и да промени настоящите парадигми, но може и да нанесе сериозни вреди, ако попадне в неподходящи ръце. Наличието на подходящо решение за киберсигурност може да предотврати достигането на негативната страна на обещаващи инструменти като този до вашата организация чрез злоупотребата, която лошите могат да направят с тях.

Watchguard