11 апреля 2024 БКС Экспресс
Точно так же, как некоторые офисные работники применяют ChatGPT для написания электронных писем, хакеры используют модифицированные версии чат-ботов с искусственным интеллектом для улучшения своих фишинговых рассылок. С их помощью также создают поддельные веб-сайты, пишут вредоносные программы и адаптируют сообщения, чтобы выдавать себя за руководителей и других доверенных лиц.
Эксперты в области информационных технологий и кибербезопасности, уже привыкшие к росту кибератак, говорят, что сегодня находятся в состоянии повышенной готовности — из-за огромного количества изощренных фишинговых писем и дипфейков.
Согласно отчету SlashNext — поставщика решений в сфере кибербезопасности — количество фишинговых писем за год с момента публичного выпуска ChatGPT выросло на 1265%. При этом ежедневно совершается в среднем 31 тыс. фишинговых атак.
В руках хакеров ИИ стал мощной угрозой из-за своей способности анализировать огромные объемы общедоступных данных о человеке и создавать персонализированные электронные письма за считанные секунды. Кроме того, вредоносное ПО и фишинговые письма, написанные генеративным искусственным интеллектом, особенно сложно обнаружить. Они созданы, чтобы обходить существующие принципы безопасности, и обучены на методах, используемых защитными программами.
«Хорошие» модели становятся «плохими»
Исследователи из Университета Индианы изучили более 200 хакерских сервисов, которые продаются и размещаются в даркнете. Первый такой сервис появился в начале 2023 г. — через несколько месяцев после публичного выпуска ChatGPT в ноябре 2022 г. Большинство из них использует версии больших языковых моделей с открытым исходным кодом или взломанные модели таких разработчиков как OpenAI и Anthropic.
По словам исследователей, преимущество инструментов даркнета заключается в том, что они, вероятно, обучены на «нелегальных» данных и содержат полезную информацию о пользователях, полученную в результате утечек и использования программ-вымогателей. И хотя некоторые хакерские сервисы были заблокированы, их место уже занято другими — стоимость услуг по взлому ИИ варьируется от 5 до 199 долларов в месяц.
По прогнозам экспертов, новые инструменты злоумышленников будут совершенствоваться так же быстро, как и модели искусственного интеллекта, лежащие в их основе.
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Жалоба