Джонатан Джексон, директор по техническому обеспечению продаж BlackBerry Cybersecurity в Азиатско-Тихоокеанском регионе рассказал о том, что искусственный интеллект может быть использован как для организации кибератак, так и для борьбы с ними. Он пишет о том, почему кибератаки, связанные с искусственным интеллектом, неизбежны. У ChatGPT есть ответы практически на все вопросы, но есть один ответ, который мы, возможно, не узнаем еще долго: превратят ли этот инструмент в джинна, о котором его создатели пожалеют, вытащив его из бутылки?

Компания BlackBerry провела опрос среди 1500 руководителей IТ-подразделений в Северной Америке, Великобритании и Австралии, и половина из них (51 %) предсказала, что до кибератаки, приписываемой ChatGPT, осталось меньше года. Три четверти респондентов считают, что иностранные государства уже используют ChatGPT в злонамеренных целях против других стран.

Опрос также показал, что хотя респонденты считают, что ChatGPT используется в «хороших» целях, 73 % признают его потенциальную угрозу кибербезопасности и испытывают «сильную» или «достаточную» обеспокоенность, что доказывает, что искусственный интеллект (ИИ) — это инструмент, который могут использовать как для создания так и для разрушения . 

Появление чат-ботов и инструментов, работающих на базе ИИ, создает новые проблемы в области кибербезопасности, особенно когда такие инструменты попадают в руки злоумышленников. Использование таких передовых технологий имеет массу преимуществ, и мы только начали изучать их потенциал, но нельзя игнорировать и последствия. По мере развития платформы и роста опыта хакеров будет все сложнее защищаться без использования искусственного интеллекта для выравнивания игрового поля.

Кибератаки с использованием ИИ

Неудивительно, что люди со злыми намерениями пробуют свои силы, но в течение этого года я ожидаю, что хакеры лучше поймут, как успешно использовать ChatGPT в неблаговидных целях. ИИ ускоряет процесс поиска практических знаний, но то же самое справедливо и для разработчиков вредоносных программ. Постоянно развивающуюся индустрию кибербезопасности часто сравнивают с бесконечной игрой в крестики-нолики, в которой плохие парни появляются так же быстро, как их удается устранить. В прошлом такие злоумышленники полагались на свой собственный опыт, форумы и сообщения в блогах исследователей безопасности, чтобы понять различные вредоносные методы и затем преобразовать их в код. Однако такие программы, как ChatGPT, дали им еще одну стрелу в колчан, чтобы проверить ее эффективность для создания цифрового хаоса.

ИИ может использоваться несколькими способами для осуществления кибер-атак, например, для автоматического сканирования на предмет уязвимостей и опробования новых методов атаки. С помощью ИИ современные постоянные угрозы могут создаваться в виде целенаправленных атак для кражи конфиденциальных данных или нарушения работы. Такие угрозы, как правило, предполагают продолжительную атаку на одну организацию и часто запускаются национальными государствами или очень экспертными субъектами угроз.

ИИ также может использоваться для создания убедительных фишинговых писем, текстовых сообщений и постов в социальных сетях, чтобы обманом заставить людей предоставить конфиденциальную информацию или установить вредоносное ПО. Генерируемые ИИ видеоролики deepfake могут использоваться для выдачи себя за официальных лиц или организации в фишинговых атаках. Также ИИ можно использовать для проведения распределенных атак типа «отказ в обслуживании» (DDoS), которые подразумевают переполнение систем организации трафиком с целью нарушения работы или для получения контроля над критически важной инфраструктурой, нанося реальный ущерб.

ИИ против ИИ

Растущее использование ИИ для разработки угроз делает еще более важным оставаться на шаг впереди, используя ИИ для проактивной борьбы с угрозами.

Организациям необходимо продолжать фокусироваться на улучшении профилактики и обнаружения угроз и это хорошая возможность посмотреть, как включить больше ИИ в различные процессы классификации угроз и стратегии кибербезопасности.

Одним из ключевых преимуществ использования ИИ в кибербезопасности является его способность анализировать огромные объемы данных в режиме реального времени. Огромный объем данных, генерируемых современными сетями, делает невозможным для человека успевать за ними. ИИ может обрабатывать данные гораздо быстрее, что делает его более эффективным в выявлении угроз.

Поскольку кибератаки становятся все более серьезными и изощренными, а субъекты угроз совершенствуют свои тактики, методы и процедуры, традиционные меры безопасности устаревают. ИИ может учиться на предыдущих атаках и адаптировать свою защиту, делая ее более устойчивой к будущим угрозам.

ИИ также можно использовать для борьбы с современными постоянными угрозами, которые часто трудно обнаружить, что позволяет организациям выявлять угрозы до того, как они нанесут значительный ущерб. Использование ИИ для автоматизации повторяющихся задач при управлении безопасностью также позволяет специалистам по кибербезопасности больше сосредоточиться на стратегических задачах, таких как поиск угроз и реагирование на инциденты.

Будущее кибербезопасности

В сфере безопасности ИИ имеет большее значение, чем когда-либо, поскольку киберпреступники используют его для повышения эффективности своей игры. Исследование Blackberry показало, что большинство (82 %) IТ-руководителей планируют инвестировать в кибербезопасность на основе ИИ.

Перевод статьи: We are less than a year away from a cyber attack credited to ChatGPT