Сотрудники используют ИИ без разрешения, и это стоит Fortuna. IBM раскрывает данные о Shadow AI

Кибербезопасность остается одной из самых больших проблем для компаний по всему миру. Каждый год растут не только количество и масштабы атак, но и их финансовые и имидные затраты. Современные технологии, такие как ИИ, предлагают передовые защитные инструменты, но в то же время вводят новые, ранее неизвестные угрозы. Эффективная защита требует хороших знаний о текущей ситуации, то есть затрат, связанных с атаками, а также путей преступников.

Данные показывают, что разрыв между реализацией ИИ и надзором уже существует, и злоумышленники начинают его использовать — Суджа Вишвезан, IBM.

Crowdstrike раскрывает масштаб использования ИИ знаменитой группой Chollima для финансирования программ защиты КНДР

Последний отчет IBM «Стоимость нарушения данных 2025» выявляет тревожное явление растущего разрыва между динамическим реализацией искусственного интеллекта и отсутствием соответствующих механизмов защиты. Хотя только 13 процентов организация зарегистрировала нарушения, связанные с системами искусственного интеллекта, до 97 процентов. Из них не было базового контроля управления этими системами. Как следствие, 60 процентов этих типов инцидентов привели к утечке данных, а 31 процент вызвал операционные помехи в критической инфраструктуре. Феномен так называемого Shadow AI, то есть несанкционированного использования инструментов искусственного интеллекта сотрудниками. Каждая пятая организация испытывала нарушение безопасности из -за теневого ИИ. Это вызвано в среднем 670 тысяч. доллары более высокие затраты, чем в случае компаний с низким уровнем уровня или отсутствия такой практики. Инциденты тени ИИ чаще привели к раскрытию личных данных (от 65 % до 53 % во всем мире), а также интеллектуальной собственности (от 40 % до 33 % в мире).

Цифровая месть. Хакеры уничтожили 7000 серверов и парализовали крупнейшую российскую авиакомпанию Aerofłot

Проблема углубляется тем фактом, что 63 процента компаний, затронутых нарушением, не имеют политики управления ИИ или просто разрабатывают его. Только 34 процента организаций с внедренными полисами управления искусственным интеллектом проводят регулярные аудиты в поисках несанкционированных инструментов. Менее половины из них имеют процессы утверждения реализации ИИ и 62 процента. Он не внедряет эффективный контроль доступа к системам искусственного интеллекта. Киберпреступники все чаще используют ИИ в своих атаках. За 16 процентов проверенные нарушения злоумышленников использовали инструменты искусственного интеллекта, чаще всего для создания фишинговых сообщений (37 процентов) и глубоких атак (35 %). Ранее IBM сообщил, что генеративный AI сократил время, необходимое для создания убедительного фишингового письма от 16 часов до пяти минут. Это показывает масштаб угрозы, которую привносит безответственный подход к реализации технологии ИИ.

Компании, которые в значительной степени используют ИИ и автоматизацию в системах безопасности, сэкономили в среднем 1,9 млн. Долл. США и обнаружили нарушения быстрее, до 80 дней назад. Как это ни парадоксально, несмотря на растущие угрозы, связанные с ИИ, всего 49 процентов. Организация планов инвестиций в безопасность после инцидента (снижение с 63 процентов в предыдущем году). Менее половины из них намерены сосредоточиться на решениях с использованием искусственного интеллекта. Уже в 2024 году IBM использовал ИИ в технологии, встроенный в SSD Media для обнаружения вымогателей и вредоносных программ. Тем не менее, текущий отчет показывает, что сама технология ИИ без надлежащего надзора становится источником новых угроз. Средняя глобальная стоимость нарушения данных в настоящее время составляет 4,44 млн. Долл. США, но в Соединенных Штатах она достигла рекордного уровня в 10,22 млн. На это влияет, среди прочего, более высокие и более высокие штрафы, наложенные надзорными органами.

Источник: IBM, Cybersecuritive