Наталья Касперская: общество сейчас на этапе осознания рисков применения ИИ

2025-09-29T07:00:01Z — О том, как изменился процесс импортозамещения в России, какой потенциал для экспорта у отечественных решений, в чем риски применения искусственного интеллекта, почему необходимо бороться с утечками данных и как сейчас обстоят дела с ИТ-кадрами на рынке, в интервью ТАСС рассказала президент InfoWatch, председатель правления АРПП "Отечественный софт" Наталья Касперская

— Вы наблюдаете за процессом импортозамещения с 2014–2015 года. Как изменился этот процесс в 2022 году, с уходом иностранных вендоров из России, и как он движется сейчас?

— По сравнению с 2022 годом процесс сейчас стал гораздо более системным и предсказуемым, потому что в 2022 году была растерянность со стороны заказчиков, непонимание, что делать. Сейчас заказчики уже разобрались в том, какие есть решения, научились их выбирать, приступили к внедрению либо продолжили его. То есть сейчас идет "притирка" вендоров и заказчиков.

Судя по отчетам вендоров, у отечественных решений хорошая динамика — у кого-то рост продаж в два раза, у кого-то в три и более. В нашем секторе инфобезопасности такого взрывного роста не было, так как российские решения по информационной безопасности заместили иностранные еще несколько лет назад практически везде. А в тех секторах, где реально доминировали иностранные производители, с их уходом возник хаос, который сменился системной работой. И хочется верить, что эта системная работа продолжится.

— Экспорт российского ПО — какие у него сегодня перспективы и есть ли они? Ведь продавать российские решения на мировом рынке стало сложнее из-за опасений заказчиков по поводу введения против них санкций.

— С одной стороны, решения стали лучше. С другой стороны, мировой рынок для российских решений резко сузился, поставлять ПО в недружественные страны сейчас практически невозможно.

Если говорить о нашей группе компаний, в ближнем зарубежье у нас все довольно хорошо, рост существенный за последние три года. Дальнее зарубежье — с переменным успехом. Какие-то регионы мы закрыли, где-то мы сейчас, наоборот, открываемся. Например, в Азии есть явный интерес к российским продуктам. Мы не пробовали Латинскую Америку (слишком далеко) и Африку. Африка — интересный континент, но там много языков, очень разрозненные страны, очень разные сложные законодательства, при этом в каждой отдельно взятой стране достаточно мало денег, поэтому мало смысла в том, чтобы "затачиваться" под конкретную страну. Мы пока идем по достаточно крупным регионам с хорошими деньгами.

— Специалисты InfoWatch разработали прогностические модели ИИ, которые просчитывают увольнения, сговоры, попытки хищения. Можно ли подробнее рассказать об этом? Что еще умеют продукты вашей компании, в которых используется ИИ?

— Прогностические модели построены на том, что мы перехватываем все информационные потоки компании и их анализируем. Можно анализировать и видеть, что вот здесь происходит инцидент, а можно на раннем этапе пытаться выявить какие-то закономерности и изменения в поведении сотрудника и сделать прогноз. Например, раньше сотрудник приходил в 9 утра и вдруг стал приходить к 12:00. Почему? Может, он заболел? А может быть, у него что-то в жизни изменилось? Или человек вдруг начал выкачивать большие объемы информации. Зачем? Может, он к увольнению готовится? Или состоит в сговоре? Несколько таких сценариев мы отработали. Эти сценарии помогают безопаснику или руководителю отдела кадров обратить внимание на отклонения в поведении людей в компании и решить, стоит ли что-то с этим делать. Это ни в коем случае не система, которая принимает решение за людей, это просто некие подсказки, которые можно использовать или проигнорировать, это решают люди.

Вообще говоря, вся линейка по защите данных InfoWatch — это продукты на базе искусственного интеллекта. При том что сейчас все думают, что искусственный интеллект — это ChatGPT, но это один, частный вид искусственного интеллекта. 30 лет назад, например, все говорили, что искусственный интеллект — это Deep Blue, который обыграл чемпиона мира в шахматы. На самом деле и то и другое, а также антивирус, система защиты от утечек данных — это все частные виды широкого понятия "искусственный интеллект". Вот сейчас "вспух" пузырь больших языковых моделей (БЯМ), все только их и обсуждают. Мы используем у себя большие языковые модели крайне ограниченно, так как это небезопасно.

— В своих публичных выступлениях вы часто предостерегаете от чрезмерного использования ИИ. С другой стороны, вы внедряете ИИ в продукты вашей компании. Где грань допустимости использования ИИ, перешагивать которую не стоит? И почему не стоит этого делать?

— Если вы имеете в виду большие языковые модели, к каким относятся ChatGPT, GigaChat, DeepSeek и др., которые некоторые эксперты называют бредогенераторами, то они принципиально допускают вероятностные ответы, в том числе те, которые являются ложью. Потому что это не системы, имеющие разум, а системы, которые лишь имитируют разумность. Вы можете придумать вопрос, глядя на который, человек сразу скажет, что это чушь, а бредогенератор будет честно пытаться на него ответить, потому что он создан для ответов. Такая генерация произвольного контента очень опасна, так как люди привыкают получать ответ и даже не задумываются, насколько ответ релевантен, верят ему безоговорочно. Получается, что человек становится заложником системы.

Сейчас в поисковой выдаче всплывают сгенерированные подсказки. Многие люди дальше уже не смотрят. Если речь идет о радиусе Земли или расстоянии от Земли до Солнца, то есть об одной цифре, скорее всего, там сказано правильно. А если речь идет о каком-то более сложном явлении, то верить условной "Алисе" не стоит. Несколько раз я натыкалась на то, что подсказка была прямо неверная! При этом прилипчивость БЯМ очень высокая, и люди начинают им бездумно доверять.

Замечу, что ИИ не ограничивается большими языковыми моделями. Например, в сельском хозяйстве ИИ используют для прогнозирования урожайности и контроля за посевами. Для выявления, например, нехватки полива или заболевания растений на больших площадях. Это сильно повышает производительность сельскохозяйственных угодий. В промышленности и на производстве ИИ используют для того, чтобы строить систему безопасности или выявлять утечки газа, поломки, возможные аварии и т.д. Система искусственного интеллекта с этим справляется лучше, чем человек. В таких механистических задачах ИИ очень нужен. А вот нужны ли бредогенераторы — большой вопрос. Считаю, что их нельзя использовать в социальной сфере — например, для общения с людьми, создания нормативно-правовых актов или написания стратегии работы.

— Какие новые риски применения ИИ появились за последние несколько лет в области кибербезопасности?

— Область кибербезопасности не прямо связана с ИИ. Но один риск есть, который лежит на стыке этих двух сфер, — это риск утечки данных.

Например, человек дает запрос большой языковой модели — сделать резюме своих почтовых сообщений. Модель берет все почтовые сообщения на анализ в облако — вся почта человека оказывается там. И он не задумывается о том, что это прямой канал утечки информации.

Мы разработали технологию для наших продуктов, которая может перехватывать конфиденциальную информацию из языковых моделей. Но пока технология защищает не от всех возможных сценариев утечек. А с развитием языковых моделей и их применения надо будет серьезно думать, как развивать средства защиты от них.

Человечество сейчас находится только на этапе осознания рисков искусственного интеллекта. И я уверена — нам предстоит много открытий.

— InfoWatch регулярно публикует отчеты об утечках данных: по подсчетам аналитиков, количество утечек растет в медицине, образовательной сфере, большой интерес черный рынок проявляет к персональным данным. На ваш взгляд, какие отрасли сегодня в фокусе внимания охотников за данными и почему? И как компаниям защитить свою корпоративную информацию и персональные данные клиентов?

— Медицина — потому что это очень чувствительные данные, на которые можно ловить потенциальных жертв. Мошенники узнают про болезнь, дальше жертва отдает последнее на свое лечение или лечение близкого родственника. Причем схемы мошенничества разрабатывают очень умные люди, они хорошие психологи, придумывают разводки, которые цепляют. Простому человеку этому трудно противостоять.

За прошлый год, по оценкам МВД, 200 млрд рублей украли у граждан России. Но эта оценка скорее заниженная, так как не все граждане доходят до МВД. По оценке Сбербанка, например, это 300 млрд. И я склоняюсь к этой оценке. А что такое 300 млрд? Это почти миллиард рублей в день!

Образовательные учреждения — это дети, через которых можно воздействовать на взрослых. Ребенка вводят в специфический гипноз, и он начинает отдавать деньги или совершать предписанные мошенниками действия. Последнее время целью злоумышленников является не хищение денежных средств, а совершение диверсионных актов.

Утечек из медицины в первом полугодии 2025-го стало на 17% больше по сравнению с первой половиной 2024 года, утечек из образовательной сферы — на 20%. Но воруют из всех отраслей, из разных сервисов и компаний постоянно утекают личные данные, на основании которых несчастным гражданам звонят мошенники. Зная многое о человеке, мошенники могут сделать ему неотразимое предложение. Поэтому, конечно, персональные данные надо защищать!

Компаниям для защиты необходим комплексный подход — начиная от внедрения систем защиты от утечек, заканчивая личной ответственностью людей, допустивших утечку данных.

— Какие правила стоит вводить для сотрудников бизнесу, чтобы, с одной стороны, не задушить людей регламентами, а с другой—обеспечить защиту от человеческого фактора, ведущего к утечкам корпоративной информации? Стоит ли контролировать, например, личные устройства — мобильные телефоны, ноутбуки? Насколько это правомерно и оправданно?

— У нас было в свое время техническое решение для данной проблемы, может, мы его возобновим. На личном устройстве выделяется так называемый контейнер, в котором находится корпоративная информация и происходят внутрикорпоративные коммуникации. Там находится корпоративная почта, корпоративный мессенджер и прочие сервисы для совместной работы. Защищенный контейнер шифруется, а на периметре стоит агент DLP-системы, который не позволяет передать корпоративную информацию в открытую часть устройства. То есть можно скопировать логотип своей компании, но нельзя скопировать базу персональных данных на свое устройство. И такое решение защищает от влияния человеческого фактора.

Что касается баланса между правами сотрудников и безопасностью, это решается подписанием документа с сотрудниками, в котором они соглашаются, что их средства коммуникации мониторятся.

— Сохраняется ли в России высокий спрос на программистов? И получается ли у компаний-разработчиков решать кадровую проблему?

— Мы видим определенное изменение спроса на программистов. Если в предыдущие годы Минцифры РФ и статистика HeadHunter свидетельствовали об острой нехватке всех ИT-специалистов, то в этом году позиции младших разработчиков перестали пользоваться высоким спросом. Студенту вуза сейчас устроиться на работу сложнее, чем годом ранее, — компании предпочитают брать людей с опытом. На разработчиков среднего уровня спрос снизился, но не критично, число вакансий здесь лишь немного больше, чем число резюме. А вот что касается высококвалифицированных программистов, в этом сегменте число вакансий больше раз в семь. Это значит, что всем нужны квалифицированные кадры. Никто не хочет учить недостаточно опытных.

Кадровый голод отчасти вызван курсом на цифровизацию. В результате многие крупные компании завели у себя целые дочерние компании по цифровизации. Это довольно сильно высосало ИТ-кадры с рынка.

Третьей причиной является импортозамещение. Довольно много предприятий сами у себя начали не просто внедрять имеющиеся отечественные продукты, но и разрабатывать их самостоятельно, что требует людских ресурсов.

В результате сложившегося дефицита очень многие люди пошли учиться на курсы переквалификации, желая по-быстрому получить ИТ-специальность. И когда по их окончании эти люди вышли на рынок, то их оказалось гораздо больше, чем требуется компаниям. Что и вызвало относительный переизбыток на рынке младших разработчиков и людей без опыта.

Читайте также: