ИИ и защита данных: как обеспечить безопасность при использовании AI-платформ

Здесь аналогичная проблема, хотя более узконаправленная, но не менее острая. В фокусе внимания — организации, которые собирают данные клиентов и предоставляют услуги только при наличии паспорта или другого удостоверения личности. Риски во многом зависят от того, как хранится такая информация:

• в виде полного набора персональных данных, в том числе реквизитов паспорта, либо его образа (скан, фото);
• сведения для доступа к личной странице на сайтах;
• информация о совершенных операциях в структурированном виде;
• зашифрованный набор символов, который не может прочитать сторонний пользователь.

Утечка в открытую сеть любых структурированных данных становится следствием либо применения несоответствующих уровней защиты, либо попустительства разработчиков.

Все компании, которые специализируются на оказании услуг, хотят сделать их для клиентов максимально удобными, простыми в восприятии, технически продвинутыми и модными с учетом современных тенденций. Например, каждый из нас сталкивается с голосовыми помощниками Cortana, Google или Siri. Но все эти сервисы ненавязчиво собирают о пользователях большой объем информации. Причем им становится известно даже то, что не знаем мы сами.

Наша компания работает в сфере распознавания документов различного типа. В этом направлении обслуживания инструментами выступают удаленные сервисы или программные решения, которые помогают:

• быстро заполнить регистрационную форму, например, для покупки билета на поезд или при посадке в самолет;
• без лишних усилий оформить кредит или страховой полис.

Указанные инструменты основаны на автоматизации распознавания и сопоставления документов и соответствующих граф в формах, бланках и т. п. Удается существенно упростить процесс как для клиентов, так и для сотрудников, минимизировать неверный ввод данных и исключить влияние человеческого фактора на результат.

Существует настоящая пропасть в проблемах для пользователей, создаваемых приложением, которое установлено и независимо работает на собственном устройстве, и ПО, которое предоставляет услуги в облаке или на сервере с расположением, возможно, на другом конце мира. Очевидно, что риски утечек образов пользовательских документов, размещенных на этих двух ресурсах, будут сильно отличаться не в пользу последнего.

Чтобы обеспечить надежную защиту информации при удаленном распознавании, важно построить грамотную систему безопасности как в отношении самого внешнего сервера, так и каналов передачи данных. Если это не сделано, то компании и конечные клиенты не могут чувствовать себя спокойно.

Чаще всего, объектом утечек и продаж в даркнете становятся фото и сканы, то есть образы документов. Среди них:

• ID-карты, гражданские и заграничные паспорта;
• водительские удостоверения, паспорта транспортных средств;
• юридически значимые договоры;
• полисы пенсионного и медицинского страхования;
• банковские карты;
• дипломы.

Массовые утечки означают, что невольными поставщиками изображений документов в закрытый сегмент интернета являются именно удаленные серверы. Данные хранятся на них в незашифрованном виде и легко доступны для недобросовестных организаций и мошенников. Возможность кражи информации обусловлена также техническим несовершенством систем безопасности при передаче и распознавании данных или участием в обработке неподконтрольных сторонних лиц.

Обычно организации заключают договор об услугах распознавания с независимыми сервисами, пытаясь сэкономить. И это несмотря на сложности, которые сулит такое сотрудничество в части обработки и обеспечения сохранности персональных данных. Но на поверку низкая стоимость таит в себе массу проблем и рисков:

1. Если передать функции распознавания стороннему подрядчику, то есть на удаленный сервер, то поручиться за результат невозможно. Мы знаем обслуживающую организацию, но каждого отдельного исполнителя — нет. Это примерно то же, что дать задание рабочим, приглашенным для ремонта кабинета отдела кадров, сделать опись личных карточек или трудовых книжек сотрудников.
2. Скорее всего, используются самые простые и дешевые технологии. Нельзя точно узнать, на каком принципе основано распознавание данных на конкретном удаленном сервисе. В обозримом прошлом такие сервисы не обладали ни машинным зрением, ни искусственным интеллектом. Процесс распознавания полностью ложился на плечи физических «чтецов». Это могла быть настоящая фабрика по ручному вводу данных из реальных паспортов, расположенная в беднейшей стране мира и в которой люди трудились за гроши. В настоящее время разрабатываются весьма изощренные трояны и шпионские программы. Поэтому перехват образов с последующей отправкой в даркнет может выполняться любым недоброжелателем путем внедрения вредоносного кода в какое-то звено передачи информации.
3. Безопасность отправки документов на сервер для обработки изображений никак не контролируется. Так как информация не шифруется, то на данном этапе она оказывается очень уязвимой.

А если обеспечивать надежность и сохранность данных действительно на высоком уровне, то полностью пропадает выгода в виде быстрого, дешевого и простого процесса передачи.

При этом распознавание в удаленном сервисе все равно медленнее, чем в приложениях, которые устанавливаются непосредственно на конечных устройствах. Как минимум, требуется дополнительное время на захват изображения, отправку на сервер и возврат готовых данных в систему.

Еще один неоспоримый плюс автономных приложений — изолированная работа без передачи информации в сеть. А в последних поколениях такого ПО нет даже возможности сохранять обработанные изображения документов. Это сделано как раз для предотвращения утечек. Использование для распознавания конечного устройства гарантирует, что никакие данные передаваться не будут вообще или только в минимально требуемом объеме.

Отметим: облачные хранилища или удаленные серверы — не единственный источник утечек. Но для злоумышленников они — легкая добыча, тем более если не заботиться о должных уровнях защиты информации.

Многие крупные компании уходят от работы с такими сервисами и предпочитают создавать локальные хранилища данных клиентов и усиливать собственные службы ИТ-безопасности. Даже при случайном попадании информации в сеть, отследить слабое место в системе обработки и оповестить об инциденте оказывается намного проще. Кроме того, стало очевидно, что сторонний подрядчик в вопросе хранения и обработки чувствительных данных — это реальная угроза финансовых и репутационных потерь.