Пару лет назад ученые из Стэнфордского университета создали необычный компьютерный алгоритм, с помощью которого обработали более 35 000 фотографий мужчин и женщин, размещенных на сайтах знакомств. По незаметным человеческому глазу различиям в строении лица искусственному интеллекту удалось с точностью до 80% определить сексуальную ориентацию владельца анкеты. Авторы исследования уверены, что при наличии правильных наборов данных подобные системы могут быть обучены еще более точному распознаванию и иных характеристик личности, которые считаются приватными, например политических взглядов или коэффициента интеллекта.
Различные приложения, которые с помощью нейросетей позволяют узнать что-то о человеке, уже сегодня может скачать каждый. Некоторые из них, как, например, DeepNude, которое «раздевало» женщин, вызывают широкий общественный резонанс и закрываются, однако нет сомнений, что появятся новые похожие программы. Почти 130 лет назад, в 1890 г., основополагающий для американского права документ The Right to Privacy фактически стал ответом на тиражирование фотографического изображения — любой гражданин мог случайно обнаружить себя на страницах газеты, попав в объектив фотографа в публичном месте, и тем самым невольно сообщить о себе информацию, которую, возможно, сообщать не хотел.
Аналогично сегодня механизмы обработки больших данных выявляют крайне приватные, можно даже сказать интимные, стороны человеческой жизни на основании публичного общедоступного контента, вследствие чего современный человек уже не может управлять доступом к информации о себе и контролировать ее распространение. Если посмотреть правде в глаза, то битва за приватность уже проиграна и обществу следует в очередной раз пересмотреть свой подход к тому, что считать приватным в современном мире и что есть смысл защищать.
Если посмотреть правде в глаза, то битва за приватность уже проиграна и обществу следует в очередной раз пересмотреть свой подход к тому, что считать приватным в современном мире и что есть смысл защищать.
Во-первых, изменились социокоммуникативные паттерны – времени на личное общение становится все меньше, большинство из нас следит за изменениями в жизни своих знакомых и друзей, пролистывая ленты новостей в социальных сетях, и там же рассказывает про новости из своей жизни через геометки, фотографии, статусы и т. д. Как показывают многочисленные исследования, даже ярые борцы за сохранность частной жизни своими руками публикуют в социальных сетях не только дату рождения и домашний адрес, но и фото близких и членов семьи.
Однако, даже если человек выбирает исключительно наблюдательную позицию в социальных сетях, его приватность все равно под угрозой: так, например, математическая статистика уверенно определяет по 12 абсолютно публичным лайкам в Facebook* наркозависимость или религиозную принадлежность пользователя. Кроме того, в любую минуту есть риск быть сфотографированным или отмеченным в социальных сетях другим человеком. Только, в отличие от конца XIX в., это фото или метка моментально станут доступными миллионам людей по всему миру и с этим объективно уже нельзя ничего сделать.
Тема приватности очень тесно связана с развитием технологий. Каждый раз очередной технологический скачок актуализирует дискуссию об этике в использовании инноваций и границах приватности.
Второй значимый фактор, который демонстрирует бессмысленность усилий по защите того, что еще 10 лет назад было приватным, – неизбежность утечек из-за уязвимости систем. Взаимодействие людей с огромным количеством электронных сервисов – государственных, банковских, платежных и т. д. – привело к тому, что данные большинства из нас в той или иной степени полноты уже лежат в каких-то базах. Эти базы уязвимы, и рано или поздно содержащаяся в них информация неизбежно станет публичной. Известный американский ученый в области информационной безопасности Брюс Шнайер, автор нескольких криптографических протоколов для Пентагона, считает, что утечка данных в современном мире – это лишь вопрос времени. Технологии для этого доступны, более того, они упакованы в максимально простые сервисы, которыми может воспользоваться любой человек. Например, уже есть интернет-ресурсы, которые могут за пару секунд показать пользователю все связанные с ним пароли и логины, когда-либо утекшие в сеть.
Хорошая новость здесь заключается в том, что потеря этих данных больше не означает потерю личности – благодаря развитию биометрии, которая является кратно более защищенным активом (хотя там, конечно, будут свои проблемы), идентификация человека в ближайшем будущем будет опираться не на информацию о нем, а на его неотчуждаемые характеристики. Грубо говоря, чтобы восстановить паспорт, вам достаточно будет голоса и роговицы глаза, а не стопки бумаг, данные в которых могли быть кем-то подделаны или искажены.
Более того, «легитимное» высвобождение данных и их обработка с помощью технологий могут не только создавать добавленную стоимость для бизнеса, но и способствовать открытиям, важным для человечества в целом. Мой любимый пример – это проект компании Google, связанный с ранним обнаружением эпидемий. В рамках проекта предлагалось анализировать утреннюю переписку людей, их поисковые запросы в интернете и выявлять жалобы на самочувствие: например, «как сбить температуру», «лекарство от гриппа» и т. д. Такие информационные сигналы появляются гораздо раньше, чем люди, уже отлежавшиеся два-три дня дома, приходят в поликлиники, а эти два-три дня критически важны для ранней диагностики эпидемии и, соответственно, реагирования и предотвращения распространения заболевания. Алгоритм очень точно предсказывал ситуацию, например, по гриппу, но на сегодня проект остановлен – надо думать, до тех пор, пока общество не осознает, что приватность в мире господствующего искусственного интеллекта нуждается в переосмыслении.
На мой взгляд, пора перестать волноваться о том, что о конкретном человеке что-то узнают, – это неизбежно произойдет; защищать нужно только ту информацию, которая в моменте может принести реальный ущерб, как, например, пин-код от банковской карты. Отказ общества от бессмысленных усилий по контролю над приватностью – это не пораженчество. Возможно, когда различные «разоблачительные» сервисы станут массовыми, это, наоборот, будет способствовать развитию терпимости в обществе, ведь не секрет, что интерес всегда вызывает то, что скрывается.
*Организация запрещена в России
Николай Легкодимов
Партнер, руководитель Группы перспективных технологий
Николай много лет занимал различные руководящие должности в нефтегазовой отрасли в области информационных технологий, проектного управления, оптимизации и реинжиниринга бизнес-процессов в ведущих нефтяных компаниях России. Сегодня Николай возглавляет Группу консультирования по перспективным технологиям, предлагая клиентам финансового и сырьевого секторов решения в области корпоративного распределенного реестра (блокчейн), искусственного интеллекта и машинного обучения, промышленного интернета вещей, современных методов анализа «больших данных», технологического брокериджа, скаутинга стартапов и технологий, а также в разработке стратегий цифровизации.
