В Сан-Франциско запретили распознавание лиц

Сан-Франциско, один из самых технологичных городов мира, стал первым американским городом, который запретил своим властям использовать технологию распознавания лиц.

Этот запрет — часть более масштабных мер против наблюдения, принятых Наблюдательным советом города в середине мая. Эти меры запрещают использование технологии распознавания лиц полицией и другими ведомствами и могут побудить местные власти поступить так же. За принятие решения проголосовало 8 из 11 членов Совета, один — против, а ещё двое поддерживающих отсутствовали на заседании.

Технология распознавания лиц используется повсеместно — от полицейских участков до концертных залов, домов, магазинов и школ. Они созданы для обнаружения отдельных людей на видео (записанном или в прямом эфире) или фото, зачастую методом сравнения с имеющейся базой (например, полицейской).

Фото CPO Magazine

По новым правилам, которые скоро вступят в силу, использование технологии распознавания лиц будет запрещено в 53 городских ведомствах, включая Департамент полиции, который, хоть сейчас технологию и не использует, но тестировал её с 2013 по 2017 год. Однако есть и исключения — подконтрольные государству Международный аэропорт Сан-Франциско и Морской порт. Также новые законы не запрещают бизнесу или частным лицам использовать технологии распознавания лиц или видеонаблюдения в целом — например, собственными камерами безопасности. Также полиции не запрещено использовать, изображения с камер частных лиц, если они помогают в уголовном деле.

«Мы поддерживаем охрану правопорядка, но никто не хочет жить в полицейском государстве», — заявил перед голосованием председатель Наблюдательного совета Сан-Франциско Аарон Пескин, внёсший проект.

Этот закон подлил масла в огонь критики технологии распознавания лиц. Несмотря на рост её популярности, её начинают тщательнее исследовать из-за опасений по поводу её широкого внедрения, точности и даже источников лиц для обучения систем.

Относительно Сан-Франциско Пескин уверен, что технология проникает настолько глубоко, что не должна использоваться. «Думаю, Сан-Франциско должен выступать по поводу вещей, которые влияют на весь мир и происходят у нас под носом», — говорит он.

Становление законов о распознавании лиц

Распознавание лиц в последние годы сильно развилось благодаря популярности глубокого обучения. Обычно черты лица анализируются, а затем сравниваются с имеющимися в базе данных.

Однако исследователи ИИ и правозащитники беспокоятся насчёт точности и искажений в системах распознавания лиц. В частности, они менее точно распознают людей с цветом кожи, отличным от белого, и женщин. Одна из причин этого — данные, на которых обучается машина, имеют крен в сторону белых цисгендерных мужчин.

Фото yousense.info

Американский союз защиты гражданских свобод (ACLU) — одна из многих правозащитных групп, поддерживающих закон. Мэтт Кейгл, уполномоченный по технологиям и гражданским свободам ACLU в Северной Калифорнии, заявил, что из-за множества проблем, возникающих из-за систем распознавания лиц, новые законы предотвратят нанесение ущерба жителям. Он ожидает, что новые правила побудят и другие города последовать примеру Сан-Франциско.

«Проголосовав так, Сан-Франциско объявил, что технология распознавания лиц несовместима со здоровой демократией и что жители имеют право высказываться при принятии решений о высокотехнологичном наблюдении», — заявил он. «Мы аплодируем городу, услышавшему жителей, и движемся вперёд благодаря этому закону».

Федеральных законов, регулирующих использование искусственного интеллекта в целом или систем распознавания лиц в частности, в США пока нет. Но в марте в Сенат был внесён законопроект, по которому компании обязуются получать согласие пользователей перед сбором и распространением персональных данных.

Несколько штатов и местных органов власти приняли свои законы: например, в Иллинойсе есть закон, по которому компании обязаны получать согласие перед сбором биометрической информации. Сенат штата Калифорния рассматривает законопроект, запрещающий полицейским использовать биометрические технологии, такие как распознавание лиц, на нагрудных камерах.

В области залива Сан-Франциско несколько округов приняли свои законы о видеонаблюдении. В Окленде также рассматривается возможный запрет на использование технологии распознавания лиц.

Как будет затруднено видеонаблюдение в Сан-Франциско

По новому закону, любое городское ведомство, которое захочет использовать технологии или услуги наблюдения (как, например, полиция, если захочет закупить распознаватели номерных знаков), должно сперва получить одобрение от Наблюдательного совета города. Нужно будет отправить информацию о технологии, о том, как она будет использована, и представить её на публичных слушаниях. Об особенностях использования уже используемых технологий нужно будет сообщить Совету.

По новому закону, городские власти будут ежегодно отчитываться перед Наблюдательным советом о том, используется ли оборудование для слежки так, как предписано, и как хранятся, передаются и удаляются данные.

В своём заявлении Департамент полиции Сан-Франциско отметил, что поддерживает движение в сторону защиты гражданских прав и свобод, «которое учитывает нужды жителей, гостей и бизнеса Сан-Франциско». Ещё перед голосованием там заявили, что, подчиняясь правилам, там проводят ревизию используемых технологий и связанной с этим политики.

Громкоголосые противники

Некоторые местные жители активно выступили против нового закона. Фрэнк Ното, президент Stop Crime SF, группы, занимающейся предотвращением преступлений, до голосования заявил, что его организация, понимая, что принятие закона обусловлено защитой приватности и гражданских свобод, считает это ошибкой, поскольку теперь полиции придётся получать согласие от города на уже используемую технологию.

После принятия закона, вице-президент Stop Crime SF Джоэл Энгардио отметил, что в целом он «нужный и полезный», но «мог быть лучше».

И хотя в Stop Crime SF видят недостатки существующей технологии распознавания лиц, там против её полного запрета. Они считают, что мораторий на использование этой технологии был бы лучшим вариантом, чтобы была возможность начать её использовать, когда она улучшится.

«Это может быть хорошим средством для общественной безопасности, когда используется ответственно», — заявил Энгардио.

Оригинал. Перевод Михаила Чижова.