Ашманов коротко (тысяч на 10 знаков) объясняет проблемы с внедрением ИИ в России

Для обсуждения этих вопросов "что может и что не может делать госструктура с распознаванием лиц" на содержательном уровне нужно представлять себе, что вообще происходит на "рынке" распознавания лиц.

Вот ниже мой длинный текст про ИИ, распознавание лиц и психологию и деловое произведение разработчиков, представляющий собою исключительно моё оценочное суждение:

Разработчики ИИ: психология, деловое поведение

Здесь обобщены наблюдения за большим количеством разработчиков ИИ, полученные в ходе работы и общения внутри этого сообщества и рынка в России и за рубежом за многие годы.

Несмотря на приличные фасады, вылизанные договора и соглашения о неразглашении, реальная ситуация с доступом к технологиям и их «диффузией» по рынку – примерно такова, как описано ниже.

Большая часть описанного – в России незаконна, как с точки зрения контрактного права, Гражданского Кодекса, так и 152-ФЗ, и других законов, но это никого из разработчиков (и часто и заказчиков) ИИ – не останавливает. Большинство из них имеют не очень высокие моральные и правовые стандарты и очень высокую материальную мотивацию. Кроме того, рынок ИИ буквально взрывается, что порождает у его участников эйфорию и чувство, что всё можно и всё прощается "на подъёме".

Период первоначального накопления данных, то есть дикого поля, хаоса и беспредела – пока в области ИИ не закончился.

Подробнее:

Психология и деловая практика типового разработчика ИИ

1. Делай своё за деньги клиента. Разработчик ИТ-систем, в особенности разработчик ИИ, всегда улучшает свою технологию за деньги заказчика, от контракта к контракту.

2. Всегда оставляй технологию для себя. Ни при каких обстоятельствах разработчик не может отдать технологию заказчику «с концами», не оставив её себе, даже если это прямо предписывается контрактом.

3. Разработчик накапливает технологический капитал. Разработчик ИИ – как компания, так и конкретный менеджер или программист, считает технологию и сопутствующие ей данные (базу лиц, голоса и т.п.) своей первичной ценностью, которая должна только сохраняться и увеличиваться при переходе от контракта к контракту, от проекта к проекту или из фирмы в фирму. Это капитал, который гораздо лучше и ценнее денег.

4. Библиотеки – чужие, данные – свои. Большая часть разработки ИИ делается на западных технологиях – нейронных библиотеках Гугла и Фейсбука. Если разработчик ИИ заявляет, что использует собственные технологии, в большинстве случаев это касается «обвязки» – систем запуска обученных нейронных сетей на разных платформах, систем разметки и очистки данных.

5. Основная ценность в ИИ – это данные. Сказанное означает, что основной ценностью для разработчика ИИ являются базы данных, datasets, то есть базы лиц, голоса, другой биометрии, изображений, логов, записей персональных данных, других объектов, собранных на предыдущих местах работы. Эти базы очень дороги и трудоёмки в сборе, чистке и разметке, стоят больших денег и времени.

6. Добыча данных. Для получения лучшей технологии на рынке разработчик ИИ никогда не гнушается любыми способами добывания дополнительных данных (лиц, образцов голоса, другой биометрии, других больших данных). В том числе с помощью покупки данных у инсайдеров в банках, МВД, мэриях, интернет-компаниях, массовой рознице, а также путём переманивания разработчиков вместе с их данными.

7. Пополнение своей базы данными заказчика. Кроме того, разработчик систем распознавания всегда пополняет свою базу для обучения своей системы данными очередного заказчика. Обычно это делается на основании договорённости о постоянной поддержке и дообучении технологии (для чего нужно постоянно получать от заказчика поток свежих данных), либо через недокументированные технические возможности ПО распознавания.

8. Вынос данных и технологий. Уходя в другой проект или компанию, разработчик заведомо уносит с собой знания о процессах и моделях в своей голове, а также часть моделей и базу данных – на дисках или в облаке, какие бы ни были у него NDA или риски быть пойманным СБ предыдущего нанимателя. Поскольку базы данных, кроме собственной квалификации – это основная воспринимаемая ценность разработчика для себя самого и будущих нанимателей.

9. Частая миграция. Разработчики ИИ в настоящее время постоянно ищут новых возможностей, часто «смотрят на сторону», ищут новых проектов и нанимателей. Они меняют места работы раз в 2-3 года (если они не владельцы компании). В случае владельцев компании миграция тоже происходит, так как слияния и поглощения в области ИИ сейчас также происходят чаще, чем в среднем по ИТ-индустрии – раз в 3-4 года минимум.

10. Диссипация технологий и данных. Описанные выше обстоятельства жизни и работы, образ мыслей разработчиков, их постоянная миграция и «вынос» технологий и данных приводят к «диффузии», «диссипации» технологий ИИ и соответствующих баз данных биометрии и других в окружающее пространство, в другие компании, проекты, часто через границы страны.

11. Пока всё можно. Нужно понимать, что пока разработчик, сисадмин, менеджер ИИ-компании чувствуют свою абсолютную безнаказанность при выносе, уводе, диссипации данных и технологий. Часть из них уже вступает в преступные сговоры с криминалом на «маркетплейсах» данных в Даркнете.

Пример: распознавание лиц в РФ

Ниже приведены сведения, которые нельзя предъявить в суд или официально вынести на публику, но они довольно достоверные – получены в личном общении от разработчиков и участников проектов по распознаванию лиц. Это уровень рассказов участников, слухов и наших предположений, частично сведения могут быть неточными или содержать ошибки в деталях, но общая картина такова:

1. Для создания первых баз обучения по лицам в российских компаниях была получена в том числе база лиц, собиравшаяся в МВД с 90-х годов – за деньги или через дружественных полицейских. База содержала сотни миллионов изображений лиц, часто плохого качества, с паспортов и иных документов, часто неактуальных.
2. Естественно, к данной базе данных добавлялись изображения лиц от первых заказчиков, а также за счёт сбора фотографий в открытом Интернете (соцсетях).
3. Можно предположить, что эта база содержала как атрибутированные лица (с ФИО и другими персональными данными), так и неизвестные. В дальнейшем база подвергалась и подвергается непрерывной очистке и разметке.
4. Эта база с сотнями миллионов образцов позволила компаниям-разработчикам получить неплохой уровень распознавания на одном миллионе и на 10 миллионах лиц в базе.
5. Есть основания предполагать, что контакт в МВД сохранился, и база продолжает актуализироваться у разработчиков в том числе данными МВД.
6. Есть основания предполагать также, что эта основная база в 2017-2018 годах пополнялась изображениями лиц с камер наблюдения в крупных ритейлерах.
7. Технологии были приобретены в том числе государственными организациями (в 2018-2020 годах). Они используются как для вычленения рамки лица в потоке, так и для распознавания, то есть атрибутирования лица персональными данными (ФИО, номер кредитки и пр.).
8. Есть основания полагать, что системы видеонаблюдения в разных местах и на транспорте снимают лица всех проходящих пассажиров/пешеходов, в том числе не зарегистрированных в системах для оплаты лицом (что естественно – до съёмки лица нельзя попытаться его распознать), после чего передают все лица в ЦОД на сервера обучения и распознавания (так как серверные мощности на станциях, скорее всего, неспособны хранить весь поисковый индекс, а терминалы на турникетах заведомо его не хранят, из-за недостаточной мощности). Это косвенно подтверждается тем, что легко увидеть, что камеры установлены и на турникетах на выходе.
9. Таким образом, снимают всех, в том числе тех, кто не давал согласия, в том числе несовершеннолетних (то есть большинство).
10. Есть основания полагать, что неидентифицированные лица передаются также и исполнителям – формально для улучшения технологии, а также для попытки "поматчить", то есть сопоставить их с уже имеющейся базой лиц с персональными атрибутами, таким образом, происходит постоянное увеличение количества записей с атрибутированными лицами – параллельно с процессом регистрации в системах оплаты лицом, пропускных системах с идентификацией по лицу и других.
11. Есть также подозрения, что изображения лиц, присвоенные им персданные, а также вычисленные вектора (дескрипторы) передаются или будут вскоре передаваться также в единые базы по всему населению. То есть здесь будет происходить распространение этих баз в государственный сектор, в том числе в руки государственных системных администраторов и ИТ-шиков.
12. Тем временем, низовые, средние и верхние разработчики компаний-разработчиков постоянно мигрируют: довольно многие из них ушли в 2018-2019 году в компанию Хуавей, а ещё через 2-3 года – в другие компании, мобильные операторы, банки и т.п. Сами компании-разработчики также иногда покупаются целиком. Вообще рынок труда в ИИ представляет собой бурлящий котёл.
13. Кроме того, часть разработчиков и менеджеров в последние годы основывала компании за рубежом, в США и ЕС, куда наверняка выносились и базы лиц.
14. Есть основания предположить, что через всех мигрирующих разработчиков происходила диссипация в окружающую среду как технологий распознавания лиц, так и самих баз данных изображений лиц и дескрипторов, на разных стадиях развития этих баз. Нам, например, известно про случаи продажи на сторону данных, собранных для конкретных заказчиков из числа мобильных операторов.
15. Это предположение о просачивании технологий и баз данных биометрии подтверждается также анализом патентов компаний-разработчиков: они обычно самые общие, реальная ИС в них не фиксируется, патенты носят скорее пиар-характер, что означает, что ключевые, корневые технологии не показываются на публику даже в формате патентов – и мигрируют, несмотря на патенты.
16. На периферии данных компаний разработчиков и их заказчиков имеется также третий слой – облако обслуживающих этот ИИ компаний, предоставляющих услуги очистки и разметки биометрических данных. Они по факту получают доступ примерно к тем же данным, ответственность за них у компаний и их сотрудников ещё ниже, в то же время среди них есть иностранные компании (на Украине, в Армении, в США, в ЕС). То есть утечки и продажа данных могут происходить – и наверняка происходят – и через этот обслуживающий слой.