Метрополитен разошёлся с Ашмановым миром

Развитие событий: Ашманов коротко (тысяч на 10 знаков) объясняет проблемы с внедрением ИИ в России (27 мая 2022)

Попытка метрополитена посудиться с Игорем Ашмановым закончилась не начавшись, стороны подписали мировое:

Московский метрополитен отзывает иск в суд о защите деловой репутации, поданный на члена СПЧ Игоря Ашманова после его заявлений о системе Face Pay. Об этом сообщили ТАСС в пресс-службе столичной подземки.

Иск на сумму 5,5 млн рублей из-за опубликованной в СМИ статьи с утверждениями о том, что предприятие использует сервис Face Pay для привлечения к административной ответственности пассажиров без масок в период действия масочного режима в Москве, был подан в январе этого года.

"ГУП "Московский метрополитен" и Ашманов Игорь Станиславович подписали мировое соглашение, в результате которого московское метро отзывает свой иск на 5,5 млн рублей", - сообщили в пресс-службе.

Метро Москвы отзывает иск на члена СПЧ, поданный из-за заявлений о Face Pay

Добавить 30 комментариев

  • Ответить

    а вот этот вот Ашманов — он вообще юрист или лингвист ? :)
    Или лингвист у которого есть хорошие юристы ?
    Или его заставили выплатить деньги в добровольном порядке ?
    Узнаем ли мы правду ? :)

  • Ответить

    Узнаешь прямо от меня.

    Мы подписали мировое соглашение. После личной встречи с Ликсутовым и его юридическим директором и полутора месяцев препирательств юристов по тексту.
    Ничего не платили, естественно.

    Текст соглашения будет доступен публично, разъяснения могу дать, но не сейчас, утомлён РИФом и мартини с бутербродами с икрой в традиционном баре.

    Юрист у меня и правда очень хороший, бывший прокурор, полковник юстиции, многодетная мама, комсомолка, спортсменка и просто красавица.

  • Ответить

    И покажите исковое заявление тоже, пожалуйста, если уже можно.
    А то например как-то не очень понятно, за что именно они там рассчитывали предъявить. И зачем.
    В том смысле, что московское метро и этот рылоторг это всё-таки два разных человека, причём один из них монополист.
    Как-то это всё подозрительно — мне например не нравится, что какие-то организации могут вот так просто взять и заставить человека оправдываться на ровном месте, как будто это они для блага всех живых существ там морочатся, а не он.
    Такие новости делают очень нехороший сигнал — этот Ликсутов по-моему чуть увлёкся там.
    Метрополитен это очень вредная работа — я бы предложил его уже заменить.
    Я правильно понимаю, что поводом стал вот этот абзац?

    «Очень инновационно продвинутый мужчина узнал, что можно платить лицом в метро, зарегистрировался в Face Pay, сдал биометрию и стал ездить. Через пару дней ему прилетел штраф за проезд в метро без маски — 3 тысячи рублей. Остальные тоже ездят без маски, но их нельзя идентифицировать по лицу. Его можно, и он не знает, как теперь отозвать свое лицо из этой системы и кому оно еще досталось», — обрисовал суть проблемы ведущий российский эксперт в области искусственного интеллекта.

    Или там больше слов было?

  • Ответить

    Юрист у меня и правда очень хороший, бывший прокурор, полковник юстиции, многодетная мама, комсомолка, спортсменка и просто красавица.

    Если честно, это даже интереснее, чем все эти исковые-мировые. ;)
    Гвозди бы делать из этих людей —
    Прочней металла мир не знал.

  • Ответить
    Игорь Ашманов Сам себе компания

    Мы потратили почти два месяца на утряску мироовго соглашения.

    Можно заметить, что в мировом соглашении нет заявлений истца. Мои же заявления — просто о том, что у меня нет оснований утверждать, что данные передаются третьим лицам, а потом используются не по назначению (в том числе для штрафов).

    Да, это чистая правда, у меня оснований утверждать подобное — нет.

    Однако, и оснований утверждать противоположное — тоже нет.

    Оппоненты предлагали включить такие заявления от моего лица, я, естественно, отказался, потому что я не могу делать такие заявления за них.

    Если бы они пригласили меня и технических специалистов рассказать и показать, как оно работает, провести некий аудит — тогда мог бы.

    Более того, в условиях использования распознавания лица (доступно на сайте) — есть положение о праве получателя снимка передавать снимки другим подведомственным учреждениям Дептранса Москвы.

    Мы предложили сделать в соглашении эти заявления о том, что данные не передаются и не используются для иных целей, чем заявленная задача оплаты проезда, а также защищены должным образом — от их лица. И такие три или четыре пункта от лица истца были в проект мирового соглашения были внесены, но потом были вычеркнуты.

    Я думаю, причина тут довольно понятна: это были бы юридически значимые публичные утверждения. Собственно, моей целью и было добиться таких публичных утверждений и обязательств.

    В итоге из мирового также было вычеркнуто положение о совместном заседании по вопросам безопасности сбора и использования биометрических данных, с публикацией потом в той же Парламентской газете.

  • Ответить

    Полнейшая капитуляция Ашманова. Признал, что "не имеет оснований утверждать … ". А до этого так важничал. Теперь выкручивается, как уже на сковородке.

  • Ответить
    Игорь Ашманов Сам себе компания

    "Признал, что "не имеет оснований утверждать … "

    Я это говорил тогда же, можешь почитать на сайте СПЧ мой комментарий. Только это ничего не меняет — ни в том, что происходит в реальности с нашими лицами в метро, ни в том, что иск внезапно почему-то отозвали. У тебя, похоже, модуль понимания не смог обновиться и завис.

    " А до этого так важничал. "

    Как именно, напомни. Думаю, от этого мыслительного усилия у тебя могут возникнуть какие-то проблески просветления.

  • Ответить

    Чувак, ты пару месяцев назад (и тут на сайте тоже) рассказывал про лично твоего знакомого — как его оштрафавали, как он не может отозвать свои личные данные и как это все незаконно. А теперь ты в суде "не имеет оснований утверждать … ", т.е. сдался сразу и без боя. А теперь на своем сайте в статье заголовок почти такой "Ашманов нагнул Метрополитен". Хотя суть немного иная: Ашманов признал свою неправоту, отказался от своих слов, Метрополитен отказался от взысканий. Все.

  • Ответить

    Я не признавал неправоту. От слов не отказывался. Ты же мировое не читамши, по заголовкам фигачишь, ты опять сделал это.

    Почитай мировое. Там сказано "не проверял лично".

    Про "тут на сайте" — дай ссылочку.

  • Ответить

    Если речь про избавление от 5.5млн штрафа то это конечно победа. Но всё-таки

    Собственно, моей целью и было добиться таких публичных утверждений и обязательств.

    Можно было и настойчивее быть, хотя я конечно никоим образом не эксперт в юриспруденции и не знаю какие там были шансы. Хотя есть конечно и положительный момент:

    И такие три или четыре пункта от лица истца были в проект мирового соглашения были внесены, но потом были вычеркнуты.
    Я думаю, причина тут довольно понятна: это были бы юридически значимые публичные утверждения.

    Такое их поведение весьма их компрометирует, но и тут есть подвох: процитированные факты нигде официально не зафиксированы.

  • Ответить

    "Такое их поведение весьма их компрометирует, но и тут есть подвох: процитированные факты нигде официально не зафиксированы"

    1. Право метрополитена передавать данные третьим лицам до сих пор входит в состав пользовательского соглашения. Это как раз факт.
    2. Факты передачи данных третьим лицам можно было бы искать и доказывать. Но это означает полномасштабную войну с Мэрией (не с метрополитеном, конечно же). Я пока не готов начинать такую войну, да и договариваться всегда лучше.
    3. Кроме того, сейчас готовится закон о биометрии — будут вносить осенью, насолько я слышал. Более того, Хинштейн и Ко уже внесли поправки в 152-ФЗ о персональных данных, в которых затрагивается также и биометрия (например, запрещается сбор биометрии несовершеннлетних).
    4. Мы предлагали мэрии сотрудничество — пообщаться с их технарями, сделать совместный кргулый стол, совместную публикацию. Они сначала вроде соглашались, потом отказались.
    5. Как минимум хотелось бы, чтобы они хотя бы в мировом соглашении — если не на круглом столе и не в статье — заявили прямо, от себя, что они не передают персданных третьим лицам и не используют их в не заявленных заранее целях, подписанных пользователям. Но в итоге за 2 дня до суда эти пункты были вычеркнуты из мирового соглашения.
  • Ответить
    Игорь Ашманов Сам себе компания

    Для обсуждения этих вопросов на содержательном уровне нужно представлять себе, что вообще происходит на "рынке" распознавания лиц.

    Вот ниже мой длинный текст про ИИ, распознавание лиц и психологию и деловое произведение разработчиков, представляющий собою исключительно моё оценочное суждение: (думаю, Юре стоило бы из него сделать отдельную статью).

    Разработчики ИИ: психология, деловое поведение

    Здесь приведены наблюдения за большим количеством разработчиков ИИ, полученные в ходе работы и общения внутри этого сообщества и рынка в России и за рубежом.

    Несмотря на приличные фасады, вылизанные договора и соглашения о неразглашении, реальная ситуация с доступом к технологиям и их «диффузией» по рынку – примерно такова, как описано ниже.

    Большая часть описанного – в России незаконна, как с точки зрения контрактного права, Гражданского Кодекса, так и 152-ФЗ, и других законов, но это никого из разработчиков (и часто и заказчиков) ИИ – не останавливает. Большинство из них имеют не очень высокие моральные и правовые стандарты и очень высокую материальную мотивацию. Кроме того, рынок ИИ буквально взрывается, что порождает у его участников эйфорию и чувство, что всё можно и всё прощается "на подъёме".

    Период первоначального накопления данных, то есть дикого поля, хаоса и беспредела – пока в области ИИ не закончился.

    Подробнее:

    Психология и деловая практика типового разработчика ИИ

    1. Делай своё за деньги клиента. Разработчик ИТ-систем, в особенности разработчик ИИ, всегда улучшает свою технологию за деньги заказчика, от контракта к контракту.

    2. Всегда оставляй технологию для себя. Ни при каких обстоятельствах разработчик не может отдать технологию заказчику «с концами», не оставив её себе, даже если это прямо предписывается контрактом.

    3. Разработчик накапливает технологический капитал. Разработчик ИИ – как компания, так и конкретный менеджер или программист, считает технологию и сопутствующие ей данные (базу лиц, голоса и т.п.) своей первичной ценностью, которая должна только сохраняться и увеличиваться при переходе от контракта к контракту, от проекта к проекту или из фирмы в фирму. Это капитал, который гораздо лучше и ценнее денег.

    4. Библиотеки – чужие, данные – свои. Большая часть разработки ИИ делается на западных технологиях – нейронных библиотеках Гугла и Фейсбука. Если разработчик ИИ заявляет, что использует собственные технологии, в большинстве случаев это касается «обвязки» – систем запуска обученных нейронных сетей на разных платформах, систем разметки и очистки данных.

    5. Основная ценность в ИИ – это данные. Сказанное означает, что основной ценностью для разработчика ИИ являются базы данных, datasets, то есть базы лиц, голоса, другой биометрии, изображений, логов, записей персональных данных, других объектов, собранных на предыдущих местах работы. Эти база очень дороги и трудоёмки в сборе и очистке, стоят денег и времени.

    6. Добыча данных. Для получения лучшей технологии на рынке разработчик ИИ никогда не гнушается любыми способами добывания дополнительных данных (лиц, образцов голоса, другой биометрии, других больших данных). В том числе с помощью покупки данных у инсайдеров в банках, МВД, мэриях, интернет-компаниях, массовой рознице, а также путём переманивания разработчиков вместе с их данными.

    7. Пополнение своей базы данными заказчика. Кроме того, разработчик систем распознавания всегда пополняет свою базу для обучения своей системы данными очередного заказчика. Обычно это делается на основании договорённости о постоянной поддержке и дообучении технологии (для чего нужно постоянно получать от заказчика поток свежих данных), либо через недокументированные технические возможности ПО распознавания.

    8. Вынос данных и технологий. Уходя в другой проект или компанию, разработчик заведомо уносит с собой знания о процессах и моделях в своей голове, а также часть моделей и базу данных – на дисках или в облаке, какие бы ни были у него NDA или риски быть пойманным СБ предыдущего нанимателя. Поскольку базы данных, кроме собственной квалификации – это основная воспринимаемая ценность разработчика для себя самого и будущих нанимателей.

    9. Частая миграция. Разработчики ИИ в настоящее время постоянно ищут новых возможностей, часто «смотрят на сторону», ищут новых проектов и нанимателей. Они меняют места работы раз в 2-3 года (если они не владельцы компании). В случае владельцев компании миграция тоже происходит, так как слияния и поглощения в области ИИ также происходят чаще, чем в среднем в ИТ-индустрии – раз в 3-4 года минимум.

    10. Диссипация технологий и данных. Описанные выше обстоятельства жизни и работы, образ мыслей разработчиков, их постоянная миграция и «вынос» технологий и данных приводят к «диффузии», «диссипации» технологий ИИ и соответствующих баз данных биометрии и других в окружающее пространство, в другие компании, проекты, часто через границы страны.

    11. Пока всё можно. Нужно понимать, что пока разработчик, сисадмин, менеджер ИИ-компании чувствуют свою абсолютную безнаказанность при выносе, уводе, диссипации данных и технологий. Часть из них уже вступает в преступные сговоры с криминалом на «маркетплейсах» данных в Даркнете.

    Пример: распознавание лиц в РФ

    Ниже приведены сведения, которые нельзя предъявить в суд или официально вынести на публику, но они довольно достоверные – получены в личном общении от разработчиков и участников проектов по распознаванию лиц. Это уровень рассказов участников, слухов и наших предположений, частично сведения могут быть неточными или содержать ошибки в деталях, но общая картина такова:

    1. Для создания первых баз обучения по лицам в российских компаниях была получена в том числе база лиц, собиравшаяся в МВД с 90-х годов – за деньги или через дружественных полицейских. База содержала сотни миллионов изображений лиц, часто плохого качества, с паспортов и иных документов, часто неактуальных.
    2. Естественно, к данной базе данных добавлялись изображения лиц от первых заказчиков, а также за счёт сбора фотографий в открытом Интернете (соцсетях).
    3. Можно предположить, что эта база содержала как атрибутированные лица (с ФИО и другими персданными), так и неизвестные. В дальнейшем база подвергалась и подвергается непрерывной очистке и разметке.
    4. Эта база с сотнями миллионов образцов позволила компаниям-разработчикам получить неплохой уровень распознавания на 1 миллионе и на 10 миллионах лиц в базе.
    5. Есть основания предполагать, что контакт в МВД сохранился, и база продолжает актуализироваться у разработчиков в том числе данными МВД.
    6. Есть основания предполагать также, что в том числе база в 2017-2018 годах пополнялась изображениями лиц с камер наблюдения в крупных ритейлерах.
    7. Технологии были приобретены в том числе государственными организациями (в 2018-2020 годах). Они используются как для вычленения рамки лица в потоке, так и для распознавания, то есть атрибутирования лица персональными данными (ФИО, номер кредитки и пр.).
    8. Есть основания полагать, что системы видеонаблюдения в разных местах и транспорте снимают лица всех проходящих пассажиров/пешеходов, в том числе не зарегистрированных в системах для оплаты лицом (что естественно – до съёмки лица нельзя попытаться его распознать), после чего передают все лица в ЦОД на сервера обучения и распознавания (так как серверные мощности на станциях, скорее всего, неспособны хранить весь поисковый индекс, а терминалы на турникетах заведомо его не хранят, из-за недостаточной мощности). Это косвенно подтверждается тем, что легко увидеть, что камеры установлены на турникетах на выходе.
    9. Таким образом, снимают всех, в том числе тех, кто не давал согласия, в том числе несовершеннолетних.
    10. Есть основания полагать, что неидентифицированные лица передаются также и исполнителям – формально для улучшения технологии, а также для попытки сопоставить их с уже имеющейся базой лиц с персональными атрибутами, то есть происходит постоянное увеличение количества записей с атрибутированными лицами – параллельно с процессом регистрации в системах оплаты лицом, пропускных системах с идентификацией по лицу и других.
    11. Есть также подозрения, что изображения лиц, присвоенные им персданные, а также вычисленные вектора (дескрипторы) передаются или будут вскоре передаваться также в единые базы по всему населению. То есть здесь будет происходить распространение этих баз в государственный сектор, в том числе в руки государствнных системных администраторов и ИТ-шиков.
    12. Тем временем, низовые, средние и верхние разработчики компаний-разработчиков постоянно мигрируют: довольно многие из них ушли в 2018-2019 году в компанию Хуавей, а ещё через 2-3 года – в другие компании, мобильные операторы, банки и т.п. Сами компании-разработчики также иногда покупаются целиком. Вообще рынок труда в ИИ представляет собой бурлящий котёл.
    13. Кроме того, часть разработчиков и менеджеров в последние годы основывала компании за рубежом, в США и ЕС, куда наверняка выносились и базы лиц.
    14. Есть основания предположить, что через всех мигрирующих разработчиков происходила диссипация в окружающую среду как технологий распознавания лиц, так и самих баз данных изображений лиц и дескрипторов, на разных стадиях развития этих баз. Нам, например, известно про случаи продажи на сторону данных, собранных для конкретных ИТ-компаний.
    15. Это предположение о просачивании технологий и баз данных биометрии подтверждается также анализом патентов компаний-разработчиков: они обычно самые общие, реальная ИС в них не фиксируется, патенты носят скорее пиар-характер, что означает, что ключевые, корневые технологии не показываются на публику даже в формате патентов – и мигрируют.
    16. На периферии данных компаний разработчиков и их заказчиков имеется также третий слой – облако обслуживающих компаний, предоставляющих услуги очистки и разметки биометрических данных. Они по факту получают доступ примерно к тем же данным, ответственность за них у компаний и их сотрудников ещё ниже, в то же время среди них есть иностранные компании (на Украине, в Армении, в США, в ЕС). То есть утечки и продажа данных могут происходить – и наверняка происходят – и через этот обслуживающий слой.
  • Ответить

    Как минимум хотелось бы, чтобы они хотя бы в мировом соглашении — если не на круглом столе и не в статье — заявили прямо, от себя, что они не передают персданных третьим лицам и не используют их в не заявленных заранее целях, подписанных пользователям.

    Так скорее всего они их передают, возможно, что распознаванием лиц занимается вообще не метрополитен, а какое-нибудь ООО по соглашению с метрополитеном.
    Если вы хотите, чтобы они что-то про это сказали, то медийный шум (пресса, форумы, телеграм каналы и пр.) поднимать надо тогда, когда под главным метростроевцем кресло зашатается или в локальную немилость попадет, ну или когда просто в прессе будет много шума про персональные данные (например, при продавливании какого-то мутного закона). Тогда реакция будет, и ваши слова будут привлекать внимание. А сейчас, когда это не главные полосы газет, то никого это не трогает.

  • Ответить

    Ну и сам по себе отзыв иска конечно что-то значит, но он подан в весьма изворотливом виде в итоге.

    само по себе что-то значит что огромная по ресурсам структура (Москва — у нее так на минуточку бюджет больше чем у всей Украины) "развернула Авианосец" и провела "эвакуацию" своего иска.
    Вы чо то не втыкаете тут походу вообще чо такое суд (особенно арбитражный) и как работает большая юридическая машина которая стоит за Москвой. И не очень себе представляете калибр силы потребной на то, чтобы этот Авианосец идущий прямо по курсу развернулся чтобы поднять фуражечку капитана которую снесло ветром.
    Какая нах$й разница чего там вообще написано ? Там написано что Москва поговорила о чем то с Ашмановым и они о чем-то договорились. Суть я уже написал выше — калибр Ашманова таким образом получается таков, что Москва его вообще видит и признает его существование и принимает как сторону дискусии. Попробуйте сами что-то сказать Москве — она не то что вас не заметит — она даже не услышит ваших визгов и криков когда ее юридическая машина будет вас давить и размазывать тонким слоем по асфальту. А вы тут развели какую то дискуссию о том, что мол де Москва как то не так отозвала свои претензии к Ашманову. А тут еще хуже — Ашамнов сказал, Москва зачем-то среагировала, а потом еще сама "скорректировала" свою реакцию. Где Ашманов — а где Москва ? Из бумаги де юро следует что где-то очень рядом в пространстве мнений о том как надо структурировать ситуацию с перс-данными. Именно это я имел ввиду когда писал что получается что у Ашманова есть справка что ему в метро курить можно.

  • Ответить

    , то медийный шум (пресса, форумы, телеграм каналы и пр.) поднимать надо тогда,

    вы это кому говорите — Москве или Ашманову ? Ашманов высказал мнение какое-то — медийный шум подняла Москва подав иск. Щас думаю Москва будет изо всех сил пытаться "не шуметь" по поводу мирового по этому иску. А особо умным либерастическим журналистам придется скармливать гипотезу о том, чот мол де Ашманов в мировом подписался аж под 6 или 7 "провальными" пунктами и "эвакуация иска" прошла успешно и под контролем юристов (особо умные зададутся вопросом — чьих юристов) . Вот только такое сожрут только те у кого совсем нет мозга.

  • Ответить

    Но преуменьшать "калибры" действующих лиц тоже не стоит.

    при всем том, что я скорее давний лоялист Игоря Станиславовича и навряд ли кину в него камнем даже за дело, есть большая разница в том, что например он сам или я или кто-то другой думает о величине его калибра, и тем что написано в реальном арбитражном решении. Величину калбира Москвы в целом можно принять аксиоматично — без доказательств. А вот наличие публичного решения суда — оно либо заставляет предположить что И.С.Ашманов либо более влиятелен чем г. Москва в плане влияния на то, какие решения выносит арбитражный суд, либо говорит о том, что его "калибр" действительно значим на фоне той же Москвы в плане правильности высказываемого им мнения.
    До момента опубликования решения арбитража говорить о "калибре" гр-на Ашманова, особенно в проекции на публично озвученную претензию обозначенную г. Москва в виде публичного иска было преждевременно. После публикации решения сомнения в размерах "калибра" гр-на Ашманова сразу отпали. Я лично буквально оху@л прочитав именно PDF-ник — он у меня ещё не сразу загрузился и читал я его уже через русский VPN — потому что я щас там, откуда русские сайты не очень открываются. Там же черным по белому написано :) что Уазген нож уронил случайно, и что Генрик сам шел и падал на нож — 6 раз и что Уазген совершенно неуиноватый — он просто нож уронил :) и совершенно не для того чтобы Генрик на него 6 раз падал — и Генрик его простил :) за каждый из 6 раз и никакие деньги Генрику не нужны :) — суд во всем разобрался.
    Теперь остался главный вопрос для самых сообразительных — а какое из "либо" верное :)

  • Ответить

    Игорь Станиславович,
    Можете рассказать (если это не секрет), что вы собираетесь делать дальше? Проблема с креативным использованием ПД никуда не делась; в рамках судебного дела обе стороны разошлись без боя, решения никакого не прозвучало.

  • Ответить
    Игорь Ашманов Сам себе компания

    У меня же есть дело с Концепцией защиты прав граждан в цифровой среде, которую я написал в СПЧ в прошлом году по поручению президента. Из-за войны слегка затормозилось, но вообще её нужно доводить до указов или Цифрового кодекса.