Google учит ИИ «справедливо» противостоять Трампу

Развитие событий: Калифорния запретила ботам притворяться живыми людьми (5 июля)

Организация Project Veritas записала на скрытую камеру частный разговор главы отдела ответственных инноваций Google Джен Дженнаи (Jen Gennai) — позднее Джен уточнила, что использовала «неверные выражения», передал CNews. Речь в записи шла о том, что перед выборами 2020 года Google тренирует свои системы ИИ таким образом, «чтобы опять не вышло как в прошлый раз с Трампом». В частности Google предпочитает игнорировать новости из некоторых достоверных консервативных источников. В системе, кроме алгоритмов, действуют редакционные правила, которые формируют единую точку правды.

Примечание: ещё в прошлом году утекло служебное видео Google, в котором руководство переживало проигрыш президентских выборов Клинтон в 2016-м: «Как мы неверно все понимали и как нам теперь достучаться до людей, чьи перспективы мы так старались лучше понять».

Дополнительно Project Veritas утверждают, что получили подтверждения инсайдера — из добытого документа ясно, что Google используют, то что им кажется «справедливым машинным обучением» вместо «несправедливости алгоритмов». Например, в результатах поиска Google в ответ на запрос «гендиректор» окажутся преимущественно мужчины. Это верное отображение реального распределения полов в профессии. Но Google расценивает отображение, как «несправедливость» алгоритма — её требуется корректировать.

Джен Дженнаи упомянула предложение сенатора демократа Элизабет Уоррен (потенциально Уоррен один из кандидатов на пост президента, противник Трампа в 2020-м) принудительно разделить технологические платформы Google, Amazon, Facebook, Apple:

«Нынешние техногиганты имеют слишком много власти — над нашей экономикой, нашим обществом и нашей демократией. Они сровняли с землей конкурентов, использовали нашу личную информацию для получения прибыли и исказили правила против всех остальных. И в процессе нанесли ущерб малому бизнесу и подавили инновации».

Глава отдела ответственных инноваций Google парировала:

«Элизабет Уоррен говорит, мы должны распустить Google. Вообще, я люблю ее, но она очень заблуждается, от этого все станет не лучше, а хуже, потому что на все эти более мелкие компании, у которых нет таких ресурсов, как у нас, ляжет задача предотвратить следующую ситуацию с Трампом, и похоже, что маленькие компании не смогут этого сделать».

В прошлом Google, якобы, не проводили «черту», за которую ИИ нельзя заступать. Теперь у искусственного интеллекта появились принципы, «что честно, и что справедливо».

Ноам Хомский: Почему Интернет не освободил нас. Пропаганда продолжает доминировать. → Roem.ru

P. S. Формально декларируемые принципы у Google, всё же, существовали почти всю историю компании. С 2000—2001 годов слоганом корпорации была фраза «Don't be evil», «Не делай зла». В октябре 2015 года слоган изменился на «Do the right thing» — «Делай правильные вещи».

Добавить 16 комментариев

  • Ответить

    >из документа ясно, что Google используют, то что им кажется «справедливым машинным обучением» вместо «несправедливости алгоритмов».

    стоит отметить, что закавыченные понятия это не выдумка гугла, а часть государственной политики США. например
    https://obamawhitehouse.archives.gov/blog/2016/05/04/big-risks-big-opportunities-intersection-big-data-and-civil-rights

    есть целое направление — algorithmic fairness

  • Ответить

    Спасибо за линк! Очень важные, болезненные и верно сформулированные гостезисы по ссылке. Аплодирую геополитическому противнику. Кабинет Обамы пишет:

    • Алгоритмические системы полагаются на несовершенные входные данные, на логику, на вероятность и на людей, которые их проектируют.
    • Технологии могут преднамеренно или непреднамеренно закреплять, усугублять или скрывать дискриминацию.
    • Цель доклада заключается не в том, чтобы предложить решения упомянутых проблем, а скорее в том, чтобы обозначить проблемы и запустить диалог, исследования технологов, ученых, политиков и граждан.

    Сравните, как говорится, с многолетней позицией Яндексов и Майкрософтов-Фейсбуков-Гуглов (тут разницы вообще нет никакой, от географии не зависит), которая заключалась в идее, что код, это, видите ли, автономная вещь. За код-алгоритм, мол, нет ответственного. Самое большее, на что можно ругаться, если код сделает некую дичь, что вызывает шорох граждан — так это обижайся только на себя, на потребителя кода («Сделает»- диапазоне от противной подборки вульгарных ненужных «новостей момента» про каких-то прошмандовок и до серьёзных вещей, погромов на Ближнем Востоке, или Западном побережье США после интернет-поинтовок «кинокритиков») Ты, мол, на себя ругайся. Код дал такой спецэффект, но ты же кликал по кнопке «Окей»?! Ты и виноват )


    В американском госзаявлении не упомянут 1 важный аспект цифрового неравенства. Я, как потребитель услуг многомиллиардной корпорации могу потребовать от неё «обратного», тому, что существует сегодня? Грубо говоря, как могу потребовать от турагентства или магазина, соответствия сервиса, заявленного на вывеске _моим_ ожиданиям. Как бы если на турбазе, вдруг, не оказывается обещанного туалета и питьевой воды, а купленный телефон — не заработал — я, скорее всего, смогу возместить полную или частичную стоимость этой разводки. Немного иначе с цифровым неравенством. Я заведомо не смогу возместить ничего, если эти молодцы сочли, что мне «подходит» рекомендованное ими кино или самые важные вообще новости федерального масштаба про Алибасова (здоровья всем).

  • Ответить

    это наиболее наглядно на ютубе (как ответвлении гугла) заметно. Там всегда рекомендованные — по выявленным предпочтениям. Включая и политику. Грубо говоря, постомтрел овального — будет сплошь всепропало и вообще критика кровавоворежима, наоборот — значит другой лагерь.
    Врядли что они делали какието особые алгоритмы для отдельно взятой страны. Следовательно, там также — смотришт Трампа — отовсюду будет трамп. Глянул на Клинтоншу- попрут демократы изо всех щщщелей.
    Это логично для разделов музыки\хобби\кино и т. п. (там все понимают, что главное, что выпадают допустим дрели. Или фильмы про ковбоев). А уж дальше пусть там товаропроизводители конкурируют по ценам и т. д.
    А в политике (с тчоки зрения полиитков) наоборот какбы. Отсюда и затык.
    Таким образом у них 2 выхода: либо чисто политику (остальные алгоритмы про фильмы или технику оставить в покое) обязать делать черезполосицу (предпочтения\контрпредпочтения) в выдаче. Либо вообще выдавать всегда строго наоборот (но это тоже неиделально). Значит — остается одно решение: черезполосица при выдаче об политике. И все сразу будут довольны.

  • Ответить

    >Я заведомо не смогу возместить ничего, если эти молодцы сочли, что мне «подходит» рекомендованное ими кино или самые важные вообще новости федерального масштаба про Алибасова (здоровья всем).

    Серьезный вопрос подняли!
    Вы ничего не можете, так как юридически, вы не потребитель, вы не платили за услугу поиска, она же как бы бесплатна, а если у вас установлен блокировщик рекламы, то бесплатна во всех смыслах.

    Логично было бы к потребителям приравнять те, кто оплачивает что-то своим вниманием, т.е. просмотром рекламы.
    Но тогда придется признать тех, кто использует блокировщик, ворами цифровых услуг, готово к этому общество?

  • Ответить

    > Логично было бы к потребителям приравнять те, кто оплачивает что-то своим вниманием, т.е. просмотром рекламы.
    > Но тогда придется признать тех, кто использует блокировщик, ворами цифровых услуг, готово к этому общество?

    Сперва придётся официально признать, что потребитель получает полезные услуги за счёт того, что смотрит рекламу. То есть, в договоре в разделе «Обязанности сторон» должно быть написано: ПОТРЕБИТЕЛЬ ОБЯЗАН СМОТРЕТЬ РЕКЛАМУ. Не видел ни одного такого договора. Максимум там говорится: «мы будем показывать вам рекламу». Никто не требует, чтобы потребители внимательно её смотрели, тратя время своей жизни на повторяющуюся ерунду.

  • Ответить

    >> тратя время своей жизни на повторяющуюся ерунду.

    во. именно так. Одно дело реклама — висит гдето сбоку. Или на щите на улице. Хочешь смотри нехочешь не смотри. Но есть формы — которые именно поедают время. Хронофагическая реклама. Вот ее как «форму» и надо запретить законодательно. Причем с формулировкой именно про сжирание времени, которое человек предназаначил для просмотра совершенно другого контента. Здесь явное навязывание услуг. Да еще и за деньги (если исходить, что время — деньги).
    Кроме пользы — ничего не будет. Народ станет смотреть больше контента без рекламы, а значит — гдето там сбоку может прекрасно ее наблюдать в баннере например.

  • Ответить

    >Никто не требует, чтобы потребители внимательно её смотрели, тратя время своей жизни на повторяющуюся ерунду.

    Тогда они не потребители, а шаромыжники, соответственно, требовать что-то от условного гугла не могут.

  • Ответить

    >а значит — гдето там сбоку может прекрасно ее наблюдать в баннере например.

    Так его адблок же режет, поэтому реклама становится агрессивнее. Нужен закон о рекламе в интернете, в котором описан размер и вид рекламы, но запрещены компании типа adblock. Т.е. реклама должна быть удобоворимой, но ее нельзя резать.

  • Ответить

    Такого закона не будет. Он был бы бесчеловечным и бессмысленным. Время жизни человека — самый ограниченный и невосполнимый ресурс. Если дело дойдёт до того, чтобы серьёзно оценить его, у рекламодателей не хватит денег. Потому что за фантики и ерунду надо будет покупать человеческие жизни мелкими кусочками. Рекламодатели догадываются об этом и не лезут так далеко, предпочитая мелко паразитировать на жизнях людей, не платя за них полную цену.

    Если пуститься тут в рассуждение про неких нищебродов, время которых ничего не стоит — то это не аудитория, в которую на самом деле целятся рекламодатели.

    Самое интересное — продавцам и не нужно жечь время людей. Им нужно просто чтобы товар продался. Эффективнее было бы сразу найти того, кто его купит, а не бомбардировать коврово всех. Как только стоимость показа рекламы станет более честной (высокой), так сразу и начнут работать в нужном направлении. А пока это халявно, никто и не напрягается особо.

    Вот раньше был такой халявный рекламный канал, как email-спам. Человечество побороло, слава богу.

  • Ответить

    >Такого закона не будет. Он был бы бесчеловечным и бессмысленным.

    Что именно бесчеловечно?
    Признание того факта, что гугл оказывает платные услуги (оплата вашим вниманием), а аудитория соответственно является потребителем платных услуг и имеет право предъявлять претензии к качеству оказываемых гуглом услуг?
    Вас послушать, так выходит закон о защите прав потребителя самый бесчеловечный закон на свете.

    Почему вы время цените больше денег? Ведь деньги, это время потраченное вами на их добывание.

    >Как только стоимость показа рекламы станет более честной (высокой), так сразу и начнут работать в нужном направлении. А пока это халявно, никто и не напрягается особо.

    Где бы взять этой халявы? Вы далеки от интернет рекламы, халявы там нет давным давно, рынок рекламы перегрет, скоро интернет-реклама станет менее эффективной чем на ТВ.
    Если вы хотите, чтобы реклама подорожала еще больше, то придется потребителю стать абсолютно голым в информационном плане перед рекламной машиной, чтобы она знала наверняка, что вам показывать, что вы купите. Причем «голым» вы должны быть в режиме реального времени, только тогда возможна дорогая реклама.

  • Ответить

    Демидов, моя минута стоит дорого. Я готов потреблять рекламу по тарифу 1000 рублей за короткий информацинный текст + я набью отзыв на товар или услугу.

    Помимо этого я готов предоставить исчерпывающий профиль о себе.

    Для рекламодателя контакт со мной будет стоит 2000 уже, т.к. ещё заработать должна площадка и рекламная сеть.

    На других условиях я не согласен сотрудничать. Готов через user agent об этом информировать, и если сайт считает, что я его обкрадываю, пусть показывает заглушку. Мне его контент не нужен даром.

  • Ответить

    Разумеется, оплата должна производиться до показа, биткоинами по сети lightning network. Т.е. площадка платит, мне браузер перекрывает окно и мне показывается рекламный текст. Возможна картинка, только без анимации и изображения людей. Никаких сияющих ебальников или там график вверх с ростом курса.

    И да, условия я ставлю. Не хотите так? Будет никак.

  • Ответить

    Получается, что все роботизированные сервисы надо обязать писать предупреждение, что они имеют редакторскую позицию. Позиция эта может быть создана редактором, заложена в алгоритме программистами, или создана внешними силами, которые вычислили алгоритмы и начали манипулировать результатами работы сервиса. Что даже «нейтральный алгоритм» не совсем нейтральный. И что по этой причине роботизированными сервисами следует пользоваться с осторожностью.

    А то рассказывают истории «мы зеркало интернета, что в интеренетах написано, то мы и показываем». Да зеркало, но кривизной зеркала кто-то управляет, увеличивая в отражении одно, и уменьшая другое.

  • Ответить

    > Почему вы время цените больше денег? Ведь деньги, это время потраченное вами на их добывание.

    Время в деньги конвертируется достаточно свободно, обратная конвертация пока сильно ограничена

  • Ответить

    Имея деньги, вы можете тратить чужое время на решение своих проблем экономя свое время.
    С учетом развития медицины, большей безопасности дорогих автомобилей, хороших районов для проживания, еще большой вопрос, конвертация чего во что проще.