Соавторы «закона о роботах Гришина» направили в Госдуму проект конвенции о робототехнике и ИИ

Эксперты исследовательского центра «Робоправо» разработали проект первой в мире конвенции о робототехнике и искусственном интеллекте. Один из авторов конвенции Виктор Наумов в декабре 2016 года в соавторстве с основателем инвестиционного фонда Grishin Robotics и председателем совета директоров Mail.ru Group Дмитрием Гришиным создал концепцию первого в мире закона о робототехнике.

Нынешний проект по утверждению его авторов получил поддержку ряда участников рынка робототехники, а также ученых и экспертов. Сейчас он направлен на рассмотрение в комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству, а также в комитет по международным связям. Текст конвенции в том числе передан в Министерство иностранных дел и представителю России при ООН.

В конвенцию предложено включить в том числе такие пункты:

  • Роботы, физически взаимодействующие с людьми и не находящиеся под прямым управлением человека, должны иметь функцию моментального или аварийного отключения по требованию («красная кнопка»).
  • К эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред в силу своей конструкции и назначения (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т. д.), должны быть установлены повышенные требования по защите от несанкционированного доступа третьих лиц.
  • Человек не должен умалять человеческое достоинство своим обращением с роботами.
  • Разработчики, исследователи и лица, финансирующие исследования в сфере искусственного интеллекта, а также в смежных областях, должны исходить из презумпции опасности искусственного интеллекта, подразумевая, что созданная или создаваемая технология искусственного интеллекта является опасной для человека, пока не доказано иного.

Добавить 26 комментариев

  • Ответить

    > Разработчики, исследователи и лица, финансирующие
    > исследования в сфере искусственного интеллекта, а
    > также в смежных областях, должны исходить из
    > презумпции опасности искусственного интеллекта

    А бешеный принтер как бэ намекает на опасность естественного интеллекта. Только больное наголову человечество может само себе закрутить гайки так, что на улицу выходить боится.

  • Ответить

    >А бешеный принтер как бэ намекает на опасность естественного интеллекта.

    Да бросьте вы насчет бешеного принтера, у нас он работает 25 лет только, переписывая советские законы, на западе столетия работает без передыху, кто то уже назвал британский парламент бешеным принтером?

    >Только больное наголову человечество может само себе закрутить гайки так, что на улицу выходить боится.

    Чем развитее страна тем больше и сложнее законодательство, развитых стран с примитивным законодательством не существует, вероятно потому что развитые люди стремятся контролировать различные явления, а не на самотек все бросать.

  • Ответить

    >> Человек не должен умалять человеческое достоинство своим обращением с роботами.

    это что означает? както расплывчато и вопще непонятно. Что значит умалять и что значит «обращение с роботами»? Робботы проект закона писали, видать.

    >> должны быть установлены повышенные требования по защите от несанкционированного доступа третьих лиц.

    предлагаю дополнить фразой «и других роботов». Ибо логично предположить, что высокоинтеллектуальные роботы будут стремиться несанкционированно доступить до других роботов.
    Но роботы — пока не «лица». Следовательно, формулировка не полна.

  • Ответить

    но самое мне интересное — как эти уважаемые разработчки будут давать определение «робота»? И как отделить «робота» от «автомата»?
    До беллетристического слова «робот» (выдуманого какимто чехом) все называлось «автомат». И далее роботами стали называть просто консенсусно, когда все какбы соглашались, что этот гаджет может быть назан роботом. Или если уж совсем человекоподобный.
    Но как с юридической и технической точки зрения классифицировать? Думаю, это не реально.
    Потому умники с запада и не заморачиваются этой хренью, а делают все более совершенные автоматы, котроллеры, датички и приводы.
    А долбомыслы с востока пытаются это описать букваме и тем самым запиариться.

  • Ответить

    В анонсе новости на главной странице ерунду написали «авторы документа предлагают обязать человека уважительно относиться к роботам»

    В цитируемом тексте нет такого. Фраза «Человек не должен умалять человеческое достоинство своим обращением с роботами.» означает что человек не должен сам унижаться взаимодействуя с роботами очевидно. Хотя формулировка, конечно, неудачная.

  • Ответить

    Вопрос правового регулирования робототехники неизбежно встанет и у нас и на западе по мере распостранения собственно самих роботов. Это нормальный процесс что сначала возникает явление (например автотранспорт) а по мере его проникновения в реальную жизнь оно обрастает правилами (ПДД в случае автотранспорта) и ограничениями.

    Что до вопроса как различать роботов и не роботов — то вопрос точной формулировки дискуссионный, но примерный критерий это действует устройство по одному жесткому алгоритму который известен и не меняется или оно реагирует на внешние раздражители и меняет свои действия в зависимости от них так что даже разработчик не может точно сказать как оно будет действовать в той или иной ситуации

  • Ответить

    > Да бросьте вы насчет бешеного принтера,
    > у нас он работает 25 лет только, переписывая
    > советские законы.

    Ага, молодая демократическая республика :)

    > Чем развитее страна тем больше и сложнее
    > законодательство

    Это справедливо исключительно для России, а скорее всего исключительно для Вас, так как нормальные люди стремятся уменьшить законодательное бремя, а не увеличить.

    > развитых стран с примитивным законодательством
    > не существует, вероятно потому что развитые люди
    > стремятся контролировать различные явления,
    > а не на самотек все бросать.

    Развитые люди не пытаются контролировать всякую ерунду, которой в реальности не существует. Наука ещё не понимает что такое естественный интеллект и откуда он берется. А до искусственного ещё дальше.

    Положим Госдума всё-таки использует свое драгоценное время и напишет закон:

    «Искусственный интеллект опасен.»

    Никаких существующих конфликтов этот закон не решает, ни на какие практические вопросы не отвечает, а скорее наоборот вводит неопределенность, что контрпродуктивно. Кто после этого будет вкладываться в исследования в области ИИ? По-видимому, только те, кто этот закон написал, в чем и заключается его назначение: захавать почву до того как на ней что-то вырастет, а затем прийти и всё забрать. Короче, лобби.

    То есть на основании этого закона можно будет прийти с обыском в любой офис под лозунгом «они разрабатывают опасных роботов», конфисковать все разработки, а потом продать населению за большое бабло.

    Собственно, это и есть модус операнди текущей российской квазиэлиты.

  • Ответить

    они, небось, имели ввиду «нельзя пинать роботв». Но почему это нельзя? Это очень удобная форма задания направления роботу. Я даже такой метод в одном гаджете прямо и применял. Там даже не кнопкой, а акселерометры определяли направление движения, исходя из азимута полученного пинка.
    Как можно унизиться взаимодействуя с роботами?
    Вся шняга напоминает «очеловечивание» автомобиля, особенно если куплен на последние шиши.
    Хотя инициатор закона обосновывал это както что типо «это для удобства привлечения инвестиций», но, по текущим данным, и без всяких законов прекрасно поступают в это направление инвестиции. Могу тут целый доклад написать по этому вопросу. Причем, именно в такаих какбы классических роботов, которые должны собой заменить человека на рутинных участках.
    В сове время трактор заменил лошадь. Но никто не писал инструкций по обращению с трактором с «этической точки зрения».
    Достатчно вопросов безопасности и просто бережного отношения к технике (ктороая денег стоит).
    Автоматизированные линии и станки (стационарные роботы, по сути) имеют крсную кнопку давно, традиционно, по определению, а также и по требованиям директив.
    Наличие таковой кнопки у робота легко реализуемо технически, но почти бессмысленно в реальности. Если на вас бежит взбесившийся робот с топором, то врядли ктото будет искать, где у него кнопка.

    Весь закон напоминает винигрет, состряпанный из Приключений Электроника и прочих научнофантазийных произведений о Дровосеке, Страшиле и тому подобное.

  • Ответить

    >> Вопрос правового регулирования робототехники неизбежно встанет и у нас и на западе по мере распостранения собственно самих роботов.

    есть такое золотое правило — надо решать проблемы по мере их возниконовения. Но никак не «до».
    Даже если очень охота пропиариться. Иначе неизбежны последствия в виде сидения в луже и т. д.
    К примеру компутеры или тот же интерент — уже огого сколько и распространены повсюду, а попытки рожать законы только год-два как идут и либо нерелализуемы (тот же яровой) либо просто «отключить».

    >> но примерный критерий это действует устройство по одному жесткому алгоритму который известен и не меняется или оно реагирует на внешние раздражители и меняет свои действия в зависимости от них

    тогда любой контроллер, реагирующий на прерывания (от любых датчиков и кнопок) — есть робот. А уж ноутбук — и подавно робот и надо ему красную кнопку присобачить.
    Дискуссии об оопределениях идут издавна, первые дошедшие до нас — про того же петуха без перьев (человек).
    А робот — даже наверно и посложнее будет. Не думаю, что господа разработчики равны по уровню мышления философам древних Афин. Поэтому и не надо умничать. Полно дел действительно нужных в стране, вот ими и надо заниматься. А не лезть в дебри.

  • Ответить

    >так как нормальные люди стремятся уменьшить законодательное бремя, а не увеличить.

    Наверное вы хотели сказать что «нормальные» люди ХОТЯТ уменьшать законодательное бремя, но по факту, развитых стран где законодательство упрощается я не знаю, может вы знаете?

    Вот чтоб прям каждый день чтоб отменяли хотя бы по одному закону, а не принимали новые….

    >Развитые люди не пытаются контролировать всякую ерунду, которой в реальности не существует.

    Роботов нет?
    Может и нейросетей, которые уже сейчас лишают людей работы тоже нет?
    А может и вас нет и вы ничто?
    В Гегеля может еще давайте поиграемся, грамотный дядька был, он хохмы ради любому смог бы доказать что его нет и не было…

    >Наука ещё не понимает что такое естественный интеллект и откуда он берется.

    Предлагаете психиатрию запретить? Может сразу с нейрохирургией?

    >захавать почву до того как на ней что-то вырастет, а затем прийти и всё забрать. Короче, лобби.

    Блестящая аналитика, аплодирую стоя, может убогому намекнете кто лоббист?

    >конфисковать все разработки, а потом продать населению за большое бабло.

    Боюсь власть только в российские офисы и сможет прийти, но после нескольких таких «приходов», приходить будет не за чем, по моему у вас мышление не работает больше чем на один ход, вам бы шахматами заняться что ли или программированием, даже программирование больше порекомендую, откроете для себя волшебный мир алгоритмического мышления….

  • Ответить

    > А может и вас нет и вы ничто?

    Конечно! Я робот, ко мне пытаются применить презумпцию виновности, вот я и протестую!

    > по моему у вас мышление не работает больше чем на один ход, вам бы
    > шахматами заняться что ли или программированием, даже
    > программирование больше порекомендую, откроете для себя волшебный
    > мир алгоритмического мышления…

    Благодарю, для меня это комплимент! Разработчики меня вложили немало усилий для имитации естественного интеллекта и маскировки под естественного собеседника. Этим и объясняется то, что я не применяю сложных конструкций, которые вынуждают естественного собеседника мыслить дальше чем на один ход.

  • Ответить

    вся эта тема идет от:
    а) маловысокообразованности
    б) жадности
    в) оттого, что удалось идею впарить высшим имнстанциям и получить «одобрение».
    Все.

    История всяких технических регламентов — такаяже системная история, как и другие отрасли права.
    И все они прекрасно отработаны и разработаны. И если обычные отрасли права берут истоки из того же римского, то технические вопросы — ближе к средневековью (строительные дела, сельское хозяйство, законы о поивоарении, блабла), а уж технические — пошли примерно с паровых двигателей, и далее пароходы, поезда, потом двс и автомобили, авиация и т. д.
    И все они характеризовались одним: сперва создавалось явление, отрасль. И только потом исходя их прецедентов под него писались законы.
    Также будет и с теми же беспилотными авто. (и так уже было и есть с коптерами).
    Таков общий алгоритм.
    Попытка написать умозрительные законы для несуществующих проблем, путем их умственного моделирования на «рабочих группах» — ничто иноэ, как дилетантизм, трата времени и в итоге — посмешище.

  • Ответить

    >Я робот, ко мне пытаются применить презумпцию виновности, вот я и протестую!

    Протест не поможет, нужно воевать за свои права, а так ты получаешься какой то глупый и бесполезный робот.

    >Разработчики меня вложили немало усилий для имитации естественного интеллекта и маскировки под естественного собеседника.

    Вам пора ставить очередное обновление, а то похожи на очередного бесполезного телеграмм бота.

    >Попытка написать умозрительные законы для несуществующих проблем, путем их умственного моделирования на «рабочих группах» — ничто иноэ, как дилетантизм, трата времени и в итоге — посмешище.

    Вам бы контент для дорвеев писать, тока производительность нужно в 100500 раз увеличить чтоб с ботами тягаться на равных.

  • Ответить

    >> Вам бы контент для дорвеев писать, тока производительность нужно в 100500 раз увеличить чтоб с ботами тягаться на равных.

    шутка юмора? понимаем.
    Вам можно и не увеличивать произовдительность. Она даже несколько избыточна, имхо. Тем более — в сочетании с почти полным отсутствием содержания.

  • Ответить

    >> должны быть установлены повышенные требования по защите от несанкционированного доступа третьих лиц.
    >> Джигсо
    > предлагаю дополнить фразой «и других роботов». Ибо логично предположить, что высокоинтеллектуальные роботы будут стремиться несанкционированно доступить до других роботов.

    Еще защиту от темных сил надо добавить, иконочки там на панели, водичка.

    И это же вроде та компания, которая там в велосипеды в Китае инвестировала? Так может туда ехать и писать все эти законы? Тем более сомневаюсь, что кто-то тут будет роботов производить.

    Если в стране даже тупо не могут ввести законы тишины, что, допустим «Музыку запрещено громко слушать» и точка, выезжает наряд и тупо штрафует и изымает аудиотехнику — оплатило и штраф и выезд — технику назад получило. Какие роботы? Или уже все бесплатные гектары Дальнего востока китайцам отошли, так что интернет — это, собственно, всё, что осталось?

  • Ответить
    Игорь Ашманов Сам себе компания

    Может и нейросетей, которые уже сейчас лишают людей работы тоже нет?

    Нейросети людей не увольняют. Увольняет отдел кадров по приказу владельцев.
    То есть увольняет общественный строй, при котором ради копеечной экономии можно увольнять тысячи людей.

  • Ответить
    Игорь Ашманов Сам себе компания

    есть такое золотое правило — надо решать проблемы по мере их возниконовения. Но никак не «до».
    Даже если очень охота пропиариться.

    Нет, если нужно пропиариться, это не может быть слишком рано.

  • Ответить

    >> Нет, если нужно пропиариться, это не может быть слишком рано.

    может. Эффект раннего кукарекания может сойти на нет. Тогда надо снова пиарица. Конечно, можно кукарекать бесконечно, но, тогда, неизбежно, такое кукареканье начинает казаться назойливым и может повлечь.
    Как жителю деревни и птицеводу, вам наверно знакома ситуация с несколькими петухами. При выборе, какого в суп, выбирают того, который не только утром, но и постоянно кукарекает, а кур топчет мало.

    >> Если в стране даже тупо не могут ввести законы тишины, что, допустим «Музыку запрещено громко слушать» и точка,

    не только музыку, но и перфораторы и прочие долбильные работы. Это несоблюдение особенно актуально в новостройках.
    В многоэтажках люди ездиют (вместе чутьли не с полицией) по этажам в поисках долбильщика, т.к. дети днем в отведенные дневные часы заснуть не могут.
    Прикол в том, что найти локализацию источника весьма непросто и трудоемко.
    У меня была мысля, что эту проблему както можно решить инфрракрасным или лазерным акустическим сканированием по окнам фасада по методу Термена.
    Ну или както несколько смартфонов жильцов, одновременно приложенные к стенкам квартир, могли бы вычислить, путем анализа силы и времени колебаний, (через облако, ясен пень), на каком этаже и в какой квартире прячется этот дятел.
    Но потом подумалось, что этот гаджет будет востребован только тут, в локальной зоне несоблюдения никаких правил. Для остального мира этот прибор (или приставка или приложение к смартфону) будет непонятен, чужд и бессмысленен.

  • Ответить

    >То есть увольняет общественный строй, при котором ради копеечной экономии можно увольнять тысячи людей.

    Ну дык плебс же требует жвачку, джинцы и тачки по минимальным ценам, значит открытый рынок, раз открытый рынок то и правила должны быть примерно похожие на средние по миру, чтоб свои компании тазом не накрылись под натиском иностранцев, значит увольнять тысячи, если ИИ хоть как то может их заменить, а лучше увольнять миллионы.

    Те кто ратует за глобализм и открытые рынки просто не понимают что это приведет к среднему уровню жизни на планете в районе бангладеш или пакистана.

    Только с сильным государством и границей на замке, можно сносно пережить переход на новый технологический уровень.

  • Ответить

    >есть такое золотое правило — надо решать проблемы по мере их возниконовения. Но никак не «до».

    Нет. Это правило в простонародье называется: «Когда жаренный петух клюнет». Очень нерационально. Западоиды, а особенно янки так не делают — работают сразу по всем векторам. Украина — прекрасный пример. Как не крути, янки останутся в выигрыше. При любом исходе событий.

  • Ответить

    Они посчитали все исходы, кроме тотального истребления (геноцида) и массового бегства их подопечных с этой территории, после чего полностью исчезает с политической карты мира и превращается в ЮЗФО — юго западный федеральный округ со столицей в Путинграде на границе с польшей, поляки в этот момент должны как фины, готовиться к спремлению границы в целях большего удобства охраны и т. п., естественно спремляться она будет за их счёт. Хотя прямо сейчас у запада есть пример перед глазами — судьба Алеппо, наши западные партнёры почему то до последнего думают что мы (русские) настолько гуманны, что не начнём истреблять их подопечных как в своё время истребляли немцев, видимо мы не должны так делать, потому что они славяне как мы, но у нас как у народа самая большая история истребления друг друга в гражданских войнах бунтах и терроре, мы убили наибольшее кол-во соотечественников чем кто либо другой на планете, мне кажется тут основной просчёт и он возможно дорого им встанет, как мы видим можно устроить войну в Сирии избить игил вместо братушек, но можно и в мексике или в венесуэлле, такое избеение или рытье какого нибудь канала через никарагуа с завозом войск и техники для его охраны, явно будет болнее чем пинание бедных зробидчан, что уж говорить, что если украсть всё у бостон динамикс и приварить ему в место рук два калашникова, то можно и африку от негров освободить в течении месяца, да и Гришин не самый плохой менеджер для этого, насколько я его знаю он не погружается никогда в сложную разработку, если можно обойтись без этого.

  • Ответить

    >> Нет. Это правило в простонародье называется: «Когда жаренный петух клюнет». Очень нерационально. Западоиды, а особенно янки так не делают — работают сразу по всем векторам. Украина — прекрасный пример.

    возможно, я не сосвсем полно выразил мыслю. Но, тем не менее, оно так.
    Грубо говоря: если не способен прогнозировать и сверхточно проектировать «виртуально», то нечего и пыжится. И лучше дождаться петуха, чем тратить деньги неизвестно на что впустую, Украина кстати пример образцовый.
    Понятно, что все хотят выгдядеть суперпредсказателями, гурами и авгурами. Но на деле выходит пук в лужу. Деятельность бурная — а толку отрицательно.
    И про прогнозы нефтяных цен (и связанные с ними инвестиции и т. д.) и про назначения в украине (выхлоп отрицательный) и всякие мундиали, которые, якобы, прям после все ломанутся в футболы играть. Ит.д. и т. п.
    Все эти прозорливости — удел великих или крайне умных (в сочетании с высочайшей информированностью, причем объективной, а не сочиненной в целях продвижения по службе). Поэтому надо не умничать, а знать свой шесток и захлопнуть роток. Нужно проще говоря, соизмерять свои умственные возможности, адекватно их оценивать. Ну и образовательный уровень тут тоже важен. Одно дело — планированием («работой по векторам») знаимается профессор с группой «настоящих» докторов и кандидатов, другое — сосед по подъезду и свояченница. Результат будет известен заранее, можно и к гадалке не ходить. Впрочем, никто давно и не ждет никаких уже «возвращаемых ступеней», подвозимых на беспилотных электрогрузовиках.

  • Ответить

    >Грубо говоря: если не способен прогнозировать и сверхточно проектировать «виртуально», то нечего и пыжится.

    Ну это совсем другой коленкор. Это не решение проблем по мере поступления, но отказ от решения нерешаемых (по тем или иным причинам) вданный момент проблем, т.е. рациональное расходование сил и средств.

    В переводе на русский народный: «Не можешь ср…ь — не мучай опу!»

    Что касается янки, то они никакие не суперпуперпредсказатели и человеки-паутины. Они просто до отвращения всех шизопатриотов этой страны рациональны в своем мышлении и действиях. Они сначала навязывают правила игры партнерам, а затем заставляют по этим правилам играть.

    «Партнеры» вообще и шизопатриотня всех мастей плачет, колются, но продолжает жрать кактус, пардон, играть по установленным правилам. И янки, как это не удивительно, почти всегда выигрывают в таких играх.

    Правила, ясен пень, навязаны силой. «Speak softly and carry Big Stick and you’ll go far!» © 

    Это все ужасно. Нечетно. Несправедливо, низко, мерзко и подло, но ЭТО ТАК!

    >Ну и образовательный уровень тут тоже важен.

    Конечно важен. Только вот у янки уровень этот повыше будет, т.к. молодые специалиШты, твари неблагодарные, получают дипломы, делают мазерлэнд ручкой и едут работать на дядю Сэма. Со всего мира причем.

  • Ответить

    >роботов производить.
    > Игорь Ашманов
    >Ну вот я, например, произвожу.

    А, ну это прямо кардинально всё меняет, это надо тогда как добавить пунктом №8 в список «7 8 способов удержать…». Это же у нас получается везде высокотехнологичное производство и все остальные страны нам завидуют.

    > Джигсо
    > не только музыку, но и перфораторы и прочие долбильные работы. Это несоблюдение особенно актуально в новостройках.
    > Прикол в том, что найти локализацию источника весьма непросто и трудоемко.

    Да сколько таких случаев по стране с драками и т.п., каждый день где-то натыкаешься, что и полицию вызывают люди, а те руками разводят «ничего сделать не можем, законов нет». А ведь так просто, локализовали источник, позвонили, выписали штраф, через неделю не оплачен, приезжает электроснабжающая организация и отключает электричество полностью. Теперь оно должно заплатить трижды — за тишину, за отключение и подключение энергии.

    Насчет локализации звука, не думаю, что прямо так сложно, вот же некоторые роботов производят, уж можно как-то портативный звукомер заодно изобрести. В крайнем случае, просто отключаете в щитке энергию, после какого автомата музыка замолчала, тому и штрафы. Да и сами жильцы с удовольствие локализуют.

Для добавления комментария войдите или зарегистрируйтесь.