Ашманов нормально так в СПЧ выступил перед Путиным, транскрипт уже на Кремлин.ру есть. По вхождению «Ашманов» найдёте нужное:
- сказал, что дети тупеют, привёл примеры;
- сказал, что люди тупеют, сливают ДСПшные документы в иностранный ИИ;
- сказал, что в технологической сфере, в военное, в производственной — ИИ это хорошо;
- в социальной сфере - надо подумать и отрегулировать.
Путин согласился, попросил поскорее прислать конкретные предложения.
В этот раз хотелось бы поговорить о другой проблеме цифровой, а именно о таком галопирующем, чрезвычайно быстром внедрении искусственного интеллекта в первую очередь в социальную сферу и в государственное управление.
Я хотел бы вспомнить Ваши слова недавние, когда на конференции по искусственному интеллекту Вы сказали о том, что ведь если школьники будут непрерывно спрашивать искусственный интеллект о своих заданиях и так далее, они просто перестанут думать и просто не научатся это делать.
Это довольно очевидные вещи. Казалось бы, это просто простой здравый смысл. Более того, это сейчас происходит уже массово. То есть когда разговариваешь с учителями, с родительским сообществом, они говорят, что происходит массовое, обвальное выхолащивание образования: школьники и студенты получают задания, отдают их искусственному интеллекту и потом, не читая, сдают обратно, и у них возникает идея, что, в общем, знать необязательно, надо сдать. При этом рушится авторитет преподавателя, для них авторитетом сейчас становится искусственный интеллект. Они прямо говорят преподавателю: мне ИИ сказал вот так, а он умнее Вас, поэтому Вы просто ошибаетесь.
И при этом, поскольку наши люди любят всё фирменное, они, как правило, используют западные системы, при этом часто взломанные, то есть те, которые не имеют ограничений по плохим и вредным советам. И такие советы эти системы дают, вплоть до побуждения к суициду и так далее.
В вузе тоже подавляющее количество работ сейчас генерируется автоматически. Преподаватели вынуждены теперь снова перейти на опрос вживую. Очень часто человек приносит диплом и не может объяснить основные термины в этом дипломе. Пустые работы, компилятивные. Профессора говорят, что сейчас они не знают, кого они выпускают, знают эти люди предмет или нет. А через год, два, три эти люди попадут в промышленность, в оборонку и так далее и будут там тоже, возможно, имитировать работу.
Только что я был в храме Христа Спасителя, там выступал Патриарх, и он очень много сказал, прямо минут 10 говорил, именно об этих проблемах с образованием. Там была встреча с преподавателями, и, собственно, Министр просвещения Кравцов вслед за ним повторил примерно то же самое. Да, есть проблема, и действительно происходит нехорошая метаморфоза образования, причём на нижнем уровне.
Вы, конечно, слышите о том, что искусственный интеллект надо внедрять как можно быстрее, и он, возможно, решит все наши проблемы. Я сам разработчик искусственного интеллекта последние десятки лет, и это верно только отчасти. Нам, конечно, ни в коем случае нельзя отстать в обороне, в промышленности. Искусственный интеллект чрезвычайно важен для наведения на цель, для контрбатарейной борьбы, в сельском хозяйстве для анализа посевов или контроля качества продукции, для транспорта и так далее. Но в социальной сфере и в госуправлении, кроме вот этой метаморфозы в образовании, сейчас назрели довольно серьёзные проблемы, такие предвестники.
Первое – это, конечно, утечки. То есть сейчас самые-самые продвинутые менеджеры госкорпораций, госорганов, крупных корпораций, крупных компаний в области критической инфраструктуры поручают своим помощникам с помощью западных, в основном западных, облачных сервисов организовывать свою коммуникацию и переписку в самых разных мессенджерах, в электронной почте. И вся, в том числе дээспэшная, переписка улетает противнику, а это, собственно, наш противник. Потому что это облачные сервисы в основном американские. А наши люди хотят самое лучшее и фирменное, а именно американское.
Второе – это, конечно, попытки замены чиновников на роботов. Очень многие чиновники сейчас с удовольствием выставляют перед собой чат-боты. Это нужно, чтобы досужее население, противное, склочное и так далее, до них не добиралось, а робот их отбивал. На самом деле, конечно, чат-боты не решают даже мелких проблем. Это фактически просто способ отогнать граждан, такой способ снятия ответственности.
Ответ Путина:
Вопрос и важный, и чрезвычайно сложный. Вы сами его сейчас осветили с некоторых сторон. И мне кажется, что понятно даже людям, которые не погружены в эти проблемы, – всё-таки становится очевидным, что надо решать, но не очень понятно даже, как это делать. Потому что не использовать эти инструменты – значит проиграть всё, что нам дорого, просто всё проиграть, если не использовать возможности больших данных и всё, что с этим связано.
Но в то же время если использовать это бездумно, то это тоже может привести к утрате как раз всего того, что нам дорого, – нашей идентичности, к распылению информации больших данных, передаче этой информации в руки тех, кто воспользуется (минимум недобросовестно) этой информацией, и так далее.
И конечно, в сфере образования это тоже понятно. Нам ни в коем случае нельзя потерять поколение совсем молодых наших граждан, которые вместо того, чтобы думать, будут просто нажимать кнопочку, и всё, и сами не будут в состоянии решать элементарные задачи по математике, физике, химии, да и истории знать как следует не будут.
Это сложная задача. Чтобы у нас не возникла элита из двух десятков человек, которые действительно думают, которые что-то генерят, и основной массы людей, которые будут только уметь кнопку нажимать, и всё. Это очень сложный вопрос, но точно совершенно его нужно решать.
И конечно, очень важны принципы использования этих технологий при принятии решений. Да, искусственный интеллект подсказывает, и, может быть, даже эта подсказка является более качественной, чем если человек будет думать и подходить к какому-то решению самостоятельно.
Но здесь, мне кажется, Вы правы абсолютно в чём: ответственность за принятие окончательного решения должна лежать на конкретном человеке. И ссылка на то, что это подсказал искусственный интеллект, не должна приниматься. Ответственность за принятие решения должна лежать на конкретных людях. Это потребует от любого специалиста необходимости проверить, пересчитать, пересмотреть. Ответственность должна быть персональной за принятие особенно таких решений, от которых зависят вопросы безопасности, жизни людей. Вот как пример, о котором Вы сейчас нам сказали в отношении… В Корее, да, где происходили эти пожары? Ну, и без пожаров много вопросов, которые требуют ответственного подхода при принятии решений.
Так что давайте, пожалуйста, я только слова благодарности могу направить в Ваш адрес, Игорь Станиславович. Дайте, пожалуйста, как можно быстрее Ваши предложения. Без всякого сомнения, мы это используем и Вас будем привлекать к выработке этих решений окончательных и к работе над проектами этих нормативных актов.
Наши новости вы можете обсудить в Телеграм-канале Roem.ru >>>