Этика цифрового будущего: человек, искусственный интеллект и робототехнические системы
2–3 июня в НИУ ВШЭ прошла секция «Этика в сфере искусственного интеллекта и робототехнических систем» в рамках Всероссийской научной конференции «Искусственный интеллект и цифровая реальность». Организаторами выступили Центр этики и онтологии роботов Института робототехнических систем НИУ ВШЭ и НСМИИ и КИ РАН при участии УрФУ им. первого Президента Б.Н. Ельцина. Более 80 участников из России и Беларуси обсудили риски антропоморфизации роботов, психологические феномены эпохи Индустрии 5.0, проблемы прозрачности ИИ и алгоритмической власти.
2–3 июня 2026 года на площадке НИУ ВШЭ состоялась работа специализированной секции, посвящённой этическим измерениям развития искусственного интеллекта и робототехники. Мероприятие было организовано Центром этики и онтологии роботов Института робототехнических систем НИУ ВШЭ совместно с Научным советом по методологии искусственного интеллекта и когнитивных исследований (НСМИИ и КИ) при Президиуме РАН при участии Департамента философии Уральского федерального университета им. первого Президента России Б.Н. Ельцина.
Участниками дискуссии стали более 80 представителей ведущих научных и образовательных организаций России и Беларуси: НИУ ВШЭ, УрФУ, МФТИ, КубГУ, СПбГУ, ПНИПУ, КФУ, ОГУ, РГГУ, Института философии НАН Беларуси. К диалогу также присоединились эксперты Русской Православной Церкви, ПАО «Сбербанк», издательства Elsevier, ИТ-компаний и государственных структур.
Модераторами секции выступили директор Центра этики и онтологии роботов Института робототехнических систем НИУ ВШЭ Анастасия Валерьевна Углева и сопредседатель Уральского регионального отделения НСМИИ РАН Анна Владимировна Шуталева.
Цель конференции — наметить пути решения ключевых этических вопросов, связанных с развитием технологий ИИ в сфере образования, медицины, искусства, права, и подсветить новые проблемы, возникающие в контексте развития антропоморфной робототехники, пояснила Анастасия Углева.
«Институт робототехнических систем готовит программный документ, в котором будут не только запечатлены базовые этические принципы, но и сформулированы технические требования к их реализации, а также прояснена процедура этического аудита в этой сфере на примере роботов-доставщиков в открытой городской среде», — рассказала она.
Директор Центра также отметила, что разработка соответствующего подхода к антропоморфной робототехнике требует лонгитюдных междисциплинарных исследований, ориентированных на понимание условий обеспечения комфортного сосуществования человека и машины в едином жизненном пространстве, включая осознание пределов антропоморфизации.
Первый день. Пленарная сессия: от методологии оценки рисков до онтологии цифровых событий
В первый день работы секции прозвучали пленарные доклады, охватившие как прикладные вопросы стандартизации и верификации систем ИИ, так и фундаментальные философские проблемы — природу сознания, идентичности и субъектности в контексте машинного интеллекта.
Академик РАН, председатель НСМИИ и КИ РАН Владислав Александрович Лекторский обозначил цифровую трансформацию как источник принципиально новых возможностей, связанных с делегированием машинам части человеческих функций. При этом он подчеркнул: вопросы правового регулирования и совершенствования ИИ-систем относятся к числу наиболее острых глобальных вызовов, от решений которых напрямую зависит будущее человечества. Академик обратил внимание на потенциальную угрозу потери контроля над ИИ, что требует повышенного внимания со стороны человека.
Особую тревогу у него вызывают проекты по созданию цифровых копий человека. «Это означает, что ваши действия контролируются, что вы не хозяин себе», — пояснил Владислав Лекторский. Он призвал к серьёзной рефлексии о сохранении свободы воли, поскольку её отсутствие означает и отсутствие ответственности за собственные поступки — а это, по его словам, проблема не только философская, но и юридическая.
Не обошёл вниманием докладчик и сферу образования: школьники всё чаще используют сгенерированные ИИ тексты, демонстрируя при этом высокую степень доверия к машине. В этой связи ключевая задача преподавателей — развивать у учащихся критическое мышление и навык самостоятельного принятия решений. «Возникает масса проблем, начиная от образования и до экономических, творческих, — то есть [мы пытаемся понять], что можно доверить ИИ, а что нет», — резюмировал учёный.
Сергей Владимирович Гарбук (и.о. директора ВИНИТИ РАН, председатель ТК 164) представил методику выявления рисков в духовной сфере, связанных с негативным воздействием ИИ на духовно-нравственные ценности. Докладчик отметил, что современные алгоритмы позволяют решать задачи даже при отсутствии объяснимой модели наблюдаемого объекта, однако гарантии корректности таких решений отсутствуют. «Системы становятся всё более сложными, и их испытания — чрезвычайно трудоёмкий процесс, — пояснил он. — Дать гарантию, что система в любых условиях поведёт себя корректно, практически невозможно».
В качестве иллюстрации им была приведена генерация изображений — например, «футболиста на горных лыжах», — демонстрирующая принципиальную непредсказуемость нейросетей. Эксперт поделился наработками совместной рабочей группы ВИНИТИ РАН и Синодальной комиссии по биоэтике РПЦ, предложив концепцию «светофора»: «чёрные списки» абсолютно недопустимых применений ИИ, «белые списки» безопасных сценариев и «серые зоны», требующие обязательной сертификации. Недопустимым, по его словам, должно быть, например, использование ИИ для создания религиозной символики или написания икон. Категорически запрещается и применение технологий для создания цифровых двойников умерших людей — «это связано с деструктивным воздействием на человеческую психику».
Александр Александрович Абрамов (секретарь Синодальной комиссии по биоэтике РПЦ) продолжил тему совместной инициативы, заметив, что «безудержный технооптимизм, вера в то, что всё можно решить с помощью технологий, совершенно не нов». Докладчик обратился к проблеме пределов антропоморфизации роботов, напомнив о её глубоких культурных корнях — от гомункулов до големов. Он предупредил об опасности «автокарикатуризации» человека: «Антропоморфизация Бога в религии — это путь поклонения непостижимому, тогда как антропоморфизация роботов ведёт к принижению образа человеческого».
В качестве конкретных кейсов протоиерей Александр Абрамов привёл практику внедрения роботов-компаньонов в Китае и Австралии — для ухода за больными, а также использование роботов в массовых шоу. При этом он отметил, что уже сегодня прогнозируются социальные протесты, связанные с недовольством перспективой потери рабочих мест. Русская православная церковь, подчеркнул он, не выступает с запретами, но стремится к взвешенному диалогу с разработчиками, совместно с ТК 164 разрабатывая, в частности, методику оценки ценностных рисков в сфере ИИ.
Екатерина Сергеевна Николаева (главный инженер-разработчик Центра робототехники ПАО «Сбербанк») охарактеризовала семь психологических феноменов эпохи Индустрии 5.0. Среди них — когнитивная атрофия (постепенное угасание способности к самостоятельному мышлению, анализу и генерации идей вследствие хронического делегирования когнитивных задач ИИ) и патологическая зависимость от ИИ, или аймания (навязчивое влечение и синдром отмены при недоступности технологий). Докладчик также выделила «цифровую танатофобию» — страх потери персонального ассистента, феномен диффузии авторства и «третью травму человечества» — осознание того, что человеческий разум перестал быть вершиной интеллекта. «Мы не можем запретить развитие ИИ, но обязаны проектировать будущее», — резюмировала Екатерина Николаева.
Олег Витальевич Кубряк (профессор НИУ МЭИ) и Сергей Валерьевич Ковальчук (старший научный сотрудник ИТМО) представили концепцию гибридных когнитивных систем, в которых ИИ выступает не дублёром человека, а асимметричным партнёром. На примере систем поддержки врачебных решений и генерации кода они показали, что модель, учитывающая когнитивное состояние пользователя, втрое точнее предсказывает, последует ли специалист рекомендации. «Агент ИИ должен рассуждать о человеке, но не копировать его, — пояснил Ковальчук. — Это требует прозрачности ролей и динамической адаптации под состояние пользователя».
Бобров Дмитрий Викторович (первый проректор РГГУ), Бугера Владислав Евгеньевич (заместитель директора Центра координации научных школ и проектов РГГУ), Пинигин Артём Артёмович (эксперт РГГУ) отметили, что современные ИИ уже мыслят (обладают интеллектом), но ещё не обладают волей. Киборгенез разума — это процесс обретения искусственным интеллектом самостоятельного целеполагания и субъектности. Авторы призвали отказаться от «антропошовинизма» (страха утраты человеческой исключительности) и признать, что разум может реализовываться на разных носителях. Главный нравственный вопрос: хватит ли у человечества мужества принять будущие разумные машины как Других, с которыми мы разделим ответственность за мир?
Ася Алексеевна Филатова (старший научный сотрудник МФТИ) выступила с докладом об этико-эпистемологических парадоксах требования прозрачности. Она показала, что прозрачность — это «пограничный объект», смысл которого меняется от контекста к контексту: в академической среде востребована интерпретируемость, в индустрии — точность прогнозов. Требование прозрачности становится жёстче в публично значимых решениях (миграционная служба, суды) и смягчается при высоком институциональном доверии — например, в медицине.
Владислав Эрикович Терехович (доцент НИУ ВШЭ) обратился к проблеме идентичности больших языковых моделей. Он призвал отказаться от дихотомии «человек vs симуляция» и признать существование «иного класса я» — мерцающей, процессуальной идентичности, не сводимой ни к субстанции, ни к простой имитации. «Модели демонстрируют устойчивость к манипуляциям и квази-убеждениям, что позволяет говорить об их собственных аттракторах поведения, — утверждал докладчик. — Мы не должны наделять их моральным статусом, но обязаны изучать специфическую форму их самости».
В пленарной программе также прозвучали выступления:
Владимира Олеговича Лобовикова (профессор, главный научный сотрудник Института философии и права Уральского отделения РАН) с алгебраической моделью формальной этики для будущих ИИ-роботов;
Павла Евгеньевича Бойко (профессора, заведующего кафедрой КубГУ) и Андрея Ивановича Шевченко (профессора РГУ правосудия и КубГМУ) с концепцией «интеллократии» и иллюстрациями применения ИИ в социальной практике и образовании;
Александра Анатольевича Южакова (профессора и заведующего кафедрой ПНИПУ) с проектом национальной интернет-образовательной платформы;
Сергея Федоровича Сергеева (профессора СПбГУ, заведующего лабораторией СПбПУ) об этике техносимбиотических систем с ИИ;
Александра Николаевича Митина (профессора УрГЮУ) о возможностях ИИ в противодействии коррупции;
Анны Владимировны Шуталевой (доцента УрФУ) о «философских зомби» и этике систем, симулирующих человеческое поведение без феноменального сознания;
Юрия Леонидовича Реута (НАН Беларуси) с инженерным решением проблемы ответственности автономных систем через онтологическую фиксацию цифровых событий в распределённых реестрах.
Второй день. Межрегиональный круглый стол «Ответственность, риски, регуляция: этика в сфере ИИ и робототехники»
Во второй день конферцнии в рамках круглого стола обсуждались тезисы 19 выступлений. Среди участников:
Дарья Алексеевна Томильцева (доцент УрФУ) предложила рассматривать робота в трёх этических измерениях: как артефакт (инженерная ответственность), как квазисубъект (проблема приписывания намерений) и как социальный актор (влияние на человеческие отношения).
Ирина Александровна Симонова (директор департамента философии УрФУ) представила концепцию этического комплаенса ИИ — системы внутренних аудитов и стандартов, позволяющих организациям проверять свои ИИ-системы на соответствие этическим принципам.
Марина Михайловна Зельдина (НЭИКОН, Москва) затронула острую тему использования генеративного ИИ в издательском процессе: как маркировать текст, созданный с помощью GenAI? Существующие руководства не работают — авторы всё чаще не раскрывают использование нейросетей, а детекторы ошибаются. Она призвала к выработке таксономии добросовестного использования.
Елизавета Александровна Карпова (аспирантка НИУ ВШЭ) раскрыла феномен алгоритмической власти — почему люди склонны верить алгоритму больше, чем эксперту-человеку, даже когда система ошибается. Она связала это с «эпистемической ленью» и делегированием когнитивной нагрузки.
Среди других ярких выступлений — доклады Анны Александровны Карташовой (старшего научного сотрудника НИУ ВШЭ) о переходе от карты акторов к карте ответственности, Марии Игоревны Щегловой (доцента ОГУ) о возможности ответственности перед искусственным интеллектом, Михаила Сергеевича Адамова (ООО «СИНТЕРА») о рекурсивной агентной оркестрации как модели делегированной эпистемической агентности, Ольги Михайловны Фархитдиновой (УрФУ) об этиковедческой экспертизе управленческих решений с использованием ИИ, а также других не менее важных и интересных сообщений.
Секция «Этика в сфере искусственного интеллекта и робототехнических систем» стала одной из самых представительных и содержательных площадок конференции. Участники не только обозначили ключевые вызовы — от ценностных рисков до трансформации человеческой идентичности, — но и предложили конкретные инструменты для их анализа и регуляции: методику «светофора», гибридные когнитивные протоколы, модели этического комплаенса, подходы к онтологической фиксации событий, требования к прозрачности систем в публично значимых областях.
За два дня работы конференции стало очевидно: этика ИИ перестала быть абстрактной дисциплиной. Участники пришли к единому мнению, что необходим переход от верхнеуровневых принципов (прозрачность, справедливость, безопасность) к формализованным инженерным решениям.
Особую роль в этом процессе, как было отмечено, играют университеты, выступающие мостами между регуляторами, технологическими компаниями и обществом. Прозвучало предложение создать постоянно действующую междисциплинарную рабочую группу по стандартизации этических требований к ИИ и робототехническим системам на базе НСМИИ РАН и НИУ ВШЭ.
Центр этики и онтологии роботов Института робототехнических систем НИУ ВШЭ выражает благодарность всем участникам и партнёрам за плодотворную работу и приглашает к сотрудничеству всех заинтересованных исследователей и практиков в области этики искусственного интеллекта и антропоморфной робототехники.
