Доклад С.В. Ковальчука и О.В. Кубряка на тему: "Как ИИ "представляет" человека в гибридных системах: от профиля пользователя к модели разума"

Системы искусственного интеллекта всё чаще работают не автономно, а в постоянном взаимодействии с человеком: врачом, разработчиком, оператором, аналитиком. В такой конфигурации человек перестаёт быть просто источником данных или адресатом рекомендаций: он становится активным агентом, чьи решения, восприятие и внутреннее состояние напрямую влияют на то, как работает система в целом. Возникает вопрос, которому посвящён этот доклад: что именно должен "знать" ИИ о человеке, с которым он работает, и как это знание строится, используется и ограничивается?
Состояние человека (его когнитивный стиль, мотивация, текущее восприятие ситуации) в общем случае не наблюдаемо напрямую. Это принципиально отличает его от других элементов среды (контекста ИИ). ИИ вынужден работать с моделью пользователя: строить её из косвенных сигналов, уточнять в процессе взаимодействия, использовать при формировании рекомендаций. Такая модель - не опциональное дополнение, а необходимое условие эффективной совместной работы.
При этом человек и агент ИИ, взаимодействующие для решения общей задачи, образуют единую гибридную когнитивную систему (ГКС). Её особенность состоит в асимметрии агентов: ИИ обладает вычислительной мощностью и воспроизводимостью, человек - целеполаганием, контекстным суждением и адаптивностью. При этом эффективность системы определяется не суммой возможностей агентов, а качеством их взаимодействия, которое во многом зависит от того, насколько адекватно ИИ «представляет» своего партнёра.
В докладе рассматривается несколько уровней представления человека в ГКС, от технически простых к концептуально сложным:
- Профили и поведенческие паттерны: статические и динамические характеристики пользователя, извлекаемые из истории взаимодействия;
- Модели восприятия: предсказание того, как конкретный пользователь воспримет информацию от ИИ;
- Многоуровневое рассуждение об агенте: подходы, опирающиеся на теорию разума (Theory of Mind), приписывание ИИ-агентом пользователю убеждений, намерений и ожиданий, что позволяет выстраивать более тонкие стратегии взаимодействия.
Подходы иллюстрируются конкретными прикладными задачами: поддержка врачебных решений при диагностике диабета и кардиологических рисков; персонализация генерации программного кода под предпочтения разработчика; управление решениями в ситуации неопределённости и пр. Во всех случаях акцент делается на учёте внутреннего контекста пользователя, его когнитивного состояния, опыта, реакции на объяснения.
Детальное моделирование пользователя открывает очевидные преимущества: персонализацию, объяснимость, повышение доверия к системе. Но оно же порождает содержательные риски. Граница между адаптацией к пользователю и управлением его поведением нетривиальна. Чем точнее модель человека, тем выше потенциал как для помощи, так и для манипуляции. Доклад затронет вопросы приватности, права пользователя на ошибку, этики создания цифровых образов и институциональных ограничений, необходимых при развёртывании таких систем.Мероприятие пройдет на платформе Zoom, необходима регистрация.