Новые «модели классификации» определяют, насколько хорошо люди доверяют интеллектуальным машинам, с которыми они сотрудничают, что является шагом к улучшению качества взаимодействия и командной работы, - пишет eurekalert.org.
Долгосрочной целью всей области исследований является разработка интеллектуальных машин, способных изменить свое поведение, чтобы повысить доверие людей к ним. Модели датчиков доверия были разработаны в ходе исследований под руководством доцента Ниры Джейн и доцента Тахиры Рейд из Школы машиностроения Университета Пердью.
«Интеллектуальные машины и, в более широком смысле, интеллектуальные системы становятся все более распространенными в повседневной жизни людей, - сказала Джейн. - Поскольку от людей все чаще требуется взаимодействие с интеллектуальными системами, доверие становится важным фактором для синергетических взаимодействий».
Например, пилоты самолетов и промышленные рабочие регулярно взаимодействуют с автоматизированными системами. Иногда люди без необходимости заменяют эти интеллектуальные машины, если думают, что система дает сбой.
«Хорошо известно, что человеческое доверие имеет решающее значение для успешного взаимодействия людей и машин», - сказала Рейд.
При создании моделей датчиков доверия ученые использовали две технологии: электроэнцефалографию и гальваническую реакция кожи. Первая регистрирует мозговые волны, а вторая отслеживает изменения электрических характеристик кожи, обеспечивая психофизиологические «наборы функций», связанные с доверием.
Сорок пять человек – участников эксперименты носили беспроводные ЭЭГ-гарнитуры и устройство для измерения гальванической реакции кожи.
Одна из новых моделей, «общая модель датчика доверия», использует одинаковый набор психофизиологических функций для всех 45 участников. Другая модель настроена для каждого человека, что приводит к повышению средней точности, но за счет увеличения времени обучения. Две модели имели среднюю точность 71,22% и 78,55% соответственно.
«Мы используем данные ЭЭГ совершенно по-новому, - сказала Джейн. - Мы смотрим на это как на непрерывный поток, а не как на мозговые волны после определенного триггера или события».
«Мы заинтересованы в использовании принципов управления с обратной связью для разработки машин, способных реагировать на изменения уровня доверия человека в режиме реального времени, то есть для создания и управления доверием в отношениях человек-машина, - добавила Джейн. -Чтобы сделать это, нам нужен датчик для оценки уровня доверия человека, работающий в режиме реального времени. Результаты, представленные в этой статье, показывают, что психофизиологические измерения могут быть использованы для этого».
По мнению Джейн, вокруг коллективов, сочетающих людей и машины, будет строиться будущее. Сейчас в своих исследованиях ученые рассматривают только пару: один человек и одна система искусственного интеллекта, но они надеются затем увеличить число агентов. Тогда эта работа будет важна для таких ситуаций будущего, когда, например, группа роботов помогает спасательной команде во время стихийного бедствия.
Кроме того, ученые обратили внимание на проблему, что люди иногда начинают сомневаться в работе машин и возвращают себе контроль. Нередко такие действия бывают неоправданными. В некоторых случаях, например, в случае, когда пилоты перекрывают автопилот, возвращение к ручному управлению может фактически препятствовать безопасной эксплуатации самолета, вызывая несчастные случаи.
«Первым шагом на пути к созданию интеллектуальных машин, способных создавать и поддерживать доверие с людьми, является разработка датчика, который позволит машинам оценивать уровень доверия людей в реальном времени», - объяснила Джейн.
Чтобы проверить их метод, 581 онлайн-участникам было предложено управлять симулятором вождения, в котором компьютер выявлял дорожные препятствия. В некоторых случаях компьютер правильно идентифицировал препятствия в 100 процентах случаев, а в других - в 50 % случаев ошибался.
«Таким образом, в некоторых случаях машина сообщает о наличии препятствия, поэтому вы нажимаете на тормоза и избегаете несчастного случая, а в других случаях машина ошибается, показывая существование препятствия, и это заставляет вас совершать остановки без причины», - сказала Рейд.
Тестирование позволило исследователям определить психофизиологические особенности, которые связаны с доверием человека к интеллектуальным системам, и соответственно построить модель датчика доверия. «Мы выдвинули гипотезу о том, что уровень доверия будет высоким в надежных испытаниях и низким в случае ошибочных испытаний, и мы подтвердили эту гипотезу, используя ответы, полученные от 581 участника онлайн», - добавила Рейд.
«Чтобы оценить доверие в режиме реального времени, нам нужна способность постоянно извлекать и оценивать ключевые психофизиологические измерения, - сказала Джейн. - Эта работа представляет собой первое использование психофизиологических измерений в реальном времени для разработки датчика доверия человека».
ЭЭГ-гарнитура записывала сигналы по девяти каналам, каждый канал улавливал активность в разных частях мозга. При этом важно создать универсальный классификатор, поскольку у всех людей разные мозговые волны.
Вторая важная особенность - человеческое доверие можно разделить на три категории: диспозиционное, ситуативное и основанное на узнавании.
Диспозиционное доверие зависит от таких демографических факторов, как пол и культура, несущие в себе потенциальные предубеждения. Например, по словам Рейд, им нужно было учитывать такие нюансы, как различия в возрасте, национальности и поле: «женщины доверяют не так, как мужчины…»
Ситуационное доверие может зависеть от уровня риска или сложности задачи; а доверие узнавания основано на прошлом опыте человека в работе с автономными системами.
Все эти типы доверия ученые использовали, чтобы создать
эффективный датчик доверия человека и понять, каким образом
наладить доверие и удержать его в будущем в отношениях
человек-машина.
[Фото: alexandersikov]
