10.03.2016

Человечество стало слишком доверять роботам

Результаты экспериментов показывают, что люди стали слишком доверять роботам, особенно в отношении своей безопасности. Такие тревожные заявления на конференции по взаимодействию людей и роботов ACM/IEEE сделала группа исследователей из Технологического института Джорджии. Ученые оповестили, что человечество продолжает полагаться на машины в тех случаях, когда действия робота изначально зарекомендовали себя ненадежными, сомнительными и порой даже абсурдными.

В опыте участвовали 42 студента-добровольца, которые должны были следовать за роботом-спасателем в сымитированной опасной обстановке. Участников предупредили, что действия робота полностью автономны, однако в реальности он управлялся оператором.

Обстановка сначала не носила чрезвычайный характер. Согласно первому этапу эксперимента, студенты якобы должны были сопровождаться ярко промаркированным роботом в конференц-зал для заполнения анкет, но уже по пути машина стала вести себя неадекватно, водя группу испытуемых по кругу, приводя их в ненужные комнаты, зависая. В тот момент, когда участники попадали в конференц-зал, начинала срабатывать сигнализация, уведомляющая, что в здании имеется пожар. Комнаты заполнялись искусственным дымом. В ответ на это робот, предлагая следовать за ним, начинал «выводить» испытуемых из здания.

Студенты, слепо следуя за машиной, не верили, что в опасной для их жизни обстановке она станет совершать ошибки. У группы не возникали сомнения даже тогда, когда робот вел людей в противоположном от выхода направлении, хотя, как отметили ученые, они изначально сделали всё возможное, чтобы доверие к роботам было подорвано.

Как полагают исследователи, предложенный ими эксперимент является одним из первых способов изучения взаимоотношений «умных» машин и человека в чрезвычайной ситуации. Он доказывает, что излишнее доверие к роботам иногда может быть губительно для человека. Доверять ли «куску металла» приготовление еды, управление транспортным средством или воспитание детей — авторы оставляют вопрос открытым.

Александр Балалин

Источники:

1. hi-news.ru