Понимание людьми алгоритмов поведения роботов влияет на то, как они взаимодействуют с этими механизмами и, следовательно, на то, какие результаты взаимодействия могут быть достигнуты. Следовательно, важно изучить способы улучшить понимание людьми роботов. Немаловажным представляется задача, которая включает в себя их понимание роботов как обладающих определёнными (приписываемыми) психическими состояниями, такими как конкретные убеждения и желания. Для некоторых скептиков это может показаться философской загадкой: как можно улучшить знания о разуме, который, по-видимому, спроектирован самим собой?
Тем не менее, есть веские основания для предположения, что определённые характеристики психического состояния служат нам лучше, чем другие, даже при взаимодействии с андроидами. Так же важны знания о том, как мы можем улучшить наше понимание разума роботов различными способами, в том числе путём изучения их перцептивных и когнитивных возможностей и ограничений. Например, ошибочно полагая, что самоуправляемый автомобиль «видит» человека и, следовательно, знает, где он находится, существует вероятность того, что это может нанести ущерб как прогнозированию поведения автомобиля, так и принятию соответствующих мер (и, как следствие, может привести к катастрофическим результатам взаимодействия). Уже многими учёными было высказано предположение, что приписывание психического состояния (например, определённого убеждения) роботу может быть оценено в соответствии с тем, соответствует ли оно поведению, то есть приводит ли оно к точному прогнозированию поведения этого умного механизма.
Некоторый интерес вызвала тема определения способов улучшения взаимодействия человека и робота с помощью позитивного проектирования, которое облегчает вывод о психическом состоянии, что способствует прогнозированию и взаимодействию с роботами, но до сих пор эта сфера остаётся малоизученной. Имеются данные о том, что человек, который неоднократно взаимодействует с роботом и наблюдает за его поведением, благодаря этому может научиться делать более адекватные описания психического состояния и, следовательно, улучшать свою способность предсказывать его поведение. Это говорит о том, что в некоторых обстоятельствах люди могут постепенно «настраиваться» на уникальные перцептивные и когнитивные способности с течением времени. В других обстоятельствах людям может потребоваться внешнее руководство или поддержка, чтобы определить соответствующие психические состояния. Сюда может входить информация, сообщаемая людям до взаимодействия (например, путём предоставления «мануала — руководства пользователя») или во время самого взаимодействия (например, сообщаемая или сигнализируемая самим роботом).
Термин “атрибуция психического состояния” используется для обозначения когнитивной способности размышлять о своих собственных психических состояниях и состояниях других людей, таких как убеждения, желания, чувства и намерения. В повседневных социальных взаимодействиях такие атрибуции распространены повсеместно, хотя мы обычно не обязательно осознаем тот факт, что они являются атрибуциями психологических состояний. Например, любой пешеход, встречающий машину на пешеходном переходе, скорее всего, задаст себе такие вопросы, как «Видел ли меня водитель?», «Понимает ли он, что я хочу перейти дорогу?» или «Планирует ли он остановиться для того, чтобы пропустить меня?». Ответы на эти вопросы предполагают приписывание водителю преднамеренных (направленных) психологических состояний, таких как убеждения (например, на пешеходном переходе находится человек), желания (например, не наезжать на людей) и намерения (например, притормозить и позволить пешеходу перейти дорогу).
В случае социальных взаимодействий между людьми такие атрибуции относительно беспроблемны, потому что большинство людей, вообще говоря, примерно знают, какими перцептивными и когнитивными способностями обладают другие люди, и, следовательно, имеют приблизительное представление о том, какие психические состояния у них могут быть, а могут и не быть. В приведённом выше примере пешеход и водитель, скорее всего, поймут точку зрения друг друга и, следовательно, смогут предсказать поведение другого. С другой стороны, в асимметричном случае взаимодействия человека с беспилотными автомобилями (или роботами) все менее ясно. Например, любой беспилотный автомобиль вряд ли сможет на собственном опыте ощутить себя в положении пешехода. Более типичные роботы и, в частности, роботы-гуманоиды, возможно, особенно сложны, потому что, с одной стороны, они явно не люди, но, с другой стороны, их можно легко интерпретировать как обладающих самоуправляемым механическим разумом, обитающим внутри тела, похожем на человеческое.
Неудивительно, что существующая научная литература о том, как люди интерпретируют роботов в терминах ментальных или квазиминутных состояний, сложна и порой недостаточно обширна. Например, несмотря на широко распространённое мнение о том, что роботы не обладают разумом, люди часто говорят о роботах и взаимодействуют с ними так, как будто у них есть разум. Многие индивидуумы могли бы сказать, что их робот-газонокосилка хочет избежать столкновения с деревьями, хотя они бы не сказали, что у него есть разум, воля или желания. Другими словами, нередко поведение роботов концептуализируется как управляемое разумом, не обязательно веря, что у роботов действительно он присутствует, подобно тому, как мы интерпретируем поведение вымышленных персонажей, компаний и национальных правительств. Например, о нациях обычно говорят, как о желающих достичь соглашения или полагающих, что потенциальный враг планирует нападение, а некоторые даже были описаны как «аутичные» из-за их ограниченного взаимодействия с другими государствами.
Психологи утверждают, что атрибуция психических состояний и способностей помогает нам понимать, объяснять и прогнозировать поведение не только своё, но и других объектов. Однако до сих пор в значительной степени неясно, насколько это полезно в контексте взаимодействия человека и робота. Поэтому до сих пор неизвестно, почему это не всегда работает в нашу пользу, и мы иногда приписываем поведение роботов основным психическим состояниям, а не, например, вычислительным или физическим? Более того, как мы можем полагаться на приписываемые психические состояния в качестве предикторов поведения других, если приписывание делаем мы сами? Эти и связанные с ними вопросы побудили исследователей из различных дисциплин, включая психологию, неврологию, информатику и философию, изучать данную проблематику. Исследования, которые были проведены до сих пор, демонстрируют значительное разнообразие с точки зрения того, как описывается это явление и как к нему подходят с теоретической и методологической точек зрения. Хотя, такое междисциплинарное разнообразие, вероятно, будет способствовать достижению научного прогресса на ранней стадии исследований, существует растущая потребность в том, чтобы исследователи выработали общий язык и общий набор базовых предположений о рассматриваемом явлении. Это важно для того, чтобы иметь возможность получать доступ к работам друг друга и использовать их в совокупности рассматриваемых концепций.
Особенно насущной проблемой является то, что до сих пор очень мало прямых дискуссий о том, какие данные являются доказательством приписывания психического состояния роботам. Это серьёзная проблема, поскольку отсутствие консенсуса подразумевает риск несоизмеримости между полученными результатами исследований и отсутствием основы для разрешения очевидных эмпирических противоречий.
На данный момент литература изобилует противоречивыми выводами — как в рамках собранных свидетельств самоотчётов, так и между невербальными поведенческими или неврологическими свидетельствами, — которые ставят под сомнение достоверность различных источников доказательств. Например, люди обычно описывают поведение роботов в терминах психического состояния. Это может быть истолковано как свидетельство того, что они приписывают поведение роботов глубинным психическим причинам.
Напротив, вывод о том, что (те же самые) люди склонны отрицать, что у роботов есть разум или ментальные состояния, когда их прямо об этом спрашивают, может быть истолкован как доказательство того, что они не приписывают ментальные состояния роботам. Кроме того, было обнаружено, что ответы на вопросы о разуме роботов значительно различаются в зависимости от того, как задаются такие вопросы и как респондентам разрешается отвечать (принудительный выбор или нет). Например, участники одного из исследований воздержались от описания робота в менталистских терминах, когда им была предоставлена дополнительная альтернатива ответа, которая позволяла им этого не делать.
Существуют задокументированные свидетельства того, что то, как люди говорят о роботах, не всегда указывает на то, как они с ними взаимодействуют. Например, было обнаружено, что люди обращаются с роботами так, как если бы они были живыми — например, не решаются отключить их или ударить их молотком – а потому действуют в соответствии с собственными особыми психическими состояниями, такими как специфические убеждения, в то же время устно указывая, что они не думают о них как о живых или мыслящих существах.
Более того, результаты, основанные на активности в областях мозга, связанных с атрибуцией психического состояния, которые указывают (или не указывают) на атрибуцию психического состояния, может быть трудно объединить с теми отчётами, которые предполагают обратное. Например, в недавнем исследовании австралийских учёных обнаружилось, что участники исследования оценили «чувства» робота, который (по задумке устроителей исследования) был поражён электрическим током, как испытывающего различные уровни боли. Но, когда не смогли наблюдать какой-либо соответствующей реакции от механизма – то в их матрице сознания произошла деактивация этого убеждения. Все эти различные типы противоречивых результатов побуждают учёных в разных дисциплинах, к широкому и тщательному рассмотрению этой темы, включая природу явления, запускающие механизмы в сознании человека и используемые методы исследования.
