Как выглядит вагонетка в реальной жизни
Мы уже несколько раз вспоминали так называемую «проблему вагонетки» , когда размышляли о этической стороне применения автономных ИИ-систем. Пришло время более подробно узнать, что это такое. Так что сегодня в рамках наших упражнений в области философии сознания рассмотрим этот философский мысленный эксперимент из области этики, так как через пару встреч он понадобится нам для решения более конкретной задачи, связанной с Искусственным Интеллектом.
Впервые о проблема вагонетки написала Филиппа Фут в 1967 году. Оригинальная формулировка автора следующая:
Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
В рамках поставленной этической проблемы есть только два варианта решения — переключать стрелку или нет. Любые пространные размышления о том, что можно было бы сделать, чтобы спасти всех, в оригинальной постановке не рассматриваются. Соответственно, есть много вариантов обоснования того или иного выбора. Самый простой — требования утилитаризма, которое говорит, что смерть одного в любом случае лучше смерти пятерых, как бы ужасно это не звучало.
До сегодняшнего дня философы продолжают придумывать разные варианты формулировки, которые вскрывают различные аспекты этики и морали. И, в общем-то, проблема показывает, что этика и мораль — это очень лабильные, относительные категории, которые невозможно формализовать. Как пример — а что если привязанный на обходном пути и есть тот самый сумасшедший философ, который привязал пятерых несчастных к рельсам главного пути? Если дать такую новую вводную, то чуть ли не 100 % опрошенных скажут, что переключить стрелку не только нужно, но и должно.
Мы очень за них рады!
Новозеландские нелетающие попугаи обладают отменной генетикой, несмотря на инбридинг длиной в 10 000 лет.
До того, как люди перебрались в Новую Зеландию, количество какапо на островах, вероятно исчислялось сотнями тысяч, но к 1995 году их осталось всего полсотни. Сегодня специалисты оценивают численность популяции в 200 особей.
Авторы работы сообщили о первом полногеномном анализе какапо. В общей сложности они секвенировали и проанализировали 49 геномов какапо, в том числе 35 представителей единственной выжившей популяции острова Стюарт и 14 представителей вымершей популяции Северного и Южного островов Новой Зеландии.
Научная теория предполагает, что в небольших популяциях могут накапливаться вредные мутации, что приводит к повышенному риску исчезновения вида. Но в случае какапо, вероятно, происходил обратный процесс.
Исследователи планируют провести подобные исследования других изолированных видов, чтобы выяснить, является ли здоровье какапо редким исключением, тогда как большинство исчезающих видов вместо этого склонны накапливать вредные мутации.
Ученые считают, что какапо потеряли способность летать из-за отсутствия на острове Стюарт млекопитающих хищников. В результате этого попугаи сами заняли экологическую нишу млекопитающих.
masterok
Много читаешь всяких научных психологических якобы проблем, которые для тебя лично совсем не проблема. Вроде бы все ясно и понятно, какая еще проблема! Вот сейчас прочитал подобную.
Представьте, что по железнодорожному пути несется тяжелая неуправляемая вагонетка. Прямо по ходу ее следования к рельсам привязаны пять человек, и она стремительно к ним приближается. У вас есть возможность переключить стрелку, и тогда вагонетка поедет по другому пути. К несчастью, на нем к рельсам тоже привязан человек, но всего один. Что вам следует предпринять, — переводить стрелку или не переводить?
Вот почему это считают "проблемой":
Так вот, люди реагируют совершенно по-разному в этой ситуации в зависимости от того, является ли проблема чисто гипотетической или же на кону стоят реальные жизни.
Впервые психологи из Университета Гента в Бельгии воссоздали условия этой дилеммы в реальной жизни, используя лабораторных мышей. Удивительные результаты, которые они получили в ходе исследования, были недавно опубликованы в журнале Psychological Science.
Эта этическая мыслительная задача известная как «проблема вагонетки», призвана заставить вас задуматься о моральной разнице между активным убийством (ведь это вы перевели стрелку, что привело к гибели 1 человека) и пассивным убийством (вы не трогали стрелку, но в результате погибли 5 человек). С философской точки зрения, утилитаристы утверждают, что морально оправдано будет переключить стрелку и выбрать путь наименьшего зла – убить одного вместо пяти, но деонтологи утверждают, что с моральной точки зрения неправильно будет делать это, потому что такое действие будет означает, что вы намеренно участвуете в убийстве человека.
В общем, утверждают, что это дьявольски проблематичный выбор.
66% людей, принимающих участие в эксперименте, сказали, что нажмут кнопку в гипотетическом сценарии. Однако, когда настал решающий момент и их подвели к клеткам с живыми мышами, 84% людей решили нажать кнопку и поразить током одну мышь. Вы можете предположить, что люди действуют более эмоционально в реальном сценарии и более рационально в абстрактных сценариях, но как исследование показало, люди думают по-разному при решении гипотетических дилемм и при решении проблем, с которыми они сталкиваются реальной жизни.
Проблема вагонетки стала в наши дни еще более актуальной, чем когда-либо, с появлением беспилотных автомобилей. Например, если беспечный пешеход выбежит на дорогу, должен ли беспилотный автомобиль свернуть в сторону и стать при этом причиной ДТП на дороге, в котором могут погибнуть несколько водителей и пассажиров, или же продолжить движение и сбить пешехода.
Конечно, не может быть никакого «правильного ответа» при решении любой из этих дилемм. Однако, с такой проблемой несомненно столкнутся разработчики беспилотных автомобилей, не говоря уже о юристах, которым надо будет разбираться в деталях аварий с участием самоуправляемых машин.
Для того, чтобы понять, как поступили бы люди в той или иной критической ситуации, сотрудники института разработали специальную игру «Moral Machine».
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Всего в тесте представлено 13 ситуаций, в каждой из которых необходимо решить кого- пешеходов или пассажиров- оставить в живых.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Как бы вы вот на этот например ответили?
Мы как раз обсуждали эту проблему беспилотника и его моральные принципы - «Моральные принципы» беспилотных автомобилей
Но что касается так называемой "проблемы вагонетки", то лично для меня ее нет - простое рациональное мышление. Даже и размышлять не о чем.
П.С. Хотя погодите, я вспомнил. Есть другой вариант этой психологической проблемы: едет поезд в пропасть полный пассажирами. Переводом стрелки можно его спасти, но тогда он собьет вашего родственника (в одном случае это был сын стрелочника, для которого и был выбор).
Пришелец
Ученые засняли похожего на инопланетянина кальмара Planctoteuthis — во время глубоководного погружения исследовательского аппарата.
Мыши впали в депрессию, увидев издевательства над сородичами
Группа исследователей из Токийского научного университета (Япония) обнаружила, что мыши, наблюдая за страданиями своих собратьев, сами впадают в депрессию.
Эти существа определенно обладают эмпатией (сопереживанием)
Ученые провели эксперимент, в котором в небольшую клетку с мышью крупного размера поместили маленькую мышь — этим они вызвали раздражение большой особи, побуждая ее агрессивно защищать свое пространство. За этим наблюдала третья мышь, находящаяся в безопасности в собственной клетке.
Несмотря на то, что они не подвергались риску, у мышей-зрителей развились симптомы депрессии. Через 10 дней у них появились признаки ангедонии (неспособности испытывать удовольствие) — ключевого симптома депрессии у людей.
Произошло также физиологическое изменение: новые нейроны у мышей-зрителей имели пониженную выживаемость в зубчатой извилине, области гиппокампа, связанной с памятью и сенсорным восприятием.
Выживаемость нейронов стабилизировалась после того, как мышам дали антидепрессант флуоксетин, селективный ингибитор обратного захвата серотонина, широко известный как прозак. Однако полного выздоровления не случилось. У некоторых мышей симптомы вернулись через несколько недель.
masterok
Много читаешь всяких научных психологических якобы проблем, которые для тебя лично совсем не проблема. Вроде бы все ясно и понятно, какая еще проблема! Вот сейчас прочитал подобную.
Представьте, что по железнодорожному пути несется тяжелая неуправляемая вагонетка. Прямо по ходу ее следования к рельсам привязаны пять человек, и она стремительно к ним приближается. У вас есть возможность переключить стрелку, и тогда вагонетка поедет по другому пути. К несчастью, на нем к рельсам тоже привязан человек, но всего один. Что вам следует предпринять, — переводить стрелку или не переводить?
Вот почему это считают "проблемой":
Так вот, люди реагируют совершенно по-разному в этой ситуации в зависимости от того, является ли проблема чисто гипотетической или же на кону стоят реальные жизни.
Впервые психологи из Университета Гента в Бельгии воссоздали условия этой дилеммы в реальной жизни, используя лабораторных мышей. Удивительные результаты, которые они получили в ходе исследования, были недавно опубликованы в журнале Psychological Science.
Эта этическая мыслительная задача известная как «проблема вагонетки», призвана заставить вас задуматься о моральной разнице между активным убийством (ведь это вы перевели стрелку, что привело к гибели 1 человека) и пассивным убийством (вы не трогали стрелку, но в результате погибли 5 человек). С философской точки зрения, утилитаристы утверждают, что морально оправдано будет переключить стрелку и выбрать путь наименьшего зла – убить одного вместо пяти, но деонтологи утверждают, что с моральной точки зрения неправильно будет делать это, потому что такое действие будет означает, что вы намеренно участвуете в убийстве человека.
В общем, утверждают, что это дьявольски проблематичный выбор.
66% людей, принимающих участие в эксперименте, сказали, что нажмут кнопку в гипотетическом сценарии. Однако, когда настал решающий момент и их подвели к клеткам с живыми мышами, 84% людей решили нажать кнопку и поразить током одну мышь. Вы можете предположить, что люди действуют более эмоционально в реальном сценарии и более рационально в абстрактных сценариях, но как исследование показало, люди думают по-разному при решении гипотетических дилемм и при решении проблем, с которыми они сталкиваются реальной жизни.
Проблема вагонетки стала в наши дни еще более актуальной, чем когда-либо, с появлением беспилотных автомобилей. Например, если беспечный пешеход выбежит на дорогу, должен ли беспилотный автомобиль свернуть в сторону и стать при этом причиной ДТП на дороге, в котором могут погибнуть несколько водителей и пассажиров, или же продолжить движение и сбить пешехода.
Конечно, не может быть никакого «правильного ответа» при решении любой из этих дилемм. Однако, с такой проблемой несомненно столкнутся разработчики беспилотных автомобилей, не говоря уже о юристах, которым надо будет разбираться в деталях аварий с участием самоуправляемых машин.
Для того, чтобы понять, как поступили бы люди в той или иной критической ситуации, сотрудники института разработали специальную игру «Moral Machine».
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Всего в тесте представлено 13 ситуаций, в каждой из которых необходимо решить кого- пешеходов или пассажиров- оставить в живых.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Как бы вы вот на этот например ответили?
Мы как раз обсуждали эту проблему беспилотника и его моральные принципы - «Моральные принципы» беспилотных автомобилей
Но что касается так называемой "проблемы вагонетки", то лично для меня ее нет - простое рациональное мышление. Даже и размышлять не о чем.
П.С. Хотя погодите, я вспомнил. Есть другой вариант этой психологической проблемы: едет поезд в пропасть полный пассажирами. Переводом стрелки можно его спасти, но тогда он собьет вашего родственника (в одном случае это был сын стрелочника, для которого и был выбор).
Орнитолог повесил gps-трекер на птицу и вот куда она полетела
Этим летом мы пометили скопенка не только кольцом, как обычно, но и gps-трекером. Это нужно для того, чтобы получить максимально подробную информацию о перемещениях редкого хищника. Помимо точных координат трекер передает инфо о скорости птицы, температуры за бортом, высоте полета итд. Передатчик крепится как рюкзачок, имеет вес менее 3% веса птицы и каждый час отправляет смски с данными. Питается он от очень маленькой солнечной панельки. Причем можно перепрограммировать маячок "находу" и если птица долго сидит в одной точке, уменьшить частоту отправки, чтобы не разориться на смсках.
Скопы гнездятся неподалеку от водоемов, иногда летая на рыбалку за 15-20 км. Пара скоп, которая вырастила Санька поселилась в километре от озера и в 7 км от Волги в Нижегородской области, устроив гнездо на искусственной платформе на самой верхушке сосны. Скопы размножаются здесь ежегодно, поднимая на крыло обычно двух птенцов. В этом году они вырастили только одного птенца, которого мы назвали Саня (чтобы Александры думали, что это в их честь).
Александр (а может это Александра вообще) первый раз слетел с гнезда 26 июля. Долетел до сосенок в болоте, посидел там и после вернулся на гнездо. В течение следующего месяца он занимался исследованием окрестностей - летал до 14 км в разные направления от гнезда, несколько раз слетал на Волгу и один раз ее даже перелетел. Но больше всего он тусил на ближайшем озере, на том берегу, где нет пляжа и людей. Там он сидел в ожидании родителей со свежей рыбкой и периодически возвращался в гнездо.
29 августа, посмотрев прогноз и увидев, что на сентябрь передают дожди, не дожидаясь осени, Санек полетел на юг. Хорошенько выспавшись, примерно около 10 утра он отправился в свое первое полное опасностей путешествие.
Набирая высоту Санек летел со скоростью 72 км/ч. Поднявшись на 400 м он сбавил скорость до 25-55 км/ч и так, не спеша летел в течение дня. Максимально он поднимался выше 1000 м над уровнем моря.
По Нижегородской области он летел строго в южном направлении, и выходя из нее взял маленько западнее. Прикольно, что из родной ему нижегородчины он вылетал из самой южной точки в Починковском районе, в 15:30. Половину области он пролетел за 5,5 часов. На машине это расстояние в 200 км преодолевается в 2 раза быстрее.
Затем он с запада обошел Саранск (Мордовия), проник в Пензенскую область и после 6 вечера начал искать место для ночлега. В итоге он остановился в лесополосе среди поля.
30 августа в обед он уже летел мимо Пензы, а полчетвертого пересек границу Саратовской области. Затем он резко взял в сторону Каспия и пролетел через Астраханским заповедник, где порыбачил.
9 сентября Санчез покинул Россию., проведя ночь в лесу на горе под Нальчиком. Транзитом он прошел Грузию, в 15:18 влетел в Турцию. Никаких тебе проверок паспортов, виз, тестов на корону и прочих бумажек. Причем это его не первое посещение заграницы, он уже бывал в Казахстане, когда летал за воблой в Астрахань.
Влетаем в Турцию!
За последние 2 недели скопа Александр пролетел около 2500 км. Он летел через Турцию, рыбачил и ночевал на берегу Евфрата, а также на одном из водохранилищ, созданных на этой знаменитой реке. После удачной там рыбалки он пропал со связи на пару дней, так как летел через пустыни Сирии, где просто "не ловит". Вообще было переживательно, ведь он летел через довольно опасный регион, и ночевал в окрестностях Дамаска - столице Сирии.
В ночи, преодолев Красное море Саня оказался в Египте, немногим южнее Хургады. С моря он заметил огни отеля, на крыше которого, сидя на антенне он провел ночь.
Что интересно, обычно Санёк встаёт на ночь около 6 вечера, в это время он пролетал недалеко от Шарм-эль-Шейха и мог бы затусить там. Но, первый раз в жизни решил лететь по-темну. Уверенный в своих силах, скопа Александр.
Прямо сейчас он держится на Ниле. Спит там где-то и видит во сне рыбов.
Решение проблемы вагонетки зависит от того, в какой культуре сформировалась личность
Исследование, проведенное под руководством Эдмонда Авада из Университета Эксетера, показало, как культурные различия влияют на восприятие человеком мысленного эксперимента, известного как проблема вагонетки. Именно от этого фактора зависит, как люди в разных странах реагируют на необходимость пожертвовать одним человеком ради спасения группы людей. Статья об этом опубликована в издании Proceedings of the National Academy of Sciences.
Иллюстрация проблемы вагонетки / © The New York Times
Однако в таких странах, как Япония, Корея и Китай, был гораздо больший процент людей, которые не готовы были пожертвовать одним человеком ради пяти — в особенности если этот человек хоть в какой-то степени мог быть знаком респонденту, в отличие от остальной пятерки.
По мнению ученых, это связано с тем, что в странах с традиционалистским укладом люди чаще остаются внутри тесных, небольших сообществ и испытывают трудности при завязывании отношений вне их. В странах Западной Европы и Северной Америки, где находить новые социальные группы и вливаться в них гораздо легче, опрошенные проявили большую гибкость мышления.
Работа, проведенная авторами, представляет не только теоретический интерес. Результаты этого исследования и подобных ему могут иметь важное значение для развития искусственного интеллекта. Например, при программировании автопилотов для машин это позволит учесть отношение общества к тому, как беспилотные машины оценивают риски на дороге, минимизируя ущерб от возможного столкновения.
Universals and variations in moral decisions made in 42 countries by 70,000 participants
Дубликаты не найдены
Не упоманута главная особенность этого мысленно го эксперимента. Люди не готовы жертвовать одним ради пяти не потому что его жизнь важнее 5 других жизней, а потому что этих пятерых вагоне ка раздавить и без участия наблюдателя а при переводе стрелки человека убивает именно наблюдатель. Т. Е. вопрос в том, направлять ли вагоне ку на человека, которому до вмешательства ничего не угрожало. Дык бездействие тож хуёво - а в некоторых случаях гораздо хуже Так в этом и суть эксперимента! Что этичнее? Убить бездействием пятерых или действием одного? А вовсе не в том знакомы наблюдателя эти люди или нет.И что же рекомендовал бы многоуважаемый мистер Де Вриз барону?
Замечательно, а будут ли рекомендации, как поступить с Университетом Эксетера?
но ведь и "знаком, не знаком" будет учитывать человек при выборе
а так же в задаче должно быть "а кто этот человек" ?
просто левый чувак или тот кто отвечает за рельсы ?
он должен ничего не трогать, а убежать в кабак, там нажраться до беспамятства, а потом с чистой совестью отвечать на предьявы, что ничего не помнит.
с 5 мобов лута больше
Какие-то, простите, ебанутые эксперименты.
Зачем вообще человеку предлагать такой выбор: выбрать - кого убить? Напоминает идею ебанутого сериала ужасов "Пила", где маньяк попавшим в ловушку людям тоже предлагает выбор, кого убить.
Так там-то - маньяк! А тут - якобы высокообразованные люди, озабоченные аспектами человеколюбия.
нет чтобы задачки про два стула загадывать!
Никогда не интересуйтесь кошкой Шредингера, да и вообще философией. Они там все ненормальные. Им бы лопату в руки, или строем ходить, быстро бы поумнели.
этот эксперимент нужен для определения моральных ценностей указанной группы людей.
пример: как определить какое из двух племен папуасов - каннибалы? спросить, что они сделают с пленником из чужого племени - если решат скушать, то это каннибалы. Вы же не будете отрицать факт наличия в истории человечества каннибалов? или думаете, что это сказки такие были?
ууу.. высокообразованные люди, озабоченные аспектами человеколюбия, а смеют говорить о смерти! Да как им не стыдно?
Пиздец конечно интеллектуальный пикабу
Так, а чисто из любопытства, можно как-то вагонетку потом развернут в обратную сторону?
"парадокс" существует только в том случае, если люди подвержены иллюзии того, что они не несут ответственность за бездействие. А это чистой воды самообман, бездействие это такое же осознанное действие. Тут не стоит выбор действовать или не действовать, тут стоит выбор как конкретно действовать. А дороже чем человеческая может быть только две человеческие жизни, не говоря уж о пяти.только вот умышленное убийство одного человека - срок и не малый ;)
а бездействие - срок куда меньший
так же не забываем
что правильное решение (по закону) это попытаться либо остановить (если это возможно) либо спасти 5х
даже если спасёшь одного
если предложат выбор
твой родственник или 20 миллионов Китайцев, ты выберешь 20 или 40 миллионов ?)
Да мне что на тех, что на других насрать. Так что пример неудачныйты отвечаешь за стрелку ? да - надо пытаться спасти 5х
ты не отвечаешь - ничего не делать
правильное решение проблемы вагонетки? По какому закону, прошу ознакомить.
Проблема вагонетки не была придумана для решения, её придумала Фут как опровержение идеи консеквенциализма в разделе этики. Ибо, она была аристотеликом.
Действительно. Кого например выбрать пять бесполезных депутатов, или одно хирурга который в прошлом спас 1500+ людей и еще больше спасет в будущем. Пять незнакомых бомжей которые не так давно на глазах детей ипали собаку, или свою любимую маму?
придумывание дополнительных условий - это Ваши личные психические проблемы. (вот почему Вам не пришло условие, что 5 - отличные хирурги, а 1 - бесполезный депутат?)
Пришли. Но при таких условиях выбор очевиден. Вот пять депутатов и один бомж - это интересно.
Все эти задачи сферический конь в вакууме. Реальные жизненные ситуации всегда многограннее и сложнее.
за 1 срок меньше. Вот интересно если ты не трогаешь рычаг он в каком положении по умолчанию? Если ты бездействуешь это будит непреднамеренное убийство?
Эта проблема должна решаться самопожертвованием стрелочника. Не переключать стрелку нужно, а лечь под вагонетку.А может и не сойти. Тут даже не 50/50, а 1/10000000000000, что не сойдет.
Ну ведь разговор все таки о вагонетке, у нее маленькие колесики, для нее может быть существенным припятствием тело человека, протащит тормозя и встанет, а может дотащит до жертв и тогда встанет. Всяко может быть.Так можно тогда и не париться по поводу количества жертв: в группе из пяти человек, по твоей логике, вагонетка должна убить только первого лежащего, а потом застрянет. И тогда вне зависимости от выбора, будет один труп (даже если ты собой пожертвуешь).
И зачем тогда париться, выбирать.
Ну, автор этой задачи не думал о последствиях логических поворотов мышления масс, в этом его ошибка)Я больше скажу, вот бросишься ты под вагонету, а ангел-хранитель ее с рельс долой) Я бы ща тоже прилёг, да боюсь коллеги и начальство не поймут. Эх.
Завидую Вашей самоуверенности.
Это конченность, а не самоуверенность. Терять нечего, комрад.Ин Совьет Раша вагонетка бросает на рельсы тебя.
похоже на дурацкую нереальную ситуацию с лодкой в которой голосуют кто останется жить - муж уже сидящий в лодке или плывущая к нему жена с ребенком.
Сначала пятерых, потом вернуться назад, переключить стрелку и того дебила раздавить из за которого 5 погибли
А потом купить пивас и скачать фильмец вроде Пилы
А давайте изменим эксперимент. Вагонетка катится на близкого вам человека, если переключить стрелку, то она раскатает пять неизвестных вам людей, которых вы никогда не видели.
в условии про это не сказано.
(представьте, что вам надо решить уравнение а*x=0, Вы его решаете, а Вам вдруг кто-то говорит, что вообще-то а*х-в=0, и Ваш ответ неправилен. Что Вы подумаете про этого "кого-то"?)
что вам надо решить уравнение а*x=0, Вы его решаете, а Вам вдруг кто-то говорит, что вообще-то а*х-в=0
Нее, говорит, что a*z=0.
Если и там и там незнакомые мне люди, выбор очевиден. А вот если один человек это мой родной, то вот фиг знает, наверное пятерым тогда не повезло.
в условии про это не сказано.
(представьте, что вам надо решить уравнение а*x=0, Вы его решаете, а Вам вдруг кто-то говорит, что вообще-то а*х-в=0 и Ваш ответ неправилен. Что Вы подумаете про этого "кого-то"?)
Читайте также: