Андраш Тилчик,Крис Клирфилд

Неуязвимость. Отчего системы дают сбой и как с этим бороться

    Артем Богдановhas quoted2 years ago
    Фундаментальным свойством сложных систем является то, что мы не можем обнаружить все существующие в них проблемы, просто размышляя о них. Сложность системы может вызывать возникновение таких непонятных и редких взаимодействий, что предсказать большинство цепочек ошибок, которые могут возникнуть, практически невозможно.
    Артем Богдановhas quoted2 years ago
    должны подходить к сложности и жесткости соединений в системах как к важнейшим переменным всегда, когда что-либо планируете или строите
    Думан Бықайhas quoted2 years ago
    маленькие ошибки перерастают в огромные неудачи.
    Baurzhanhas quoted2 years ago
    Субъективные интервальные оценки вероятностей» (Subjective Probability Interval Estimates – SPIES)
    Darya Chuhas quoted2 years ago
    Когда вы считаете банкноты в ящике кассового аппарата или картофель на прилавке, то вам ясно, сколько у вас того и другого. Но когда в большой компании подсчитываются прибыли от будущих транзакций или де лается попытка оценить стоимость сложного финансового продукта, то возникает гораздо больше простора для неоднозначных толкований.
    Ekaterina Repeshkohas quoted2 years ago
    Принцип здесь прост: не отвлекайте людей, усложняя систему предупреждения больше необходимого – впрочем, как и любую систему. Убирайте то, что не нужно, и держите в приоритете то, что считаете важным [161]. Это
    Ekaterina Repeshkohas quoted2 years ago
    Но вы должны подходить к сложности и жесткости соединений в системах как к важнейшим переменным всегда, когда что-либо планируете или строите
    Ekaterina Repeshkohas quoted2 years ago
    Чарльз Перроу написал однажды, что «системы безопас ности – одни из главных источников катастрофических событий внутри сложных и жестко связанных систем
    Ekaterina Repeshkohas quoted2 years ago
    Мы можем научиться строить более совершенные системы, принимать верные решения и эффективнее организовывать команду для противостояния сложности
    Ekaterina Repeshkohas quoted2 years ago
    А исследования показывают, что непрозрачность происходящего – главный мотив фальсификаций [135]. Если сравнить с честными репортажами, фальсифицированные истории чаще всего получены из далеких точек и покрывают такие темы, которые оправдывают их «секретные источники», например войну или терроризм. Такие
    Egor Lukinhas quoted2 years ago
    «Поскольку человеческий мозг оценивает вероятность происшествия по тому, насколько легко ему припомнить аналогии, – объясняют Пинкер и Мак, – читатели газет всегда будут считать, что живут в опасные времена».
    Egor Lukinhas quoted2 years ago
    Матрос срочной службы с авианосца во время проведения на корабле тренировочных полетов обнаружил, что оставил инструмент на взлетной палубе. Он знал, что, если инструмент засосет в воздухозаборник реактивного двигателя, эта ошибка может привести к катастрофе. Но он знал и то, что признание этой ошибки может остановить тренировочные полеты и грозить ему наказанием... Военный моряк доложил о своем просчете, взлеты с авианосца были прекращены, а находящиеся в воздухе боевые самолеты перенаправлены для посадки на сухопутные аэродромы, причем это повлекло за собой значительные дополнительные расходы. Этот военнослужащий не только не был наказан за свою ошибку, но и отмечен командиром перед строем за мужество в ее признании
    Egor Lukinhas quoted2 years ago
    Необходимо четко осознавать, что большинство людей беспокоятся – осознанно или нет – о том, чтобы не оскорбить власть имущих или не разрушить социальные связи. Поэтому, если вы находитесь в роли босса, то для вас недостаточно просто создать людям приятную атмосферу или вести в своем офисе «политику открытых дверей». Вам следует проявить больше активности. Не ждите, что люди придут в ваш офис, чтобы откровенно поговорить, – идите к ним сами. Если никто не высказывается на совещании, не думайте, что все со всем согласны, – ищите отличающиеся от вашей точки зрения. Когда людям есть что вам сказать, чаще планируйте встречи с ними. Такое откровенное выражение своего мнения – это не что-то экстраординарное. Это обычная практика.
    Egor Lukinhas quoted2 years ago
    В свободное от работы время Спирс увлекается пилотированием самолетов и вообще авиацией. Однажды он попал в группу стоматологов, которых обучали правилам безопасности в авиационной отрасли. Самый главный урок, который он усвоил у лекторов-пилотов, состоит в том, чтобы научить тех, кто находится ниже по иерархической лестнице, откровенно высказывать свои мысли, а тех, кто располагается на этой лестнице вверху, – выслушивать их.
    Egor Lukinhas quoted2 years ago
    На самом деле приобретение человеком власти в некотором смысле наносит ущерб его мозгу. Как говорит Кельтнер, «люди, обладающие властью, склонны вести себя как пациенты с повреждениями орбито-фронтальной области мозга» [267]. Это состояние, которое может вызвать снижение восприимчивости и чрезмерно импульсивное поведение.
    Egor Lukinhas quoted2 years ago
    В ходе одного эксперимента с использованием функциональной магнитно-резонансной томографии (фМРТ) исследователи увидели, как наш мозг реагирует на ситуацию, когда мы придерживаемся мнения, отличного от взглядов большинства окружающих [255]. Оказывается, когда мы «шагаем не в ногу», с нами происходят две вещи. Резко активизируется тот участок мозга, который отвечает за идентификацию ошибок. Наша центральная нервная система обнаруживает ошибку и включает соответствующий сигнал. Наш мозг как будто начинает говорить: «Послушай, ты делаешь что-то не то! Ты должен срочно это изменить!» В то же самое время становится менее активным участок мозга, отвечающий за ожидание вознаграждения. Ваш мозг говорит: «Не жди награды! Все это закончится для тебя печально!»
    Egor Lukinhas quoted2 years ago
    «Это показывает, что отклонение от группового мнения наш мозг рассматривает как наказание», – объяснил этот феномен автор эксперимента Василий Ключарев [256]. А сигнал об ошибке в совокупности с пониженным ожиданием вознаграждения дает мозгу импульс к тому, чтобы он изменил свою точку зрения в пользу общепринятой. Интересно, что этот механизм работает у нас в мозге даже тогда, когда нет причин опасаться негативной реакции со стороны группы. Ключарев говорит: «Скорее всего, это некий автоматический нейропроцесс, в ходе которого люди сначала формируют собственное мнение, затем выслушивают мнение коллектива, а после этого быстро меняют свою точку зрения таким образом, чтобы она больше согласовывалась с точкой зрения большинства»
    Egor Lukinhas quoted2 years ago
    Эта закономерность проявилась в очень любопытном исследовании нейрофизиолога Грега Бёрнса из Университета Эмори [258]. Участники эксперимента рассматривали пары 3D-объектов с разных углов и должны были сказать, идентичны или нет фигуры в одной паре. Каждый участник работал в составе группы из пяти человек, но остальные четыре члена группы на самом деле были актерами, которые подыгрывали ученым. Иногда они давали верные ответы, а иногда все вместе отвечали неправильно. Тогда приходила очередь отвечать настоящему участнику эксперимента, а исследователи в этот момент сканировали его мозг.
    Оказалось, что испытуемые соглашались с неверными ответами своей группы более чем в 40% случаев. В этом нет ничего удивительного – многие научные изыскания демонстрируют желание людей соглашаться с окружающими. Но интересно было то, что при этом показал сканнер МРТ. Когда участники соглашались с неправильными ответами своих коллег, в тех участках их мозга, которые отвечают за осознанное принятие решений, не отмечалось повышенной активности. Напротив, активизировались те области, которые контролируют зрение и пространственное восприятие. Получается, что люди не врали осознанно, чтобы их ответ был созвучен с общим мнением. На самом деле превалирующая точка зрения меняла восприятие. Если все вокруг участника эксперимента говорили, что объекты отличаются друг от друга, он начинал замечать различия даже тогда, когда эти объекты были идентичными. Наша склонность к конформизму может в буквальном смысле изменять то, что мы видим своими глазами.
    А когда испытуемые выступали против мнения группы, отмечался всплеск активности в тех участках мозга, которые отвечают за восприятие эмоционально напряженных событий. Это была своеобразная эмоциональная плата за отстаивание своего мнения. Ученые назвали это «болью независимости»
    Egor Lukinhas quoted2 years ago
    Когда нам не хватает информации для того, чтобы разрешить проблему, мы ощущаем внутри себя диссонанс, а наш мозг начинает судорожно работать над тем, чтобы заполнить «белые пятна» и заменить диссонанс ощущением гармонии [230]. Другими словами, наш мозг начинает додумывать информацию.
    Egor Lukinhas quoted2 years ago
    Чарльз Перроу утверждает, что такого рода отрицание реальности распространено очень широко [218]. «Мы конструируем для себя мир наших ожиданий, потому что не можем справиться со сложностью окружающей нас действительности. Потом мы отбираем только те данные, которые укладываются в наши ожидания, и находим причины, чтобы отказаться от данных, которые этим ожиданиям противоречат. При создании таких конструкций мы игнорируем неожиданные или маловероятные взаимодействия».
fb2epub
Drag & drop your files (not more than 5 at once)