THE DESIGN OF EVERYDAY THINGSchương

THE DESIGN OF EVERYDAY THINGS

chương 5 " HUMAN ERROR? NO, BAD DESIGN "
Trang 180-196
RULE -BASED M ISTA KES

When new procedures have to be invoked or when simple problems
arise, we can characterize the actions of skilled people as rule-
based. Some rules come from experience; others are formal procedures
in manuals or rulebooks, or even less formal guides, such
as cookbooks for food preparation. In either case, all we must do
is identify the situation, select the proper rule, and then follow it.


 
When driving, behavior follows well-learned rules. Is the light

red? If so, stop the car. Wish to turn left? Signal the intention to

turn and move as far left as legally permitted: slow the vehicle and

wait for a safe break in traffic, all the while following the traffic

rules and relevant signs and lights.
Rule-based mistakes occur in multiple ways:

• The situation is mistakenly interpreted, thereby invoking the wrong
goal or plan, leading to following an inappropriate rule.
• The correct rule is invoked, but the rule itself is faulty, either because
it was formulated improperly or because conditions are different
than assumed by the rule or through incomplete knowledge used to
determine the rule. All of these lead to knowledge-based mistakes.
• The correct rule is invoked, but the outcome is incorrectly evaluated.
This error in evaluation, usually rule- or knowledge-based itself, can
lead to further problems as the action cycle continues.
Example 1: In 2013, at the Kiss nightclub in Santa Maria, Brazil, pyrotechnics
used by the band ignited a fire that killed over 230 people.
The tragedy illustrates several mistakes. The band made a knowledge-
based mistake when they used outdoor flares, which ignited the
ceiling’s acoustic tiles. The band thought the flares were safe. Many
people rushed into the rest rooms, mistakenly thinking they were exits:
they died. Early reports suggested that the guards, unaware of
the fire, at first mistakenly blocked people from leaving the building.
Why? Because nightclub attendees would sometimes leave without
paying for their drinks.

The mistake was in devising a rule that did not take account of
emergencies. A root cause analysis would reveal that the goal was
to prevent inappropriate exit but still allow the doors to be used in
an emergency. One solution is doors that trigger alarms when used,
deterring people trying to sneak out, but allowing exit when needed.

Example 2: Turning the thermostat of an oven to its maximum temperature
to get it to the proper cooking temperature faster is a mistake
based upon a false conceptual model of the way the oven works. If
the person wanders off and forgets to come back and check the oven


 
temperature after a reasonable period (a memory-lapse slip), the improper
high setting of the oven temperature can lead to an accident,
possibly a fire.

Example 3: A driver, unaccustomed to anti-lock brakes, encounters
an unexpected object in the road on a wet, rainy day. The driver applies
full force to the brakes but the car skids, triggering the anti-lock
brakes to rapidly turn the brakes on and off, as they are designed to
do. The driver, feeling the vibrations, believes that it indicates malfunction
and therefore lifts his foot off the brake pedal. In fact, the
vibration is a signal that anti-lock brakes are working properly. The
driver ’s misevaluation leads to the wrong behavior.

Rule-based mistakes are difficult to avoid and then difficult to
detect. Once the situation has been classified, the selection of the
appropriate rule is often straightforward. But what if the classification
of the situation is wrong? This is difficult to discover because
there is usually considerable evidence to support the erroneous
classification of the situation and the choice of rule. In complex
situations, the problem is too much information: information that
both supports the decision and also contradicts it. In the face of
time pressures to make a decision, it is difficult to know which
evidence to consider, which to reject. People usually decide by taking
the current situation and matching it with something that happened
earlier. Although human memory is quite good at matching
examples from the past with the present situation, this doesn’t
mean that the matching is accurate or appropriate. The matching
is biased by recency, regularity, and uniqueness. Recent events are
remembered far better than less recent ones. Frequent events
are remembered through their regularities, and unique events are
remembered because of their uniqueness. But suppose the current
event is different from all that has been experienced before: people
are still apt to find some match in memory to use as a guide. The
same powers that make us so good at dealing with the common
and the unique lead to severe error with novel events.

What is a designer to do? Provide as much guidance as possible
to ensure that the current state of things is displayed in a coherent


 
and easily interpreted format—ideally graphical. This is a difficult
problem. All major decision makers worry about the complexity
of real-world events, where the problem is often too much information,
much of it contradictory. Often, decisions must be made
quickly. Sometimes it isn’t even clear that there is an incident or
that a decision is actually being made.

Think of it like this. In your home, there are probably a number
of broken or misbehaving items. There might be some burnt-out
lights, or (in my home) a reading light that works fine for a little
while, then goes out: we have to walk over and wiggle the fluorescent
bulb. There might be a leaky faucet or other minor faults
that you know about but are postponing action to remedy. Now
consider a major process-control manufacturing plant (an oil refinery,
a chemical plant, or a nuclear power plant). These have thousands,
perhaps tens of thousands, of valves and gauges, displays
and controls, and so on. Even the best of plants always has some
faulty parts. The maintenance crews always have a list of items to
take care of. With all the alarms that trigger when a problem arises,
even though it might be minor, and all the everyday failures, how
does one know which might be a significant indicator of a major
problem? Every single one usually has a simple, rational explanation,
so not making it an urgent item is a sensible decision. In fact,
the maintenance crew simply adds it to a list. Most of the time, this is
the correct decision. The one time in a thousand (or even, one time
in a million) that the decision is wrong makes it the one they will
be blamed for: how could they have missed such obvious signals?

Hindsight is always superior to foresight. When the accident investigation
committee reviews the event that contributed to the
problem, they know what actually happened, so it is easy for them
to pick out which information was relevant, which was not. This is
retrospective decision making. But when the incident was taking
place, the people were probably overwhelmed with far too much
irrelevant information and probably not a lot of relevant information.
How were they to know which to attend to and which to
ignore? Most of the time, experienced operators get things right.
The one time they fail, the retrospective analysis is apt to condemn


 
them for missing the obvious. Well, during the event, nothing may
be obvious. I return to this topic later in the chapter.

You will face this while driving, while handling your finances,
and while just going through your daily life. Most of the unusual
incidents you read about are not relevant to you, so you can safely
ignore them. Which things should be paid attention to, which
should be ignored? Industry faces this problem all the time, as do
governments. The intelligence communities are swamped with
data. How do they decide which cases are serious? The public
hears about their mistakes, but not about the far more frequent
cases that they got right or about the times they ignored data as not
being meaningful—and were correct to do so.

If every decision had to be questioned, nothing would ever get

done. But if decisions are not questioned, there will be major

mistakes—rarely, but often of substantial penalty.

The design challenge is to present the information about the state
of the system (a device, vehicle, plant, or activities being monitored)
in a way that is easy to assimilate and interpret, as well as to
provide alternative explanations and interpretations. It is useful
to question decisions, but impossible to do so if every action—or
failure to act—requires close attention.

This is a difficult problem with no obvious solution.

KNOWLEDGE-BASED MISTAKES

Knowledge-based behavior takes place when the situation is novel
enough that there are no skills or rules to cover it. In this case, a
new procedure must be devised. Whereas skills and rules are controlled
at the behavioral level of human processing and are therefore
subconscious and automatic, knowledge-based behavior is
controlled at the reflective level and is slow and conscious.

With knowledge-based behavior, people are consciously problem
solving. They are in an unknown situation and do not have
any available skills or rules that apply directly. Knowledge-based
behavior is required either when a person encounters an unknown
situation, perhaps being asked to use some novel equipment, or


 
even when doing a familiar task and things go wrong, leading to a
novel, uninterpretable state.

The best solution to knowledge-based situations is to be found
in a good understanding of the situation, which in most cases also
translates into an appropriate conceptual model. In complex cases,
help is needed, and here is where good cooperative problem-solving
skills and tools are required. Sometimes, good proc

Kết quả (Việt) 1:

Thiết kế những thứ hàng ngày

chương 5 "lỗi của con người? KHÔNG, tình trạng thiết kế "
Trang 180-196
cai trị - dựa M ISTA KES

khi thủ tục mới đã được kích hoạt hoặc khi vấn đề đơn giản
phát sinh, chúng tôi có thể mô tả các hành động của những người có tay nghề cao như quy tắc-
dựa. Một số quy tắc đến từ kinh nghiệm; những người khác là chính thức thủ tục
trong hướng dẫn sử dụng hoặc rulebooks, hoặc thậm chí không chính thức hướng dẫn, như vậy
như sách dạy nấu ăn để chuẩn bị thức ăn. Trong cả hai trường hợp, tất cả chúng ta phải làm
là xác định tình hình, chọn quy tắc thích hợp, và sau đó làm theo nó.



Khi lái xe, hành vi sau các quy tắc học được tốt. Là ánh sáng

đỏ? Nếu vậy, dừng xe lại. Bạn muốn rẽ trái không? Tín hiệu ý định

bật và di chuyển xa bên trái là hợp pháp được phép: chậm xe và

chờ đợi cho một break an toàn trong lưu lượng truy cập, Tất cả thời gian sau giao thông

quy tắc và có liên quan các dấu hiệu và đèn.
Quy tắc dựa trên những sai lầm xảy ra trong nhiều cách:

• tình hình nhầm lẫn giải thích, do đó gọi sai
mục tiêu hoặc kế hoạch, dẫn đến theo quy tắc không thích hợp.
• Quy tắc chính xác kích hoạt, nhưng các nguyên tắc chính nó là bị lỗi, hoặc là vì
nó được xây dựng không đúng hay vì điều kiện khác nhau
hơn giả định bởi quy tắc hoặc thông qua không đầy đủ kiến thức được sử dụng để
xác định các quy tắc. Tất cả các dẫn đến dựa trên kiến thức sai lầm.
• Quy tắc chính xác kích hoạt, nhưng kết quả không chính xác được đánh giá.
Này lỗi trong đánh giá, thường quy tắc hoặc kiến thức-dựa trên riêng của mình, có thể
dẫn đến vấn đề hơn nữa như chu kỳ hành động tiếp tục.
Ví dụ 1: vào năm 2013, tại câu lạc bộ đêm nụ hôn tại Santa Maria, Brazil, pháo hoa
được sử dụng bởi ban nhạc bốc cháy một ngọn lửa mà giết chết hơn 230 người.
Những thảm kịch minh hoạ một số sai lầm. Ban nhạc đã thực hiện một kiến thức-
dựa sai lầm khi họ sử dụng pháo sáng hồ, đốt cháy các
trần của âm thanh gạch. Ban nhạc nghĩ các pháo sáng được an toàn. Nhiều
người đổ xô vào các phòng còn lại, nhầm lẫn nghĩ bọn thoat:
họ đã chết. Sớm báo cáo đề xuất rằng các vệ sĩ, không ý thức của
ngọn lửa, lúc đầu tiên người nhầm lẫn bị chặn từ rời khỏi nhà.
Tại sao? Bởi vì những người tham gia câu lạc bộ đêm nào đôi khi để lại mà không có
trả tiền cho đồ uống của.

sai lầm là ở đặt ra một quy luật mà không có tài khoản của
trường hợp khẩn cấp. Một phân tích nguyên nhân gốc sẽ tiết lộ rằng mục đích là
để ngăn chặn lối ra không phù hợp nhưng vẫn cho phép cánh cửa được sử dụng trong
khẩn cấp. Một giải pháp là cửa kích hoạt báo động khi được sử dụng,
deterring người cố gắng để sneak ra, nhưng cho phép ra khi cần thiết.

Ví dụ 2: chuyển nhiệt lò nướng nhiệt độ tối đa của nó
để làm cho nó đến nhiệt độ thích hợp nấu ăn nhanh hơn là một sai lầm
Dựa trên một mô hình khái niệm sai về cách thức hoạt động lò nướng. Nếu
người đi lang thang và quên để trở lại và kiểm tra các lò



nhiệt độ sau một thời gian hợp lý (một mất hiệu lực bộ nhớ phiếu), không đúng các
cao thiết lập của nhiệt độ lò nướng có thể dẫn đến một tai nạn,
có thể là một đám cháy.

Ví dụ 3: một trình điều khiển, tạo để chống bó phanh, gặp
một đối tượng bất ngờ trên đường vào một ngày mưa ẩm ướt. Trình điều khiển áp dụng
đầy đủ lực lượng để phanh nhưng xe skids, kích hoạt khóa chống
phanh để nhanh chóng biến phanh và tắt, như chúng được thiết kế để
làm. Trình điều khiển, cảm giác rung động, tin rằng nó chỉ ra trục trặc
và do đó Thang máy chân của mình ra các bàn đạp phanh. Trong thực tế, các
rung là một tín hiệu chống bó phanh đang làm việc đúng cách. Các
lái xe misevaluation dẫn đến hành vi sai.

Dựa trên quy tắc sai lầm là khó khăn để tránh và sau đó khó khăn để
phát hiện. Một khi tình hình đã được phân loại, việc lựa chọn các
thích hợp quy tắc thường là đơn giản. Nhưng nếu việc phân loại
của tình hình là sai? Điều này là khó khăn để khám phá vì
có rất thường đáng kể bằng chứng để hỗ trợ các sai sót
phân loại tình hình và sự lựa chọn của quy tắc. Khu phức hợp
tình huống, vấn đề là quá nhiều thông tin: thông tin rằng
cả hỗ trợ quyết định và cũng mâu thuẫn với nó. In the face of
thời gian áp lực để đưa ra quyết định, rất khó để biết được
bằng chứng để xem xét, đó để từ chối. Mọi người thường quyết định bằng cách tham gia
tình hình hiện nay và kết hợp nó với một cái gì đó đã xảy ra
trước đó. Mặc dù bộ nhớ của con người là khá tốt tại phù hợp với
ví dụ từ quá khứ với tình hình hiện nay, điều này không
có nghĩa là các kết hợp chính xác hoặc thích hợp. Phù hợp với
thiên vị bởi recency, đều đặn, và tính độc đáo. Sự kiện gần đây
nhớ tốt hơn nhiều so với những người ít gần đây. Thường xuyên sự kiện
được nhớ thông qua regularities của họ, và sự kiện độc đáo
nhớ vì tính độc đáo của họ. Nhưng giả sử hiện nay
sự kiện là khác nhau từ tất cả những gì đã được kinh nghiệm trước khi: người
được vẫn còn apt để tìm thấy một số kết hợp trong bộ nhớ để sử dụng như một hướng dẫn. Các
quyền hạn tương tự mà làm cho chúng ta như vậy tốt lúc đối phó với phổ biến
và độc đáo dẫn đến lỗi nghiêm trọng với các sự kiện cuốn tiểu thuyết.

Là một nhà thiết kế để làm gì? Cung cấp hướng dẫn càng nhiều càng tốt
để đảm bảo rằng nhà nước hiện nay của những điều được hiển thị trong một mạch lạc



và diễn giải một cách dễ dàng định dạng-đồ họa lý tưởng. Đây là một khó khăn
vấn đề. Tất cả các nhà sản xuất quyết định chính lo lắng về sự phức tạp
của sự kiện thế giới thực, trong trường hợp vấn đề thường là thông tin quá nhiều,
nhiều của nó mâu thuẫn. Thông thường, quyết định phải được thực hiện
một cách nhanh chóng. Đôi khi nó không phải là thậm chí rõ ràng là có một sự cố hoặc
mà quyết định một thực sự đang được thực hiện.

Nghĩ về nó như thế này. Trong nhà của bạn, có rất có thể một số
của khoản mục bị hỏng hoặc hỏng. Có thể có một số burnt-out
đèn, hoặc (trong nhà của tôi) một đọc ánh sáng mà hoạt động tốt cho một ít
trong khi, sau đó đi ra: chúng ta phải đi bộ qua và lung huỳnh quang
bóng đèn. Có thể có một vòi bị rò rỉ hoặc những lỗi nhỏ khác
mà bạn biết về nhưng trì hoãn hành động để khắc phục. Bây giờ
xem xét một nhà máy chính điều khiển quá trình sản xuất (một nhà máy lọc dầu,
một nhà máy hóa chất, hoặc một nhà máy điện hạt nhân). Đây có hàng ngàn,
có lẽ hàng chục ngàn, Van và thiết bị cảm ứng, Hiển thị
và điều khiển, và như vậy. Thậm chí tốt nhất của nhà máy luôn luôn có một số
phần bị lỗi. Đội bảo dưỡng luôn luôn có một danh sách các khoản mục để
chăm sóc. Với tất cả các báo động kích hoạt khi một vấn đề phát sinh,
mặc dù nó có thể là tiểu, và tất cả những thất bại hàng ngày, làm thế nào
có một biết đó có thể là một chỉ số quan trọng của một thiếu
vấn đề? Mỗi người duy nhất thường có một lời giải thích đơn giản, hợp lý,
vì vậy không làm cho nó một mục khẩn cấp là một quyết định hợp lý. Trong thực tế,
Phi hành đoàn bảo trì đơn giản chỉ cần thêm nó vào danh sách. Phần lớn thời gian, điều này là
quyết định đúng. Một lần trong một ngàn (hoặc thậm chí, một thời gian
triệu) rằng quyết định là sai làm cho nó một trong những họ sẽ
được đổ lỗi cho: làm thế nào có thể họ đã mất những tín hiệu rõ ràng?

Sau này luôn luôn là vượt trội so với tầm nhìn xa. Khi điều tra tai nạn
Ủy ban giá các sự kiện đó góp phần vào các
vấn đề, họ biết những gì thực sự xảy ra, do đó, nó dễ dàng cho họ
để chọn ra thông tin đó là có liên quan, đó là không. Đây là
quá khứ ra quyết định. Nhưng khi vụ việc đã tham gia
đặt, những người đã có thể bị choáng ngợp với quá nhiều
thông tin không liên quan và có lẽ không phải là rất nhiều thông tin có liên quan.
Làm thế nào là họ biết được tham gia vào và để
bỏ qua? Phần lớn thời gian, nhà điều hành có kinh nghiệm có được những điều đúng.
Một giờ họ không, phân tích quá khứ là apt để lên án



họ thiếu sự rõ ràng. Vâng, trong sự kiện này, không có gì có thể
được rõ ràng. Tôi trở về chủ đề này sau này trong các chương.

Bạn sẽ đối mặt với điều này trong khi lái xe, trong khi xử lý tài chính của bạn,
và trong khi chỉ cần đi qua cuộc sống hàng ngày của bạn. Hầu hết các bất thường
sự cố bạn đọc về không có liên quan đến bạn, để bạn có thể an toàn
bỏ qua chúng. Điều đó phải được thanh toán sự chú ý đến, mà
nên được bỏ qua? Ngành công nghiệp phải đối mặt với vấn đề này tất cả thời gian, như làm
chính phủ. Cộng đồng tình báo đang swamped với
dữ liệu. Làm thế nào để họ có thể quyết định trường hợp đó là nghiêm trọng? Công chúng
nghe về những sai lầm của họ, nhưng không phải là về thường xuyên hơn
trường hợp rằng họ có quyền hoặc về những lần họ bỏ qua dữ liệu là không
là có ý nghĩa- và đã được đúng để làm như vậy.

Nếu mọi quyết định phải được hỏi, không có gì bao giờ sẽ nhận được

thực hiện. Tuy nhiên, nếu quyết định không đặt câu hỏi, sẽ có chính

sai lầm — hiếm khi, nhưng thường xuyên của hình phạt đáng kể.

Thách thức thiết kế là đến nay thông tin về trạng thái
của hệ thống (một thiết bị, xe, thực vật, hoặc hoạt động đang được theo dõi)
trong một cách dễ dàng để đồng hóa và giải thích, cũng như để
cung cấp giải thích thay thế và cách diễn giải. Nó là hữu ích
để câu hỏi quyết định, nhưng không thể làm như vậy nếu mỗi hành động — hoặc
không hành động-đòi hỏi sự chú ý gần gũi.

Đây là một vấn đề khó khăn với không có giải pháp rõ ràng.

Dựa trên kiến thức sai lầm

dựa trên kiến thức hành vi diễn ra khi tình hình là tiểu thuyết
đủ rằng không có kỹ năng hoặc các quy tắc để trang trải nó. Trong trường hợp này, một
thủ tục mới phải được nghĩ ra. Trong khi kỹ năng và các quy tắc được điều khiển
ở cấp hành vi của con người xử lý và do đó
tiềm thức và tự động, dựa trên kiến thức hành vi là
kiểm soát ở cấp độ phản xạ và là chậm và có ý thức.

Với hành vi dựa trên kiến thức, mọi người đều có ý thức vấn đề
giải quyết. Họ đang ở trong một tình huống không rõ và không có
bất kỳ có sẵn kỹ năng hoặc các quy định áp dụng trực tiếp. Dựa trên kiến thức
hành vi là cần thiết hoặc khi một người gặp chưa biết một
tình hình, có lẽ được yêu cầu sử dụng một số thiết bị cuốn tiểu thuyết, hay



ngay cả khi làm một công việc quen thuộc và mọi thứ đi sai, dẫn đến một
tiểu thuyết, uninterpretable nhà nước.

Giải pháp tốt nhất cho các tình huống dựa trên kiến thức là để được tìm thấy
trong một sự hiểu biết tốt về tình hình, mà trong hầu hết trường hợp cũng
dịch thành một mô hình khái niệm thích hợp. Trong trường hợp phức tạp,
giúp đỡ cần thiết, và đây là nơi tốt vấn đề giải quyết hợp tác xã
kỹ năng và công cụ được yêu cầu. Đôi khi, tốt proc