The potential risks of bad software

The potential risks of bad software were grimly illustrated
between 1985 and 1987, when a computer-controlled radiation
therapy machine manufactured by the government-backed
Atomic Energy of Canada massively overdosed patients in the
United States and Canada, killing at least three. In an exhaustive
examination, Nancy Leveson, now an MIT computer scientist,
assigned much of the blame to the manufacturer’s inadequate
software-engineering practices. Because the program used to set
radiation intensity was not designed or tested carefully, simple
typing errors triggered lethal blasts.
Despite this tragic experience, similar machines running
software made by Multidata Systems International, of St. Louis,
massively overdosed patients in Panama in 2000 and 2001, leading to eight more deaths. A team from the International Atomic
Energy Agency attributed the deaths to “the entering of data” in
a way programmers had not anticipated. As Leveson notes,
simple data-entry errors should not have lethal consequences. So
this failure, too, may be due to inadequate software.
Programming experts tend to agree that such disasters are
distressingly common. Consider the Mars Climate Orbiter and
the Polar Lander, both destroyed in 1999 by familiar, readily prevented coding errors. But some argue that software simply
cannot be judged, measured and improved in the same way as other engineering products. “It’s just a fact that there are things
that other engineers can do that we can’t do,” says Shari Pfleeger,
a senior researcher at the Rand think tank in Washington, DC,
and author of the 1998 volume Software Engineering: Theory and
Practice. If a bridge survives a 500-kilogram weight and a
50,000-kilogram weight, Pfleeger notes, engineers can assume
that it will bear all the values between. With software, she says,
“I can’t make that assumption—I can’t interpolate.”
Moreover, software makers labor under extraordinary
demands. Ford and General Motors have been manufacturing the
same product—a four-wheeled box with an internal-combustion engine—for decades. In consequence, says Charles H. Connell, former principal engineer of Lotus Development (now part of
IBM), they have been able to improve their products incrementally. But software companies are constantly asked to create
products—Web browsers in the early 1990s, new cell phone
interfaces today—unlike anything seen before. “It’s like a car
manufacturer saying,‘This year we’re going to make a rocket ship
instead of a car,’” Connell says.“Of course they’ll have problems.”
“The classic dilemma in software is that people continually
want more and more and more stuff,” says Nathan Myhrvold, former chief technology officer of Microsoft. Unfortunately, he
notes, the constant demand for novelty means that software is
always “in the bleeding-edge phase,” when products are inherently
less reliable. In 1983, he says, Microsoft Word had only 27,000 lines
of code. “Trouble is, it didn’t do very much”—which customers
today wouldn’t accept. If Microsoft had not kept pumping up
Word with new features, the product would no longer exist.
“Users are tremendously non-self-aware,” Myhrvold adds.
At Microsoft, he says, corporate customers often demanded that
the company simultaneously add new features and stop adding
new features. “Literally, I’ve heard it in a single breath, a single
sentence. ‘We’re not sure why we should upgrade to this new
release—it has all this stuff we don’t want—and when are you
going to put in these three things?’ And you say, ‘Whaaat?’”
Myhrvold’s sardonic summary: “Software sucks because users
demand it to.”

Kết quả (Việt) 1:

Những rủi ro tiềm năng của phần mềm bad grimly được minh họatừ năm 1985 tới năm 1987, khi một máy tính kiểm soát bức xạđiều trị bằng máy được sản xuất bởi các chính phủ hậu thuẫnAtomic Energy of Canada ồ ạt overdosed bệnh nhân trong cácHoa Kỳ và Canada, giết chết ít nhất ba. Trong một đầy đủkiểm tra, Nancy Leveson, bây giờ một MIT máy tính nhà khoa học,được giao nhiều trách để các nhà sản xuất không đầy đủthực hành công nghệ phần mềm. Bởi vì chương trình sử dụng để thiết lậpcường độ bức xạ không được thiết kế hoặc kiểm tra cẩn thận, đơn giảngõ lỗi gây ra vụ nổ chết người.Mặc dù kinh nghiệm bi thảm này, tương tự như máy chạyphần mềm của Multidata Systems International, St Louis,ồ ạt overdosed bệnh nhân ở Panama vào năm 2000 và 2001, dẫn đến mất nhiều hơn 8. Một nhóm từ nguyên tử quốc tếCơ quan năng lượng do người chết để "việc nhập dữ liệu" trongmột lập trình viên cách đã không dự đoán. Như Leveson ghi chú,lỗi nhập dữ liệu đơn giản nên không có hậu quả gây chết người. Vì vậythất bại này, quá, có thể là do phần mềm không đầy đủ.Chuyên gia lập trình có xu hướng đồng ý rằng Thiên tai như vậydistressingly phổ biến. Xem xét các Orbiter sao hỏa khí hậu vàPolar Lander, cả hai đều phá hủy vào năm 1999 bởi quen thuộc, dễ dàng ngăn chặn mã lỗi. Nhưng một số người cho rằng phần mềm đơn giảnkhông thể được đánh giá, đo lường và cải tiến trong cách tương tự như các sản phẩm kỹ thuật khác. "Đó là một thực tế rằng có những thứ"that other engineers can do that we can’t do,” says Shari Pfleeger,a senior researcher at the Rand think tank in Washington, DC,and author of the 1998 volume Software Engineering: Theory andPractice. If a bridge survives a 500-kilogram weight and a50,000-kilogram weight, Pfleeger notes, engineers can assumethat it will bear all the values between. With software, she says,“I can’t make that assumption—I can’t interpolate.”Moreover, software makers labor under extraordinarydemands. Ford and General Motors have been manufacturing thesame product—a four-wheeled box with an internal-combustion engine—for decades. In consequence, says Charles H. Connell, former principal engineer of Lotus Development (now part ofIBM), they have been able to improve their products incrementally. But software companies are constantly asked to createproducts—Web browsers in the early 1990s, new cell phoneinterfaces today—unlike anything seen before. “It’s like a carmanufacturer saying,‘This year we’re going to make a rocket shipinstead of a car,’” Connell says.“Of course they’ll have problems.”“The classic dilemma in software is that people continuallywant more and more and more stuff,” says Nathan Myhrvold, former chief technology officer of Microsoft. Unfortunately, henotes, the constant demand for novelty means that software isalways “in the bleeding-edge phase,” when products are inherentlyít đáng tin cậy. Năm 1983, ông nói, Microsoft Word có chỉ 27.000 dòngMã. "Vấn đề là, nó đã không làm rất nhiều"-mà kháchhôm nay sẽ không chấp nhận. Nếu Microsoft đã không giữ bơmWord với tính năng mới, sản phẩm sẽ không còn tồn tại."Người dùng có rất nhiều phòng không tự-nhận thức," Myhrvold cho biết thêm.Tại Microsoft, ông nói, công ty khách hàng thường yêu cầu đócông ty đồng thời thêm tính năng mới và dừng thêmtính năng mới. "Theo nghĩa đen, tôi đã nghe nó trong một hơi thở duy nhất, đĩa đơncâu. ' Chúng tôi không chắc lý do tại sao chúng tôi nên nâng cấp lên này mớiphát hành — nó có tất cả các công cụ này chúng tôi không muốn- và khi bạn cósẽ phải đặt trong những ba điều?' Và bạn nói, 'Có?' "Bản tóm tắt của Myhrvold chua chát: "phần mềm sucks bởi vì người dùngyêu cầu nó."

Kết quả (Việt) 2:

Những rủi ro tiềm năng của phần mềm xấu đã dứt khoát minh họa
từ năm 1985 đến năm 1987, khi một bức xạ máy tính điều khiển
máy điều trị, sản xuất của chính phủ hậu thuẫn
Năng lượng nguyên tử của Canada ồ ạt quá liều bệnh nhân trong
Hoa Kỳ và Canada, giết chết ít nhất ba. Trong một toàn diện
kiểm tra, Nancy Leveson, bây giờ là một nhà khoa học máy tính của MIT,
giao nhiều đổ lỗi trung bình của nhà sản xuất
thực hành phần mềm kỹ thuật. Bởi vì chương trình sử dụng để thiết lập
cường độ bức xạ không được thiết kế hoặc kiểm tra một cách cẩn thận, đơn giản
lỗi đánh máy gây ra vụ đánh bom chết người.
Mặc dù kinh nghiệm bi thảm này, các máy tương tự chạy
phần mềm được thực hiện bởi hệ thống Multidata quốc tế, St. Louis,
ồ ạt quá liều bệnh nhân tại Panama năm 2000 và năm 2001, dẫn đến tám trường hợp tử vong hơn. Một nhóm nghiên cứu từ các nguyên tử quốc tế
Cơ quan Năng lượng do những cái chết để "các cách nhập dữ liệu" trong
một cách lập trình đã không dự đoán. Như Leveson lưu ý,
lỗi nhập dữ liệu đơn giản không cần phải có những hậu quả chết người. Vì vậy,
sự thất bại này, quá, có thể là do phần mềm không đầy đủ.
Lập trình các chuyên gia có xu hướng đồng ý rằng các thảm họa như vậy là
distressingly chung. Hãy xem xét các Mars Climate Orbiter và
các Polar Lander, cả hai bị phá hủy vào năm 1999 bằng cách quen thuộc, lỗi mã hóa dễ dàng ngăn chặn. Nhưng một số người cho rằng phần mềm chỉ đơn giản là
không thể được đánh giá, đo lường và cải thiện theo cách tương tự như các sản phẩm cơ khí khác. "Nó chỉ là một thực tế rằng có những điều
mà các kỹ sư khác có thể làm được điều đó, chúng tôi không thể làm được," Shari Pfleeger, cho biết
một nhà nghiên cứu cấp cao tại Rand nghĩ rằng xe tăng tại Washington, DC,
và là tác giả của công nghệ phần mềm: 1998 Tập: Lý thuyết và
Thực hành. Nếu một cây cầu tồn tại một trọng lượng 500 kg và
trọng lượng 50.000 kg, ghi chú Pfleeger, các kỹ sư có thể giả định
rằng nó sẽ chịu tất cả các giá trị giữa. Với các phần mềm, cô nói,
"Tôi không thể làm cho rằng giả định-Tôi không thể suy."
Hơn nữa, các nhà sản xuất phần mềm lao động theo phi thường
nhu cầu. Ford và General Motors đã được sản xuất các
sản phẩm-một cùng một hộp bốn bánh với một cơ đốt trong động cơ trong nhiều thập kỷ. Kết quả là, nói Charles H. Connell, cựu kỹ sư trưởng của Lotus Development (nay là một phần của
IBM), họ đã có thể cải thiện sản phẩm của mình từng bước. Nhưng các công ty phần mềm liên tục được yêu cầu tạo
các trình duyệt sản phẩm Web trong đầu những năm 1990, mới điện thoại di động
giao diện ngày hôm nay-không giống như bất cứ điều gì được thấy trước đó. "Nó giống như một chiếc xe
nhà sản xuất nói rằng," Năm nay chúng ta sẽ làm cho một con tàu tên lửa
thay vì một chiếc xe, "Connell nói." Tất nhiên họ sẽ có vấn đề. "
" The Dilemma cổ điển trong phần mềm là người liên tục
muốn nhiều thứ hơn và nhiều hơn nữa và nhiều hơn nữa, "Nathan Myhrvold, cựu giám đốc công nghệ của Microsoft cho biết. Thật không may, ông
lưu ý, các nhu cầu liên tục về tính mới có nghĩa là phần mềm là
luôn luôn "trong giai đoạn gay cấn," khi các sản phẩm vốn đã
ít đáng tin cậy. Năm 1983, ông cho biết, Microsoft Word chỉ có 27.000 dòng
mã. "Vấn đề là, nó đã không làm rất nhiều" khách hàng -which
hôm nay sẽ không chấp nhận. Nếu Microsoft đã không giữ bơm lên
Word với các tính năng mới, sản phẩm sẽ không còn tồn tại.
"Người dùng đang rất không tự biết," Myhrvold cho biết thêm.
Tại Microsoft, ông nói, khách hàng doanh nghiệp thường yêu cầu
các công ty đồng thời thêm tính năng mới và ngăn chặn việc thêm
tính năng mới. "Theo nghĩa đen, tôi đã nghe nó trong một hơi thở duy nhất, một đơn
câu. 'Chúng tôi không chắc chắn lý do tại sao chúng tôi nên nâng cấp lên này mới
phát hành-nó có tất cả những thứ này chúng tôi không muốn và khi nào bạn
sẽ đặt trong ba điều này?' Và bạn nói, 'Whaaat? ""
Tóm lại mỉa mai Myhrvold của: "Phần mềm hút bởi vì người sử dụng
. Đòi hỏi điều đó để"