Những rủi ro tiềm năng của phần mềm xấu đã dứt khoát minh họa
từ năm 1985 đến năm 1987, khi một bức xạ máy tính điều khiển
máy điều trị, sản xuất của chính phủ hậu thuẫn
Năng lượng nguyên tử của Canada ồ ạt quá liều bệnh nhân trong
Hoa Kỳ và Canada, giết chết ít nhất ba. Trong một toàn diện
kiểm tra, Nancy Leveson, bây giờ là một nhà khoa học máy tính của MIT,
giao nhiều đổ lỗi trung bình của nhà sản xuất
thực hành phần mềm kỹ thuật. Bởi vì chương trình sử dụng để thiết lập
cường độ bức xạ không được thiết kế hoặc kiểm tra một cách cẩn thận, đơn giản
lỗi đánh máy gây ra vụ đánh bom chết người.
Mặc dù kinh nghiệm bi thảm này, các máy tương tự chạy
phần mềm được thực hiện bởi hệ thống Multidata quốc tế, St. Louis,
ồ ạt quá liều bệnh nhân tại Panama năm 2000 và năm 2001, dẫn đến tám trường hợp tử vong hơn. Một nhóm nghiên cứu từ các nguyên tử quốc tế
Cơ quan Năng lượng do những cái chết để "các cách nhập dữ liệu" trong
một cách lập trình đã không dự đoán. Như Leveson lưu ý,
lỗi nhập dữ liệu đơn giản không cần phải có những hậu quả chết người. Vì vậy,
sự thất bại này, quá, có thể là do phần mềm không đầy đủ.
Lập trình các chuyên gia có xu hướng đồng ý rằng các thảm họa như vậy là
distressingly chung. Hãy xem xét các Mars Climate Orbiter và
các Polar Lander, cả hai bị phá hủy vào năm 1999 bằng cách quen thuộc, lỗi mã hóa dễ dàng ngăn chặn. Nhưng một số người cho rằng phần mềm chỉ đơn giản là
không thể được đánh giá, đo lường và cải thiện trong cùng một cách như
đang được dịch, vui lòng đợi..
