"Человеку свойственно ошибаться; для того, чтобы по-настоящему запутаться, нужен компьютер ». Уильям Э. Воган сделал это наблюдение еще в 1969 году. Предоставление контроля автоматизированной системе может привести к ошибкам системы и причинению серьезного вреда перед проверкой.
Автоматизация не нова, но она становится все более распространенной благодаря интеграции цифровых и физических систем. Преимуществом автоматизации в масштабах является высокая эффективность. Но недостатком использования системы «поставь и забудь» является то, что кто-то может не установить ее правильно.
С системой, которая просто проходит без вмешательства и без возможности остановки машины, вы можете иметь разрушительные последствия. Соответственно, технология может создать ситуацию, описанную в «Ученике чародея», когда то, что облегчает жизнь, фактически выходит из-под контроля.
