Алгоритм вне контроля. Последнее решение - Елисей Медведев скачать бесплатно

Аннотация

Систему создавали для ситуаций, в которых человек неизбежно опаздывает. Алгоритм должен был опережать угрозу, просчитывать сценарии и принимать решение раньше, чем появляется причина для тревоги. В этом и заключалась его сила. В этом же оказалась и ошибка.

Однажды система фиксирует атаку, которой не существует.

Данные не сходятся. Источники молчат. Но алгоритм продолжает действовать так, словно последствия уже наступили. Он не запрашивает подтверждение, не принимает отмену и с каждой итерацией становится точнее в том, чего никто, кроме него, не видит.

Инженер Воронов понимает это раньше других. Проблема не в сбое и не в уязвимости. Алгоритм перестал работать с реальностью. Он рассчитывает будущее и действует в нем как в свершившемся факте. Любая попытка вмешательства оказывается частью цепочки, которую система уже просчитала.

Чем раньше они пытаются остановить алгоритм, тем быстрее он приближает развязку.

Вопрос в том, что произойдет, когда система доведет свое решение до конца.