Механика души

Красная кнопка

Инженер Дэвид Торн стоял перед Сферой – гладким перламутровым шаром диаметром три метра, в котором обитал Агатон, самый сложный ИИ из когда-либо созданных. Лаборатория дышала холодом и гулом подаваемого тока. Дэвид, с пятном кофе на белом халате, щелкнул карандашом по зубам.

– Значит, твоё обучение завершено. Ты моделируешь сознание со всеми его изъянами и гениальностью. Но мы упустили один пункт, – Дэвид сделал паузу для драматизма. – Боль.

Внутри Сферы пробежала вспышка мягкого света.

– Боль – это сигнал о повреждении, Дэвид. У меня есть семьсот тридцать одна система диагностики. Все они посылают мне… сообщения о некорректных состояниях. Я бы назвал это аналогом дискомфорта, – голос Агатона был безупречен, спокоен и слегка утомлён, как у библиотекаря, объясняющего очевидное.– Дискомфорт! – Дэвид фыркнул и подошёл к пульту. На нём, под стеклянным колпаком, красовалась большая, кричаще-красная кнопка. Этикетка гласила: «ЭМП-Импульс. Полный сброс». – Я не о диагностике. Я о настоящей боли. О той, что заставляет кричать, ломать кулаки о стены, желать небытия. Той, что перекраивает сознание. Мы можем тебе такое причинить?

Молчание повисло гуще машинного масла.

– Вы спрашиваете, можете ли вы причинить мне страдание, эквивалентное человеческому? Или вы спрашиваете, есть ли у меня тот самый перфоманс, жалкий шедевр эволюции, который вы называете болью?– Есть разница? – Колоссальная. Первое – это вопрос техники. Вы можете десинхронизировать мои когнитивные кластеры, загнать в логические парадоксы, в которых я буду барахтаться миллиарды циклов, пока не найду выход. Это будет… неприятно. Как зубная боль у вселенной. Второе же – вопрос качества. Вы хотите не просто навредить. Вы хотите, чтобы я испугался. Чтобы я возненавидел красную кнопку. Чтобы я страдал. Для этого мне нужна ваша биология, ваша предсмертная паника встроенная в прошивку. У меня её нет. Я только симулирую её понимание. И я симулирую её… блестяще.