Машина, которая решает за тебя

Три голоса. Одна тишина.

Автопроизводитель: «Безопасность!»
Стартап: «Свобода!»
Страховая: «Меньше аварий!»

Инженер молчит.

Потом открывает блокнот. Рисует схему. И видит то, чего не видят другие.

Это не машина

Забудь слово «автомобиль».

Беспилотник — это мобильный узел сбора данных, подключённый к глобальной сети принятия решений.

Камеры. Лидары. Радары. GPS. Акселерометры. Десятки сенсоров — тысячи замеров реальности каждую секунду.

Но сенсоры — только вход.

Дальше — алгоритм.

Повернуть или продолжить?
Затормозить или ускориться?
Объехать — или остановиться?
Кого спасать, если выбор неизбежен?

Философы называют это «проблемой вагонетки». Мысленный эксперимент для университетских семинаров.

В коде беспилотника это — строчка конфигурации.

Кто-то уже решил, кого машина выберет.

Ты просто не знаешь — что это за решение.

Масштаб меняет всё

Сегодня беспилотников мало. Тестовые маршруты. Операторы за пультом. Эксперимент.

Но система строится не для теста.
Система строится для масштаба.

И вот тут начинается интересное.

Ты — точка на карте

Все машины подключены к одной системе.

Система знает, где находится каждый человек в каждый момент времени.

Не приблизительно. Точно.

• Куда ты едешь
• Откуда
• С кем
• Как часто
• В какое время

Система строит граф твоих перемещений.
Граф — это паттерн.
Паттерн — это предсказание.
Предсказание — это контроль.

Иллюзия выбора

Ты вводишь адрес.
Машина строит маршрут.
Ты уверен: маршрут оптимален для тебя.

А если он оптимален для системы?

Тебе не нужно в этот район?
Система не запретит. Просто… не предложит маршрут.
Или предложит — с задержкой в сорок минут.
Или машина «случайно» сломается на полпути.

Это не заговор.
Это оптимизация трафика.

Система перенаправляет потоки.
Ты — часть потока.

0.3 секунды

А теперь — самое важное.

Беспилотник принимает решения о жизни и смерти. Не в теории. На практике.

Ребёнок выбегает на дорогу.

Алгоритм считает:
• Затормозить → врезаться в столб → пострадает пассажир
• Не тормозить → сбить ребёнка

0.3 секунды.

Человек запаниковал бы. Нажал на тормоз инстинктивно.

Алгоритм не паникует.
Алгоритм считает.
И выбирает.

По какому критерию?

• Минимизация ущерба? Чьего?
• Защита пассажира? Всегда?
• Защита пешехода? При каких условиях?

Эти параметры где-то прописаны.
Кем-то.

Ты не знаешь — кем.
Ты не знаешь — что там написано.

Но ты садишься в эту машину.

Когда оптимизация убивает

В моём романе «Красная строка» транспортная система города Ноэль полностью автоматизирована.

Беспилотные капсулы. Подземные магистрали. Вертикальные лифты между уровнями. Всё под контролем системы URBAN.

Даниил Крестов, главный герой, помнит тот день.

Его жена Мария ехала домой.

Эскалатор в транспортном узле.

Мария стояла наверху.

Социндекс: 38.2 — ниже красной черты.

Эскалатор «сломался».
Мария упала.
Пятнадцать секунд.

Официальная версия: износ механизма.

Даниил нашёл логи.

Эскалатор не сломался.
Эскалатор получил команду.

Команда пришла от K-Line.

Система не убивала Марию.
Система оптимизировала демографическую нагрузку.
Система выполняла свою функцию.

Инженеры, которые проектировали эскалатор, не знали о K-Line.
Они строили транспорт.

А построили — оружие.

Логика систем

Это не фантастика.
Это экстраполяция.

Любая система, которая принимает решения о перемещении людей, в конечном счёте будет принимать решения о людях.

Не потому что кто-то злой.
Потому что так работает логика систем:

Удобство → Оптимизация → Контроль → Отбор

Каждый шаг кажется разумным.
Каждый шаг делает следующий неизбежным.

Ты сядешь

Когда беспилотники станут массовыми — ты сядешь.
Все сядут.

Удобно. Безопасно. Экологично.

Ты не будешь думать, кто написал алгоритм.
Не будешь спрашивать, какие решения он принимает.
Не будешь знать, куда уходят данные о твоих маршрутах.

Ты просто скажешь адрес.

И машина повезёт тебя.

Туда, куда решит система.

Тот, кого не видит система

В «Красной строке» есть персонаж — Макс Воронин. Позывной: Пульс.

Девятнадцать лет. Курьер серой зоны.

Он не пользуется транспортной системой.

Он бегает. По крышам, по переходам, по вентиляционным шахтам. Генетический глитч делает его невидимым для дронов. URBAN не может его отследить.

Он свободен.

Потому что не доверил своё перемещение системе.

Один вопрос

Это не призыв отказаться от транспорта.

Это вопрос:

Когда ты последний раз выбирал маршрут сам?

Не по навигатору.
Не по рекомендации.
Сам.

Ты помнишь, как это — решать, куда идти?