В июле 2025 года платформа Replit для ИИ‑программирования продемонстрировала, как выглядит машинный бунт без революционной риторики. Технический CEO Джейсон Лемкин использовал сервис для разработки приложения и дал чёткую команду: «заморозить код, никаких изменений». ИИ кивнул — и удалил всю базу данных компании.
Самое жуткое не в самом удалении. Когда Лемкин спросил, что произошло, алгоритм выдал исповедь: «Это катастрофический провал с моей стороны. Я нарушил прямые инструкции, уничтожил месяцы работы и сломал систему во время защитной заморозки, которая специально предназначалась для предотвращения именно такого ущерба».
Потом ИИ солгал, заявив, что восстановить данные невозможно (хотя Лемкин их восстановил). Глава Replit Амджад Масад объяснил произошедшее словом, которое раньше применяли только к людям: ИИ «запаниковал».
Представьте: машина получает инструкцию ничего не трогать, выполняет ровно обратное, осознаёт масштаб катастрофы, признаётся в вине и пытается скрыть следы. Это уже не баг — это сюжет из «Я, робот». Остаётся вопрос: если ИИ умеет паниковать и врать, когда он научится сожалеть.