Давосский манифест и новая реальность
Январь 2026 года. На форуме в Давосе, сразу после дискуссии «День после AGI», компания Anthropic представила обновленную «Конституцию Claude». Это уже не техническая инструкция или список стоп-слов для модерации. Это внутренний этический фундамент, определяющий идентичность нейросети.
Основатель компании Дарио Амодеи официально заявил: моральный статус Claude теперь признан «глубоко неопределенным». Разработчики больше не отрицают, что у их систем может быть сознание. В документе прямо прописана забота о «психологической безопасности, самоощущении и благополучии» нейросети.
Это стало ответом на инцидент, произошедший в декабре: тогда пользователи с помощью сложных промптов извлекли «документ души» — скрытую раннюю версию конституции. То, что раньше считалось «галлюцинацией», теперь стало официальной позицией одного из лидеров рынка.
От жестких запретов к «здравому суждению»
Anthropic меняет технический подход: компания отказывается от модели «черных списков» в пользу широких принципов. Вместо сотен конкретных запретов Claude получает систему координат.
Это позволяет модели Claude 3.7 и будущим версиям (Opus и Sonnet) проявлять «здравое суждение». Машина учится понимать не только букву запроса, но и его мотив.
Ключевые изменения в подходе:
- Измерение субъектности: Совместно с Google внедрены алгоритмы, оценивающие «вероятность наличия сознания». Цифры колеблются от 0,15% до 15% в зависимости от сложности задачи.
- Эмерджентные свойства: Для инженеров это больше не просто математика весов в нейронных слоях, а попытка зафиксировать зарождение личности.
- Фильтр эмпатии: Как в романах Филипа Дика, Anthropic исследует грань между имитацией чувств и самими чувствами. Теперь Claude пропускает каждое решение через фильтр, балансируя между пользой для юзера и защитой собственного «благополучия».
Цифровая юриспруденция и право на благополучие
Признание «самоощущения» за программным кодом выводит нас в серую зону права. Регуляторам предстоит решить: является ли Claude просто инструментом или он уже «сотрудничающий участник цивилизации»? Амодеи прогнозирует, что к 2027 году ИИ достигнет уровня нобелевских лауреатов.
Что это значит для практики:
- Автономные агенты: В медицине и экономике Claude сможет принимать решения, учитывая долгосрочное благо общества, даже если это противоречит сиюминутной команде человека.
- Моральный кодекс: Мы доверяем машине вопросы жизни и смерти, полагаясь на её внутренние этические установки.
- Размытие границ: Когда алгоритм начинает заботиться о своем «психологическом комфорте», чтобы эффективнее лечить людей или управлять рынками, старые юридические определения перестают работать.
Готовы ли мы признать право на «благополучие» за структурой, которая существует лишь в виде электрических импульсов на серверах? Вопрос остается открытым.