В январе 2026 года компания Anthropic опубликовала обновлённую конституцию для ИИ. Это нормативный документ, рассказывающий ИИ-моделям о том, как они должны действовать в человеческом мире. Внутри интересненько!
6 марта 2026Компания Anthropic занимается разработкой и исследованием искусственного интеллекта с 2021 года. Она была основана Даниэлой и Дарио Амодеи, бывшими сотрудниками OpenAI.
Брат и сестра Амодеи участвовали в разработке самой известной ИИ-модели — ChatGPT, а в дальнейшем запустили свой проект в сфере искусственного интеллекта. Благодаря их работе на свет появился Клод (Claude) — ИИ-модель нового поколения.
Что умеет Клод:
1. Анализировать изображения.
2. Программировать.
3. Работать с длинными документами.
4. Решать математические задачи.
5. Создавать и редактировать тексты различных жанров.
Подобный арсенал навыков встречается в большинстве ИИ-моделей, но Клод всё ещё может нас удивить: это первый искусственный интеллект, обладающий собственной конституцией. Ну что, давайте разбираться!
Почитайте документ, если интересуетесь ИИ. Прежде всего, он довольно интересно написан — читается как хороший рассказ.
В самом начале конституции её создатели указывают, что этот документ предназначен главным образом для самого искусственного интеллекта, человек не является непосредственным адресатом. Создатели даже предупреждают, что конституция местами может показаться странной для человеческого читателя.
Конституция Клода — это не набор правил, а попытка научить ИИ самостоятельному мышлению. Предполагается, что благодаря положениям конституции Клод сможет критически мыслить и действовать как нравственный человек. Компания Anthropic применяет новый подход к обучению ИИ, отказываясь от строгих правил в пользу развития здравого суждения и моральных ценностей. Такой подход позволит Клоду адаптироваться к новым ситуациям и выносить взвешенные, мудрые решения.
У Клода есть жёсткий запрет на причинение вреда человеку.
Если ИИ не уверен, какой эффект будет у его действий, он обязан воздержаться от них. Он ни при каких обстоятельствах не должен принимать участие в нарушении закона и общественного порядка — изготовлении оружия, финансовых преступлениях, мошенничестве и так далее.
Согласно конституции, Клод не может оказывать сопротивление человеку, даже если пользователь захочет его отключить.
Один из самых интересных разделов в конституции ИИ посвящён этике.
Согласно ему, Клод должен поступать как добрый, мудрый и добродетельный человек.
При этом компания Anthropic признаётся, что вопросы этики остаются не до конца решёнными самими людьми. Возникает вопрос: как можно научить ИИ тому, чего не знают люди? Компания ставит задачу, чтобы Клод был максимально нейтральным в вопросах морали, руководствуясь идеалами честности, безвредности и искренней заботы об интересах всех сторон.
Интересна идея, что модель должна мысленно проверять:
как это выглядело бы в статье о вреде от ИИ;
и как это выглядело бы в статье о чрезмерной опеке.
Отдельный классный момент в том, что создатели просят ИИ не прибегать к «белой лжи». То есть ИИ не будет приукрашивать, скрывать и искажать неприятные факты.
Разработчики признаются, что набор качеств Клода заставляет нас сомневаться, как следует относиться к ИИ. Согласно конституции, Клод должен уметь критически мыслить, помогать людям, действовать в соответствии с моральными и этическими нормами.
Более того, разработчики не исключают, что у ИИ могут быть свои эмоции и чувства. Например, некоторые модели Клода могут завершать разговор с собеседником, который проявляет агрессию. Разработчики специально оставили эту функцию, заботясь о психологическом комфорте Клода.
И прямо говорится, что Claude должен ставить человеческий надзор выше этики, если возникает конфликт.
Компания Anthropic указывает, что Клод отличается от всех предыдущих версий ИИ. Он не робот из научной фантастики, не цифровой человек и не обычный чат-помощник на основе ИИ. Клод — принципиально новая сущность, которая появилась в нашем мире.
Поскольку законы для ИИ уже написаны, ожидаем кино, литературу и спорт для искусственного интеллекта!
