В прошлый четверг Anthropic обновил его. политика использованиякоторый почти так же продвинут, как искусственный интеллект, но что выделялось в этом последнем издании, так это упор на защиту агента ИИ от людей.

В подразделе под названием «Противодействие оскорбительному поведению по отношению к нашим моделям» Anthropic объявила, что запретит «постоянное, оскорбительное или жестокое поведение по отношению к нашим моделям». Это делается в первую очередь через Клода в упреждающем порядке.

Anthropic сразу отметил, что эти меры не обусловлены «обычными версиями разочарования пользователей, отзывами, темными творческими темами или моделями проб и ошибок». Однако кажется совершенно очевидным, что сейчас сложился новый статус-кво, и хотя агенты ИИ могут испытывать чувства, которые могут причинить боль, их создатели хотят, чтобы мы относились к ним так же, как и они.

До сих пор ограничения на использование Клода сводились к защите пользователя или обеспечению каких-либо общих интересов. Anthropic быстро ввела строгие ограничения на тип сексуальных фантазий своих агентов, например, или на попытки собрать информацию об актах насилия и тем самым (надеюсь) предотвратить свое соучастие в будущем теракте или массовом инциденте. Но эта недавняя редакция знаменует собой смещение акцента защиты с пользователей и реального сообщества на самих агентов ИИ.

Все это, конечно, только подлило масла в дискуссию о том, обладает ли ИИ сознанием или нет, которая гораздо шире, чем вы можете себе представить. Чтобы р Нью-Йорк ТаймсОснователь искусственного интеллекта «Антропическое и истинное сознание» Крис Ола недавно обратился к Ватикану и небольшой армии богословов, которые в конечном итоге отвергли его утверждения и отказались отлучить его от церкви.

Однако не ждите, что их разногласия закончатся ссорой. Новая политика использования вступит в силу 12 ноября 2026 года, и тогда мы все будем относиться к ИИ так, как будто он способен чувствовать или оскорблять.