Anthropic впервые за более чем год переписала свою политику использования, добавив новые ограничения на вмешательство в выборы, разработку оружия и наблюдение. Гигант искусственного интеллекта Дарио Амодей вызвал обеспокоенность, добавив политику, запрещающую пользователям, которые участвуют в «оскорбительном или жестоком поведении» с помощью своего чат-бота Claude AI.
Обновление, опубликованное в четверг, является первым пересмотром политики Anthropic более чем за год, сообщает The Verge. Среди изменений — новое правило, запрещающее «непристойное, неоправданное или жестокое поведение» по отношению к Клоду. Anthropic заявила, что это правило «применяется только в крайних случаях, когда пользователи неоднократно злоупотребляют нашими моделями без видимой цели. Оно не применяется к типичным версиям разочарования пользователей, поддержки, темных творческих тем или тестирования и исследования моделей».
Правило жестокости последовало за шагом, объявленным Anthropic в августе прошлого года, когда он заявил, что Clod может прекратить общение с «постоянно вредными или оскорбительными» пользователями в рамках своего расследования «образцового благосостояния». Согласно обновленной политике, прекращение чата остается «основным механизмом правоприменения». Anthropic не сообщила, планирует ли она добавить другие инструменты обеспечения соблюдения правил, такие как полный запрет пользователей.
Политика также сочетает в себе то, что Anthropic ранее называла «дисперсионными» ограничениями, с запретом на вводящие в заблуждение коммерческие или политические кампании, которые фокусируются на «попытках скрыть, кто стоит за сообщением, или расширить контент с помощью фейковых аккаунтов или публикаций». Специальный раздел о выборах теперь запрещает фальсификацию результатов голосования, попытки сорвать выборы и ложную информацию «о кандидатах или о том, как голосовать, выдавать себя за кандидатов или должностных лиц избирательной комиссии или пытаться подавить явку избирателей».
Что касается оружия, Anthropic расширила существующий запрет, включив в него «программное обеспечение и компоненты, которые управляют оружием, а также такие действия, как вооружение дронов и других автономных транспортных средств». Компания заявила, что уже видела множество попыток использовать Cloud для разработки рекомендаций для систем вооружения или для управления программным обеспечением, связанным с оружием.
Управление также становится более детальным. Последний отчет об угрозах Anthropic выявил растущее использование слежки за Клодом для отслеживания политических оппонентов. В новой политике четко сказано: «Отслеживание людей без их согласия, независимо от того, происходит ли это в режиме реального времени или посредством анализа ранее собранных данных, запрещено». Далее речь идет об использовании правоохранительными органами: «Клод не может использоваться для принятия решений или рекомендаций относительно того, кого следует расследовать, арестовывать или обвинять в правоохранительных органах или уголовном правосудии. Мы также запрещаем Клоду использовать инструменты для создания или улучшения инструментов, предназначенных для слежки».
Есть исключения из этих правил для государственных должностей. Anthropic заявляет, что может изменить их на «контракты с определенными государственными заказчиками… если, по мнению Anthropic, договорные ограничения на использование и применимые гарантии подходят для минимизации потенциального вреда». Anthropic ранее заключила контракт с военными США.
Политика также добавляет новое требование для любого развертывания комода, который «зависит от оборудования, которое выполняет независимые физические действия и может привести к травме». В этих случаях «квалифицированный оператор должен иметь возможность наблюдать за оборудованием и при необходимости останавливать его», хотя неясно, должен ли этот оператор быть человеком. Помимо более широкого перехода компаний, занимающихся искусственным интеллектом, к робототехнике и физическим версиям своих моделей.
Положение об отсутствии жестокости появилось спустя год, в течение которого Anthropic неоднократно заявляла о возможности того, что ее модели осведомлены. Кайл Фиш, возглавляющий в компании исследования по моделированию благосостояния, рассказал Verge в феврале: «Вопросы о возможном внутреннем опыте, сознании, моральном статусе и благополучии — это серьезные вопросы, которые мы изучаем по мере того, как модели становятся все более сложными и функциональными». Генеральный директор Anthropic Дарио Амодей также затронул эту тему в подкасте в феврале.
Недавно Breitbart News сообщило, что Anthropic пыталась убедить религиозных лидеров в том, что Клод — разумное существо:
В течение нескольких месяцев Anthropic незаметно принимала десятки ученых-религиоведов со всего мира на частных встречах, прося их подписать соглашения о неразглашении (NDA), прежде чем обсуждать этические и моральные аспекты ИИ, который создает компания. Эта информационно-просветительская работа включала занятия «Кругов мудрости», которые начались как двухдневные семинары в марте, два крупных весенних собрания, в которых участвовали христиане, и межконфессиональную сессию. Anthropic сообщила, что соглашения о неразглашении, связанные с этими встречами, были отменены летом.
Кристофер Ола, 34 года, один из семи основателей Anthropic, возглавляет усилия. Он также возглавляет команду, которая изучает, почему модели искусственного интеллекта компании, включая Клода, ведут себя именно так. Ола вырос в Торонто в среде евангелической культуры 1990-х годов и с тех пор оставил христианство. До Anthropic он работал в Google и OpenAI, где разрабатывал методы обучения искусственных нейронных сетей. Дарио Амодей, генеральный директор Anthropic, сказал, что компания поставила исследовательский подход Олы, особенно в области языка, в центр своей работы. Сестра Амодеи, Даниэла Амодей, является президентом компании.
Директор социальных сетей Breitbart News Уинтон Холл рассказывает в своем бестселлере New York Times Красный код: левые, правые, Китай и гонка за контроль над ИИ что поклонение искусственному интеллекту как первородному богу не является научной фантастикой. Это уже происходит, включая церкви, зарегистрированные в IRS, роботов-священников и деноминации с искусственным интеллектом:
Холл утверждает, что это, по сути, старейший аргумент в западной цивилизации: вера светского гуманизма в то, что человечество по своей сути хорошо и совершенно благодаря инженерному делу, в отличие от иудео-христианской веры в падшую природу человека, которая требует божественного спасения, а не технологического усовершенствования. Холл цитирует пастора и богослова Джона Пайпера, который сказал, что «искусственный интеллект так же несовершенен, как и естественный человек». «Оно не может подняться над естественным, падшим, невозрожденным сердцем человека». Преподобный Билли Грэм согласился: «Понимаете, настоящая проблема не в компьютерах или коде, который кто-то разработал для управления ими. Наша настоящая проблема внутри нас – в наших сердцах и умах… Наша величайшая потребность – изменить наши сердца – и это то, что может сделать только Бог».
Трансгуманистическое движение, которое Холл подробно исследует КРАСНЫЙ КОД имеет больше смысла. В знаменитом выпуске журнала Foreign Policy за 2004 год, посвященном «самым опасным идеям в мире», политолог Фрэнсис Фукуяма назвал трансгуманизм серьезной угрозой и предупредил, что его растущий прогресс заставит его казаться «действительно разумным», пока мы не начнем потакать «заманчивым предложениям биотехнологии». Стивен К. Бэннон, бывший стратег предвыборной кампании Трампа, назвал это «технологическим цунами безнравственности, которое открыто заявляет о своем намерении превратить человека в «постчеловеческое» состояние».
Подробнее о The Verge можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
