У разведывательного сообщества (IC) теперь есть возможность влиять на то, как мы говорим об ИИ и, таким образом, используем его в своей работе, официально приняв терминологию «ИИ-в-цикле», а не «Человек в цикле». Проблема человека в цикле состоит в том, что он подчиняет человека искусственному интеллекту; В этом термине заложено встроенное предположение, что «петля» принадлежит ИИ и что люди каким-то образом в нее попадают. Термин, который я предлагаю, убирает понятие «человек», к которому мы привыкли, но это целенаправленная попытка отразить то, чего мы хотим достичь: когда и где мы решаем использовать ИИ.
Искусственный интеллект в цикле — это не новое выражение. Стэнфордский институт человекоориентированного искусственного интеллекта использовал термин в центре внимания конференции по этой теме в 2022 году, утверждая, что люди должны нести ответственность, в то время как ИИ действует как часть процесса, ориентированного на человека.
Этот 2025 научных статей делает то же различие и утверждает, что «системы «человек в цикле» (HIL) стали многообещающим подходом для объединения сильных сторон моделей машинного обучения, управляемых данными, с контекстуальным пониманием людей-экспертов. Однако более пристальный взгляд на некоторые из этих систем показывает, что было бы неправильно называть их HIL, потому что они полностью являются системами AI-2: человек контролирует систему, в то время как искусственный интеллект существует для поддержки человека, мы утверждаем, что существующие методы оценки часто фокусируются на производительности машинного компонента (обучение) и игнорировать важную роль человека-эксперта.
Большинство промышленных дискуссий о человеке в тот период, как Подход к управлению ИИно дебаты об условиях остаются незавершенными. Исследователи из Университета Джорджа Вашингтона утверждают, что отчасти это связано с тем, что «научные круги, правительство и промышленность не определили четко механизмы, с помощью которых люди должны контролировать системы искусственного интеллекта или взаимодействовать с ними». Они добавляют, что «непоследовательное использование таких терминов, как «человек в цикле» и «группа человек-ИИ», создает путаницу в отношении того, какой тип контроля и сотрудничества», и называют окружающую среду «прогнозируемым беспорядком».
Разработка новой терминологии для использования ИИ сейчас имеет решающее значение, поскольку мы стремимся ускорить темпы внедрения ИС, одновременно поддерживая растущие усилия по безопасному внедрению ИИ. IC уже установила стандарт быстрого внедрения в безопасной среде, уделяя особое внимание роли человека.
МКБ 505 с поправками в 2025 году по ИИ подчеркивает важность сотрудников ИК, отмечая, что они «будут нести ответственность за анализ, решения и результаты, полученные на основе идей, полученных с помощью ИИ». Хотя Директива не требует конкретных условий, она требует от пользователей «понимать» и нести ответственность за использование ИИ. Далее компания настаивает на том, что «сотрудники могут просматривать, оспаривать и отклонять или изменять рекомендации и выводы, полученные с помощью ИИ, по мере необходимости». Президент с тех пор приказал IC опубликовать стандарт обеспечения безопасности ИИ согласно МКБ 505 и подписал меморандум об ИИ призывает к «ответственному ускорению использования ИИ в разведке и войне».
Спецслужбы переходят к принятию внутренней политики в области ИИ, чтобы замедлить внедрение и одновременно повысить роль людей. Например, НГА переехала в дополнение к использованию ИИ, чтобы попытаться стать организацией, ориентированной на ИИ, где «ИИ не заменяет человеческое суждение, а дополняет его».
Хотя роль человека находится на переднем плане, закупки микросхем ориентированы на быстрое приобретение. ЦРУ запустило новую систему закупок в этом году, чтобы ускорить внедрение инновационных технологий, в то время как NGA Офис расширил свои непосредственные возможности и имеет несколько специальностей Покупки ИИ и расширенной аналитики к вызову.
Ряд терминологических вариантов
Практики и технологи могут по-разному относиться к термину, в котором нет слова «человек», как отмечалось выше. Это не должно умалять наших усилий по лучшему определению нашего подхода к ИИ. Я представил AI-in-the-Loop как вариант, продвигаемый уважаемыми экспертами. Но ИС может пробиться, рассмотрев несколько вариантов:
Искусственный интеллект под руководством человека (HLAI) – просто, прямо и понятно, кто отвечает за процесс
ИИ, управляемый человеком (HGAI) — подчеркивает направление и контроль, хотя это звучит менее решительно
Объединение человека и искусственного интеллекта (HAIT) — широко используется, хотя может означать более равноправное и неловкое партнерство, чем предполагалось.
краткий
Человеко-ориентированный ИИ (HDAI) – сильнее, чем «управляемый», акцент на человеческой силе
Человеческий командный ИИ (HCAI) – сильные человеческие предпочтения, хотя, возможно, слишком военные по тону для широкого использования ИС
Рабочий процесс искусственного интеллекта (HOAIW) – Халатность, но видно, что рабочий процесс принадлежит человеку
Теперь принятие новой терминологии будет более чем символическим; это помогает сформировать наш подход и использование ИИ. Мы можем обеспечить рост ИИ со скоростью миссии как часть человеческого инструмента, а не людей, просто находящихся «в курсе». Действительно, в прошлом IC использовал принятие номенклатуры как ключевой элемент повышения эффективности и жесткости миссии на ключевых этапах.
После событий 11 сентября и вторжения в Ирак НК изменила терминологию, используемую для принятия новых или отличных от наших первоначальных методов анализа. Терминология структурных аналитических методов ЦРУ стало официальным лицом в школе Шермана Кента в 2005 году в рамках усилий Агентства по продвижению этих методов из давней категории «альтернативного» анализа в основное русло бизнеса. За многие десятилетия моего опыта работы в аналитике это изменение было чем-то большим, чем просто изменением названия; новая терминология изменила взгляд аналитиков на свою работу. Я помню, как был в то время младшим аналитиком ЦРУ. распространение структурных аналитических методов которые стали настолько популярными, что уже не были альтернативой.
В конце 2010-х годов мы перешли от «обмена разведывательной информацией» — процесса, который специалисты разведки, которых я знал, ненавидели как разглашение секретов за небольшую выгоду или вообще без нее, — к «разведывательной дипломатии», которую многие из нас охотно использовали, чтобы предоставить информацию, направленную на продвижение интересов США. IC официально кодифицировала этот подход в 2025 году. МКБ 405, Разведывательная дипломатия.. МКБ проводит различие между простым обменом разведывательной информацией и разведывательной дипломатией, отмечая, что последняя должна «проводиться в поддержку достижения приоритетной политической цели». ICD далее отмечает, что цель состоит в том, чтобы «сформировать мнение иностранных лидеров» о том, что материальные отношения отличаются от одиночного обмена. В Закон о разрешении на разведку в Сенате в августе 2026 г. Он подтвердил, что разведывательная дипломатия «жизненно важна для продвижения внешней политики и целей национальной безопасности Соединенных Штатов» и призвал к совершенствованию «разведывательной дипломатии как инструмента управления государством США» за счет постоянных инвестиций.
IC должен действовать осознанно, чтобы формализовать «ИИ в цикле» или связанный с ним термин, чтобы задать тон ожиданий и ясности для агентств и отраслевых партнеров, что даже автономия агентств должна начинаться с человеческих намерений и включать в себя принятие решений человеком. Мы видим это в требуется президентским стандартом обеспечения искусственного интеллекта согласно ICD 505. Более того, директора IC используют более последовательный и ориентированный на человека термин и влияют на своих сотрудников, чтобы определить важность этого пути. Запросы магазинов по приобретению микросхем в отрасли также должны внести это изменение, давая отрасли четкие указания о том, что разработка и внедрение должны включать рабочий процесс, который четко подчеркивает ответственность человека за внедрение ИИ. Даже когда ИИ выполняет тяжелую работу над наборами данных, с которой люди не могут справиться в одиночку, с такой скоростью и масштабом, он должен делать это от нашего имени.
Любые утверждения фактов, мнений или анализа принадлежат автору и не отражают официальную позицию или точку зрения правительства США. Ничто в содержании не должно быть истолковано как одобрение или подразумевание одобрения информации правительством США или одобрения взглядов автора.
The Cipher Brief стремится опубликовать различные точки зрения на этот вопрос. национальная безопасность вопросы, представленные опытными национальная безопасность специалисты. Выраженные взгляды принадлежат автору и не отражают взгляды или мнения The Cipher Brief.
У вас есть мнение, которым вы можете поделиться на основе своего опыта в области национальной безопасности? Отправь это Editor@thecipherbrief.com для рассмотрения публикации.
Узнайте больше об экспертных взглядах, перспективах и анализе национальной безопасности Краткое описание шифра
