Для тех из нас, кто устал от предсказаний руководителей Кремниевой долины о том, что искусственный интеллект может привести к вымиранию человечества, вот новый израильский документальный фильм. НАЗА является контрапунктом, хотя это не входило в намерения создателей фильма.
Почти 80-минутный фильм уводит нас от технократов (которые продвигают технологии, несмотря на их апокалиптические опасения) и переносит нас на крыши ночного Тель-Авива, где израильские режиссеры Юваль Ибрагим и Рэйчел Сзор берут интервью у 24 анонимных членов израильской ударной группы ЦАХАЛа. Газа за последние три года.
Для тех из нас, кто устал от предсказаний руководителей Кремниевой долины о том, что искусственный интеллект может привести к вымиранию человечества, вот новый израильский документальный фильм. НАЗА является контрапунктом, хотя это не входило в намерения создателей фильма.
Почти 80-минутный фильм уводит нас от технократов (которые продвигают технологии, несмотря на их апокалиптические опасения) и переносит нас на крыши ночного Тель-Авива, где израильские режиссеры Юваль Ибрагим и Рэйчел Сзор берут интервью у 24 анонимных членов израильской ударной группы ЦАХАЛа. Газа за последние три года.
НАЗАкоторая берет свое название от еврейской аббревиатуры «побочный ущерб», больше фокусируется на системах искусственного интеллекта, которые стали неотъемлемой частью войны в секторе Газа после нападения ХАМАСа 7 октября 2023 года. «Вы должны доверять системе, — вспоминает один солдат, — сказал ему офицер. В противном случае «все развалится».
Солдаты рассказывают о своей роли в израильских программах, таких как «Лаванда», система искусственного интеллекта, которая определяет вражеские цели, и злосчастная программа «Где отец», которая предполагает использование детских мобильных телефонов для отслеживания того, когда цель Хамаса — их отец — возвращается домой. В случае с «Где отец» в результате атак, как рассказывает один солдат, погибает подозреваемый член Хамаса, но обычно и его семья, включая ребенка, чей телефон был взломан.
Некоторые опасения, которые волнуют солдат НАЗА не новы, например, современная война, похожая на видеоигру, чувство, которое часто выражается после появления вооруженных дронов и кнопочных войн. На самом деле никаких серьезных разоблачений в фильме нет — многие детали этих систем искусственного интеллекта создатели фильма уже раскрыли в своих статьях. Сторожитькто вместе продюсировал фильм; +972 Журнал; и еврейское издание Местные звонки. Но это может оказаться невозможным: самая сильная сторона фильма заключается в свидетельствах из первых рук солдат, которые участвовали в этой разрушительной системе, управляемой искусственным интеллектом, и теперь имеют дело с последствиями своих действий, включая тысячи погибших мирных жителей.
Так что же их показания говорят нам об искусственном интеллекте и войне? В НАЗАникто не беспокоится о том, что нас убьет мошеннический ИИ — это больше беспокоит компании Кремниевой долины, стремящиеся привлечь капитал. Скорее, в фильме справедливо опасаются, что ИИ позволит военным оправдывать убийство большего количества людей, даже несмотря на то, что эти системы освобождают людей от моральной ответственности за выбор целей.
«Моя роль чисто техническая», — говорит один из военнослужащих ЦАХАЛа, описывая свою роль в войне в Газе.
В этом смысле ИИ дает солдатам определенную дистанцию от принятия решений и даже дает преимущества таким системам, потому что машины ненавидят. «Лучше, чтобы ИИ решал, кому жить, а кому умереть, чем оставлять это решение тому, чей друг был убит Хамасом на прошлой неделе», — сказал один солдат.
Однако вскоре фильм раскрывает пустоту этого чувства, поскольку мы узнаем, что, нападая на активиста Хамаса, израильские военные иногда намеренно позволяли убить десятки мирных жителей в качестве сопутствующего ущерба – до 50 гражданских лиц в результате одного удара.
Однако если ИИ должен переложить ответственность за убийства с людей на компьютеры, тем самым освобождая людей от моральной ответственности, это не совсем работает. Люди в НАЗА чувствуют явную ответственность – или, по крайней мере, достаточно ответственности, чтобы рисковать своей карьерой и, возможно, свободой брать интервью у создателей фильма. (Премьер-министр Израиля Биньямин Нетаньяху пригрозил лишить кинематографистов гражданства.)
Даже как НАЗА в каком-то смысле это обвинение ИИ, но, в конце концов, это скорее обвинение людям, и особенно людям, которые родились в стране, которая была травмирована Холокостом, а затем повторно травмирована терактами 7 октября. В тот день боевики Хамаса и других группировок жестоко убили около 1200 человек и похищали их на протяжении многих лет. Идея фильма заключается в том, что израильтяне, которые так сильно пострадали, в тот день потеряли свою моральную основу и создали систему, которая позволяла убивать большие семьи и разрушать целые городские кварталы, включая больницы и школы, в погоне за боевиками ХАМАС.
Война также явно привела к другой форме травмы, по крайней мере, для некоторых израильтян: солдаты сожалеют о своей роли в кампании, в результате которой погибли по меньшей мере 74 000 палестинцев в секторе Газа, согласно данным, отслеживаемым местными органами здравоохранения. Израильский солдат дал интервью НАЗА описывает, как слышал через наушники крики детей, погибших в результате авиаударов. Другой человек говорит, что видел кадры с мертвыми собаками в секторе Газа.
Безымянные израильские солдаты, показанные в фильме, отражают сложность, которую трудно понять многим наблюдателям этого полярного конфликта – они неравнодушны к той или иной стороне: ужас нападения ХАМАС, который не делал различия между солдатами и гражданскими лицами, другим ужасом была израильская война, операторы которой, очевидно, также были нацелены на мирных жителей.
Что это значит для нас с ИИ и войной? Может ли ИИ действительно улучшить то, как мы ведем войны, или нам следует просто использовать его, чтобы переложить вину за гибель невинных людей? И вернемся к заключенным, которые заламывают руки, собирая средства для ускорения развития ИИ: если ИИ настолько силен, почему после трех лет войны Израиль все еще атакует ХАМАС в секторе Газа?
Этот последний вопрос напоминает мне интервью, которое я провел с ученым Пентагона в разгар войны в Афганистане, когда военные использовали передовые алгоритмы — предшественники искусственного интеллекта — для прогнозирования атак повстанцев на силы США и коалиции. В момент отчаяния представитель Пентагона признал, что Талибан может выстоять в войне без сложных алгоритмов или даже компьютеров.
Через десять лет после нашего разговора США ушли из Афганистана, позволив Талибану быстро захватить власть. Сейчас компьютеры совершенствуются в геометрической прогрессии, искусственный интеллект генерирует цели, но победы США и Израиля, будь то в Газе или сейчас в Иране, остаются недостижимыми.
Что касается этической проблемы, до сих пор нет доказательств того, что ИИ лучше выбирает военные цели и предотвращает жертвы среди гражданского населения, а лишь то, что он выбирает цели быстрее и создает видимость легитимности. Возможно, это неожиданное сообщение НАЗА: Дело не в том, что ИИ всемогущ, но он обеспечивает технократическое оправдание ударов, которые часто приводят к гибели невинных людей.
Голливуд давно признал эту глупость, даже когда она была теоретической. Во многих фильмах об искусственном интеллекте реальная опасность заключается не обязательно в эмпатических компьютерах, которые доводят нас до самоубийства, а в введенных в заблуждение людях, которые вообще наделили их этой силой.
В НАЗАСистемы искусственного интеллекта — это инструменты смерти, но настоящая проблема — это люди.
В конечном итоге ИИ может убить нас всех, а может и не убить, как предупреждают нас руководители компаний, спешащих создать эту технологию. Или как НАЗА показывает, что он может генерировать только больше имен, чем люди могут собрать самостоятельно, и давайте устроим убийство сами. Кажется, у нас это хорошо получается.
