Генеральный секретарь ООН Антониу Гутереш на этой неделе предупредил о последствиях использования искусственного интеллекта в войнах, сказав: "В будущем мы не будем двигаться так же медленно, как сейчас", подчеркнув срочную необходимость регулирования ИИ. Скорость технологического развития на фоне геополитических потрясений стирает границы между теоретическими концепциями и реальными событиями.Политическая дискуссия о возможностях ИИ армии США совпала с его беспрецедентным использованием в иранском кризисе. Компания по разработке ИИ Anthropic заявила, что не смогла удалить гарантии, предотвращающие использование ее технологий Министерством обороны США (Пентагоном) для массового надзора или автономного оружия.Пентагон заявил, что не заинтересован в таких применениях, но подчеркнул, что такие решения не должны приниматься компаниями. Странно, что администрация не ограничилась разрывом контракта с Anthropic, но и внесла ее в черный список, сочтя угрозой для цепочки поставок.Компания по исследованиям и разработкам в области ИИ OpenAI вмешалась, подтвердив приверженность красным линиям, установленным Anthropic. Однако ее реакция была ограничена внутренним гневом пользователей и сотрудников. Генеральный директор Сэм Альтман признал, что компания не контролирует использование Пентагоном своих продуктов, и что способ управления соглашением с Министерством обороны сделал OpenAI "п Opportunistic и нуждающимся в большем мастерстве".Но исполнительный директор организации «Остановить убийственных роботов», борющейся за человеческий контроль над применением силы, Николь ван Рёйген, предупредила: «Суть дела не в том, будет ли использовано это оружие, а в том, как оно уже изменило существующие системы ведения войн. Человеческий контроль становится второстепенным или чисто формальной процедурой».Этот коренной сдвиг уже начался. Несмотря на споры, некоторые утверждают, что Anthropic могла облегчить широкомасштабные и эскалирующие атаки в этой войне, унесшие жизни многих людей.Эксперты рассказали газете The Guardian на этой неделе, что «эпоха, в которой мы живем, — это эпоха бомбардировок, более быстрых, чем скорость мысли, где ИИ определяет цели, расставляет приоритеты, предлагает оружие и оценивает правовые основания для удара».Искусственный интеллект не является главной причиной гибели мирных жителей, военных ошибок или безнаказанности. В конечном счете, ответственность несут люди, потому что ИИ не может работать самостоятельно без людей, которые начинают войны, не думая о жертвах.Но, даже не касаясь вопросов неточности и предвзятости ИИ, его эффект очевиден для пользователей. Один военный сказал: «Целей много, и на каждую из них уходит всего несколько секунд, пока ее не разбомбят». Он добавил, что почувствовал себя бесполезным, поскольку ИИ выполнял всю операцию, что в буквальном смысле смысле облегчило массовые убийства, отдалив людей от моральных и этических чувств и ослабило подотчетность.Демократический надзор и многосторонние ограничения абсолютно необходимы, а не оставлять решения в руках производителей оружия и министерств обороны.Пока война бушует, а бомбардировки достигают пика в ведущейся в Иране войне, страны собрались в Женеве, чтобы обсудить системы автономного летального оружия. Проект обсуждаемого текста может стать прочной основой для договора, в котором человечество нуждается больше, чем когда-либо.Большинство правительств хотят четких руководящих принципов по военному использованию ИИ, но крупнейшие исполнители войн сопротивляются этому, хотя они и присутствуют в процессе принятия решений. К сожалению, интенсивность войн, возглавляемых ИИ, может интерпретировать их проводящими стороны по своему усмотрению. Некоторые могут расценить снижение интенсивности войны и бомбардировок как сдачу позиций противнику. Однако, как понимают сами технологические работники и военные руководители, риски бесконтрольного расширения несравненно выше.
