Данные с дронов в Украине: новый рынок и вызовы для ИИ

Поля сражений в Украине усеяны обломками беспилотников, которые прочно утвердились как важнейшее оружие современной войны. Однако за этими обломками скрывается новый "золотой рудник" для оборонного сектора. Данные, генерируемые дронами, переживут войны, в которых они используются, и будут всё активнее встраиваться в архитектуру искусственного интеллекта, формирующую даже гражданскую жизнь.

При каждом полёте беспилотные системы собирают тысячи точек данных: от изображений и видео до вводных данных оператора. В совокупности эти записи показывают, как машина и человек реагировали на постоянно меняющиеся обстоятельства.

Украина начала превращать этот опыт в ценный ресурс. В январе её Министерство обороны объявило, что предоставит миллионы точек данных, собранных за десятки тысяч полётов дронов, как военным подрядчикам, так и коммерческим компаниям. С тех пор более 100 компаний и правительство Великобритании получили к ним доступ.

Для страны, находящейся в состоянии войны, это быстрый способ привлечь финансирование и партнёрства. Однако этот шаг превращает линию фронта в активную площадку для обучения моделей ИИ, используя тот факт, что хаос войны создаёт условия, которые ИИ-компании с трудом воспроизводят самостоятельно.

Вероятно, другие страны и поля сражений последуют примеру Украины, но ответственность за регулирование этой новой индустрии не может ложиться исключительно на страну, борьющуюся за своё выживание. Этот правовой вакуум должен быть заполнен совместно странами и компаниями, участвующими в развитии этой отрасли.

Взрывной рост

Украинские поля сражений — не первые, что генерируют данные для обучения и разработки моделей. Американские дроны над Сирией и Йеменом собирали информацию, которая легла в основу первого поколения полуавтономного военного оборудования в конце 2010-х годов.

Разница в том, что теперь доступ к этим данным используется для развития более широкой экосистемы. Финансовая ценность для оборонных компаний огромна: данные с поля боя предоставляют обширные объёмы машинного опыта, собранного в условиях, которые невозможно воспроизвести в лаборатории.

Это объясняется тем, что наиболее ценные для обучения ИИ-моделей данные поступают из исключительных ситуаций: момент потери видимости, глушение сигнала или импровизация оператора. Компании, занимающиеся ИИ, тратят годы и огромные суммы, пытаясь зафиксировать достаточно таких моментов, чтобы сделать свои модели более надёжными. Но война генерирует их с частотой, недостижимой при контролируемом тестировании.

Эта постоянно меняющаяся среда делает данные с дронов ценными далеко за пределами поля боя. Коммерческий дрон, используемый для доставки или дистанционного зондирования, может никогда не столкнуться с артиллерийским огнём, но он всё равно должен работать с неполной информацией в мире, где люди ведут себя непредсказуемо. Война же сжимает ту же проблему в гораздо более короткие сроки.

Обработанные и сопоставленные с записями действий оператора, эти данные превращают оперативные записи в обучающие наборы. Боевые действия становятся коммерческим активом.

Многие конфликты уже демонстрировали такой цикл обучения, когда видео с дронов питало последующие поколения военных технологий, и рынок готов к росту. Американская компания Enabled Intelligence, специализирующаяся на обработке данных для обучения ИИ, заявляет, что уже предоставила более полумиллиона часов видеозаписей украинских дронов для использования в следующих раундах моделей, рекламируя возможное применение как в военных, так и в коммерческих системах.

Замыкая цикл данных

Многие дроны, которые сейчас определяют нашу современную эпоху ведения войны, изначально были гражданскими технологиями. Однако недавно они получили мощный импульс благодаря новым, коммерчески доступным системам ИИ, которые позволяют недорогим машинам работать автономно — как поодиночке, так и группами — по мере изменения окружающей среды. Каждый полёт затем создаёт запись о том, с чем столкнулась система.

Полученные данные имеют решающее значение. Контролируемые лабораторные условия, обычно разрабатываемые для обучения этих автономных систем, могут имитировать сбои, но не идут ни в какое сравнение с реальными условиями поля боя, сопряжёнными с очень реальными рисками. Военные разведывательные программы хранили данные, генерируемые системами с большим количеством датчиков, такими как дроны Predator и Reaper, почти десять лет в рамках программ типа Project Maven, но доступ к ним оставался исключительно в сфере обороны. Генерируемые данные были доступны только по ограниченным, засекреченным каналам с единственной целью разработки новых систем вооружения, которые возвращались бы той же армии, что эти данные и произвела. Этот опыт теперь распространяется на гораздо более широкую сеть разработки.

Теперь цикл замыкается. Коммерческие технологии, адаптированные для поля боя, генерируют данные, которые могут возвращаться в отрасли, из которых они пришли, становясь частью инфраструктуры данных, на которую полагаются как правительства, так и частный сектор.

Дроны, обученные в заблокированном помехами воздушном пространстве над Украиной, теперь используются в сельскохозяйственном секторе, помогая фермерам картографировать и обследовать свои поля в местах, где отсутствует сотовый сигнал, необходимый для технологий предыдущих поколений.

Другие страны, вероятно, последуют примеру Украины в продаже своих данных с полей сражений, и мы не готовы к новому рынку, который это создаст.

Злоумышленники могут получить доступ к данным, но контроль над покупками уже снижает этот риск. Разведчики тщательно проверяют инфраструктуру потенциальных клиентов на предмет того, как данные могут попасть к врагам или недобросовестным участникам.

Однако обучающие данные создают новую проблему отслеживания. В то время как перемещение коммерческих наборов данных можно отследить, если контактные данные всплывают в двух шагах от первоначального покупателя, происхождение обучающих данных ИИ исчезает способом, встроенным в саму технологию. Ещё один риск заключается в том, что такое использование данных создаёт "экономику извлечения", в которой более богатые страны, далёкие от опасности, получают выгоду от смертельной угрозы, которую несут прифронтовые государства, потенциально создавая рыночный стимул для продолжения войны как бесконечного источника "цифрового золота".

Опасный новый рубеж

Существующие законы регулируют ведение военных действий. Однако они почти ничего не говорят о том, что происходит, когда записи, созданные в бою, лишаются своего оперативного контекста, упаковываются как данные и лицензируются компаниям, чьи продукты распространяются далеко за пределами места их создания.

Обязанности компаний, разрабатывающих эти системы, остаются неурегулированными. Украина создаёт механизмы контроля доступа, которые упомянуты в недавно подписанном соглашении между Великобританией и Украиной по ИИ, но ни одно правительство активно не работает над регулированием того, что происходит, когда данные поглощаются моделью и возвращаются на гражданские рынки.

Эти записи содержат информацию о человеческих жизнях. Солдаты и мирные жители, видимые на них, не давали согласия на то, чтобы стать обучающим материалом для продуктов, которые могут быть проданы спустя годы. Однако данные с датчиков, видеозаписи и координаты гражданских лиц, спасающихся от удара дрона, теперь составляют тот тип данных, который влияет на то, как будущие машины будут принимать решения.

Это проблема согласия. Отдельные лица, присутствующие в данных — будь то цели, операторы или гражданские лица — становятся частью обучающего материала. Автономные возможности, основанные на этих данных, не ограничиваются полем боя. Такие возможности переходят в другие военные или коммерческие системы, такие как транспортные средства доставки или сельскохозяйственная техника. Ошибки и предположения, заложенные в данных, путешествуют с моделью даже после её попадания в гражданскую жизнь.

Данные с поля боя не должны рассматриваться как обычный коммерческий материал. Однако в настоящее время не существует учреждения или регулятора, обладающего юрисдикцией в этом вопросе. Тем временем правительства, предоставляющие доступ к оборонным данным, должны относиться к ним как к контролируемой передаче оружия, фиксируя их происхождение, лицензируя пользователей и ограничивая дальнейшее распространение. Украина начала решать эту проблему. Её программа Avengers Labs позволяет компаниям обучать модели на данных с поля боя, не предоставляя им прямого доступа к чувствительным базам данных. Тем не менее, это лишь частично решает проблему.

Правительства должны требовать раскрытия информации, когда модели, обученные на военном материале, впоследствии включаются в гражданские продукты. Цель такого регулирования должна состоять в том, чтобы сделать путь от боя к коммерции видимым.

На самом деле эти компании извлекают опыт. И солдаты не могут дать согласие на использование своего опыта таким образом — в качестве обучающих данных, которые дают преимущество модели и в конечном итоге поддерживают продукт, используемый далеко от места боевых действий.

Вопрос уже не только в том, что технологические компании могут продать для использования на войне. Вопрос в том, что они могут извлечь из неё.

Чтобы защитить себя от эксцессов этой новой индустрии, нам нужна система регулирования, которая будет отслеживать данные с поля боя на каждом этапе: от боевых действий до модели и коммерческого продукта.