Що сталося.Тюрк нарахував понад 60 воєн за участю щонайменше однієї держави, найбільше з 1945 року. Він назвав траєкторію російської війни проти України загрозливою, вказав на зростання жертв серед цивільних і на посилення ударів по енергетиці. Він заявив, що вражений повідомленнями про повністю автономні російські дрони, які минулого місяця вбили трьох українців, і закликав заборонити зброю, яка вбиває без участі людини.
Аналіз.Це перша пряма звʼязка "автономна зброя - конкретні смерті - заклик до заборони" на рівні Верховного комісара з посиланням на Україну. Вона підживлює переговорний трек ГА ООН щодо автономних систем озброєнь. Правова позиція проста: якщо рішення про застосування сили ухвалює машина, атрибуція відповідальності за порушення МГП руйнується.
Україна.Двобічний ефект. Заява дає Україні аргумент про протиправність російських систем. Вона ж створює стандарт, під який потраплять українські ударні системи з автономними режимами. Наслідки для експортних партнерств варто продумати заздалегідь.
Що сталося.За чотири дні Lieber Institute опублікував три тексти про застосування міжнародного гуманітарного права до військового штучного інтелекту: оцінювання систем, пропорційність при ударах по дата-центрах і правило Рендуліча в націлюванні з допомогою ШІ.
- Oded Hen, How Should Military AI Be Evaluated Under IHL?, 8 вересняОцінювати військовий ШІ треба через принцип обережності, а не лише через огляд нових видів зброї. Еталон - результат людини без допомоги в тих самих умовах, а не ідеал. Парадокс: вища точність кожного удару може підняти сукупну шкоду цивільним, якщо зростає темп операцій.
- Shundai Akiyama, Rethinking Proportionality in the Cloud Age, 10 вересняВтрата хмарного сервісу сама по собі не є забороненою шкодою. Але очікувані смерть, поранення чи фізичні руйнування, що з неї випливають, входять у розрахунок пропорційності.
- Mitch Topaloglu, Federated Front: AI-Assisted Targeting and the Rendulic Rule, 11 вересняПравило Рендуліча оцінює командира за інформацією, розумно доступною на той момент. Федеративні архітектури ШІ його задовольняють, якщо дають пояснювані результати в межах сертифікованого навчання.
Аналіз.Три тексти складаються в один стандарт обачності для ШІ в націлюванні: пояснюваність, сертифіковані межі, порівняння з людиною, врахування каскадних ефектів.
Україна.Українські сили застосовують ШІ в націлюванні масштабно. Це та рамка, у якій захищатимуть українського командира після помилкового удару, і той самий стандарт, за яким оцінюватимуть російські автономні системи з пункту 4.