Ізраїль створив "ШІ-центр" для військових цілей - Washington Post

"Технологічна перевага -- це те, що зберігає Ізраїль у безпеці", -- сказав Блейз Мішталь, віце-президент із питань політики Єврейського інституту національної безпеки Америки, якого розвідувальний відділ Армії оборони оборони Ізраїлю проінформував про можливості ШІ у 2021 році. "Чим швидше Ізраїль зможе Визначте можливості противника та виведіть їх з поля бою, тим коротшою буде війна, і вона матиме менше втрат".

На додаток до занепокоєння щодо якості розвідувальних даних, отриманих за допомогою штучного інтелекту, використання цієї технології спричинило розбіжну зміну парадигми в ЦАХАЛ, узурпувавши культуру розвідки , яка історично цінувала індивідуальні міркування для того, хто віддавав пріоритет технологічній майстерності, згідно з трьома з них. людей. 8200 давно надавав аналітикам нижчого рівня повноваження обходити своїх безпосередніх начальників і видавати прямі попередження старшим командирам.

Згідно з інформацією трьох джерел, під керівництвом Саріеля та інших лідерів розвідки 8200 відбулася реструктуризація, спрямована на посилення ролі інженерів. У процесі скоротили кількість фахівців з арабської мови, усунули декілька керівників, які не були готові до впровадження штучного інтелекту, а також розформували групи, що не займались технологіями збору даних. Один з інформаторів зазначив, що на 7 жовтня 60% співробітників підрозділу зайняті в інженерних та технічних сферах, що є вдвічі більше, ніж десять років тому.

Діяльність ЦАХАЛу в сфері розвідки підлягає перевірці. Обвинувачення, висунуті Південною Африкою проти Ізраїлю в геноциді та передані до Гааги, ставлять під сумнів, чи були ключові рішення щодо бомбардування об'єктів у Газі ухвалені за допомогою програмного забезпечення. Це розслідування може прискорити глобальну дискусію про вплив технологій штучного інтелекту на воєнні дії.

А в Ізраїлі Саріель у вересні заявив, що планує піти з Армії оборони Ізраїлю під час посилення допиту щодо провалів розвідки, які призвели до нападу 7 жовтня.

Два екс-командири високого рангу висловили думку, що підвищена увага до штучного інтелекту стала однією з основних причин, чому Ізраїль виявився непідготовленим в той день. Керівництво надто акцентувало увагу на нових технологіях, що ускладнювало аналітикам можливість донести свої попередження до вищих офіцерів.

"Це була фабрика ШІ", -- сказав один колишній воєначальник на умовах анонімності, щоб описати теми національної безпеки. "Людину замінила машина".

Саріель через ЦАХАЛ відмовився коментувати ситуацію. Він також не дав відповідей на запити, які були надіслані на його приватну електронну пошту.

У 2019 році, за два роки до того, як він став начальником розвідки, Саріель провів рік на курсах у Університеті національної оборони, що фінансується Пентагоном, у Вашингтоні. Цей заклад готує лідерів у сфері національної безпеки з різних країн. Один з професорів NDU, який побажав залишитися анонімним, розповів виданню The Post про їхні особисті стосунки, зазначивши, що у них є спільне радикальне бачення використання штучного інтелекту на полі бою. Він підкреслив, що Ізраїль повинен іти вперед з більш агресивними ініціативами, ніж його обережніші союзники зі США.

"Йоссі існував у цьому світі: 'Ця річ рухається з неймовірною швидкістю, швидше, ніж може собі уявити будь-хто.' 'Нам слід залучити всіх', -- зазначив професор."

У книзі, яку Саріель написав під час творчої відпустки та опублікував під псевдонімом, викладено бачення автоматизації установ національної безпеки. У "Команді "Людина-машина: як створити синергію між людиною та штучним інтелектом" Саріель описує, як дії терористів-одинаків можна передбачити заздалегідь, використовуючи алгоритми для аналізу місцезнаходження телефонів, публікацій у соціальних мережах, записів, знятих дроном, і перехоплених даних. приватні комунікації.

У масштабному погляді Саріеля, штучний інтелект вплине на всі сфери оборони як у мирний, так і у воєнний час. Завдяки технологіям моніторингу, Ізраїль зможе впровадити "розумні кордони". Аналізуючи цифрові сліди, військові зможуть формувати розвинені "банки цілей", що міститимуть імена, місця проживання та поведінкові патерни тисяч підозрюваних. На думку Саріеля, ці інновації можуть дозволити зменшити кількість аналітиків у сфері розвідки, які володіють іноземними мовами, до 80% всього за п’ять років.

Саріель повернувся до Ізраїлю, сповнений рішучості реалізувати свої задуми. Влітку 2020 року Авів Кохаві, який на той час обіймав посаду начальника штабу армії та активно підтримував впровадження технологій штучного інтелекту, доручив йому очолити підрозділ 8200 — найбільшу та найпрестижнішу частину ЦАХАЛ. Старші командири зібралися, щоб висловити свої занепокоєння щодо "релігійного підходу до штучного інтелекту", який почав формуватися в підрозділі під керівництвом Саріеля, як повідомили двоє джерел.

Кохаві відмовився від коментарів.

Коли Саріель офіційно зайняв пост командира в лютому 2021 року, підрозділ 8200 вже понад сім років займався дослідженнями в галузі аналізу даних. Це підтвердили п'ятеро колишніх високопосадовців, які вказали на стрімкий розвиток цифрових комунікацій, що стали важливим ресурсом для органів національної безпеки. Цей елітний підрозділ здобув репутацію майстра збору великих обсягів даних, включаючи приватні повідомлення, електронні листи, записи дзвінків та інші елементи онлайн-мережі, використовуючи свої власні кібертехнології, які вважаються найсучаснішими у світі.

Проте фахівцям з кібербезпеки 8200 необхідно було знайти методи для аналізу зібраних ними даних.

Після комунікаційних збоїв під час війни проти Хезболли в Лівані в 2006 році ізраїльські військові перерахували свою стратегію обміну інформацією та даними. У той час розвідувальні підрозділи зазвичай не ділилися інформацією з солдатами на полі бою, сказав Бен Каспіт, ізраїльський оглядач Al Monitor, який пише книгу про підрозділ 8200. Щоб запобігти таким силосам, Моссад, ізраїльське шпигунське агентство, і 8200 розробили базу даних -- "пул" -- для розміщення всієї військової розвідки в одному сховищі.

Коли в Силіконовій долині розпочався сплеск інтересу до "великих даних", ізраїльські інженери вирішили протестувати наявні інструменти для інтелектуального аналізу даних, які здатні здійснювати переклад та аналіз арабської та фарсі. Керівники підрозділу активно обговорювали можливість укладення угоди з фахівцями, такими як компанія Palantir, що спеціалізується на аналізі даних, або ж розробити власні програмні рішення.

Переміг останній підхід . Але технології, хоч і визнані багатообіцяючими, мали обмеження. Інколи аналітики 8200 перехоплювали величезну кількість перехоплених даних . Наприклад, оперативники ХАМАС часто використовували слово "батих", або кавун, як код для бомби, сказав один із людей, знайомих з діями. Але система була недостатньо розумною, щоб зрозуміти різницю між розмовою про справжній кавун і закодованою розмовою між терористами.

"Якщо ти підхоплюєш тисячу розмов на день, чи справді я хочу почути про кожен кавун у Газі?" людина сказала.

Обійнявши позицію вищого керівництва, Саріель значно прискорив процес аналізу даних. Він ініціював масштабну реорганізацію, яка розділила розвідувальні зусилля на так звані "фабрики ШІ", розташовані в новоствореному "цільовому центрі" на авіабазі Неватім на півдні Ізраїлю. Кожен підрозділ створив сотні спеціально адаптованих алгоритмів та технологій машинного навчання, активно обмінюючись прогнозами програмного забезпечення по всьому ланцюгу розвідки.

Військові інвестували в нові хмарні технології , які швидко обробляли алгоритми, готуючись до очікуваного конфлікту з Хезболлою на північному кордоні Ізраїлю. Додаток під назвою Hunter надавав солдатам на полі бою прямий доступ до інформації. Він створив інший мобільний додаток під назвою Z-Tube, за допомогою якого солдати ЦАХАЛу в бою могли переглядати відео в прямому ефірі з територій, куди вони збиралися увійти, а також інший під назвою Map It, який надавав у реальному часі оцінки потенційних втрат серед цивільного населення в певній зоні евакуювали.

8200 тривалий час забезпечував підтримку цільового банку, що містив точний список GPS-координат інфраструктури ХАМАСу і Хезболли, а також людей, геолокованих до конкретних тунелів чи поверхів житлових будинків. Ведення цільового банку вимагало значних зусиль. Як повідомляють три особи, знайомі з програмою, аналітики зобов'язані були перевіряти свої висновки принаймні з двох незалежних джерел і постійно оновлювати дані. Згідно з інформацією п'яти джерел, перш ніж ціль могла бути офіційно внесена до банку, вона повинна була бути "підтверджена" старшим офіцером і військовим юристом для забезпечення відповідності міжнародному праву.

Керівники розвідувальної служби, очолювані Саріелем, вважали, що технології машинного навчання здатні суттєво полегшити та пришвидшити цей складний процес, повідомили двоє джерел.

"Для ІРІ [розвідувального управління] знадобилося багато років, щоб сформувати банк цілей, але що трапиться, якщо навчити штучний інтелект наслідувати дії офіцера-націльника?" — зауважив інший екс-військовий чиновник, який обізнаний із процесом визначення нових цілей.

Зусилля полягали у зборі мільярдів сигналів з датчиків, встановлених на безпілотниках, літаках F-35 та підземних сейсмічних моніторах, а також із перехоплених комунікацій. Ці дані поєднувалися з базами інформації, які містили телефонні номери, профілі у соціальних мережах, відомі контакти, групи чатів та внутрішні документи. Усі ці відомості оброблялися програмним забезпеченням, здатним виявляти закономірності та робити прогнози щодо потенційних цілей.

Алгоритм для розпізнавання зображень був навчений аналізувати тисячі супутникових знімків з метою визначення конкретного виду матеріалу, який використовували бойовики ХАМАС для маскування місць, де були закопані ракети. Як зазначив колишній військовий, ці інструменти дозволили скоротити тижневу роботу до всього 30 хвилин.

"Вони дійсно вважали, що завдяки всім датчикам, розташованим навколо та над Газою, у них є не повна, але дуже чітка картина того, що відбувається всередині", -- зазначив Мішталь, керівник організації, яка займається безпековим співробітництвом між США та Ізраїлем. Він також підкреслив, що під час його брифінгу в 2021 році військові акцентували увагу на своїй строгій процедурі перевірки рекомендацій щодо націлювання.

У 2020 році була розроблена алгоритмічна програма під назвою Lavender, яка аналізувала дані з метою формування списків потенційних членів ХАМАС та Ісламського джихаду. За словами трьох осіб, знайомих із цією системою, кожному індивіду присвоювалася оцінка, що відображала ймовірність його причетності до цих груп. Фактори, які могли збільшити цю оцінку, включали участь у чаті WhatsApp з відомим бойовиком, часту зміну місць проживання та телефонних номерів, а також згадки в архівах ХАМАС.

Про існування Lavender і подробиці про його систему оцінки вперше повідомив +972, ізраїльсько-палестинський сайт новин.

Оцінки, отримані з різних алгоритмів і інтегровані в парасолькову систему Gospel, могли бути предметом запитів для аналітиків у сфері розвідки.

Декілька керівників відділу висловлювали занепокоєння стосовно точності цих алгоритмів. Під час перевірки технології обробки природної мови з'ясувалося, що прогнози програмного забезпечення не досягали рівня точності, який продемонстрував би людський офіцер, за інформацією двох осіб.