Як воюватиме штучний інтелект (ШІ)? Останнім часом багато експертів задаються цим питанням. У британському Times вийшла стаття на цю тему з характерним заголовком – «Ось як може початися наступна світова війна». Тож як же вона почнеться?
Симуляція зіткнення
Як пише видання Korrespondent.net, що опублікувало переклад статті українською мовою, за даними Times, у 2018 році фахівці з Китаю, Росії, США і Великобританії приїхали в Лондон, щоб провести ігрову симуляцію та оцінити вплив штучного інтелекту на ядерну стабільність у світі.
Згідно з легендою, у червні 2021 року уряди кількох країн отримали повідомлення про те, що світ знаходиться на порозі ядерної війни через відео і військові звіти, які здаються правдивими, але насправді сфабриковані.
Під час симуляції три ядерні держави відчули, що знаходяться під загрозою і переключилися в режим війни. Головним фактором, що вплинув на цю ситуацію на всіх рівнях, став штучний інтелект.
Командування й управління ядерними силами цих країн покладаються на алгоритми машинного навчання. Штучний інтелект збирає й обробляє інформацію та попереджає командирів і політиків, котрі приймають рішення, про потенційні загрози. Це корисна функція, якщо вона дає більше часу для оцінки ситуації, але тільки не у випадку, якщо дані були сфальсифіковані, і штучний інтелект приходить до висновку про неминучу атаку, спираючись на підробку.
Майстри фальсифікацій
Американські спецслужби запевняють, що Росія і Китай вже здатні обманювати штучний інтелект, який працює на американських військових, пише Times. Американці прийшли до такого висновку на основі того, що обидві країни намагаються завербувати різних фахівців, пов'язаних із Пентагоном, і людей, які могли б забезпечити доступ до американських програм навчання штучного інтелекту.
Простіше кажучи, триває гонка озброєнь у сфері штучного інтелекту. До неї залучені різноманітні сили: хакери, злочинці, менеджери соціальних мереж, бійці інформаційного фронту, аналітики даних, математики, фахівці з моделювання і ще безліч людей, які впевнені, що новим полем битв стали гібридні війни.
Гонка озброєнь
У 2019 році Дональд Трамп доручив створити Американську Ініціативу в області ШІ. Вона працює у п'яти напрямах:
- Дослідження і розробки: інвестиції в ШІ-компанії.
- Ресурси: щоб у компаній був доступ до федеральних баз даних і алгоритмів.
- Стандарти: для розробки надійних і безпечних систем ШІ.
- Кадри: підготовка і навчання співробітників.
- Міжнародні зв'язки: США, на відміну від того ж Китаю, роблять ставку на обмін технологіями і спеціалістами, обіцяючи останнім кращі умови і значний об'єм венчурних інвестицій.
У Стратегії ШІ Міністерства оборони говориться про застосування даних технологій для військових потреб і кібербезпеки. При цьому ще у 2019 році в США визнавали першість Китаю за деякими показниками, пов'язаними з дослідженнями ШІ.
У 2019 році уряд США виділив близько $1 млрд на дослідження в області штучного інтелекту.
У Китаї Національна стратегія розвитку технологій ШІ з'явилася ще в 2017 році. $700 млрд планують вкласти в розумне виробництво, медицину, міста, сільське господарство й оборону.
Насправді комп'ютери вже десятиліттями допомагають генералам планувати війну. Ще на початку 90-х, під час операції Буря в пустелі в ході війни у Перській затоці, інструментарій ШІ був використаний, щоб спланувати нарощування сил на Середньому Сході до початку конфлікту. Один генерал США незабаром після цього говорив, що кількість зекономлених грошей дорівнює сумі всього, що було витрачено на розробку ШІ до цього.
Комп'ютери широко використовуються генералами і для розробки потенційних військових стратегій. Але армії не віддають всі рішення на полі бою в руки одного солдата, тому й перекладати всю відповідальність генерала в руки комп'ютера – значить зайти надто далеко.
Машину не можна притягнути до відповідальності за прийняті нею рішення. Тільки людей. І це наріжний камінь міжнародного гуманітарного права. Проте, щоб прорватися через туман війни і розібратися з великою кількістю інформації, що йде із фронту, генерали будуть все більше покладатися на підтримку комп'ютера у своїх рішеннях.
Якщо результатом цього стане менша кількість жертв серед цивільних, зменшення вогню по своїх і більшу повагу до міжнародного гуманітарного права, таку комп'ютерну допомогу варто вітати, вважає Тобі Волш, професор в області штучного інтелекту в Університеті Нового Південного Уельсу і дослідницького співтовариства Data61.
Але остаточне рішення все одно має прийматися людиною, а не машиною, упевнений учений.
