Машина Судного дня: чи може штучний інтелект розпочати ядерну війну

Симуляції Стенфордського університету показали, що сучасні моделі штучного інтелекту схильні до ескалації конфліктів аж до застосування ядерної зброї. Дослідження підняло серйозні питання про ризики автоматизації військових рішень і роль ШІ у майбутніх війнах.
Про це повідомляє Politico.
Результати військових ігор, проведених дослідницею Жаклін Шнайдер зі Стенфорда, свідчать, що штучний інтелект може стати небезпечним чинником у сучасних війнах, якщо отримає вплив на прийняття військових рішень.
За словами науковиці, під час симуляцій новітні моделі ШІ послідовно обирали сценарії агресивної ескалації, зокрема й застосування ядерної зброї. Шнайдер порівняла поведінку алгоритмів із підходом генерала часів холодної війни Кертіса Лемея, який відомий своєю готовністю застосовувати ядерну силу за мінімальних приводів.
“Моделі штучного інтелекту чудово розуміють, як розкручувати конфлікт, але фактично не здатні запропонувати варіанти його деескалації”, – пояснила дослідниця.
На її думку, це пов’язано з тим, що більшість військової літератури, яка використовується для навчання ШІ, описує саме ескалаційні сценарії, а не ті, що дозволили уникнути війни.
У Пентагоні запевняють, що ШІ не буде мати права ухвалювати рішення щодо запуску ядерних ракет, і наголошують на збереженні “людського контролю”. Водночас сучасна війна все більше залежить від автоматизованих систем. Уже сьогодні проєкти на кшталт Project Maven повністю покладаються на машинно-генеровані дані розвідки, а в майбутньому алгоритми зможуть навіть радити контрзаходи.
На додачу, у світі вже існують приклади автоматизації у сфері ядерної зброї. У Росії діє система “Периметр”, здатна завдати удару без участі людини, а Китай інвестує величезні ресурси у розвиток військового штучного інтелекту.
Журналісти нагадують і про випадок 1979 року, коли радник президента США Джиммі Картера Збігнєв Бжезинський отримав повідомлення про нібито запуск 200 радянських ракет. Лише за мить до ухвалення рішення про відплату з’ясувалося, що це була помилка системи. Питання у тому, чи штучний інтелект, який працює “рефлекторно”, зміг би дочекатися уточненої інформації, чи натиснув би “червону кнопку” автоматично.
Таким чином, дискусія про роль ШІ у військовій сфері стає дедалі актуальнішою, адже на кону може стояти не лише результат битви, а й доля всього людства.
Раніше повідомлялось, що лЛьодовик Туейтс в Антарктиді, який отримав прізвисько “льодовик Судного дня”, втрачає стабільність і може спровокувати стрімке підвищення рівня світового океану на кілька метрів.
Нагадаємо, що голлівудський актор та музикант Вілл Сміт втрапив у скандал. Зокрема, зірку “Людей в чорному” запідозрили у використанні штучного інтелекту.
Також слідкуйте за “Прямим” у Facebook, Twitter, Telegram та Instagram.
 
The post Машина Судного дня: чи може штучний інтелект розпочати ядерну війну appeared first on Прямий.