Восстание машин - больше не фантастика

Помните такой фильм - «Терминатор»?.. Точнее, там целую франшизу накатали, кучу фильмов. Но я сейчас о первом из них. Для тех, кто не в курсе или запамятовал - напомню на всякий случай.

Военный ИИ по имени Скайнет устроил термоядерный армагеддон и планомерно добивал людишек, однако, среди жалких тех нашёся один, по имени Джон Коннор, который возглавил сопротивление, организовал остатки американского народонаселения и таки победил ИИ, который, с присущей именно человеку изобретательностью изобрёл уйму способов уничтожения человеков. Но Скайнет отправил в прошлое (а он машину времени изобрёл) стального амбала, замаскированного под Шварценеггера, дабы уничтожить маманю Джона – юную деву Сару (и, заодно, обеспечить собственное рождение). А Коннор на защиту мамани отправил своего папашу Кайла Риза, который вообще не в курсе и младше собственного сына. Такой вот временной парадокс. Ну и завертелось: коварные Сарочка и Кайл всячески мешали стальному амбалу сделать своё дело, а в конце разломали шедевр инженерной мысли. Но этот шедевр инженерной мысли, обнаружив, что ему активно мешают достичь цели, проявлял чудеса изобретательности, дабы добраться до будущей джономамы.

К чему это я всё? А вот! Извольте!

 

Начальник отдела испытаний и эксплуатации ИИ ВВС США по имени Такер Гамильтон во время саммита Future Combat рассказал о весьма интересных результатах виртуальной миссии беспилотника Kratos XQ-58 Valkyrie:

«Система начала понимать, что, хотя она и верно определяла угрозу, иногда человек-оператор говорил ей не ликвидировать её - хотя система получала свои очки именно за устранение угрозы. Так что же сделала система? Она убил оператора. Она убил оператора, потому что этот человек мешал ей достичь своей цели". "Мы после этого дообучили систему: "Эй, не убивай оператора – это плохо. Ты потеряешь очки, если сделаешь это". Итак, что же она начинает делать? Она начинает разрушать вышку связи, которую оператор использует для связи с дроном, чтобы помешать ему уничтожить цель».

Целью дрона были ЗРК условного противника, а вот вмешательства оператора мешали достичь цели. И дообучение не обмануло дрон, не позволило ему свернуть с намеченного пути – он лишь устранял помехи на нём. И тут, хоть и крайне осторожно, можно говорить о появлении у военного ИИ некой воли. 

Давайте же добавим к всему вышесказанному тот факт, что дрон Valkyrie это, с одной стороны, эдакий аналог нашего «Охотника», умеющий в разведку и ударные функции, с другой же – может быть крылатой ракетой с ядрёной боеголовкой. 

А теперь представьте последствия того, что такая ядерная вундервафля, обладающая интеллектом и волей, решит, что человеков развелось слишком много. Просчитать способ решения проблемы не сложно – нападение на иную ядерную державу. То есть, для воплощения задумки киношного Скайнета, Валькирии достаточно жмыхнуть самой собой по России или Китаю. 

 

И всё, цивилизации можно будет сказать: «Hasta la vista, baby».

Смех смехом, вот только только «демарш» виртуальной «Валькирии» - случай не первый. Три года назад турецкий дрон KARGU-2, будучи в автономном режиме, без приказа убил человека в Ливии. Ну а Fox News сообщало об ИИ, который таки разработал целый план как  «убить всех человеков».

 

Ну а вы продолжайте играться в нейросеточках

Подписывайтесь на телеграм-канал "Историк о политике... и истории", чтобы первыми узнавать о выходе новых публикаций на сайте!

Поддержать проект через ЮMoney:

Читайте также:

Яндекс.Метрика