Материал опубликован в журнале «Арсенал Отечества» № 4 (42) за 2019 г.

Андрей Ильницкий, Александр Лосев

Успехи технологий машинного интеллекта и искусственных нейронных сетей открывают путь к созданию сверхмощной интеллектуальной системы, которую принято называть искусственным интеллектом (ИИ).

Ведущие мировые державы, в том числе и Россия, начали реализацию национальных стратегий развития ИИ. Широкое внедрение технологий ИИ способно обеспечить государствам существенные экономические преимущества через повышение эффективности производства, усилить научный потенциал, обеспечить безопасность в информационной сфере и превосходство в обычных видах вооружений.

Но, как и любая технология двойного назначения, ИИ несет в себе не только выгоды, но и риски, причем риски общепланетарного масштаба, особенно если произойдет монополизация ключевых технологий в одной из держав, если ИИ станет оружием психологической и информационной войны или кибервойны. «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны - тот станет властелином мира», – заявил недавно Президент России Владимир Путин.

Увы, но реалии таковы – современный мир уже объективно живет в состоянии прокси-гибридной войны, развязанной отнюдь не Россией. Эта прокси-война ведется за гегемонию, за технологическое превосходство, за природные и людские ресурсы, за сохранение контроля над финансами, торговлей и технологиями – с одной стороны и за многополярность, собственное суверенное будущее – с другой.

В этой ситуации опора на ядерное сдерживание – спасение. На сегодняшний день, а это признано и нашими оппонентами, Россия в состоянии нанести неприемлемый для них ущерб, потому вероятность прямого «горячего» конфликта маловероятна.
 Но по этой же причине, основными «средствами поражения» коллективного Запада во главе с США с целью ослабления их потенциальных противников – становятся сдерживание технологического развития, экономические санкции, манипулирование информацией, кибервоздействие, а также создание разномасштабной нестабильности в отдельных странах и целых регионах мира.

Буквально на наших глазах происходит смена стратегии противостояния Запада, во главе с США, против России. Концептуально – «Горячей войне» – какой она видится Западу – должна предшествовать так называемая прокси-война или гибридная война. Об этом откровенно говорится в «Концепции быстрого глобального удара» и в «Стратегии национальной обороны США», и в недавно опубликованном докладе RAND Corporation о направлениях «перенапряжения» России, выстроенным по тем же алгоритмам как было в рейгановские времена против СССР.


Цель такой прокси-гибридной войны – всеми доступными методами (от экономических до информационных) сбить Россию с курса, навязать ей чуждую повестку, измотать/«перенапрячь» наше государство, подорвать его экономику и политическую стабильность, повлиять на моральный дух населения, уменьшить волю к сопротивлению и, в конечном счете, вынудить элиты, а затем и страну, капитулировать перед Западом. Для эффективности таких гибридных атак идет поиск уязвимостей, на которые направляется острие удара.

Одновременно с этим на Западе идет активное развитие технологий искусственного интеллекта (ИИ) для использования его как в целях безопасности и обороны, так и нападения. Считается, что ИИ – это третья революционная инновация в военном деле после изобретения пороха и ядерного оружия.
США стремятся занять лидирующие позиции в исследованиях ИИ и применении его для разработки кибероружия и автономных видов вооружений. Активно работает в этом направлении и Китай.

Ряд экспертов, бизнесменов и представителей IT-компаний призывают запретить разработку любых видов вооружений и автономных технологий, использующих ИИ, рассказывая о том, что ИИ в конечном итоге уничтожит человечество. Странно лишь то, что запреты эти, судя по всему, предполагается распространить на РФ и Китай прежде всего, а не на страны «цивилизованного демократического мира» – то есть Запад.
Отметим при этом, что в идущем в «вялотекущем режиме» в ООН обсуждении конвенции о запрещении такого оружия, просматривается, по сути, не что иное, как попытка американцев и их союзников заблокировать, прикрываясь рассуждениями об общечеловеческих ценностях, создание вооружений с ИИ их геополитическими соперниками, в первую очередь Россией и Китаем.

Так или иначе – в ближайшие несколько лет все ведущие мировые державы будут втянуты в гонку инновационных вооружений, потому что любое техническое отставание от потенциальных противников увеличивает уязвимость, прикрыть которую обычными конвенциональными видами вооружений будет очень сложно.
«Искусственный интеллект и машинное обучение будет иметь преобразующее влияние на кибербезопасность и кибервойны… Кибератаки станут комплексными и крайне опасными», говорится в докладе «Искусственный интеллект и национальная безопасность» вашингтонского Центра стратегических и международных исследований (The Center for Strategic and International Studies, CSIS).

Учитывая повсеместный переход «на цифру», масштабы последствий инфо и кибератак будут постоянно расти, как и бюджеты на киберзащиту и противодействие.
«Охота за уязвимостями» будет настолько хорошо автоматизирована, что условная «Третья мировая война» может свершиться в течение нескольких секунд, если одно государство-гегемон с помощью технологий ИИ возьмет под контроль все основные системы жизнеобеспечения стран-соперников. За примерами таких намерений далеко ходить не надо – вспомним недавние «утечки» опубликованные в американской прессе по поводу готовящихся атак на энергетическую инфраструктуру РФ.

Очевидно, что использование ИИ как в сфере государственного управления, как и в области обороны, – это управленческие решения дОлжные приниматься на высшем уровне, это компетенция политического руководства стран мира. Внедрение ИИ в систему управления существенно расширит возможности оперативного сбора и анализа информации общественного характера, что позволит принимать социально-экономические решения и формировать определенные аспекты во внутренней политике.
Однако надо понимать – ИИ может выступить не только как советник и помощник, но и как «цифровой Мефистофель». ИИ, включенный в технологии государственного управления, становится инструментом внутренней и внешней политики, и, потенциале, может привести как к укреплению государств, так и к их разрушению.

Неготовность к внедрению или ошибки при создании ИИ – таят в себе серьезные угрозы. И во многом сегодня опасность искусственного или машинного интеллекта сосредоточена в области компетенций, а вовсе не в использовании ИИ в военных беспилотниках, ракетах или в танках.
Очевидны риски ИИ в сфере информации и в киберпространстве. ИИ уже скоро будет способен создавать «фейковые новости», размещать поддельные пресс-релизы на сайтах правительств и центробанков, формировать искусственную реальность в режиме онлайн, менять видеоконтент телепередач и взламывать аккаунты соцсетей и распространять там специальную информацию для того, чтобы влиять на сознание граждан и заставлять политиков принимать «нужные» решения.

Таким образом – инновационные достижения в области ИИ несут не только благо для экономик стран, но и риски спровоцировать реальный конфликт между странами и блоками. А учитывая то, что как подчеркнул в интервью газете «Коммерсант» заместитель Министра Иностранных дел РФ Сергей Рябков: «Создается впечатление, что к разного рода «ядерным кнопкам» в США все более приближаются люди, в том числе из поколения компьютерных игр, крайне безответственно относящиеся к вопросу о применении военной силы», - риски лишь возрастают. В этом – в людях, их ответственности и компетенциях, прежде всего, заключается серьезная опасность новых технологий.

И еще о рисках с сугубо российской спецификой… Объявленная в РФ программа тотальной цифровизации, местами, увы, очень напоминает гонку «за бюджетами», куда стремятся все кому не лень. Это порождает дополнительные риски национальной безопасности. Суть – в порочной практике, когда победы в тендерах госзакупок порой достаются не компетентным научно-производственным организациям, а тем компаниям, где «эффективный менеджмент» обладает связями и натренирован добежать до бюджетных денег быстрее всех остальных. Подобная практика в случае с искусственным интеллектом может иметь страшные последствия, и это даже не потеря времени и миллиардов рублей – угроза в том, что технологии ИИ ошибок не прощают, и исправить ничего не дадут, это не алгоритмы, которые можно перезапустить.

Необходима государственная экспертиза как самих проектов, подразумевающих использование технологий ИИ, так и выстроенная система тестирования для обнаружения возможных ошибок, умышленных вкладок и сбоев. И поскольку речь идет о безопасности государства, такую экспертизу на межведомственном уровне (СБ РФ) следует поручить компетентным силовым органам РФ (МО, ФСБ и др.), где должны быть созданы специализированные подразделения для контроля рисков и лицензирования технологий ИИ.

Политики и военные должны предвидеть последствия применения новых технологий ИИ как в экономике и общественной жизни, так и «на поле боя», четко прогнозировать проблемы, которые ожидаются в будущих конфликтах и способствовать формированию систем минимизации ущерба и управления рисками. По-видимому, назрело создание национального Центра развития Искусственного интеллекта, где могла бы осуществляться координация науки и промышленности с целью ускорения продвижения и реализации возможностей ИИ, масштабирования технологий и синхронизации действий Минобороны РФ с другими ведомствами, наукой, образованием и бизнесом.

Мы уверены – Россия, будучи мирной державой с сугубо оборонной доктриной безопасности – как это бывало в истории уже не раз – сможет, «срезав углы», создать необходимые компетенции в области ИИ, укрепить свой потенциал как в сфере информационной и кибербезопасности, так и в национальной безопасности в целом. 

Авторы: Ильницкий Андрей Михайлович, советник Министра обороны Российской Федерации; Лосев Александр Вячеславович, член Президиума СВОП, генеральный директор АО «УК “Спутник”».

 

Последние материалы

Новости
Статьи
Блог

Партнёры

Реклама

Журнал онлайн

Подписка на журнал

Журнал «Арсенал Отечества» продолжает подписку на 2023 год.

По вопросам подписки для юридических лиц или приобретения журнала в розницу обращайтесь к С.А. Бугаеву
bugaev@arsenal-otechestva.ru
+7 (916) 337-14-17

Электронная подписка - https://www.ivis.ru/

Оформить подписку для физических лиц можно через компанию ООО «Деловая Пресса» тел. (499)704-1305, Email: podpiska@delpress.ru,
сайт: https://delpress.ru/information-for-subscribers.html  и ООО « Урал-Пресс Округ » http://www.ural-press.ru/catalog/

Стоимость годовой подписки — 15 000 руб.

Редакция журнала

Адрес редакции:
107023, г. Москва, ул. Большая Семёновская, д.32, офис 200

Телефон:
+7 (495) 777 23 14

E-mail:
info@arsenal-otechestva.ru