Алгоритмическая безопасность как новый вид безо- пасности в эпоху искусственного интеллекта

скачать Автор: Ковалев А. А. - подписаться на статьи автора
Журнал: Век глобализации. Выпуск №2(58)/2026 - подписаться на статьи журнала

DOI: https://doi.org/10.30884/vglob/2026.02.10

Ковалев Андрей Андреевич – к. полит. н., доцент, доцент кафедры государственного и муниципального управления Северо-Западного института управления РАНХиГС. E-mail: kovalev-aa@ranepa.ru.

Масштабное внедрение искусственного интеллекта (ИИ) во все значимые сферы жизнедеятельности человека, общества и государства провоцирует новые риски, связанные с их усиливающейся зависимостью от алгоритмов, потерей контроля над ними, а также утратой автономии. Цель статьи – философское осмысление феномена алгоритмической безопасности как нового элемента безопасности. У современного человечества возрастает потребность в защите от угроз, исходящих от ИИ, и от противников (в глобальном пространстве), использующих ИИ в качестве оружия, а также в адаптации к новым условиям на принципах сотрудничества и безопасности.

Ключевые слова: алгоритмы, алгоритмическая уязвимость, автономия человека, ответственность, свобода, нейроправа, риски.

ALGORITHMIC SECURITY AS A NEW TYPE OF SECURITY
IN THE ERA OF ARTIFICIAL INTELLIGENCE

Andrey A. Kovalev – Ph.D. in Political Sciences, Associate Professor, Associate Professor of the Department of State and Municipal Management at the Northwestern Institute of Management of the RANEPA. E-mail: kovalev-aa@ranepa.ru.

The large-scale introduction of artificial intelligence (AI) into all significant spheres of human activity, society and the state provokes new risks associated with their increasing dependence on algorithms, loss of control over them, as well as loss of autonomy. The purpose of the article is a philosophical understanding of the phenomenon of algorithmic security as a new element of security. Modern humanity experiences a growing need to protect itself from threats posed by AI and from opponents (in the global space) using AI as a weapon, as well as to adapt to new conditions based on the principles of cooperation and security.

Keywords: algorithms, algorithmic vulnerability, human autonomy, responsibility, freedom, neuro-law, risks.

Введение

Одной из характерных особенностей XXI столетия стало развитие искусственного интеллекта (ИИ) и его массовое распространение на все сферы жизнедеятельности. Такие нововведения, как алгоритмы машинного обучения, нейросетевые системы и технологии анализа больших данных, более не являются вспомогательными инструментами, они легли в основу управленческих процессов во всех сферах: общественной, экономической, политической и пр. И такое тотальное распространение алгоритмов превращает их в новый фактор риска, выходящий за рамки технической сферы. В связи с этим расширяется само понятие безопасности, которое наполняется новым содержанием, направленным не только на защиту информации, инфраструктуры или функционирования вычислительных систем, но и на обеспечение стабильности социальных процессов.

Традиционные политико-философские подходы связывают безопасность с военной силой, политическим порядком и экономической стабильностью. С началом XXI в. широкое распространение получили идеи, раскрывающие способы за-щиты информационной сферы и направленные на предупреждение цифровых угроз. Однако система безопасности по-прежнему не сосредоточена на рисках, исходящих из самой логики вычислений, то есть связанных с распространением алгоритмических систем. Полная автономизация принимаемых и внедряемых решений провоцирует новые риски, способные порождать социальные и политические последствия, сопоставимые по масштабу с военными или экономическими кризисами, даже в том случае, когда алгоритм работает без сбоев. В этих условиях актуализируется проблема безопасности управления процессами, происходящими внутри вычислительной среды, а не только вовне.

Алгоритмические системы усложняются и становятся менее понятными не только для пользователей, но и для их разработчиков. Это порождает некий парадокс, когда с ростом эффективности алгоритмических механизмов уменьшается возможность объяснить принципы их работы. В результате нарушения классического представления о рациональности, основанной на ясности и доказательности, остро встает и проблема ответственности за принимаемые решения и их последствия, поскольку отсутствует их конкретный источник. Тем самым в философии безопасности выкристаллизовывается новое проблемное поле, предполагающее рассмотрение безопасности не только как технической задачи, но и как философской проблемы.

Итак, предметом настоящего исследования выступает алгоритмическая уязвимость как проблема философии безопасности, которая проявляется как на национальном, так и на международном уровне. В пределах государства эта проблема раскрывается в процессе работы критически важной инфраструктуры, она связана с зависимостью управленческих решений от цифровых систем, а также с рисками, возникающими из-за непрозрачности вычислительных процессов. В сфере международных отношений алгоритмическая уязвимость становится фактором глобального соперничества и недоверия между акторами, поскольку наличие контроля над алгоритмическими процессами становится инструментом геополитической политики, а отсутствие открытости усиливает противоречия между глобальными игроками.

Цель исследования – осмысление феномена алгоритмической безопасности как нового элемента философии безопасности.

Таким образом, философия безопасности сталкивается с новыми вызовами современности, которые нуждаются в осмыслении. В вопросе обращения к проблеме алгоритмической уязвимости необходимо объединить нормативное и концептуальное измерения. С одной стороны, современное общество нуждается в создании правовых механизмов, с помощью которых появится возможность учитывать динамику самообучающихся систем. С другой – изменившаяся реальность ставит перед философией безопасности задачу по переосмыслению категорий рациональности, доверия, справедливости и ответственности. Так, тесное переплетение технических решений и социально-политической реальности подвигает к переосмыслению происходящих процессов и дополнению тем самым теоретического и практического философского знания.

В связи с введением категории «алгоритмическая уязвимость» актуальность приобретает, соответственно, и категория «алгоритмическая безопасность», под которой подразумевается область философского размышления о границах человеческой свободы и формах власти в цифровую эпоху.

Общество под влиянием алгоритмов: новые риски

Процессы автоматизации распространились в эпоху индустриализации, когда уровень развития техники позволил воспроизводить физический труд в механической форме. Машины в XIX в., заменяющие мускульные усилия и ускоряющие производство, воспринимались как продолжение человеческого тела. Тем самым человек и техника представляли собой единое целое, то есть человек воспринимался как часть механизма, а эффективность определялась количеством однотипных операций. Философ Жак Эллюль, критиковавший технологии, отмечал, что автоматизация приводит к некой самостоятельности техники, поскольку она не только помогает человеку в его трудовой деятельности, но и задает ритм и организацию труда [Ellul 1964]. Тем самым автоматизация предстает одновременно и как освобождение от физического труда, и как зависимость от технической среды.

Середина XX в. ознаменовала переход к кибернетическому мышлению. Норберт Винер в своем значимом научном труде под названием «Кибернетика и общество» размышляет об общественных последствиях развития кибернетики. Он сформулировал принцип управления на основе обратной связи, при котором система самостоятельно оценивает результат своего действия, соотносит его с целью и корректирует дальнейшие шаги [Винер 1958]. Тем самым отмечается, что значимость материальной сферы сместилась в сторону процессов обработки информации. То есть автоматизированный механизм (машина) стал пониматься как реагирующая и адаптирующаяся структура. Для философии техники это осознание стало поворотным этапом. Так, французский философ Жильбер Симондон, создатель теории индивидуации, отмечал, что техника приобретает собственную динамику и развивается по внутренним законам, приобретая черты своеобразной индивидуальности [Simondon 2013]. Так мироустройство изменило свою специфику, согласно которой человек был единственным центром управления: с развитием техники он начал разделять эту функцию с технической системой, действующей по алгоритмам регулирования.

Со второй половины XX в. началось стремительное распространение вычислительных технологий, а компьютер уже не был узкоспециализированным инструментом, он стал универсальным средством обработки данных. Благодаря активно внедряемым в разные сферы жизнедеятельности алгоритмам, которые превратились в главный ресурс управления, появилась возможность анализировать огромные объемы информации, прогнозировать развитие процессов и принимать решения быстрее, чем это делает человек. В финансовой сфере появились автоматизированные биржевые операции, в военной – системы раннего оповещения,
в науке – модели, ускоряющие исследовательские процессы, например способные заменять многолетние наблюдения. Философы постструктурализма, в частности Жан Бодрийяр, подчеркивали, что информационная среда перестает отражать действительность и начинает конструировать собственные модели, становящиеся основой управления [Бодрийяр 2018: 48]. Этот период ознаменовался переходом от наблюдения к вычислению, раскрывая тем самым новые свойства рациональности.

Современный этап характеризуется переходом от простого исполнения команд к способности системы обучаться и самообучаться. Тем самым ИИ, опирающийся на методы машинного обучения и нейросетевые модели, задает новые принципы управления. Алгоритм более не является статичной схемой, он становится динамической структурой, изменяющейся вместе с условиями, в которых функционирует. В связи с этим философы техники, в частности Бернар Стиглер, отмечали, что под воздействием цифровых алгоритмов создается новое время управления, которое характеризуется тем, что решения принимаются с машинной скоростью, в результате возможность человеческого контроля трансформируется и ее абсолютность сменяется относительностью [Stiegler 2011].

Переход от автоматизации к алгоритмизации не сводится только к техническому разграничению. Важное отличие состоит в том, что с началом эпохи алгоритмизации сфера мышления, так же как и тело человека (его важнейшие для труда физические параметры), задействуется в происходящие процессы. В таких условиях происходит смена источника ответственности и рациональности, поскольку все чаще принятие различных решений – даже критически важных – возлагается на алгоритмы, при этом зона ответственности за результаты принятых решений размывается.

Человечество возлагает серьезные надежды на алгоритмы ИИ, которые все чаще применяются в сферах, где от принимаемых решений зависят человеческие жизни, общественная стабильность и легитимность власти. В сложившейся ситуации машинное решение уже не может восприниматься как вспомогательный инструмент, в таком случае оно приобретает значение, сопоставимое с человеческим суждением, а границы между человеком и техникой, инструментом и действующим началом становятся неясными.

Итак, можно выделить минимум четыре важнейшие с точки зрения человеческого общежития сферы, в которых алгоритмы ИИ практически полностью заменили человека на этапе принятия решений, однако при этом зона ответственности в них остается вне поля функционирования алгоритмических систем. Речь идет о транспорте, медицине, финансовой сфере и государственном управлении. Основная сложность здесь заключается в том, что обученный ИИ действует по принципу «черного ящика», когда не вовлеченному напрямую объекту доступны только исходные данные и полученный на их основе итоговый результат. Ни промежуточные результаты, ни логика принятия решений, ни этапы сложного процесса не видны человеку. Таким образом, получается, что доверие к машине основано не на объяснимости, а на статистическом превосходстве. В этом и проявляется новая уязвимость, поскольку человек фактически вслепую доверяется системе, которую не может проверить.

Особого внимания при таких условиях принятия решений заслуживает система, которая изначально создавалась как поле для дискуссий и публичности и в ко-торой непрозрачность a priori претит ее природе. Речь идет о сфере политики и государственного управления. Никлас Луман отмечал, что власть заключается
в способности снижать сложность, обеспечивая предсказуемость системы. Алгоритм справляется с этой задачей, но делает ее невидимой для общества [Луман 2001: 97]. Здесь вполне закономерным и своевременным становится вопрос о том, остается ли политика пространством обсуждения и ответственности, если ее место занимает вычислительная система. Так проявляется новая форма власти – не харизматическая, легальная или традиционная в веберовском понимании, а алгоритмическая, скрытая в технических структурах.

По причине расширения возможностей, связанных с тотальным распространением алгоритмов и вместе с тем появлением новых угроз, необходимо рассмотреть такое явление, как алгоритмический сбой, трактуемый в инженерной мысли как ошибка кода или недостаток данных. Однако это явление имеет и философскую природу, поскольку обнажает пределы рациональности в деятельности, от ко-торой практически полностью отлучен человек. Сбой в системах ИИ тотален, так как он проявляется не только в коде, но и в данных, целевых установках и даже
в самой структуре взаимодействия человека и машины. В результате сбой становится проявлением такого явления, которое еще Мартин Хайдеггер называл ограниченностью технического раскрытия, когда алгоритм показывает мир как совокупность статистических зависимостей, но не способен уловить неповторимость конкретной ситуации [Хайдеггер 2015].

Таким образом, отсутствие у алгоритма практического разума (по И. Канту [2015]) лишает его способности принимать решение в ситуации уникального и неповторимого. Почему алгоритмы, даже обученные, не смогут воспроизвести возможности разума человека? Дело в том, что человеческое мышление опирается на память, предчувствие, мгновенное различение существенного и случайного, тогда как алгоритм ограничен пределами вероятностной модели. В таких обстоятельствах произошедший сбой обнажает предельную границу возможностей алгоритмической системы, ведь машина способна вычислить, но не способна понять, как человек понимает при помощи рассудка. Например, это актуально в медицинской сфере, в которой в настоящее время алгоритмы диагностики показывают высокую точность, однако разрыв между знанием и пониманием очевиден. Для постановки диагноза недостаточно поддающейся точным измерениям информации, даже весьма быстро и четко проанализированной в колоссальных объемах, необходимо также учитывать уникальные эпизоды биографии пациента, различные обстоятельства и возможные исключения. Так выкристаллизовываются те серьезные ограничения, с которыми сталкивается вся медицинская сфера даже на этапе постановки диагноза, и эти ограничения недопустимо игнорировать.

Таким образом, тотальное внедрение ИИ в жизнь государства и общества как открывает множество новых перспектив и возможностей, так и порождает новые риски, среди которых чрезмерная зависимость реципиентов, пользующихся результатами деятельности алгоритмов; исключение человека из различных сложных задач с одновременной неопределенностью зоны ответственности за принятые решения; невозможность полностью доверить машине все социально значимые зоны. Также в качестве риска стоит отметить вероятностную ошибку, которую уже невозможно расценивать как случайное отклонение, она становится событием, обозначающим границы новой эпохи, где безопасность общества зависит не только от надежности техники, но и от способности философского знания раскрывать основания доверия к алгоритмическому миру.

Философское измерение алгоритмической зависимости

В философском знании принципиальное значение имеет такая категория, как автономия, которая рассматривается как одна из ключевых характеристик человеческого существования. В разное время под автономией понимались способность управлять собой и подчинять страсти разуму (Античность); ответственность перед божественным законом и идея духовной свободы (христианская традиция); моральность и достоинство человека (Новое время). Однако в XXI в. с развитием алгоритмов, встроенных в цифровые системы, возникает парадокс, при котором автономия постепенно принимает зависимый характер.

В таких условиях искусственно конструируются границы выбора, имитирующие свободу, однако, по сути, алгоритмы создают пространство, в котором одни возможности становятся преобладающими, а другие вытесняются еще до их осознания человеком. Так действует не прямое принуждение, а ограничение горизонтов выбора через незаметное формирование вероятностных сценариев. Об этом писал еще Мишель Фуко, отмечая особенности власти, действующей без применения насилия через нормализацию [Фуко 2006].

По мере развития и усложнения автоматизации, в XXI в. сменившейся алгоритмизацией, кардинально менялся подход к решению задач. На ранних этапах вмешательство машин ограничивалось инструментальностью, то есть исполнительностью, тогда как творческое начало, целеполагание, моральная ориентированность и, самое главное, ответственность за принятые решения оставались за человеком. С массовым распространением ИИ человек по-прежнему остается освобожденным от трудоемкой и рутинной работы, однако при этом он лишается возможности свободного участия в проектировании собственного будущего при неопределенности вопросов ответственности за принятые решения. В настоящее время именно сверхмощная и сложная техника не просто помогает человеку исполнять те или иные сценарии, но и предвосхищает желания, формирует поведенческие сценарии и задает цели [Simondon 1958].

Дополнительную сложность в современной философии создает вопрос доверия, в рамках которого строится взаимодействие человека и машины. В условиях невозможности проверить правильность (как и другие параметры) решений и рекомендаций, исходящих от алгоритмов, человек, полагаясь на высокую скорость, удобство и ожидаемую точность, теряет способность действовать самостоятельно, хотя по-прежнему ощущает себя свободным в выборе тех или иных решений или действий. При этом рамки предлагаемых решений полностью регулируются алгоритмами.

Еще И. Кант писал о важности автономии, под которой мыслитель понимал следование закону, сформулированному разумом [Кант 2005: 56]. Это означает, что моральные границы человека не должны подчиняться внешним установкам или предписаниям, они всегда должны исходить изнутри. Однако в цифровую эпоху этот постулат теряет актуальность, поскольку способность алгоритмов к сбору информации и формированию вокруг человека «информационного пузыря» незаметно навязывает ему не только сценарии поведения, но и мыслительные модели.

Такое вмешательство во внутренние (личные, персональные) процессы внешних субъектов (ИИ) побуждает современное человечество обратить внимание на цифровую этику. По этой причине были выдвинуты и приняты различные инициативы, касающиеся регулирования вопросов, связанных с использованием ИИ. Так, следует выделить Европейскую этическую хартию об использовании искусственного интеллекта в судебных системах и окружающих их реалиях 2018 г. [Европейская… 2018]; Рекомендации ЮНЕСКО по этике искусственного интеллекта 2021 г. [Рекомендации… 2023]; Кодекс этики для использования искусственного интеллекта на финансовом рынке 2025 г. [Кодекс… 2025], представленный Банком России; Кодекс этики искусственного интеллекта 2021 г. [Кодекс… 2021], регулирующий правила поведения бизнеса в сфере ИИ; и ряд других. Ключевыми принципами всех принимаемых документов являются необходимость прозрачности и важность сохранения за человеком самостоятельности, то есть возможности влиять на автоматизированные решения. В таких обстоятельствах важнейшим становится вопрос об обеспечении так называемых нейроправ, которые направлены на защиту права на когнитивную свободу и предотвращение вмешательства алгоритмических технологий в процессы сознания. Все это необходимо для вывода человека из-под тотального контроля технических систем.

Человек как творческое начало должен присутствовать на всех этапах процесса принятия решений, однако алгоритмизация нарушает важнейший принцип прозрачности, который изначально был неотъемлемой частью научного и философского мышления. Под прозрачностью в данном случае понимается воспроизводимость и обоснованность знания. Важность промежуточных результатов и их подконтрольность человеческому разуму делает включенность человека в эти сложнейшие процессы обязательной, поскольку истина требует не только утверждения, но и демонстрации пути, по которому она была достигнута. Ценность такого знания – знания без объяснения – определяется статистической успешностью, а не степенью обоснованности. Эти обстоятельства подразумевают необходимость и важность категориального пересмотра. В частности, уже сейчас меняется смысл рациональности, которая в настоящее время раскрывается через эффективность, продуктивность и результативность. Иными словами, то, что неоднократно подтверждено практически, считается рациональным. Логическая ясность, обоснованность и прозрачность более не имеют значения.

В таких непредсказуемых и неподконтрольных человеку условиях управляемость процессом сменяется его наблюдаемостью с отсутствием возможности выявить ошибку (сбой), проанализировать его и устранить. Так обостряются вопросы справедливости и возникают обстоятельства необходимости несения ответственности за принятые решения и совершенные действия при отсутствии возможности вмешаться в процесс и раскрыть его логику. Таким образом, непрозрачность деятельности нейросетей разрушает связь, на которой держалась рациональность в научной традиции, – связь между объяснением и истиной.

В философской и правовой традиции человек представляет собой носителя воли, имеющего намерение и обязанного отвечать за свои действия. В классической модели ошибка или нарушение определялись через обращение к автору проступка, однако тотальность участия алгоритмов на этапе принятия решения не накладывает на них ответственности за эти решения, поскольку они не обладают статусом морального или юридического субъекта. Тем самым человек по-преж-
нему несет ответственность, однако его контроль над процессом значительно ограничен [Овчинников 2021: 95]. Так нарушается привычная модель, в которой весьма определенно устанавливается содержание проступка (ошибки), его источник, нанесенный этим источником ущерб и степень его вины (ответственности). Можно заключить, что всеобщая алгоритмизация порождает не только сложные морально-этические вопросы, но и правовые коллизии и неточности, то есть этическое измерение дополняет правовую сферу.

Как же формируется ответственность в цифровом пространстве? Дело в том, что ответственность утрачивает индивидуальный характер и становится сетевой, поскольку в этой среде взаимодействуют сразу несколько автономных акторов, среди них программисты, аналитики, компании, регуляторы, данные, архитектура сети и условия использования. Причем ни один из этих элементов не может претендовать на исключительное авторство. В результате ответственность приобретает распределенную форму, тогда как правовые и моральные системы пока не располагают средствами ее осмысления и регулирования.

Таким образом, современное человечество сталкивается с закономерным вопросом о границах ответственности. Существуют различные точки зрения на эту проблему, среди них предложение полностью возложить ответственность на человека, а ИИ рассматривать исключительно как инструмент; или утверждение о необходимости создания моделей коллективной или институциональной ответственности, при которых вина за ошибки или сбои распределяется между всеми участниками процесса; или убеждение об ограниченности существующих категорий, моделей и теорий с признанием необходимости выработки новых элементов контроля над ИИ, способных учитывать автономность алгоритмов и их адаптируемость на основе беспрерывной обучаемости.

Таким образом, категория ответственности, так же как и рациональности, нуж-дается в пересмотре по ряду причин, в том числе и морально-юридических. В этой связи принципиальным становится вопрос об определении источника ответственности, которым могут признаваться разработчики, владельцы систем и любые другие участники автоматизированных процессов в цифровом пространстве. Обсуждаются также инициативы по созданию специальных фондов, компенсирующих ущерб в случае ошибок ИИ. При этом стоит признать, что вся основная работа в этом направлении еще предстоит, причем весьма неоднозначная и сложная.

Алгоритмическая безопасность как новое измерение безопасности

Система безопасности государства, общества и каждого отдельного человека за последние десятилетия заметно усложнилась, в ней появились новые измерения, среди них – алгоритмическая безопасность. Основная особенность здесь заключается в том, что алгоритмы, на которые возлагаются все значимые задачи по организации разных сфер жизнедеятельности и управлению ими, сами выступают в качестве источников угроз, имеющих в настоящее время внутреннее происхождение [Вантяева 2022: 69].

Что собой представляет алгоритмическая безопасность? Это прежде всего защищенность на государственном, общественном и персональном уровнях от алгоритмических сбоев и ошибок. При этом обеспечение алгоритмической безопасности предполагает как защиту данных и бесперебойное техническое обслуживание, так и выверенность и рациональную обусловленность предлагаемых алгоритмами решений.

Введение в систему философского знания категории «алгоритмическая безопасность» является отражением происходящих не только технических, но и социальных изменений. И если техническая сторона такой безопасности определяется естественными причинами, например ограничения по контролю и управлению ИИ-механизмами во многом связаны с предельными техническими возможностями человека, то социально-философское измерение алгоритмической безопасности требует принципиально новых исследовательских подходов. Тем самым особую остроту приобретает антропологическое измерение общей системы безопасности, одним из аспектов которой является алгоритмическая безопасность.

Ключевая проблема кроется в появлении и дальнейшем усугублении зависимости от алгоритмов и их вмешательстве во все сферы жизнедеятельности. Решением этой проблемы может стать возвращение алгоритмическим системам статуса вспомогательного инструмента для облегчения жизни и деятельности человека в социальных, государственных и прочих важнейших системах. То есть необходимо поместить этот инструмент в четкие рамки, за пределами которых находятся разум, воля, свобода и автономные мыслительные процессы и границы которых нельзя нарушать [Маркова 2022: 34]. Это означает, что неотъемлемые атрибуты человека как творческого начала не должны подчиняться заданным алгоритмам и сценариям, а сами алгоритмы не должны нарушать общественный порядок по причине непрозрачности процесса принятия решений и неподконтрольности человеку. При этом важно осознавать невозможность полного устранения риска или создания условий для его избегания, поскольку безопасность – это прежде всего управление рисками. Принятие решений в социальной сфере, политике и экономике и их практическая реализация опираются на принципы справедливости, прозрачности и ответственности и всегда должны соотноситься с ними. Соблюдение данных условий позволяет управлять этими рисками. В противном случае появляются подходящие условия для возникновения угрозы.

Методологическое значение алгоритмической безопасности выражается во включенности этой категории в пространство философских исследований, при этом ключевым объектом таких научно-философских поисков становится алгоритм как носитель рисков, защита от которых не может вписаться в традиционные модели обеспечения безопасности, раскрывающиеся через использование военной силы или достижение экономической устойчивости.

Алгоритмы несут риски не только в пределах одного государства или региона, но и на глобальном уровне. В сфере международных отношений использование ИИ-технологий позволяет мировым игрокам выйти на новый уровень противостояния [Гаджимурадова 2021: 44]. В XXI в. все четче проявляет и оправдывает себя принцип, согласно которому «кто владеет передовыми технологиями, тот владеет миром». В этой гонке главными соперниками выступают США и КНР,
а остальным странам приходится действовать в режиме сохранения собственного технологического суверенитета. И если для Соединенных Штатов это противостояние является попыткой удержать мировое лидерство, то китайский опыт представляет собой новый феномен как следствие стремительного всецелого развития Китая в последние десятилетия и стремление синтезировать свои традиционные военно-философские методы и реалии последнего времени. КНР, развивая свою военно-философскую доктрину, придерживается следующих принципов: выгоды, «победить неприятеля, не переходя к бою», «поражение сильного его слабостью», «атаковать слабость, а не силу» и ряда других [Себекин, Костров 2019]. Таким образом, Китай создает уникальный опыт по приближению к мировой гегемонии, в том числе и в области передовых технологий, сочетающий в себе как достижение и сохранение передовых позиций в области научно-технического развития, так и обращение особого внимания на социальный, философский и психологический аспекты военного дела в эпоху алгоритмических угроз.

Алгоритмическая зависимость порождает алгоритмическую уязвимость, эта взаимосвязь особенно значима в сфере международных отношений, поскольку внутренние сбои и ошибки могут стать причиной глобальных кризисов в сфере экономики, вооруженного противостояния и пр. [Kotov 2024]. При этом по причине непрозрачности и некоторой непредсказуемости действий алгоритмических систем сбои и ошибки не всегда отражают намерения сторон, однако также могут быть частью провокаций и прочих манипулятивных действий. Результатом становится усиление международной напряженности, которая усугубляется в том числе за счет юридической необеспеченности этой сферы взаимоотношений.

Итак, алгоритмическая уязвимость и, соответственно, алгоритмическая безопасность становятся новыми категориями философии безопасности XXI в. Почему алгоритмы стали одним из наиболее важных философских вызовов последнего десятилетия? Дело в том, что тотальное распространение ИИ-систем порождает новые риски, связанные не только с сугубо технической стороной рассматриваемого вопроса, но и с антропологической (психологической, социальной и пр.), осмысление которой находится в области философского знания. В связи с этим на первый план выходят проблемы доверия, справедливости, ответственности, предсказуемости, прозрачности и подконтрольности человеку на всех этапах, а также уважение к личности, ее правам и свободам (в том числе свободе выбора).

Заключение

Алгоритмическая безопасность в XXI в. становится полноправной разновидностью безопасности в общей системе национальной и глобальной безопасности. Важно осознавать, что алгоритмическая уязвимость порождает множество рисков, которые в целом можно свести к проблеме выстраивания новых правил и границ во взаимодействии человека и техники (машин). При этом философия безопасности обращает внимание на этот вопрос по причине возрастания потребности у современного человечества не только защититься от угроз, исходящих от ИИ, и от противников (в глобальном пространстве), использующих ИИ в качестве оружия, но и адаптироваться в новых условиях на принципах сотрудничества и безопасности.

Алгоритмическая безопасность – это довольно новая и перспективная область для дальнейших философских исследований. По мере расширения практики использования ИИ будет обогащаться и философское знание.

Литература

Бодрийяр Ж. Симуляции и симулякры. М. : Постум, 2018.

Вантяева А. С. Социальные риски внедрения технологий искусственного интеллекта // Теория и практика общественного развития. 2022. № 7(173). С. 67–71. DOI: 10.24158/tipor.2022.7.8.

Винер Н. Кибернетика и общество. М. : Изд-во ин. лит-ры, 1958.

Гаджимурадова Г. И. Информационные технологии и противодействие различным видам экстремизма в эпоху глобализации // Научный результат. Социология
и управление. 2021. Т. 7. № 2. С. 40–48. DOI: 10.18413/2408-9338-2021-7-2-0-4.

Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях // Европейская комиссия по эффективности правосудия [Электронный ресурс]. 3–4 декабря 2018 г. URL: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4 (дата обращения: 28.10.2025).

Кант И. Лекции по этике // Кант И. Лекции по этике. М. : Республика, 2005.

Кант И. Критика практического разума. М. : Эксмо, 2015.

Кодекс этики в сфере искусственного интеллекта [Электронный ресурс] : Альянс в сфере искусственного интеллекта. 2021. 26 октября. URL: https://a-ai.ru/wp-content/
uploads/2021/10/Кодекс_этики_в_сфере_ИИ_финальный.pdf (дата обращения: 28.10.2025).

Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке [Электронный ресурс] : Центральный банк России. 2025. 9 июля. URL: https://cbr.ru/Content/Document/File/178667/code_09072025.pdf (дата обращения: 28.10.2025).

Луман Н. Власть. М. : Праксис, 2001.

Маркова Е. С., Пронин К. М. Искусственный интеллект: риски и угрозы // Инновационная экономика и право. 2022. № 2(21). С. 30–38. DOI: 10.53015/2782-263X_
2022_2_30.

Овчинников А. И. Права человека в условиях цифровой трансформации общества и государства // Вестник юридического факультета Южного федерального университета. 2021. Т. 8. № 4. С. 93–98. DOI: 10.18522/2313-6138-2021-8-4-15.

Рекомендации по этическим аспектам искусственного интеллекта // Искусственный интеллект Российской Федерации [Электронный ресурс]. 2023. 6 июня. URL: https://ai.gov.ru/knowledgebase/dokumenty-mezhdunarodnykh-organizatsiy-po-ii/2021_reko
mendaciya_ob_etike_iskusstvennogo_intellekta_recommendation_on_the_ethics_of_artificial_intelligence_unesco/ (дата обращения: 28.10.2025).

Себекин С. А., Костров А. В. Военная философия Китая и кибервойна: традиционная концептуальная основа для нетрадиционных операций // Международные отношения. 2019. № 3. DOI: 10.7256/2454-0641.2019.3.30872. URL: https://nbpublish.com/
library_read_article.php?id=30872 (дата обращения: 29.10.2025).

Фуко М. Интеллектуалы и власть: Избранные политические статьи, выступления и интервью. М. : Праксис, 2006. Ч. 3.

Хайдеггер М. Бытие и время. М. : Академический проект, 2015.

Ellul J. The Technological Society. New York : Vintage Books, 1964.

Kotov D. Data Security and Privacy in the Age of Artificial Intelligence // Universum: технические науки. 2024. № 6–6(123). С. 12–17. DOI: 10.32743/UniTech.2024.123.6.17820.

Simondon G. Du mode d’existence des objets techniques. Paris : Aubier, 1958.

Simondon G. L’individuation à la lumière des notions de forme et d’information. Grenoble : Éditions Jérôme Millon, 2013.

Stiegler B. The Decadence of Industrial Democracies. Cambridge : Polity Press, 2011.