Концепция культуры В. С. Степина и феномен искусственного интеллекта

скачать Автор: Алексеева И. Ю. - подписаться на статьи автора
Журнал: Философия и общество. Выпуск №3(116)/2025 - подписаться на статьи журнала

DOI: https://doi.org/10.30884/jfio/2025.03.02

Алексеева Ирина Юрьевна – доктор философских наук, ведущий научный сотрудник Института философии РАН. E-mail: ialexeev@inbox.ru.

Автор статьи рассматривает феномен искусственного интеллек-
та (ИИ), опираясь на предложенную В. С. Степиным концепцию культуры как совокупности надбиологических программ человеческой деятельности, поведения и общения. С этих позиций искусственный интеллект как научное направление трактуется как программа культуры, возникшая на определенном этапе развития информационно-технологической мега-
программы. Предлагается концепт «большой культурной программы ИИ», включающей не только собственно ИИ как научное направление, но также производство и использование систем ИИ, этическое и правовое регулирование в данной сфере, научно-техническую и промышленную политику, философию ИИ, футурологию и многое другое. Автор утверждает, что версии «апокалиптического ИИ», допускающие появление не контролируемого человеком «сверхинтеллекта» («сверхразума»), игнорируют отличие культурных феноменов от явлений природы. Подчеркивается ответственность человека за интеллектуальные технологии, включая технологии генеративного искусственного интеллекта.

Ключевые слова: искусственный интеллект, В. С. Степин, программы культуры, этика искусственного интеллекта, «апокалиптический ИИ», Н. Бостром, ChatGPT, регулирование в сфере искусственного интеллекта.

Vyacheslav S. Stepin’s Concept of Culture and the Phenomenon of Artificial Intelligence

Irina Yu. Alekseeva –Institute of Philosophy, Russian Academy of Sciences.

The author of the paper examines the ethics of artificial intelligence from the position of the concept of culture proposed by Vyacheslav S. Stepin. According to Stepin, culture is a set of supra-biological programs for human activity, behavior, and communication. From this perspective, Artificial Intelligence (AI) as a scientific field is interpreted as a cultural program that emerged at a certain stage in the development of an information technology mega-program. The concept of “large AI cultural program” is proposed, which includes not only AI as a field of study, but also the creation and use of AI systems, ethical and legal regulations in this area, scientific, technological, and industrial policies, AI philosophy, and futurology, among other things. The author argues that the “apocalyptic AI” version, which allows for uncontrolled human “superintelligence”, ignores the difference between cultural and natural phenomena. The author emphasizes human responsibility for intelligent technologies, including generative artificial intelligence technologies.

Keywords: Artificial Intelligence, Vyacheslav S. Stepin, programs of culture, ethics of Artificial Intelligence, “apocalyptic AI”, Nick Bostrom, ChatGPT, regulation in the field of Artificial Intelligence.

В. С. Степин, хорошо известный как философ науки, сформулировал концепцию культуры, открывающую новые возможности
в осмыслении феномена искусственного интеллекта и вызовов, которые несет человеку и человечеству стремительное развитие интеллектуальных технологий. Культурологической концепции В. С. Степина (в отличие от концепции «постнеклассики», получившей широкое признание еще при жизни автора) до сих пор не уделялось той степени внимания, которую она заслуживает. Это можно, по-види-мому, объяснить непривычностью для культурологов тех способов рассуждения и оптики, которые органичны для исследователя, сфор-мировавшегося в области философии науки. Исключением выглядят А. С. Запесоцкий и А. Н. Данилов, оценившие исследования В. С. Степина как новую теорию культуры [Запесоцкий, Данилов 2025]. Между тем новые тенденции в сфере искусственного интеллекта и когнитивных наук свидетельствуют об актуальности подходов к культуре, представленных в отечественной теории познания, философии науки и психологии. В. А. Лекторский, отмечая, что «многие идеи новейшего направления в когнитивных исследованиях – 4E Cognition** – не столь уж новы для нас», справедливо называет В. С. Степина в ряду ученых, в чьих работах сходные идеи были сформулированы и развиты раньше [Лекторский 2022: 16].

Одно из свидетельств актуальности «философского обеспечения» правового регулирования в сфере ИИ – статья «Право и вызовы искусственного интеллекта», опубликованная в «Российской газете» председателем Конституционного суда Российской Федерации В. Д. Зорькиным. Здесь поднят ряд важных вопросов, так или иначе касающихся обсуждаемой сегодня правоведами возможности наделения системы ИИ статусом «электронного лица». Автор связывает тенденции сужения сферы субъектности человека и наделения субъектностью технических систем с непомерно возросшим влиянием постмодернистской философии. Зорькин пишет: «…методологической подоплекой предложений о предоставлении искусственному интеллекту личной правосубъектности выступают идеи о “децентрировании” понятия человека как субъекта (в том числе как субъекта права) и о случайном, изменчивом и нецелостном его характере, подготовленные деконструктивистской программой постмодернизма» [Зорькин 2024].

Мы склонны расценивать как сгущающее краски утверждение В. Д. Зорькина о том, что «мир оказался духовно и концептуально обезоруженным» перед лицом «трансгуманистического морока». Тем не менее нельзя не признать настоятельной потребности в разработке философских концепций, которые соответствовали бы современным технологическим вызовам, помогали осмысливать прошлое и видеть контуры будущего. Цель состоит не в создании преград для технологического развития, а в нахождении способов на-правлять это развитие на благо человека.

Концепция культуры, о которой мы ведем речь, представлена в книге В. С. Степина «Цивилизация и культура», опубликованной
в 2011 г. [Степин 2011], однако основные культурологические идеи автора были заявлены на два десятилетия раньше – в книге «Философская антропология и философия науки», изданной в начале 1990-х гг. [Его же 1992]. Преимущества концепции В. С. Степина обусловлены как достаточно четкими формулировками основных положений, так и потенциалом «программоцентричного» подхода
в изучении явлений и процессов, вызываемых стремительным развитием технологий.

1. Искусственный интеллект как программа культуры

Концепция культуры В. С. Степина представляет собой смысловое «развертывание» достаточно компактной дефиниции, сформулированной следующим образом. «Культура, – пишет В. С. Степин, – может быть определена как система исторически развивающихся надбиологических программ человеческой жизнедеятельности (деятельности, поведения и общения), обеспечивающих воспроизводство социальной жизни во всех ее основных проявлениях» [Сте-пин 2011: 43]. Напомним, что слово «программа» – греческого про-исхождения, изначально означает объявление и предписание («про» – прежде, «графо» – пишу). В современном русском языке это слово (как и аналоги во многих других языках) имеет множество значений, среди которых и «программа концерта», и «программа политической партии», и «компьютерная программа», и «генетическая программа». Существуют программные произведения искусства, программные научные работы и, конечно же, программное обеспечение электронно-вычислительных машин. Со всеми этими значениями так или иначе связано понимание программы в концепции В. С. Сте-пина.

Надбиологическая (то есть культурная) программа обладает такими существенными свойствами, как, во-первых, воспроизводимость и, во-вторых, способность к развитию. Программа рассматривается В. С. Степиным прежде всего как программа деятельности
и характеризуется как определенный способ взаимодействия субъекта, объекта и средств деятельности. Широкое понимание объекта деятельности охватывает не только материальные предметы, но и аб-страктные объекты, изучаемые наукой, и образы, создаваемые писателем или художником, и даже определенные качества, знания и навыки человека. Найденный (изобретенный) и продемонстрированный способ преобразования объекта, позволивший достичь определенной цели, воспроизводится впоследствии с той или иной степенью точности или (и) с изменениями, обусловленными разными факторами. В. С. Степин следующим образом характеризует программу: «…для того, чтобы некоторая деятельность воспроизводилась, необходим определенный способ взаимодействия ее компонентов (субъекта, средств и преобразуемого объекта). Этот способ может быть рассмотрен как некоторая программа, реализующаяся в целесообразных действиях субъекта и определяющая внутреннюю организацию того или иного акта деятельности, равно как и сцепление этих актов в непрерывный процесс производства определенных продуктов (фрагментов материальной среды, социальных общностей, знаний, навыков и умений людей и т. п.)» [Степин 2011: 40].

Программоцентричный подход к культуре дает возможность распознавать и исследовать программы разной степени сложности, настраивая оптику в зависимости от наших интересов и целей. Например, технологии могут быть поняты как определенного рода программы культуры, являющиеся в то же время частями более масштабных программ организации производства материальных продуктов, создания условий жизни людей, влияния на характер деятельности, сознание и самосознание человека. В. С. Степин приводил в качестве примера культурной программы производство автомобилей на крупном промышленном предприятии, включающее разнообразные виды деятельности по преобразованию объектов, которые являются продуктами деятельности других предприятий и организаций. Мы, в свою очередь, можем привести гораздо более простые примеры, напоминающие о роли, которую сыграли примитивные технологии в антропогенезе, в становлении человека человеком. Так, найденный древним человеком способ использования каменного осколка для того, чтобы заострить конец палки и получить таким образом копье, – способ, примененный впоследствии не только этим же человеком, но также его соплеменниками, современниками и потомками, – стал примитивной надбиологической программой деятельности, возникшей на стадии зарождения культуры.

Способы взаимодействия субъекта (будь то древний человек, или работник современной высокотехнологичной компании, или сама эта компания), средств (каменный нож, паровой двигатель или компьютер), преобразуемого объекта (дерево, металл, информация) с целью получения определенного результата не только воспроизводятся в неизменном виде на протяжении некоторого периода, но и меняются с течением времени. История человечества – это история создания и обновления надбиологических программ, появления новых программ, вытеснения одних программ другими. Технология изготовления копья с каменным наконечником отличалась от технологии изготовления копья с металлическим наконечником, и, рассматривая каждую из этих технологий как отдельную культурную программу, мы скажем, что одна программа со временем сменила другую. Однако, понимая обе эти программы как части более крупной программы изготовления и применения копья «вообще» (разновидности колющего оружия), мы говорим о развитии одной из надбиологических программ деятельности.

С таких позиций история использования материальных предметов для хранения, передачи и переработки информации видится как развертывание масштабной культурной программы, которая началась с первых попыток употребления подручных средств древними людьми, приводила в процессе развития к нахождению все новых способов изготовления и применения специальных устройств, сдела-ла возможным появление арифмометров, радио и телевидения, элек-тронно-вычислительной техники (вскоре конвергировавшей с техникой средств связи) и всего спектра стремительно развивающихся цифровых информационно-коммуникационных технологий, включая технологии искусственного интеллекта. Эта информационно-тех-нологическая мегапрограмма включает в себя множество разнообразных и разнородных программ, порой не имеющих между собой ничего общего, кроме, пожалуй, того, что все они порождены стремлением человека создавать все более эффективные средства для работы с информацией и применять эти средства для удовлетворения собственных нужд, количество и качество которых меняются с по-явлением новых информационных технологий. При этом речь идет не только об изобретении и производстве технических устройств, но и о предшествовавших замыслах и фантазиях, об опыте осмысления антропосоциальных эффектов технологического развития, о спо-собах регулирования деятельности по созданию и применению техники, о прогнозах и предсказаниях, а также о многом другом.

В. С. Степин различал три уровня в системе программ культуры, существующей на определенном историческом этапе [Степин 2011: 57–58]. Первый уровень составляют реликтовые (архаичные) программы, «осколки прошлых культур», не соответствующие в це-лом потребностям и запросам новой исторической эпохи, однако продолжающие регулировать некоторые виды поведения людей. На втором уровне находятся современные программы, обеспечивающие воспроизводство сложившихся форм социальной жизни, отвечающие потребностям современного общества. В числе таких программ – и те, что возникли на данной ступени развития, и те, что сложились на предыдущих этапах, однако не утратили актуальности. Наконец, третий уровень составляют новаторские программы – программы «будущих, потенциально возможных видов и форм человеческой деятельности». Эти программы вырабатывают наука, искусство, философия. Новые идеи в таких областях представляют собой своеобразные «проекты» будущего. В. С. Степин настаивал, что общество должно создавать запас подобных «проектов», лишь малой части которых суждено осуществиться на деле, – ведь значимость тех, что будут претворены в жизнь, может оказаться огромной.

Зарождение идеи (проекта) искусственного интеллекта обычно относят к XIII в. и связывают с машиной Раймунда Луллия, предназначавшейся для помощи христианскому проповеднику в миссионерской деятельности. Проект Луллия стал манифестацией новаторской программы, абстрактный коррелят которой остается неизменным и в наши дни. Речь идет об абстрактном способе взаимодействия абстрактных субъекта, объекта (информации) и средства (технического устройства), состоящем в следующем: 1) субъект фиксирует информацию в знаках, вводимых тем или иным способом в техническое устройство; 2) благодаря происходящему в техническом устройстве движению образуются новые знаки (комбинации знаков), аналогичные тем, что получает человек в результате интеллектуальных операций; 3) субъект, интерпретируя новые знаки, генерирует новые мысли и знания.

В случае Луллия техническое устройство представляло собой концентрические бумажные круги с нанесенными на них обозначениями общих понятий богословия. Механическое вращение кругов позволяло получать новые комбинации понятий, которые должны быть использованы в конечном счете для построения аргументов миссионерами, убеждавшими нехристианское население Средизем-номорья принять христианскую веру. Это устройство выполняло функцию комбинирования знаков, обозначавших понятия – то есть функцию, аналогичную интеллектуальной операции, выполняемой человеком. При этом необходимость использования машины объяснялась тем, что «невооруженному» уму человека трудно выйти за рамки привычных представлений и вообразить именно то сочетание понятий, которое окажется полезным для достижения поставленной цели. В конце концов, человек мог самостоятельно най-ти то же самое сочетание, но для этого понадобилось бы слишком много времени.

Преимущества использования машины для получения результатов, аналогичных тем, что достигаются в процессе интеллектуальной деятельности человека, были удачно охарактеризованы
С. Н. Корсаковым, предложившим в первой трети XIX столетия проекты механических «интеллектуальных» машин – «гомеоскопа» и «идеоскопа». Машины Корсакова, изготовленные из металла, дерева и кости, должны были с помощью специальных таблиц, содержащих информацию о болезнях и лекарствах, осуществлять поиск лекарств, наиболее подходящих для лечения болезни, проявившейся в определенных симптомах. Скорость машины, ее точность и объемы обрабатываемых данных Корсаков характеризовал следующим образом: «Мгновенно находит среди большого числа идей, отображенных в таблице, ту, которая содержит все детали другой заданной идеи. Устройство выдает результат, останавливаясь в процессе своей работы. Его применение в сфере медицины принесет огромную пользу, поскольку в случае болезни, исходя из подробного перечисления всех симптомов, оно может отобразить, с самой высокой степенью точности, наиболее подходящее лекарство для сего случая, и при этом по желаемой медицинской методике. Число деталей, которые учитывает устройство, может достигать многих сотен» [Корсаков 2009: 10]. В брошюре, изданной на французском языке в 1832 г. [Karsakof 1832] (и только в 2009 г. – в русском переводе), Корсаков отмечал следующие недостатки и слабости человеческого мышления, которые должны быть компенсированы работой технических устройств. Во-первых, человеческий ум способен охватывать одновременно лишь небольшое число предметов (деталей). Во-вторых, мы не можем одновременно сравнивать более двух предметов, а потому при необходимости принять во внимание большое число предметов вынуждены производить поочередные сопоставления. В-третьих, память человека не является безошибочной и не всегда в достаточной мере работоспособна, из-за чего можно упустить важные детали. Корсаков указывал также, что личное пристрастие и предубеждение часто оказывают влияние на результаты наших исследований.

Судьба двух упомянутых новаторских проектов была различной. Если проект Луллия был востребован в интеллектуальном пространстве как предмет обсуждения на протяжении веков (один из знаменитых его критиков – Ф. Бэкон), то проект Корсакова отправился на «склад исторической памяти», откуда был извлечен лишь к концу XX столетия, когда предложения автора безнадежно устарели. Следует отметить, что реальная возможность изготовления машин Корсакова отсутствовала и в XIX в., однако сама идея заслуживала того, чтобы стать предметом интереса ученых и вдохновлять изобретателей на новые проекты.

Мы называем «осевым временем» искусственного интеллекта [Алексеев, Алексеева 2021] период 40–60-х гг. XX в., когда на смену техническим устройствам, выполнявшим обработку информации благодаря механическому движению частей, пришли электронно-вычислительные машины, использующие взаимодействие заряженных частиц с электромагнитными полями. В 50-е гг. были созданы первые компьютерные программы, которые рассматривались разработчиками как шаги на пути к лучшему пониманию человеческого интеллекта. А. Ньюэлл и Г. Саймон, создатели программы «Ло-гик-теоретик», способной доказывать теоремы из Principia Mathematica Б. Рассела и А. Н. Уайтхеда, писали: «Эта система отличается от алгоритмов, обычно используемых для вычислений, тем, что основана в значительной степени на эвристических методах, подобных методам, которыми пользуются люди при решении задач. …Машина логической теории является частью программы исследований сложных систем обработки информации…» [Simоn 1997]. Дж. Маккарти с коллегами ввели сам термин «искусственный интеллект», заявив о намерении описать все характеристики интеллекта, включая способность к обучению, настолько точно, что эти характеристики смогут воспроизводиться машиной. Речь шла об искусственном интеллекте как направлении исследований и разработок, тематика которого охватывала в числе прочего точную формулировку идеи мышления как манипулирования словами в соответствии с определенными правилами (и создание на этой основе примеров машинного обобщения), а также теоретические основы организации сетей гипотетических нейронов в целях образования понятий [McCarthy et al. 1955]. В 1960 г. появился первый нейрокомпьютер, воплотивший модель искусственной нейросети (Персептрон), разработанную ранее физиологом и психологом Ф. Розенблатом.

Таким образом, в середине XX в. программа искусственного интеллекта, став одной из частей компьютерной (цифровой) революции как нового этапа развития информационно-технологической мегапрограммы, включила в себя достижения математики, логики, психологии, лингвистики, физиологии высшей нервной деятельности, а также других наук, и в этом смысле стала областью пересечения и слияния соответствующих культурных программ. Абстракт-
ные объекты, с которыми работают указанные науки, стали и объектами изучения искусственного интеллекта как направления исследований и разработок. Показательно в этом плане название «психоника», которое использовалось в нашей стране в 1960-е гг. для обозначения исследований в области искусственного интеллекта, проводившихся Д. А. Поспеловым и его коллегами [Поспелов 2021].

Сочетание новейших технологических достижений (на фоне которых все сделанное ранее выглядит устаревшим) с продолжающейся работой программ культуры, возникших в прошлом, – характерная черта искусственного интеллекта как сложной культурной программы. Так, переживаемый нами сегодня бум ИИ, связанный с возросшими возможностями и широкой доступностью ней-ронных сетей глубокого обучения, обусловлен не в последнюю очередь развитием программы ассоцианизма, заявленной в XVIII в. «Корни идеи нейронных сетей уходят в глубь времен, далеко пред-шествующих формированию наук об искусственном интеллекте, – отмечают психологи Д. В. Ушаков и Е. А. Валуева. – Согласно философско-психологическому ассоцианистскому подходу, ассоциативные связи составляют сеть, пронизывающую всю совокупность идей, которыми располагает человек. Эта идеология составляет фактически начало пути к современным сетям глубокого обучения, хотя и содержит довольно сильные отличия» [Ушаков, Валуева 2022: 108].

Взгляд на искусственный интеллект как на большую программу культуры охватывает не только собственно системы ИИ, их производство (с соответствующими аппаратными и программными средствами) и практическое использование, не только исследования и разработки, осуществляемые в русле искусственного интеллекта как научного направления, но и множество других «подпрограмм», в числе которых – правовое и этическое регулирование, прогнозирование и футурологические построения, связанные, в свою очередь, с теми или иными методологическими и мировоззренческими программами.

2. Продвижение и «воспитание» искусственных агентов

Разработчик интеллектуальных роботов В. Э. Карпов отмечает существенное различие между восприятием искусственного интеллекта «гуманитарной частью общества» в середине XX в. и в наши дни. Это различие, по мнению Э. В. Карпова, состоит в том, что в начальный период становления ИИ гуманитарии возмущались, когда «вместо чего-то реально подобного человеческому разуму ему предлагались внешние имитации», а сегодня гуманитарное сообщество восторженно воспринимает «явные симулякры, имитирующие осмысленность» [Карпов 2024: 20]. Такое утверждение можно принять лишь с некоторыми оговорками.

Во-первых, в дискуссиях середины XX в. участвовали не только противники тезиса «Машина может мыслить», но и его сторонники. Показателен в этом плане «довод Баженова» – незаслуженно забытый довод к инопланетному мышлению, выдвинутый Л. Б. Ба-
женовым, сотрудником Института философии АН СССР, в споре по вопросу о машинном мышлении с другим сотрудником этого же института – Э. В. Ильенковым. Спор проходил в начале 1960-х гг., вскоре после первого полета человека в космос. Л. Баженов писал: «Человечество начало освоение космоса. Есть основание полагать, что рано или поздно мы столкнемся с непохожими на нас разумными существами. Вывод об их способности мыслить может быть сделан только на основе тождества основных результатов их поведения с нашим собственным» [Баженов 1964]. Распространение такого подхода на технические системы, созданные человеком, выдвигает на первый план оценку результатов переработки информации, а не подобие моделей машинной переработки информации моделям человеческого мышления.

Во-вторых, начавшееся в последние годы массовое использование систем, генерирующих тексты, изображения, музыку (что было невозможно не только 60 лет тому назад, но и в начале XXI в.), закономерно стимулирует воображение, побуждая приписывать генеративному ИИ свойства и возможности, которыми он на деле не обладает. Уже опыт взаимодействия с чат-ботом GPT-3 (обладавшим меньшими возможностями, чем используемый сегодня GPT-4) дал новые доводы «промашинной» партии в старом споре о понимании языка системой ИИ (знаменитым «персонажем» этого спора ста-ла в свое время «китайская комната» Дж. Серля). Например, Т. Риз объявил такие компании, как OpenAI, Google и Microsoft, «философскими лабораториями», GPT – системой, обладающей пониманием, и предрек неизбежное изменение философских понятий в связи
с прогрессом ИИ [Rees 2022]. Вместе с тем вхождение генеративного ИИ в жизнь человека не привело к поражению «прочеловеческой» партии в упомянутом споре. Одним из важных аргументов ее сторонников является отсутствие у технической системы феноменального опыта [Левицкий 2024; Разин 2024].

Философско-футурологические дискуссии не принадлежат к области ИИ в собственном смысле слова. Порой представители ИИ как научного направления воспринимают идеи и концепции, выдвигаемые в русле таких дискуссий, как измышления некомпетентных в вопросах техники «гуманитариев», в лучшем случае отвлекающие от серьезной работы, а в худшем – дезориентирующие общественность. Однако такие дискуссии и соответствующие концепции являются частью ИИ как большой культурной программы и в этом качестве влияют на научно-техническую политику и на правовое регулирование технологического развития.

Сегодня в большой программе ИИ не последнюю роль играет фигура предпринимателя, которая очевидно не вписывается в ИИ
в узком смысле, охватывающем «только» научное направление и технические системы (ведь предприниматель не является ни ученым, ни искусственной интеллектуальной системой). Однако «капитаны» высокотехнологичного бизнеса приобрели огромную популярность в обществе и влияние на умы, включая умы тех, кто готовит и принимает решения. Поэтому имеет смысл учитывать участие предпринимателей в продвижении философско-футурологических идей, включая и те идеи, что относятся к «воспитанию» системы ИИ. По-казательны в данном отношении высокие оценки изданной в 2014 г. книги Н. Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (Superintelligence: Paths, Dangers, Strategies) такими лицами, как Б. Гейтс, С. Альтман, И. Маск [Augenbraun 2014]. Русский перевод книги вышел в 2016 г. с предисловием Е. Касперского, генерального директора «Лаборатории Касперского». Что же касается деятельности самого Н. Бострома, то в его послужном списке не только создание Института этики и новых технологий (Institute for Ethics and Emerging Technologies) и руководство Институтом будущего человечества (Future of Humanity Institute), но и участие в ор-ганизации Всемирной ассоциации трансгуманистов (World Trans-humanist Association).

Указанная книга лежит в русле ранее возникшего течения, которое Р. Гераци удачно назвал «апокалиптическим ИИ» [Geraci 2010]. «Апокалиптический ИИ» – не собственно исследования и раз-работки в области искусственного интеллекта, а футурология, развиваемая учеными и инженерами, приобретшими авторитет благодаря достижениям в сфере информационных технологий. Отнести футурологию профессионального философа Н. Бострома к данному на-правлению позволяет поддержка со стороны ранее упомянутых пред-принимателей, которые в контексте концепции культуры В. С. Степина, учитывающей функционирование людей в качестве семиотических систем [Степин 2011: 44], могут считаться своеобразными знаками компетентности в сфере ИИ.

Не имея возможности обсуждать здесь книгу Бострома в целом, остановимся на его версии этики ИИ. Автор допускает перспективу уничтожения человечества грядущим «сверхинтеллектом» («сверхразумом), но связывает шанс на сохранение человека именно с «воспитанием» сверхразума, встраиванием в него этики и ценностей, которые обусловят работу технологии на благо людей. При этом на первый план выдвигается гедонизм как этическое учение, якобы наиболее подходящее для воспитания будущего сверхинтеллекта. Подобный выбор способен вызвать недоумение читателя, верного классической философской традиции, связывающей гедонизм с Аристиппом и школой киренаиков. Что касается Бострома,
то он дает дефиницию «гедонистического консеквенциализма», пред-полагающего, что «действие является этически правильным (и морально допустимым) тогда и только тогда, когда среди всех возможных действий никакое другое не способно обеспечить больший баланс удовольствия и страданий» (Bostrom 2014: 334).

«Эсхатологическая» этика ИИ, представленная в построениях Бострома, выглядит экзотическим явлением на фоне порождаемых реальным развитием ИИ насущных проблем регулирования деятельности людей, а также вопросов «поведения» технических систем как искусственных интеллектуальных агентов. Соответствующие направления в этике ИИ, не зависящие от «апокалиптических» и «эсхатологических» течений, представляют собой и новый этап в развитии ранее возникших культурных программ, и сферу, где возникают программы новаторские [Клюева 2021; Алексеева 2024]. Дж. Мур, один из авторитетных ученых, работавших в области компьютерной этики [Алексеева, Шклярик 2007], дискутировавший в 1980-е гг. с Дж. Вейценбаумом по поводу принятия решений компьютером, в начале нынешнего столетия поставил вопрос о необходимости расширения области этического регулирования за пределы множества людей, создающих и использующих компьютерную технику, – на создаваемые людьми интеллектуальные машины [Moor 2006]. При этом на первый план была выдвинута идея «эксплицитного этического агента» (explicit ethical agent), способного в случае возникновения этических дилемм использовать этические принципы для выбора наилучшего решения. Таким образом, новый этап развития компьютерной этики стал началом этики ИИ как новой культурной программы, в которую включаются все новые люди, многие (если не большинство) из которых никогда не слышали о таком направлении, как компьютерная этика. Подобную ситуацию легко объяснить, учитывая скорость развития цифровых технологий и вхождения их достижений в жизнь человека.

Дж. Мур – пример философа, предложившего идеи, созвучные идеям ученых, непосредственно занятых разработкой искусственных интеллектуальных систем. Пример движения к вопросам этики искусственного агента со стороны разработчиков систем – исследования В. Э. Карпова, П. М. Готовцева, Г. В. Ройзензона [Карпов и др. 2018; Карпов 2024]. В. Э. Карпов считает, что поведение робота, создаваемого для того, чтобы стать партнером человека в выполнении сложных задач, должно определяться, кроме прочего, «моральной составляющей», определяющей «приоритеты, оценки, целевые функции (что такое хорошо/плохо, правильно/неправильно и т. п.)» [Карпов 2024: 31]. При этом современные исследования вопросов этики искусственного интеллектуального агента могут быть поняты как развитие программы А. Азимова, представившего в жанре фантастики разнообразные коллизии, связанные с применением «трех законов робототехники».

Проблематика этики искусственного агента высвечивает новые аспекты хорошо известных нормативных этических теорий. На-пример, в этом контексте обсуждаются преимущества этики добродетелей в сравнении с деонтологией и консеквенциализмом [Sullins 2021; Антипов 2024; Кудряшова 2024]. Между тем ChatGPT с готовностью выполняет запросы на генерацию любого контента,
в том числе используемого с мошенническими целями, и вполне связно «рассуждает» об этике вообще и о собственной приверженности этическим принципам в частности.

* * *

С позиций сформулированной В. С. Степиным концепции куль-
туры как системы исторически развивающихся надбиологических программ деятельности, поведения и общения собственно искусственный интеллект как научное направление (или особая наука) видится как часть большой культурной программы ИИ, содержащей множество подпрограмм. В числе последних – не только производство и применение систем искусственного интеллекта, но и научно-техническая и промышленная политика, этическое и правовое регулирование, философское осмысление перспектив человека в мире технологий, футурология, фантастика и многое другое. Здесь встречаются, соединяются или вступают в конфликты разные программы культуры, включая те, что возникли века и тысячелетия тому назад. «Программно-культурный» подход позволяет характеризовать ущербность версий «апокалиптического ИИ» как обусловленную невниманием к культурной природе техники, к роли техники во взаимодействии людей и неразрывно связанной с этим моральной ответственности человека за технику. Высокая скорость развития интеллектуальных технологий, появление все новых прак-тик их применения объективно затрудняет выработку действенных средств этического регулирования, однако не снимает с повестки дня вопросы поиска таких средств. И эти вопросы тесно связаны с задачами соответствующих научных исследований.

Литература

Алексеев А. П., Алексеева И. Ю. Судьба интеллекта и миссия разума: философия перед вызовами эпохи цифровизации. М. : Проспект, 2021.

Алексеева И. Ю. Этика искусственного интеллекта как прикладная этика // Философия и общество. 2024. № 3. С. 69–85.

Алексеева И. Ю., Шклярик Е. Н. Что такое компьютерная этика? // Вопросы философии. 2007. № 9. С. 60–72.

Антипов А. В. О роли этической теории в структуре искусственных моральных агентов в культурном поле информационного общества // Концепт: философия, религия, культура. 2024. Т. 8. № 2. С. 8–21.

Баженов Л. Б. О некоторых философских аспектах проблемы моделирования мышления кибернетическими устройствами // Кибернетика. Мышление. Жизнь / под ред. А. И. Берга, Б. В. Бирюкова и др. М. : Мысль, 1964. С. 326–338.

Запесоцкий А. С., Данилов А. Н. Теория культуры академика В. С. Степина. СПб. : СПбГУП, 2025.

Зорькин В. Право и вызовы искусственного интеллекта [Электронный ресурс] : Российская газета. 2024. 27 июня. URL: https://rg.ru/2024/06/27/ pravo-i-vyzovy-iskusstvennogo-intellekta.html.

Карпов В. Э. К вопросу о законах робототехники А. Азимова // Философия и общество. 2024. № 4. С. 19–36.

Карпов В. Э., Готовцев П. В., Ройзензон Г. В. К вопросу об этике и системах искусственного интеллекта // Философия и общество. 2018. № 2. С. 84–105.

Клюева Н. Ю. Этико-прикладные аспекты применения технологий искусственного интеллекта // Вестник Моск. ун-та. Сер. 7. Философия. 2021. № 5. С. 52–66.

Корсаков С. Н. Начертание нового способа исследования при помощи машин, сравнивающих идеи. М. : МИФИ, 2009.

Кудряшова В. К. Может ли искусственный интеллект быть «этичным»? Перспектива (современной) этики добродетели // Этическая мысль. 2024. Т. 24. № 1. С. 101–114.

Левицкий В. С. Chat-GPT (ИИ): мышление, понимание, бытие? // Философия и общество. 2024. № 4. С. 5–18.

Лекторский В. А. Искусственный интеллект в изучении человека, человек в мире, создаваемом искусственным интеллектом // Человек и системы искусственного интеллекта / отв. ред. В. А. Лекторский. СПб. : Юридический центр, 2022. С. 10–29.

Поспелов Д. А. Приложение. Исторический очерк развития ситуационного управления / Д. А. Поспелов // Ситуационное управление. Теория и практика. 2-е изд. М. : УРСС, 2021.

Разин А. В. Заметки по поводу законов робототехники А. Азимова // Философия и общество. 2024. № 4. С. 37–48.

Степин В. С. Философская антропология и философия науки. М. : Высшая школа, 1992.

Степин В. С. Цивилизация и культура. СПб. : СПбГУП, 2011.

Ушаков Д. В., Валуева Е. А. Вызовы искусственного интеллекта для психологии // Человек и системы искусственного интеллекта / отв. ред.
В. А. Лекторский. СПб. : Юридический центр, 2022.

Augenbraun E. Elon Musk: Artificial Intelligence May be “More Dangerous than Nukes” [Электронный ресурс] : CBS News. 2014. August 4. URL: https://www.cbsnews.com/news/elon-musk-artificial-intelligence-may-be-more-
dangerous-than-nukes/.

Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford : Oxford University Press, 2014.

Geraci R. Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality. Oxford : Oxford University Press, 2010.

Karsakof S. Apercu d`un procede nouveau d`investigation au moyen de machines a comparer les idees. St. Petersbourg, 1832.

McCarthy J., Minsky M., Rochester N. Shannon C. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955. August 31 [Электронный ресурс]. URL: http://www-formal.stanford.edu/jmc/
history/dartmouth/dartmouth.html.

Moor J. H. The Nature, Importance, and Difficulty of Machine Ethics // IEEE Intelligent Systems. 2006. Vol. 21(4). Pp. 18–21.

Rees T. Non-Human Words: On GPT-3 as a Philosophical Laboratory // Daedalus. 2022. Vol. 151. No. 2. Pp. 168–182.

Simon H. Allen Newall (March 19, 1927 – July 19, 1992) // National Academy of Sciences. Biographical Memories. 1997. Vol. 71.  Pp. 150. URL: https://www.nap.edu/read/5737/chapter/11#170.

Sullins P. Artificial Phronesis: What it is and What it is Not // Science, Technology, and Virtues: Contemporary Perspectives / ed. by E. Ratti,
Th. A. Stapleford. Oxford : Oxford UP, 2021. Pp. 136–146.

---

** Embodied – воплощенное в теле, Embedded – встроенное в среду, Enacted – вводящее в действие, Extended – расширенное.