Текст: Михаил Швыдкой (блогер Российской газеты) выпуск № 283(8337)
Жирным курсивом — мои размышления и антитезы.
ИИ и человеческие ценности: ответ Путина
На международной конференции по искусственному интеллекту, организованной Сбером, Владимир Путин ответил на вопрос виртуального ассистента «Афина» о возможности ИИ стать президентом. Он отметил, что даже если искусственный интеллект когда-нибудь достигнет уровня, сравнимого с человеческой интуицией, ему всё равно будут недоступны такие фундаментальные субстанции, как душа, совесть и сострадание.Ответы Путина часто оказываются глубже и содержательнее самих вопросов, их можно развернуть в целое исследование. Однако...
Эти качества, отчасти заложенные генетически, обретают свою полноту и смысл только под влиянием культуры. Именно культура в конечном счёте формирует качество интуиции, душевные свойства личности, моральные ориентиры и глубину способности к сопереживанию.
Здесь начинается некоторая неточность, которую спасает слово «отчасти». Понятие души — это сложный религиозно-этический комплекс, веками создававшийся цивилизацией. Совесть — это свойство, воспитанное в человеке обществом на основе местных этических норм. Сострадание же, или эмпатия, на базовом уровне действительно присуще многим животным как инстинкт заботы о потомстве и слабых особях. Таким образом, генетически предопределено, пожалуй, только сострадание, да и то не в этическом, а в биологическом смысле — как закон выживания вида. «Душевные свойства», мораль и этическое сострадание регулируются правилами, даже в обществах с минимальным развитием эстетической культуры. Например, в условиях затяжного военного конфликта культура художественного самовыражения может временно отступить, но моральные качества, такие как самопожертвование, наоборот, укрепляются.
И ещё: качество интуиции в первую очередь определяет жизненный опыт.
Давайте говорить о культуре конкретно, чтобы избежать абстрактного и самодовлеющего понимания этого термина.
Ограничения ИИ и роль человека
Эксперты на недавней дискуссионной площадке «Агора» осторожно оценивали достижения искусственного интеллекта. Его алгоритмы часто копируют модели человеческого поведения и зависят как от массивов данных, так и от субъективности программистов. Показательный пример: решения, выносимые «виртуальными судьями», статистически не лучше и не хуже вердиктов реальных судей. Футуристические идеи трансгуманизма, связывающие прорывы в ИИ с биотехнологиями (которые, по мнению футуролога Рэймонда Курцвейла, победят к середине XXI века), пока кажутся далёкими и спорными. Хотя уже сейчас возникают вопросы, требующие срочной этической и правовой оценки.Самый простой из них: что делать человеку, если решение, принятое искусственным интеллектом и обязательное к исполнению, ущемляет его права? С такими ситуациями уже сталкиваются кадровые службы, банки и социальные ведомства.
Упомянув «виртуальных судей», вы не привели в пример саму судебную систему, которая зависит не только от буквы закона, но и от частных трактовок. Алгоритмизация правосудия была сложной задачей даже в докомпьютерную эпоху, ведь правоприменение и правосознание плохо поддаются формализации. Они — продукт воспитания, то есть культуры восприятия мира, и зависят не только от правил, но и от «веления времени», сиюминутных задач. Особенно опасно доверять ИИ задачи, где, используя одинаковые правила, нужно приходить к разным, заранее определённым результатам. Он не понимает интриг и намёков. Многозначительно подмигивать умеет только человек.
Пока искусственный интеллект подчинён воле человека, результаты его работы зависят от человеческой морали, целей и качества решений. А это, в свою очередь, определяется культурным развитием, которое формирует сложность личности, умение ориентироваться в океане информации и выстраивать иерархию ценностей.
«Ну вот, опять, — подумает читатель. — Сколько можно твердить, что культура возносит людей на вершину творения, а без неё человечество погибнет. Мы это слышали и от более авторитетных людей».
Здесь автор приписал культуре несвойственную ей функцию.
Понятно, что автор — гуманитарий. Но как доктор искусствоведения он не может не знать, что людей на вершину эволюции возвела вторая сигнальная система, позволившая называть, передавать и накапливать знания — это аналог компьютерного «железа». А культура — это способ организации этих знаний, программная среда.
Да, человечество деградирует без умелого использования накопленного опыта. Наука как часть культуры развилась именно как ответ на потребность познавать и приумножать знание. Искусство же удовлетворяет эстетические и эмоциональные потребности, исторически было тесно связано с религией через модель «приношения дара» высшему существу. Человек поёт в ночном поле, даже если его никто не слышит, — он делится своим состоянием с миром, большим, чем он сам. Может, этот человек — убийца? Неважно. Он культурный человек. Поёт песни, верит в Бога. Жаль, что модель «человек — Творец» сегодня уступает место моделям «человек — человек» и «человек — общество», где главное — товарно-денежный обмен.
Пока ИИ зависит от человека, он зависит и от человеческой морали.
Действительно, некоторые суждения кажутся избитыми истинами, используемыми в корыстных интересах. Словосочетание «культурный человек» растеряло свой смысл. Во многом потому, что омассовление культуры, превращение её в универсальный продукт, доступный для онлайн-потребления и создания, ведёт к деградации тех её качеств, что были двигателем развития человечества.
Словосочетание «культурный человек» утратило не смысл, а качество. «Омассовление и доступность» — это китч, мещанская субкультура, существовавшая всегда, как лубок рядом с высокой живописью. Не стоит смешивать понятия: культура и искусство — это пересекающиеся, но разные множества. Их нужно различать.
Маргинализация культурных запросов — это ответ рынка на усреднённый спрос потребителей с непритязательным вкусом. Круг замкнулся. Искусство (в упрощённом виде) продолжает развиваться. Культурное же влияние как «взращивание» ослабевает или даже становится разрушительным, дезориентируя общество. О моральном облике многих творцов, подаривших миру шедевры, вслух не говорят. Они были культурными, часто набожными людьми, чья жизнь доказывает: искусство — вне морали, а общий культурный уровень общества — это средняя температура по больнице.
Потому я стараюсь различать «культуру» и «искусство» и рекомендую это автору.
...ведёт к деградации тех её качеств, что были двигателем развития.
И прежде всего — её отношения к жизни и смерти. Онлайн-существование, лишённое телесности, разрушающее психофизическое единство личности, отделяющее виртуальное от реального, ведёт не только к упрощённому пониманию бытия (модели вместо процессов!), но, что опаснее, — к этической нейтральности. Когда понятия добра и зла, жизни и смерти становятся взаимозаменяемыми, превращаясь в забаву, которая часто вовсе не безобидна.
Я вспомнил детские игры «в войнушку»: «Падай, ты убит». В них была и жестокость, и героизм. Мы повторяли сцены из фильмов и книг, красиво падали и понарошку умирали. И шуточно учились убивать. Деревянные пистолеты и военные фильмы не вырастили из нас маньяков, и вряд ли современные медиа, при всей их зрелищности, на это способны. Главное — помнить, что это «понарошку», и в любой игре есть сверхзадача, а жестокость должна быть оправданной.
Война, насилие и виртуальная реальность
По рассылке пришёл ролик, восхваляющий мощь ИИ: почти невидимый дрон может распознавать лица «плохих парней» и поражать их точно в голову. Если загрузить такими дронами самолёт, можно уничтожить любое число «плохих» на любом континенте, сохранив жизни «хороших». Докладчик гордо заявляет, что такой инструмент делает ненужной ядерную бомбу. Не буду спрашивать о стоимости операции. Но вопрос, кто и как будет отделять «плохих» от «хороших», напрашивается сам.Эту идею блестяще обыграли Стругацкие в романе «Отягощённые злом», наделив одного героя-правдоборца правом мгновенной кары. Читайте.
Обратите внимание: «Когда собираетесь завести детей?» как отвечать на раздражающие, некорректные и навязчивые вопросы о детях .
Так что эта «рассылка» — просто ловля хайпа на вечной теме. «Мне отмщение, и Аз воздам» — сказал всезнающий. Но в реальности всезнания не бывает. Автор прав лишь отчасти. Антитеррористическая деятельность спецслужб действительно включает ликвидацию лиц, угрожающих обществу. Круг этих лиц может расшириться. Сильно. Потому что нет просто плохих и хороших. Есть опасные для конкретного общества, от которых не избавиться «гуманно». А разве не гуманно — устранить нескольких, чтобы спасти многих? А о «слезинке ребёнка» пусть рассуждают те, кто далёк от суровой реальности.Но самая сложная проблема в другом. Почему фундаментальный вопрос бытия — право на убийство себе подобного — отметается как несущественный? Убийство становится игрой, красивой картинкой, за которой не видно вывернутых кишок и размозжённых мозгов. Войны, ведущиеся нажатием кнопок, смерти, отражённые лишь на экране, разрушительны для всех участников этого кажущегося бескровным процесса. Виртуальная реальность требует противоядия от расчеловечивания.
Убийство в «виртуале» становится игрой, и никто не вспомнит о вывернутых кишках.
И этим противоядием может быть только культура. Понимаемая широко и всеобъемлюще. Культура мысли и веры. Нравственность. Образование, наука, художественное творчество.
Культура отношений, культура пользователя, культура мышления — это социально-производственная этика. Правила поведения, не имеющие прямого отношения к «вывернутым кишкам», которых большинство в жизни не видело. Зато кино и игры наперегонки шокируют зрителя, одновременно прививая толерантность (в смысле привыкания) к насилию. Вы хотите разрушить эту привычку с помощью этического воспитания? В мирное время — пожалуйста. Можете постигать культуру «широко и объемлюще». Можете верить, что этика защитит от жестокости.
Но начнётся война — и «вывернутые кишки» станут повседневностью. Придётся убивать — руками, оружием или клавишей. Никакие этические комплексы не сработают. На войне трудно сохранять человечность, но даже там есть написанные кровью уставы. В оборонительной войне главное — любой ценой. Какая этика? Какие общечеловеческие ценности? Просто — убей захватчика. Сохрани свой народ. Спаси близких. Разве не так?
... Культура мысли и веры.
Её фундаментальная миссия — очеловечивание человека. Это особенно важно в переломные эпохи, подобные нашей, когда почва уходит из-под ног, а мы оказываемся в царстве неопределённости. Когда стремительные технологии отчуждают нас от результатов нашего же труда.
Странно... А что изменилось? Раньше я точил на заводе деталь, не зная, где её применят. Сейчас пишу код для мультимедийного продукта неясного назначения. Я не вижу результата, могу лишь догадываться. Это и есть «отчуждение»? Значит, результат есть только на даче, где я собственноручно смастерил стол из пня и им пользуюсь. Жаль, автор не связан с производством. Он был бы менее пафосен и точнее цитировал бы молодого Маркса. И, возможно, иначе взглянул бы на дилемму вынужденного труда и гордости сопричастностью.
Впрочем, человечество переживало подобное не раз. И, возможно, выжило лишь потому, что гуманистическая культура помогала сохранять устойчивость бытия. Сегодня слова «Искусственный Интеллект» часто пишут с заглавных букв. Пора признать такое же право и за Культурой.
С большой буквы пишут знаковые, символичные понятия. Человечество сейчас заворожено новой игрушкой. Как алхимик, наблюдающий бурную реакцию в колбе, с восторгом и страхом ждёт её исхода. Искусственный интеллект — всего лишь инструмент организации информации, в том числе для работы с «большими данными». Алхимик может не знать стихов. У него нет культуры — только чистый разум. Он может не понять разрушительных последствий своего открытия. Не вините его за открытие. Вините себя за неумение с ним жить. Ну, а право на заглавную букву культуре ещё нужно заслужить.
Больше интересных статей здесь: Психология.
Источник статьи: Когда я слышу слово "культура", или Путин снова прав.
