Текст: Михаил Швыдкой (блогер Российской газеты) выпуск № 283(8337)
Жирным курсивом - мои размышления и антитезы.
Во время недавней международной конференции по проблемам развития искусственного интеллекта, которая проходила по инициативе Сбера и собрала 28 тысяч участников из 90 стран, В. В. Путин на вопрос виртуального ассистента "Афина": "Может ли искусственный интеллект стать президентом?" - ответил вежливо, но достаточно определенно: "Наверное, в какой-то момент, может быть, и искусственный интеллект достигнет таких невероятных возможностей, которые возможно сравнить с интуицией, но все-таки (нужны) вот такие субстанции, как душа, совесть, сострадание".
Ценность ответов Путина в том, что они предельно точные и более ёмкие, чем вопросы. Многие из них можно развернуть в монографию. Однако, Михаил...
... душа, совесть, сострадание".
Эти отчасти генетически предопределенные качества приобретают развитие и свершенные смыслы только под влиянием культуры, которая в конечном счете определяет и качество интуиции, и душевные свойства личности, и моральную предрасположенность, и глубину сострадания.
Вот здесь начинается лукавство, но выручает слово «отчасти». Душа – религиозно-этический комплекс понятий, создававшийся на протяжении долгого времени «взросления» цивилизации. Совесть (со-вещательность) - свойство, воспитанное в человеке соплеменниками на основе местных этических правил, призванных дополнить Со-страдание или эмпатию, на уровне инстинкта - действительно присущую всем животным в виде заботы о потомстве и, часто – ослабленных особях.Так что «генетически предопределено» только сострадание, и то не в этическом плане, а в законе выживания вида. «Душевные свойства» (а почему не качества?))), мораль, сострадание - регулируются этическими правилами даже в социумах, где культивирование эстетических потребностей выражено минимально, в силу обстоятельств. Например – культура художественно-эстетического самовыражения, то есть собственно Культура в понимании обывателя, во время затяжного военного конфликта может временно исчезнуть, однако моральные качества, например – самопожертвование, напротив – вырастут и укрепятся.
И ещё... Качество интуиции определяет в первую очередь опыт.
Давайте говорить о культуре не общо, а конкретно, чтоб у читателя не сложилось впечатление о каком-то абсолюте, самодовлении этого понятия.
Мои компетентные собеседники на недавней "Агоре" были осторожны в оценке достижений развития искусственного интеллекта, алгоритмы которого, как правило, повторяют модели человеческого поведения и зависят как от массивов обрабатываемой информации, так и от субъективных качеств программистов. Примечательный пример: статистика и качество решений, выносимых "виртуальными судьями", не лучше и не хуже тех, к которым приходят реальные люди. Футуристические стратегии трансгуманизма, сопрягающие развитие искусственного интеллекта с прорывами в области биотехнологий, которые, по мнению одного из ярких представителей этого направления Рэймонда Курцвейла, должны победить к середине XXI века, все-таки кажутся далекими и потому проблематичными. Хотя уже сегодня возникают вопросы, требующие этической и юридической экспертизы.
И самый простой из них: "Что делать человеку, если с помощью искусственного интеллекта принято решение, обязательное к исполнению, и оно может привести к серьезному поражению прав личности?" Такие решения принимают и службы по набору персонала, и кредитные организации, и социальные администраторы.
Вы, намекнув на «виртуальных судей» не упомянули как выгодный пример саму судебную систему, которая зависит не только от совокупности законных требований, но и от частных определений; алгоритмизация анализа событий и в докомпьютерную эпоху была далека от идеала, ведь правоприменение и правосознание алгоритмизируются с трудом. И правосознание, как нестойкий алгоритм – продукт осмысления человеком своего места в мире, которое и определяется воспитанием, то есть – культурой восприятия жизни, и правоприменение –процесс тоже нелинейный и субъективный, зависят не только от текстовых правил и гуманных посылов - как стратегия, но и от «велений времени», сиюминутных задач - как тактика. Тем более – нельзя доверять искусственному интеллекту задачи , цель которых –используя одинаковые правила, приводить к разным (именно так!) заранее определённым результатам. Он не понимает интриг и намёков, потому опишет эту систему как «странный аттрактор», все пути которого стремятся к некоему множеству, но ... не приводят. Многозначительно подмигивать умеет только человек. А?
Но пока искусственный интеллект определяется волей человека, результаты его деятельности зависят от человеческой морали, целеполаганий, качества принимаемых решений. От культурного развития, определяющего сложность личности, способность ориентироваться во все увеличивающемся океане информации и формировать иерархию ценностей и задач.
"Ну вот, опять, - подумает многоопытный читатель. - Сколько можно рассказывать о том, что культура возводит людей на вершину творенья, а без нее человечество погибнет безвозвратно. Слыхали мы это не раз, причем от куда более компетентных людей".
Здесь автор устами предполагаемого читателя озвучил несвойственную культуре функцию.
Понятно, что автор – гуманитарий, и не может иначе. Но всё же доктор искусствоведения не может не знать, что людей на вершину творения возвела вторая сигнальная система, позволившая называть, передавать и накапливать, что сродни компьютерному «железу». А культура – это способ организации (культивирования) знаний – программная среда.
И, да – человечество выродится без умелого распределения и использования накопленных знаний и навыков. Наука как часть культуры как раз и развилась как ответ на такую потребность – узнать, осмыслить, приумножить. Искусство, как вторая составляющая культуры – необходимо для физического выражения и удовлетворения эстетических и эмоциональных потребностей. Искусство непосредственно связано с религией моделью «приношения», возврата некоего мистического долга высшему существу. Из искры Божьей возгорелось пламя, и теперь отблески его озаряют небо – дом Творца. Своеобразная игра разума. Человек в хорошем настроении идёт по ночному полю и горланит песню. Кому он поёт, когда его никто не слышит? Он просто делится своим настроением и умением с миром, с чем-то невыразимо большим, чем человек и человечество. Может этот человек – убийца? А если так, то – воин или маньяк? Не важно. Он культурный человек. Песни поёт, в Бога верит. Жаль, что религия, как модель приношения своего дара Творцу, возврата ему долга - всё менее актуальна. Сейчас популярны модели «человек-человек» и «человек-общество», а тут уж не до приношений. Товар-деньги-товар.
Пока искусственный интеллект зависит от воли человека, он зависит и от человеческой морали
И вправду, есть суждения, которые кажутся банальностями, пошлыми общими местами, используемыми, как порой представляется, в своекорыстных интересах. Растиражированное словосочетание "культурный человек" утратило сколько-нибудь содержательный смысл. Прежде всего, потому, что омассовление самой культуры, превращение ее в универсальный продукт, доступность ее онлайн-потребления и онлайн-производства неизбежно приводят к деградации тех ее качеств, которые делали ее важнейшим импульсом развития человека и человечества.
Словосочетание «культурный человек» утратило не содержательный смысл, а качество. То самое «омассовление и доступность» это китч - мещанская субкультура, которая существовала всегда, как лубок рядом с живописью. Не стоит подменять понятия - культура и искусство – это два во многом перекрывающихся, но- РАЗНЫХ множества. Они не тождествены по сути, и надо их различать.
Например - маргинализация культурных запросов - это результат сформированного рынком услуг предложения, как ответ на усреднённое требование потребителей с непритязательными вкусами. Круг замкнулся. Искусство (в облегчённом виде) продолжает развиваться(вспомните «Фельетонную эпоху» у Гессе). Культурное же влияние (культивирование как «взращивание») ослабевает, или становится опасным, разрушительным для общества, дезориентируя и духовно размагничивая его. О моральных же качествах многих деятелей культуры, как и о личной жизни извращенцев и маньяков, подаривших миру шедевры, вслух говорить не принято. Они были культурными, часто – высокоморальными и набожными людьми, всей жизнью доказавшими, что искусство – вне морали, а общий культурный ценз общества – это средняя температура по больнице.
Потому я стараюсь различать понятия «культура» и «искусство», и настоятельно рекомендую это автору статьи.
...приводят к деградации тех ее качеств, которые делали ее важнейшим импульсом развития человека и человечества.
И прежде всего ее отношением к жизни и смерти. Онлайн-существование, теряющее плотскость, разрушающее психофизиологическое единство индивидуальности, отделяющее виртуальное от реального, неизбежно приводит не только к упрощенному пониманию бытия (модели вместо процессов!) - но, что еще опаснее, к этической нейтральности. Когда представления о добре и зле, жизни и смерти становятся взаимозаменяемыми, превращаются в забавляющую, но очень часто вовсе не забавную игру.
Я вспомнил детские игры «в войнушку»: «Падай, ты убит.» В них была и жестокость и героизм и настоящие друзья и назначенные враги. Мы повторяли сцены из фильмов и книг.
Красиво падали и в шутку умирали.
И шуточно учились убивать.
Не удалось деревянным пистолетам и фильмам про войну вырастить нас кровожадными маньяками, и не думаю, что современным мультимедийным средствам при всей их зрелищности это под силу. Если конечно не забывать, что всё это «понарошку», и в любой игре есть сверхзадача, и любая жестокость должна быть оправданной.
По круговой рассылке из разных адресов получил один и тот же ролик, прославляющий убойную силу искусственного интеллекта: почти невидимый аппарат способен опознавать лица "плохих парней" и пробивать им головы. Если этими аппаратами загрузить самолет и сбросить их на город, можно уничтожить любое количество "плохих парней" на любом континенте. При этом сохранив жизни "хороших парней". Увлеченный спикер гордо говорит о том, что этот приспособленный для массовых убийств инструмент делает ненужной ядерную бомбу. Не стану задавать вопрос, сколько будет стоить эта операция. Но вопрос, кто и как будет отделять "плохих парней" от "хороших", задать хочется.
Эту идею хорошо проработали Стругацкие в романе «Отягощённые злом», где ненадолго наделили одного персонажа- правдоборца возможностью моментальной кары по своему усмотрению. Читайте.
Обратите внимание: «Когда собираетесь завести детей?» как отвечать на раздражающие, некорректные и навязчивые вопросы о детях .
И все же самая сложная проблема находится в иной плоскости. Почему одна из фундаментальных проблем человеческого бытия - право на убийство себе подобного - отметается за ненадобностью? Убийство становится не более чем игрой, красивой картинкой, за которой никто не вспомнит о вывернутых наружу кишках и расплывшихся по асфальту мозгах. Войны, ведущиеся с помощью нажатия кнопок, смерти, отражающиеся лишь на дисплее, разрушительны для всех участников этого только по видимости бескровного процесса. Виртуальная реальность требует противоядия от расчеловечивания.
Убийство в "виртуале" становится игрой, и никто не вспомнит о вывернутых наружу кишках
И этим антидотом может быть только культура. Понимаемая широко и объемлюще. Культура мысли и веры. Нравственность. Образование, научное познание, художественное творчество.
Культура отношений, культура пользователя, культура мышления – это социально-производственная этика. Правила поведения, не имеющие отношения к «вывернутым наружу кишкам», которых большинство читателей в реальности не наблюдали.Зато кино и компьютерные игры наперегонки поражают воображение, одновременно выращивая у зрителя толерантность (в медицинском смысле) к насилию и его результатам. Вы хотите разрушить эту толерантность (переносимость, терпимость) с помощью культивирования определённой этической среды? Вот в мирное время – пожалуйста. Можете научиться понимать культуру «широко и объемлюще» («дайте нам закусочки... вообще». Булгаков), можете даже считать, что комплекс этических мер защитит вас от насилия.
Но ведь стоит начаться войне, как «вывернутые наружу кишки» (видите – я тоже дважды написал эту фразу) станут повседневной реальностью. Вам придётся убивать – руками, оружием или клавишей. И никакие этические комплексы уже не подействуют. Трудно на войне сохранять человечность, однако и военные действия нормируются писанными кровью уставами. И в оборонительной и в освободительной войне главное – любой ценой. Какая этика? Какая культура взаимоотношений и сохранение общечеловеческих ценностей? Просто – убей захватчика. Сохрани генофонд своей нации. Спаси близких. А что, у Вас не так?
... Культура мысли и веры.
Ее фундаментальная миссия - очеловечивание человека. Что особенно важно в такие переломные эпохи, как нынешняя, когда кажется, что мы теряем почву под ногами, оказываясь в царстве неопределенности. Когда стремительно развивающиеся технологии властно отчуждают нас от результатов нашей деятельности.
Странно... А что поменялось-то? Я раньше на заводе точил деталь, не представляя – где её будут использовать. Сейчас пишу код, которым кто-то дополнит мультимедийный продукт невнятного назначения. Я не вижу результатов, могу только догадываться, что где-то крутится и моя деталька. Это и есть «отчуждение от результатов деятельности»? Значит - результат только на даче, где я топором вытесал столик из пня и пользуюсь им, любуясь. Жаль, что автор не имеет отношения к производству. Он бы не был столь напыщенно – тенденциозен и точней бы цитировал молодого Маркса. И может иначе взглянул бы на дилемму – вынужденный труд и рабочая гордость сопричастностью.
Впрочем, мы переживаем это не в первый раз в истории человечества. И мы выжили, быть может, только потому, что гуманистическая культура позволяла сохранять устойчивость человеческого бытия. Сегодня слова "искусственный интеллект" пишут с заглавных букв. Пора признать за культурой такое же право.
С большой буквы пишутся символичные, знаковые понятия. Человечество сейчас любуется новой игрушкой. Так, алхимик, увидевший в сосуде необычную бурную реакцию, с восторгом и страхом ждёт её завершения, чтоб проанализировать осадок. Или погасить пожар в лаборатории. Искусственный интеллект – это всего лишь один из способов организации информации, в том числе и работы с «биг дата» - растущим и меняющимся массивом цифровой информации. Алхимик может не знать стихов и песен. Никакой культуры – чистый разум. Он может всю жизнь просидеть в своей «башне из слоновой кости» и не понять – насколько разрушительны последствия внедрения его открытия. Не вините его за открытие. Вините себя за неумение с этим жить. Ну, а «признание прав» на заглавную букву культуре надо ещё заслужить.
Больше интересных статей здесь: Психология.
Источник статьи: Когда я слышу слово "культура", или Путин снова прав.