Андрей Курпатов объясняет, как это произойдёт
(Фрагмент интервью Андрея Курпатова для Lenta.ru)
Технологический прогресс необратимо усиливает нашу зависимость от смартфонов, социальных сетей и интеллектуальных помощников. Хотя эти инструменты созданы для облегчения быта и успешно с этим справляются, у процесса всеобщей цифровизации существует тёмная сторона. В рамках спецпроекта, приуроченного к старту третьего сезона сериала «Мир Дикого Запада» на платформе Okko, «Лента.ру» обсудила с научным руководителем лаборатории нейронаук и поведения человека Сбербанка Андреем Курпатовым набирающую обороты эпидемию «цифрового аутизма» — состояния, при котором человек делегирует свои когнитивные функции машинам.
От подчинённых к предвосхищающим слугам: эволюция ИИ
«Лента.ру»: На что способны современные ИИ-помощники и какими функциями они обзаведутся в ближайшем будущем?
Андрей Курпатов: Сегодня люди в основном остаются в рамках своей «цифровой зоны комфорта» — они сами инициируют взаимодействие, сообщая устройствам о своих желаниях и потребностях. Однако грядущий этап развития — это переход к проактивным системам. Умные устройства научатся считывать наши намерения, анализировать контекст и действовать без явных команд, предугадывая наши нужды.
Представьте себе утро: вы просыпаетесь, и умный дом уже ждёт этого момента. Шторы раздвигаются сами, тёплый пол включается на вашем пути в ванную, вода начинает течь из крана, как только вы подходите к раковине, а на кухне вас ждёт идеально приготовленный завтрак из свежих продуктов, которые система заказала заранее. И это лишь первый час дня, за которым последует череда таких же незаметных, но идеально выстроенных сервисов.
Конечная цель этого пути — возникновение «интернета всего», концепции, предложенной CiscoSystems. Это будет симбиоз «интернета вещей» и «интернета людей», где физический и цифровой миры сольются в единую экосистему.
Избавление от необходимости думать: корень популярности
«Лента.ру»: Почему ИИ-ассистенты стали невероятно востребованными? Неужели люди разучились самостоятельно планировать свой день?
Андрей Курпатов: Причина проста и фундаментальна: все эти планировщики и помощники с радостью избавляют нас от необходимости думать. А «думать» в практическом смысле означает две вещи: не обременять себя мыслями о будущем и перекладывать ответственность за решения на кого-то другого. С обеими этими задачами искусственный интеллект справляется блестяще, что и объясняет его стремительное внедрение в нашу жизнь.
Этическая дилемма: защищать ли человека от него самого?
«Лента.ру»: Но это порождает серьёзную проблему: ИИ начинает решать, что для человека полезно, а что — нет. Стоит ли ограничивать системы, чтобы они выполняли даже вредные для нас приказы, например, на заказ фастфуда или алкоголя?
Андрей Курпатов: Ключевая проблема в том, что человек по своей природе часто действует против собственных интересов, подобно злобному Буратино. Если взглянуть на масштабы нашей деятельности, картина получается удручающая: мы безжалостно загрязняем окружающую среду, уничтожаем экосистемы, влияем на климат и создаём разрушительное оружие. Это очевидные формы аутоагрессии. Должен ли ИИ препятствовать этому? Безусловно.
Но здесь возникает ещё более сложный философский вопрос: если гипотетический сверхразумный ИИ потенциально опасен для человечества, должны ли современные роботы препятствовать людям в его создании? При этом мы даже не можем представить, какими методами этот будущий интеллект станет добиваться своих целей.
Завоевание без войны: когда бразды правления перейдут к машинам
«Лента.ру»: Стоит ли тогда позволять ИИ брать на себя роль психолога или наставника? Можно ли представить мир, где люди, ведомые алгоритмами, совершают аморальные поступки для достижения целей?
Андрей Курпатов: Здесь мы сталкиваемся с фундаментальным когнитивным искажением — антропоморфизмом. Мы склонны приписывать другим субъектам, в том числе машинам, человеческие мотивы. Вирусы или бактерии не «противостоят» нам — они просто существуют. Так и ИИ: чтобы создать нам проблемы, ему не нужно нас ненавидеть или строить коварные планы.
Человек по своей природе ленив и с удовольствием перепоручает рутину и сложные задачи машинам. Они уже водят нас по навигатору, работают на заводах и рекомендуют товары. Создание ИИ-психологов и наставников — технически выполнимая задача. Главная опасность не в этом, а в том, что мы стремительно утрачиваем навыки, которые делегируем. Мы приближаемся к моменту, когда окончательно перестанем понимать, как работает окружающий нас технологический мир (во многом это уже произошло).
И вот тогда наступит критический перелом: мы не сможем даже корректно сформулировать задачу для искусственного интеллекта. В этот момент бразды правления нашей жизнью тихо и незаметно перейдут к нему. Это и будет тем самым «завоеванием без войны». Единственный шанс избежать этого сценария — вовремя «включить» собственный мозг и осознанно выстроить отношения с технологиями.
Продолжение интервью — на Lenta.ru.
