Андрей Курпатов объясняет, как это произойдёт
(Фрагмент интервью Андрея Курпатова для Lenta.ru)
С развитием технологий человек становится более зависим от гаджетов, соцсетей, ИИ-помощников и прочих сервисов. В этом вроде нет никакой проблемы, ведь все эти средства были созданы для упрощения жизни и с этой целью они отлично справляются. Однако у этого процесса цифровизации есть и обратная сторона. «Лента.ру» в рамках спецпроекта к началу третьего сезона сериала «Мир Дикого Запада», доступного в онлайн-кинотеатре Okko по подписке Amediateka в пакете «Премиум», пообщалась об эпидемии «цифрового аутизма» с научным руководителем лаборатории нейронаук и поведения человека Сбербанка Андреем Курпатовым.
«Лента.ру»: Какие возможности есть у современных ИИ-помощников? И какими функциями, на ваш взгляд, будут обладать такие цифровые слуги в будущем?
Андрей Курпатов: Пока еще люди находятся в рамках своей цифровой зоны — лишь сообщая вещам о том, что они делают, что им важно, чего они хотят и так далее. Но скоро «вещи» будут настолько умны, что они сами выйдут на контакт с нами — они будут сами понимать, чего мы хотим, что для нас важно, и совершат все необходимые действия, чтобы мы остались довольны.
Утром, когда вы проснетесь и откроете глаза, умный дом поприветствует вас и сам раздвинет шторы, сделает теплым пол на вашем пути в ванную, включит воду, когда вы окажетесь перед раковиной, и порадует завтраком из ваших любимых и обязательно свежих продуктов, когда вы дойдете наконец-то до кухни. Впрочем, это только начало дня…
В конечном итоге нас ждет «интернет всего» (этот термин изобрели сотрудники компании CiscoSystems) — объединение «интернета вещей» с «интернетом людей».
«Лента.ру»: Почему ИИ-помощники вдруг стали такими популярными? Почему люди больше не способны организовать свой распорядок дня и досуг?
Андрей Курпатов: Почему? Потому что все эти помощники, приложения и планировщики счастливо избавляют нас от необходимости думать.
Что значит «думать» с практической точки зрения? Во-первых, не заморачиваться по поводу будущего. Во-вторых, делегировать кому-то принятие решений.
С обеими этими функциями искусственный интеллект уже прекрасно справляется.
«Лента.ру»: Но за этим следует другая проблема, когда ИИ сам решает за человека, что ему полезно и какую информацию он должен знать. Возможно, стоит как-то менять эту систему, чтобы она могла делать только то, чего мы от нее хотим, даже если это нам вредит? К примеру, он отказывается заказывать вредную пищу или алкоголь.
Андрей Курпатов: Конечно, самая большая проблема состоит в том, что человек — в принципе — сам себе злобный Буратино, а потому только тем и занимается, что наносит себе разнообразный вред.
Если взглянуть на наше «творчество» шире, то, честно говоря, дух захватывает: окружающую среду загрязняем нещадно, биоценозы последовательно уничтожаем, климат портим, а что уже говорить о различном супероружии и прочих глупостях? Очевидны аутоагрессивное поведение и самовредительство. Препятствуем этому? Препятствуем!
Или вот еще более нетривиальный вопрос — если суперразумный интеллект потенциально способен нанести вред человеку, то стоит ли роботам, которые будут созданы нами до его появления, препятствовать человеку работать над этим проектом? При этом мы абсолютно не в курсе, какими именно средствами этот сверхмощный искусственный интеллект будет добиваться своих целей.
«Лента.ру»: Тогда нужно ли допускать, чтобы ИИ-помощники становились домашними психологами и наставниками? Можно представить себе мир, в котором люди, ведомые ИИ, совершают неблаговидные поступки, чтобы чего-то добиться?
Андрей Курпатов: Это наше фундаментальное когнитивное искажение: человек во всем видит самого себя. Например, когда патогенные бактерии или вирусы «противостоят» нам, они на самом деле ничего против нас не имеют — просто живут, развиваются, и им совершенно наплевать, что конкретные человеческие особи могут от них пострадать. Так и искусственный интеллект: чтобы у нас возникли из-за него проблемы, ему не обязательно вынашивать планы по нашему уничтожению.
Человек — ленивое существо, и он с удовольствием перепоручает искусственному интеллекту рутинные или сложные дела. Машины уже ориентируются на местности за нас, работают на производстве, помогают выбирать покупки в интернете.
Создание помощников-наставников и психологов на базе ИИ — само по себе не проблема и не такая уж фантастика, проблема в другом: мы утрачиваем навыки делать самостоятельно то, что поручаем ему. Мы в какой-то момент окончательно перестанем понимать, как все вокруг работает (честно говоря, мы уже сейчас не очень это понимаем), и не сможем объяснить искусственному интеллекту, чего от него хотим. Вот тут-то к нему и перейдут бразды правления нашей жизнью, это и будет завоеванием без войны. Если, конечно, в какой-то момент мы не включим свой мозг.
Продолжение интервью — на Lenta.ru.