Наши цифровые следы: от лайков до предсказаний
Что на самом деле говорят о нас наши действия в соцсетях? Можно ли предугадать наши решения? И как мало данных нужно, чтобы алгоритм узнал нас лучше, чем близкие?
(Отрывок из книги «Четвёртая мировая война»)
Известный «тест Тьюринга» был создан для проверки, может ли искусственный интеллект проявить «личность», подобную человеческой. Однако, как отмечают эксперты, сам Тьюринг, возможно, ввёл нас в заблуждение из-за особенностей своего восприятия мира. Будущий сверхмощный ИИ победит человечество не потому, что обретёт сознание, а именно из-за его отсутствия. Он будет принимать решения, основываясь исключительно на холодном анализе данных, без оглядки на эмоции и предрассудки, которые часто управляют людьми.
Открытие ящика Пандоры
Об опасности, которая уже стала реальностью, широкой публике рассказал швейцарский журнал DasMagazin в материале под красноречивым названием «Я просто показал, что есть бомба». Статья вышла вскоре после избрания Дональда Трампа президентом США и была признана «текстом года» по версии Spiegel. Её героем стал не политик, а учёный Михал Косинский.
Работая в Центре психометрии Кембриджского университета с 2008 года, Косинский разработал модель, которая показала шокирующую вещь: совместив данные психологических тестов с цифровым поведением человека, можно составить о нём невероятно точный портрет.
Шокирующая точность алгоритмов
Уже в 2012 году его модели было достаточно проанализировать всего 68 лайков пользователя в Facebook, чтобы с высокой вероятностью определить:
- Цвет кожи (точность 95%);
- Сексуальную ориентацию (точность 88%);
- Политические предпочтения в США (точность 85%).
Но это были лишь частные случаи. Общая эффективность модели выглядела ещё более впечатляюще:
- 10 лайков – и алгоритм знает человека лучше его коллег;
- 70 лайков – лучше, чем друг;
- 150 лайков – лучше, чем родители;
- 300 лайков – лучше, чем супруг или партнёр;
- 500 лайков – лучше, чем он знает сам себя.
Этот эксперимент наглядно показал, что нашу «уникальную» личность можно свести к набору данных и просчитать. Наши рассуждения о собственной исключительности, увы, часто оказываются лишь проявлением субъективного восприятия. В день публикации этих данных Косинский получил два звонка из Facebook: один с жалобой, другой – с предложением работы.
Практическое применение: от науки к манипуляциям
Модель Косинского была воспроизведена и использована компанией Cambridge Analytica. В отличие от учёного, у компании были практически неограниченные ресурсы для сбора данных: кадастровые списки, данные бонусных программ, телефонные справочники, медицинские записи и многое другое в США находятся в относительно открытом доступе.
Эти массивы информации скрещивались с данными о лайках и репостах в Facebook, а также со списками сторонников Республиканской партии. На выходе система определяла, на какого пользователя и каким контентом нужно воздействовать для достижения нужного результата, после чего начиналась точечная информационная бомбардировка.
Что сеть знает о нас на самом деле?
Интернет может не знать о вас очевидных вещей, таких как пол или возраст, если вы их не указали. Однако алгоритмы легко вычислят это по косвенным признакам – вашим интересам, покупкам, поисковым запросам. Но что ещё важнее: сеть узнает ваши истинные убеждения, даже если вы их тщательно скрываете в обществе. Например, она поймёт, что вы расист, если вы вводите в поиск оскорбительные термины и проводите время на соответствующих сайтах, даже если публично декларируете политкорректность.
Если анализировать не фрагменты, а всю совокупность наших действий – как в сети, так и в реальной жизни (к чему и стремятся новые технологии), – мы оказываемся предельно предсказуемыми. Нам кажется, что мы все разные, но искусственный интеллект, работающий с Big Data, этого не подтверждает.
Будущее под контролем ИИ
Именно поэтому такие визионеры, как Рэй Курцвейл, работают над созданием персональных помощников, которые будут знать наши желания раньше нас. А Илон Маск – над автомобилями, которые будут предугадывать наши маршруты без наших указаний.
Предсказывать и манипулировать человеческим поведением становится не сложнее, чем пользоваться навигатором или онлайн-переводчиком. И в результате политические сюрпризы, подобные избранию Трампа, могут возникать там, где их совсем не ждут.
Самообучающиеся нейронные сети, получив доступ ко всей информации о нас – от истории браузера и банковских операций до геолокации со смартфона, медицинских карт, налоговых деклараций и личных сообщений, – смогут взять под незаметный тотальный контроль.
Пример Трампа важен именно потому, что это не будет контроль в духе антиутопий Оруэлла или Хаксли, который можно распознать и которому можно сопротивляться. Это будет контроль, который мы не сможем идентифицировать. Мы будем действовать по воле алгоритмов, искренне веря, что делаем сознательный и личный выбор. ИИ возьмёт нас голыми руками, а мы даже не поймём, когда это произойдёт.
(Отрывок из книги «Четвёртая мировая война»)
