Кого нам бояться?
…Искусственного интеллекта или самих себя? Разговор со Львом Мановичем, профессором Computer Science и автором книг «Культурная аналитика» и «Язык новых медиа»
«В мире есть 20 миллионов программистов, 20 миллионов дизайнеров, и вопрос в том, что даже если шедевр возникает — как его увидеть? Поэтому моя лаборатория больше 13 лет занимается проблемой того, как наблюдать за культурой, как видеть важные вещи, как видеть тренды в эпоху этого сумасшедшего нового масштаба». Так говорит Лев Манович, профессор компьютерных наук (Computer Science) Городского университета Нью-Йорка. В 2007 году Лев Манович создал исследовательскую лабораторию Software Studies Initiative, которая стала первым центром компьютерного анализа big data в культурной сфере – всех этих непрерывно разрастающихся массивных объёмов изображений и видео, публикуемых в дигитальной среде.
В 2016 году эта инициатива получила новое название «Лаборатория культурной аналитики», а в октябре 2020 года вышла книга Льва Мановича «Cultural Analytics» – результат этой части его исследований и этого периода его жизни. Одна из его предыдущих книг – «The Language of New Media» («Язык новых медиа») – стала настоящим культурным бестселлером, она переведена в том числе на русский и латышский языки, а в этом году вышло и китайское её издание. Она тоже стала своеобразным итогом целого периода интересов и исследований – Лев Манович преподаёт медиаискусство с 1992 года и не раз был гостем целого ряда конференций и программ, организованных в Риге культурным центром новых медиа RIXC.
Мы связались со Львом в начале ноября, когда такого рода активности и перемещения снова стали на время невозможны. Впереди были выборы в США, имели место опасения из-за возможных беспорядков вокруг них, в Латвии многие бурно обсуждали необходимость ношения масок в общественных местах. А моя хорошая знакомая, профессор экономики, перепубликовала у себя в Фб новость о том, что в Китае пандемия почти полностью обуздана, с явным намёком, что от нас всех что-то скрывают. В то же время Лев переслал мне графики прогнозирования распространения пандемии на covid19.healthdata.org, подготовленные Институтом показателей и оценки здоровья (IHME), независимым исследовательским центром при Университете Вашингтона. В них ношение масок и локдаун общественных мероприятий были ключевыми критериями, из-за которых компьютерные графики, рассчитанные «умными машинами», менялись кардинально. На следующей день мы связались по Zoom, в Риге было 10 утра, а в Южной Корее, откуда со мной общался из своей домашней «студии» для видеоконференций Лев, было уже 5 часов вечера. Разговор начался всё с тех же графиков:
…В Университете Вашингтона они не дураки. Они показывают, что, если все будут носить маски и периодически всё будет закрываться, заболеваемость будет оставаться примерно на том же уровне. Но такого же не будет. Поэтому показатели будут расти практически везде.
Эта ситуация сейчас обсуждается и как своего рода проверка на прочность человеческих, социальных систем. Почему азиатские страны на этот момент справляются лучше? А европейцы вступают снова в период тотальных карантинов.
Моя жена – из Кореи, и в Южной Корее мы с ней находимся с конца марта. Это такое своего рода погружение в корейское общество. И для меня Азия – это уже другой век. Она по стольким параметрам сейчас вырвалась вперёд. Раньше это было заметно далеко не всем, и сейчас тоже видно далеко не всем, но благодаря тому, как там справляются с коронавирусом, многие начинают понимать, что Азия находится уже немножко в другом измерении. Во-первых, все носят маски, кроме кафе и ресторанов. Культура тела здесь довольно высокая – все постоянно моют руки. И когда возник SARS, они построили очень изощрённую систему борьбы с подобными вещами, в которой много разных элементов, в том числе contact tracing. К тому же и границы закрыли вовремя, и хотя какие-то очаги всё равно возникают (в Корее они связаны главным образом с церковными общинами), они с ними справляются.
А в Америке никакой contact tracing не работает. Они не готовы это применять, потому что люди не доверяют правительству. Если в Корее тебе звонят и говорят, вот у вас положительный тест, дайте нам контакты людей, с которыми вы могли пересечься за последние 5–15 дней, люди в среднем выдают 18 имён. В Америке половина вешает трубки, а половина выдаёт одно-два имени. Люди боятся. В балтийских странах, небольших по размеру, contact tracing тоже должен бы работать в принципе идеально. В Корее ведь живут 50 миллионов.
Но там всё-таки, наверное, срабатывает какая-то другая ментальность. Это общепринятое осознание, что мы все разные, но составляем единое взаимосвязанное общество. Баланс личного и общественного проходит по другому рубежу.
Абсолютно. Продвинутая Азия по инфраструктуре и эстетизации быта впереди, наверное, лет на 15. А с другой стороны, они сохранили эту коллективность, здесь очень важна семья, очень важны родственники и вообще отношения между людьми. Люди сначала думают о других, потом о себе. Человек здесь паркуется и автоматически складывает у машины зеркала, чтобы у человека, который будет парковаться рядом, было чуть-чуть больше места. И когда я это забываю делать, мне жена всегда напоминает. Такие вещи – это как бы мелочи. Но они складываются в общую картину.
А как в таких странах относятся к теориям заговора и fake news?
У меня нет точных данных на этой счёт, но моя интуиция мне подсказывает, что все эти слухи и основанные на них новости – это показатель того, что люди не доверяют государству. Поэтому они и ищут заговоры. Здесь в Корее вполне себе демократия, люди достаточно активны, каждую субботу проходят демонстрации по разным поводам. Четыре года назад в результате таких демонстраций ушла в отставку коррумпированная президент страны Пак Кын Хе. При этом государственной системе в целом доверяют больше, и когда у людей есть доверие друг к другу и доверие к системе, им fake news и слухи не нужны. Их вполне удовлетворяет официальная версия событий. А в России, скажем, как я читал, ещё недавно 50% не верили в то, что коронавирус существует. То есть это такие взаимосвязанные вещи.
Но вот это ощущение, что «всё не так», что всё идёт «не туда» – оно вообще как-то очень распространено в западном обществе. И это тотальное недоверие обращается и в сторону новых технологий – их тоже воспринимают с огромным подозрением.
Есть ощущение какого-то кризиса, и оно связано, конечно, не только с коронавирусом. Это и политический кризис, весь этот размах популизма. С тех пор, как я интересуюсь big data, я, конечно, очень полюбил статистику и разные обзоры. И вот я читал недавно такой обзор, в котором молодым людям задавали вопрос – как вы думаете, ваше поколение в материальном смысле будет жить лучше, чем ваши родители? В Африке 95% сказали «да». Или, скажем, возьмём Китай, где за 15 лет треть страны из бедняков превратилась в middle class. У них нет кризиса, у них огромный оптимизм. И похожая картина во многих развивающихся странах. А вот американцы, европейцы – из них 70% сказали «нет». Был такой «золотой период», условно говоря, с 1955-го по 2005-й в Европе и США, когда жизнь улучшалась на глазах. Но ситуация изменилась – по разным причинам. Скажем, население Европы стало старше – средний возраст около 44 лет, а в Азии – около 30, поэтому там они более восприимчивы к переменам, ко всему новому.
Из проекта Phototrails. Визуализация высокого разрешения, созданная с помощью специального программного обеспечения и с использованием 2,3 миллиона фотографий Instagram из 13 городов мира
А заметна ли здесь разница и в доверии к big data?
Западное современное общество сложилось в результате двух революций – Великой французской революции и американской. Оно базируется на универсальных ценностях – свободе, равенстве, свободе слова и privacy. И поэтому возникает такая подозрительность к тому, что кто-то собирает данные – будь то Google или правительство. «Это мой частный мир, я никого туда не пущу!» Мне самому как человеку с глобальным опытом, живущему между Азией и Западом, кажется, что эта конкретная позиция несколько устарела. Мне совершенно неважно, кто за мной следит, кто собирает данные. Я всегда, когда в первый раз использую разные сервисы или приложения, на вопросы о cookies отвечаю только «да». Мне даже любопытно, что где-то этот объём данных сохраняется. Но вопрос в том, как эти данные будут использоваться. Насколько система законов и судов способна тебя защитить от преследования за какой-то мейл или твит, как это время от времени происходит в России.
Или contact tracing – в Южной Корее очень демократическое общество с высокой политической культурой. Но когда здесь людей опрашивают, как вам такая ситуация, когда мы будем следить за вашими телефонами, кредитными карточками, – они говорят: да, мы понимаем риски и не очень всему этому рады, но это абсолютно makes sense, если таким образом можно победить коронавирус. Люди в общем очень продвинуты, они понимают, что происходит, и доверяют правительству, которое в определённой ситуации, на время, может воспользоваться правом на такой уровень контроля.
А почему такое разное приятие/неприятие? Корейское общество в целом больше настроено на эффективность каких-то решений?
Это, конечно, моя интерпретация. Но мне кажется, что это более современный, более гибкий подход. Чтобы страна развивалась, необходимо быть гибкими. Европа и Америка зациклены на каких-то ценностях, которые придумали в XVIII веке, и не хотят их менять. В Азии люди более открыты меняющейся ситуации.
Другая область, в которой мы сталкиваемся с big data и контролем алгоритмов, – это социальные сети: как мы заводим в них свой «информационный круг» и как мы вообще получаем информацию. Многие начинают опасаться того, что алгоритмы начинают ограничивать их жизнь, сужать её. Насколько это реально?
Уже в 2011 году вышла книжка Эли Паризера Filter Bubble, которая как раз описывала эту ситуацию. Раньше у вас была телевизор, и смотрели по нему то, что показывали. И в обществе был какой-то консенсус. В СССР все каналы врали, но они врали одинаково. В Америке была разница между разными каналами информации – между New York Times и Los Angeles Times. Но тогда были журналисты, которые действительно проверяли информацию и стремились к какой-то объективности, как она понималась в журналистских кругах. Однако новости были приблизительно одинаковые. Конечно, и в те времена были люди, которые всему этому не верили, – но их были единицы. А потом появляется интернет, и через 20 лет происходит то, что выглядит совершенно логично, – вы можете подписываться на самые разные каналы, но вы подписываетесь на те, которые соответствуют вашей картине мира. Что вполне понятно. В то же время я читал про специальный app, который придумали одни художники и который подписывает вас на специальную выборку консервативных каналов, чтобы расширить вашу картину происходящего. Но если в этот канал входит, скажем, передача «Вечер с Владимиром Соловьёвым на канале Россия», то вы сможете посмотреть первые пять секунд, а потом вам станет просто отвратительно. Заставить людей смотреть каналы, которые не соответствуют их картине мира, – очень сложно. И, как мне кажется, алгоритм тут не в чем винить. Это последствие новой параллельной реальности, в которой в предложении есть тысячи и тысячи каналов.
Но в то же время существует одна НГО с командой исследователей, которая выставляет «оценки» медиа – насколько они политизированы в правую или левую сторону, насколько они проверяют свою информацию и склонны ли они к тому, чтобы давать объективную информацию или взывать к вашим эмоциям. У New York Times не самый высокий в этом смысле score, потому что они зациклены на Нью-Йорке, они очень либеральны (поэтому очень долго не могли понять, почему в 2016-м выиграл Трамп) плюс у них очень эмоциональные статьи. А самым объективным оказался канал, на который я и раньше был подписан, потому что у меня интуитивно было ощущение, что вот это и есть «оно». Это Financial Times. Потому что, если вы в бизнесе и покупаете акции, вам нужна действительно объективная картина мира, а не какие-то biased opinions.
Поэтому, конечно, во всём можно обвинять искусственный интеллект, но на самом деле у разных проблем есть свои причины.
Но, может быть, такая ситуация и влияние искусственного интеллекта (ИИ) на наш выбор информации всё-таки поляризует мир, делает красное более красным, зелёное – более зелёным? Ситуация с недавними выборами в США и радикальной поляризацией мнений в американском обществе – яркий тому пример.
Да, поляризация в обществе произошла – если десять лет назад вы приходили на лекцию, то на ней обязательно звучали и острые вопросы из публики, теперь звучат скорее аплодисменты. Этот кружок ходит на такие лекции, а этот – на такие. Это словно партийные собрания в Советском Союзе.
У такой поляризации есть много причин, но я не думаю, что она как-то связана с ИИ и алгоритмами. Это ведь огромные системы, это нейронные сети, которые принимают биллионы решений в день. Даже если вы делаете какое-то исследование, вы не можете охватить всю систему в целом. И на тему Filter Bubbles тоже есть множество статей, в половине из которых говорится, что да, это происходит и алгоритмы виноваты, в другой половине – нет, ничего подобного. Что вообще характерно для некоторых современных глобальных вещей: можно найти какое-то количество подтверждений одному ответу и примерно столько же – абсолютно противоположному.
Как за последние пять лет продвинулись ваши исследования big data и культурной аналитики?
Они воплотились в книгу, которая вышла несколько недель назад в MIT Press, – «Cultural Analytics». Я, конечно, переживаю за неё – не столько из-за количества проданных экземпляров, сколько хочу, чтобы она была замечена, чтобы о ней узнали. Этой темой я занимался 15 лет, и книга стала обобщением всего, что я знаю, вернее, успел узнать к определённому времени – ведь процесс подготовки академического издания штука довольно долгая, и мир не стоит на месте. Но, как я надеюсь, книга может стать своего рода учебником на эту тему – как нам обходиться с миллионами изображений и с огромным массивом дигитальной культуры современности. Как на это смотреть в целом.
Параллельно в последнее время я занимаюсь проектом Elswhere. Увидеть интеллектуальную карту мира и то, как она меняется, – это для меня мысль очень заманчивая. Идея этого проекта пришла мне в голову, когда мы с приятелем в 2015 году шли по рижской улице Миера, которую тогда объявили «улицей хипстеров». И я сказал ему – почему же я изучаю сайты вроде Deviant Art и Instagram, почему только дигитальные вещи? Ведь сколько за последнее время в мире появилось хипстерских райончиков, магазинчиков, кафе, коворкингов, сколько в мире происходит конференций, концертов. Почему не изучать культуру через физические культурные события? Потому что с момента глобализации количество культурных событий и число их типов тоже выросли во много-много раз. И вот прошло пять лет, мы собрали данные, и я теперь пишу статью. На сегодня мы собрали 4,3 миллиона событий в 200 странах с 2003 по 2019 год. Но мы собираем не только их временные и географические координаты, но и их описания. Вот, скажем, в каком-то музее открывается выставка, и её куратор пишет текст по этому поводу. Обладая миллионами этих текстов, можно на уровне слов, фраз, key words отследить, когда проявляются какие-то термины и как они мигрируют. Появляются ли они сначала в больших городах, а потом перетекают в малые, и мигрируют ли они с Запада на Восток или как-то иначе? Собрана база данных, которая позволяет проследить, как идеи движутся по миру. По 22 тысячам городов. И для меня это важно – узнать, что происходит за традиционными центрами. Что происходит в Нижнем Волочке? Что происходит в Клайпеде? Поэтому проект и называется Elswhere.
Этот проект позволяет и что-то прогнозировать?
Думаю, что да. Если ваши точки группируются вокруг какой-то линии, вы можете эту линию продолжить. И одна из вещей, которые можно пробовать прогнозировать, – какой возможный эффект окажет коронавирус на развитие культуры. Надо сказать, что в наши данные входят и 2008–2009 годы, когда, несмотря на экономический кризис, в культурной сфере не было никакого спада. Всё продолжало расти.
В одном из своих интервью, кажется, 2017 года, тоже связанном с ИИ, вы говорили о том, что для человека самый короткий путь – не обязательно самый нужный и интересный…
Я говорю об этом довольно часто – что наше общество по-прежнему руководствуется идеалами эпохи индустриализации: эффективностью и рационализацией. И эти идеалы проникли всюду. Во многих современных сферах вы превращаетесь в рабочего, который сам подстёгивает свою эффективность. И тот факт, что для этого можно ещё и использовать разные гаджеты, только подбрасывает дров в огонь. Во всех этих smart-city, smart-то, smart-сё используется только один критерий. Это рационализация, экономия нашего времени, экономия ресурсов, очень такой инженерный подход.
А человек – он устроен иначе. Представьте, скажем, что у вас всю жизнь на завтрак будет одно и то же, при этом что-то очень полезное и недорогое. Вы всё равно взбунтуетесь! Поэтому-то мы и живём в больших городах – потому что там могут происходить какие-то неожиданные вещи. Кого-то встретили знакомого на каком-то событии, пошли-выпили, да мало ли что. В то же время чем больше люди могут что-то измерять, тем больше они всё пытаются рационализировать. И, как мы говорили с моими студентами на днях, эпоха коронавируса это только усилила. Раньше вы могли пойти шататься по городу, и с вами что-то происходило. Теперь вы сидите дома и заказываете весь город себе домой – пиццу, всякие продукты, книги и так далее. Так становится всё сложнее сделать что-то абсолютно случайное или неожиданное.
Может быть, это тоже какая-то новая область данных для ИИ – постоянный учёт и фактора нерациональности…
Как нам ценить нерациональность или, скорее, как нам строить всё, чтобы учитывались не только одни критерии рациональности…
В этом смысле, может быть, эта боязнь контроля ИИ будет несколько нивелироваться, если сам ИИ будет исходить не только из соображений рациональности…
Да, безусловно. При этом deep learning, нейронные сети стали применяются всюду. Вот, скажем, Google search – раньше в нём были алгоритмы, теперь ИИ, но выглядит всё так же, только сам поиск стал немножко более эффективным. Но если мы посмотрим более философски на machine learning, он может быть, с одной стороны, абсолютно кастомизирован под вас. Он смотрит, скажем, что вы читаете и слушаете, и начинает подсказывать что-то именно для вас. Само по себе это что-то совершенно положительное. Но параллельно в миллионах случаев используется другая система – когда загоняются в систему данные не от вас лично, а от миллионов людей. И нейронная сеть выделяет какие-то паттерны, которые, по сути, являются таким арифметическим средним показателем. В этом есть свои проблемы – тут отсекаются какие-то вещи. Возникает такой среднестатистический универсальный субъект. Скажем, программы, обрабатывающие фотоснимки в своих автоматических настройках, стремятся к идеалу некоей среднестатистической «идеальной фотографии».
Этот момент усреднения, копирования будет нарастать, по вашему мнению, или ИИ научится себя «балансировать» и вводить какой-то элемент «ошибки», неожиданности?
Computer science – это огромная сфера, и в ней работает множество людей. Там есть своя подобласть – recommendation systems. Это большой топик уже много лет – как находить баланс между тем, чтобы показывать людям то, что им нравилось раньше, и чем-то новым. И там есть свои решения.
Хотя данных на эту тему не так уже много. Вот Spotify опубликовал в прошлом году информацию, что за два года музыкальный вкус его среднестатистического пользователя расширился. То есть их рекомендации ему в этом помогают. Но это информация, которая исходит от самой компании. Независимых исследований на эту тему очень мало, потому что данные в руках компаний. В любом случае всё упирается в то, какое решение, какие алгоритмы компания сейчас использует. Всё может меняться в зависимости от этого.
Но, конечно, разнообразие культуры – это очень важная тема. Одна из целей моих исследований с big data заключалась как раз в том, чтобы создать какие-то метрики для измерения разнообразия в культуре. Тут есть определённые методы, просто нужно финансирование, нужна команда, я не могу всё сделать сам. Скажем, можно было собрать несколько миллионов фотографий с Instagram и посмотреть по эстетике, по топикам и так далее, становится ли они более разнообразными с ходом времени или нет.
Я придумал «культурную аналитику» в 2005 году, потому что мне показалось, что культурных объектов так много, что просто сидеть и размышлять над чашкой кофе тут бесполезно. И какие-то вещи тут удалось сделать, но многое так и осталось за пределами возможностей чисто из-за практических вещей.
Из проекта Phototrails
Всё-таки если говорить о прогнозировании – как вы видите модель взаимодействия человека и каких-то систем, которые строятся на искусственном интеллекте? Это отношения «раб и хозяин», это какой-то симбиоз или, наоборот, ИИ сумеет подтолкнуть развитие человечества как биологического вида, как сообщества… Как вы это видите?
Мы должны разделять то, как ИИ интегрируется в какие-то пользовательские сервисы, и то, как он используется в индустрии и в науке. Хотя и там, и там в погоне за эффективностью мы всё больше и больше процессов переводим в нейтронные сети, причём те, кто ими пользуются, зачастую не понимают, как они действуют. Но для науки такая модель не очень годится. Поэтому я думаю, что постепенно люди будут применять сети, которые будут всё более «прозрачными». Вокруг этого идёт сейчас своего рода борьба: что важнее – эффективность или transparency, прозрачность? Если бы я был, условно говоря, президентом мира, я бы сказал: «Ребята, ну ладно, не обязательно всё должно быть эффективно, но нам надо знать, как эти решения принимаются». Мне кажется, «прозрачность» будет становиться всё более и более актуальной.
Другая история – Бруно Латур, первый философ XXI века, который придумал акторно-сетевую теорию. Она означает, что постепенно мы начинаем смотреть на каких-то нечеловеческих агентов как на кого-то, у кого есть права. Наверняка в будущем появятся адвокаты, которые будут защищать права ИИ – скажем, произошла авария и кто в ней виноват? Водитель, машина, компания? Это будет обязательно развиваться. Появится и новая область социальных наук и исследований о человеке, которая будет заниматься именно отношениями с такими нечеловеческими агентами.
Наблюдая всё это, мы снова задумываемся – как быстро меняется мир? В какие периоды человеческой истории происходили самые бурные изменения? В 1905–1930-х? Или это было в XVIII веке? Нам кажется, что это именно наше время. Но, может быть, это иллюзия? И с этой точки зрения было бы интересно посмотреть на 10–20 лет вперёд, чтобы сказать: вот в этой области что-то поменяется кардинально, а эта область вообще не изменится. За один этот год столько всего произошло. Скажем, индустрия моды изменилась – всё больше дизайнеров отказываются от Недель моды, от гонки новых коллекций. И вот у меня есть ощущение, что несколько тем станут в обществе и культуре важными – уже через пять или десять лет.
Они как-то связаны с нашей эволюцией и развитием как вида, как сообщества?
Мне кажется, что, если мы посмотрим на социальные науки, там не так уж много прогресса со времён Аристотеля – он уже описывает комедию, трагедию. Или, может быть, надо начинать с буддизма. Но в любом случае пара тысяч лет – очень небольшой период, чтобы изменилась наша биология. С другой стороны, есть такая вещь, как культурная эволюция. С того момента, как человек изобретает язык, он начинает эволюционировать культурно. Потом он изобретает инструменты, огонь и так далее, и так далее – вплоть до самоуправляемых автомашин. То есть это и есть мир, который мы строим, и в этом смысле культурная эволюция развивается очень быстро.
В 1990-е годы было много идей о том, что у нас теперь есть глобальный интернет и должен возникнуть глобальный мозг. Но проектов, которые это задействуют, не так уж много – это Википедия, скажем. После её запуска в 2001 году «энергию масс», скорее, использовали в своих целях большие компании.
Что касается чувств, психологии – были ли они такими же у человека 500 лет назад? Я думаю, тут много зависит от культуры и религии. Или от географии: южане и северяне. Есть крупные когнитивные различия, и они продолжают существовать. В этом смысле я считаю, что и мужчины и женщины – довольно разные, и что они друг друга не убивают – вообще чудо. И вот можно ли это изменить, можно ли вырастить людей, которые не будут друг другу завидовать или у них не будет чувства мести? Существует много научной фантастики на эту тему. Но почти во всех её сюжетах идёт речь о том, что когда общество меняет психологию людей, у этого всегда есть какие-то неожиданные и не всегда приятные последствия.
Если мы подумаем про европейскую культуру – это ведь исторически культура эмоций, переживаний, страстей. Караваджо, Рубенс, фильмы ужасов, Высоцкий, какие-то выяснения отношений в барах – человек в этой традиции немножко ещё животное. И, наверное, поэтому эта культура была очень интересной – были фильмы с сумасшедшим монтажом, были сумасшедшие поэмы. У культуры был большой эмоциональный диапазон. Но в последние годы мы наблюдаем, что у общества появляются другие ценности, что общество становится максимально чутким к любому неравенству. Появляются такие вещи, как #MeToo, темы меньшинств становятся всё более актуальны, и не только в Америке.
Из-за этого нарастает своего рода осторожность и в культурном производстве, и в поведении людей – вдруг, если я это скажу, я кого-то обижу и меня выгонят с работы. В Америке это проявляется очень кардинально, но и Европа, и даже Азия не отстают. Такое ощущение, что у развитых обществ сжимается диапазон эмоций, потому что какие-то эмоции объявляются плохими. В Америке начинают снимать со стен музеев картины Гогена, потому что он рисовал девочек-островитянок, с которыми он жил. Появляется цензура морализма. В этом есть, несомненно, положительные вещи. Но может быть и потенциально негативный эффект – возникает такое ощущение, что эмоциональный, страстный, революционный, депрессивный человек ХХ века сменяется типажом, который сидит на таблетках-антидепрессантах: он не слишком радуется, не слишком огорчается, боится кого-то обидеть… И главное – боится сделать что-то неправильно: не в того влюбиться, пойти в неправильный институт. Поэтому ему надо все своё поведение рационализировать.
И вот эта ситуация, когда вокруг нас появился global competition, а с другой стороны, нам сопутствует боязнь кого-то обидеть и стыд за культуру прошлого, – это уже очень существенные вещи. Если у людей и есть чувства, они их не показывают. Все стали такие вежливые, и когда кто-то грубит, он как будто с другой планеты. Везде повесили камеры. Всё загоняют в рамки. Но ИИ здесь вообще ни при чём, он просто орудие этих процессов, этого изменения эмоционального тонуса общества.
Лев Манович. Фото: Дмитрий Зиновьев
То есть да, мы меняемся, но мы по-прежнему меняем себя сами?
ИИ – это такой миф, который общество создало. Есть лишь определённые алгоритмы, которые решают определённые задачи. В телефонах Apple есть новая программа, которая смотрит, сколько вы моете руки, и сообщает, что это надо делать 30 секунд. Что это – ИИ? Да просто «железо».
Да, эффективное «железо». И тут снова возникает тема «интересной ошибки»…
Не совсем. Очень часто в этом дискурсе есть тема ошибок и глитчей. Я так не мыслю. Тут надо осторожно. Меня тема ошибок не очень интересует, потому что я вырос в Советском Союзе, где вообще ничего не работало. Поэтому я люблю, когда работает!
Конечно. Но мы говорим о важности иррациональной компоненты…
Иррациональной, эмоциональной, фланёрства как у ситуационистов. Этого их случайного движения по городу. Вообще случая. Того, что вроде бы маловероятно…
У всего этого возникает дополнительная ценность…
Да, но то, что ИИ используется для всеобщей рационализации, для самоконтроля и самонаблюдения, – это ещё и по Фуко. Как он написал в своё время, так всё и происходит. И всё же проблема тут не в ИИ, а в том, что мы этого хотим. Что общество хочет всё большей рационализации – поведения, трафика, энергии. Сделать всё более эффективным. ИИ здесь просто инструмент в наших руках. Не надо бояться искусственного интеллекта, надо бояться самих себя!
Согласен.
Раньше мир был таким жестоким, что человек не знал, доживёт ли он до завтра. Но за последние два столетия ситуация изменилась. К тому же средний класс в мире за последние 20 лет вырос с 700 миллионов человек до нескольких миллиардов, в основном за счёт азиатских стран. А когда люди добиваются благосостояния, чего они хотят? Стабильности, контроля.
В наше время сознание полностью взяло под контроль подсознание, о котором столько рассуждал Фрейд. Я бы сказал, что нам надо как-то человека раскрепостить и вернуть его иррациональность. Но при этом, конечно, не возвращаться к таким вещам, как насилие мужчин над женщинами. Можно ли нам вернуть себе немножко иррациональности, но при этом быть хорошими? Вот в этом, как мне кажется, и может заключаться ключевой вопрос современности.
