Андрей Себрант: Про Космос, интуицию, будущее, искусственный интеллект и правильных ведьм

Мой сегодняшний собеседник — это человек-легенда. Это Директор по стратегическому маркетингу компании "Яндекс" Андрей Себрант.

Наша беседа состоялась почти полгода назад, в офисе "Яндекса". Несколько месяцев ушло на расшифровку текста. Почему так долго? Причина не только в объеме интервью, но и в густоте смыслов, заложенным в нем.

Мы говорим об искусственном интеллекте, квантовой физике, исследовании Дальнего Космоса, интуиции, лазерном мире и даже о том, кто такие "правильные колдуньи".

По искусственный интеллект

Итак, будем говорить про будущее.

Хорошая тема. Люблю говорить про будущее.

Сейчас только ленивый не говорит про искусственный интеллект. Все под этим понимают разное. Кто-то говорит, что алгоритмы придумали ещё в 80-е. Я сам диссертацию по искусственным нейронным сетям писал. Ограничивается ли это только машинным обучением без наставника или всё-таки куда-то дальше продвигается? Искусственный интеллект — это что?

Я очень не люблю этот термин и стараюсь его всячески избегать. Только когда предопределено название какой-нибудь дискуссии — "мы позвали вас поговорить об искусственном интеллекте" — тогда вынужден повторять. Я его не люблю в первую очередь по той причине, что есть большие проблемы с однозначным, общепринятым понятием естественного интеллекта. Пока мы не договорились, что является интеллектуальной деятельностью, как-то очень странно говорить.

Вообще забыли сейчас про машины. Просто: что является интеллектуальной деятельностью? Арифметика является интеллектуальной деятельностью? По-видимому, да. Животные к ней, вроде, не очень способны, в основном — только к цирковым номерам.

Является ли калькулятор в этом смысле зачатком искусственного интеллекта? Вы кнопочки понажимали — он правильную сумму сообщил. Но как-то это же в голову не приходит. Хуже того, счёты, или абак. Можно ли считать, что искусственный интеллект начался, когда абак придумали? Пошевелил костяшки — и получился результат, который доступен только человеческому мозгу. Поэтому давайте аккуратней. Я, и не только я, предпочитаю использовать термин "машинный интеллект".

Есть такой любимый мной футуролог Кевин Келли. Не так давно его книгу "Неизбежно" перевели на русский язык, и там автор не устаёт повторять: "Ребята, вся история про машины — это не то, что они будут делать что-то лучше нас — например, вычислять. Это не самое интересное. Самое интересное — что они будут делать что-то другое и по-другому". Любимый пример с птичкой: искусственная особь, если строго следовать определению, должна махать крылышками. Крылышки должны состоять из пёрышек. Вообще, она должна уметь какать на голову, потому что птицы это могут. Но человеческая мысль пошла по другому пути, и от птицы взяла идею полёта. Некоторое время люди летали без крылышек на всяких дирижаблях. Потом крылышки использовали, но совершенно не те и не так, а потом снова отказались от крылышек — ракеты запустили. Продолжением этой идеи стала миссия на Марс — вроде сохранился функционал птицы, но к ней имеет слабое отношение.

Что-то похожее происходит с машинным интеллектом. Современный машинный интеллект — это история про задачи, которые человек когда-то считал своей вотчиной, но перестал считать. Самое интересное не в них, а в тех задачах, которые нам даже не приходили в голову. Вот здесь и начинаются горячие споры на тему, сможет ли машинный интеллект поработить человечество. Такие дискуссии мне интересны примерно также, как разговоры о большой искусственной птице, которая будет воплощением анекдота "хорошо, что коровы не летают".

Только, ради бога, не надо настолько очеловечивать эти самые машинки и думать, что они немедленно обретут самосознание. Очень забавно: самые страшные аналогии — из кинематографа. Когда после лекций задают вопрос "поработят ли нас машины", ссылаясь на "Терминатора". Обычно на это я привожу пример про экскаваторы. Допустим, они стали самостоятельными сознательными единицами. Вечером эти роботы собираются в общежитиях, скучают и думают, как бы с лопатами пойти в город. В какой-то момент они осознают, что кто-то их эксплуатирует, и идут громить город людей. В реальности экскаватор можно считать роботом, который специализируется на копании земли. Но я не могу представить себе, что карьерный экскаватор, который живёт в карьере и только его умеет копать, вдруг выбрался из карьера и полез громить город — не сходится. С чего бы он туда полез? Вы его выключили из розетки — он стоит до утра. Или все 24 часа в сутки копает. Он больше ничего не умеет делать.

Как предрекают, вначале будет много-много специализированных устройств: умная сковородка, умный холодильник, умная машина. Затем у них появится некое объединяющее…

Снова будет стоять вопрос про то, где проходит граница интеллекта. Потому что мы же хорошо понимаем, что, по Стругацким, "я человек, и ничто звериное мне не чуждо". А в нашей деятельности, в том числе той, которую мы считаем разумной, очень много нерационального и связанного с нашим телом.

Давайте представим роботизированный комплекс, который на основании машинного обучения точно знает, как правильно касаться человека, чтобы, скажем, утешить его в горе. Сила нажатия, характеристики поверхности, влажность, температура этого комплекса — все параметры идеально выверенные. Есть подозрение, что всё равно это не будет эквивалентно касанию мамы. Потому что рука мамы – это не просто совокупность различных физических факторов, это ещё некий контекст "мама меня родила". Машинка повторить его не может, так как в касании мамы очень много из этого контекста.

Что не сможет делать ИИ

Но всё равно останется что-то…

До той поры, пока мы — белковые существа, в нас остаётся очень много, связанного с нашим телом. Связанного не с той высшей нервной деятельностью, которую так или иначе эмулируют машины. Откуда, собственно, столь же большая волна разговоров, что по мере развития машинного интеллекта всё более важны будут люди. Причем, как ни странно, не с программерскими, а социально-коммуникаторскими умениями и навыками. Потому что заменить касание руки мамы, скорее, может опытный психолог или телесный терапевт, а не хорошо обученная машина.

Машина будет другой и делать она будет что-то лучше нас. Вопрос в том, что мы не знаем. Очевидно, что калькулятор, даже счёты, вычисляют лучше, чем наш головной мозг. Он под это, правда, и не был заточен эволюцией. Равно как и машины не заточены, например, на процессы биологического воспроизведения. Повторюсь: попасть в контекст взаимодействия матери и ребёнка невозможно вне биологического аспекта. Машине слабо́ туда влезть по техническим причинам.

В каждой технологической беседе нужно обязательно вспомнить Илона Маска.

Ну конечно!

Про будущее людей

Тогда с другой стороны зайдём: насколько может получиться, наоборот, содержание сознания человека? Условно, сделать дамп базы сознания и загрузить наш контент внутрь искусственной нервной сети.

Понятия не имею, да и мне это не очень интересно по той же самой причине: дамп чего?

Дам ("слепок") памяти.

Ещё раз: наша память — это далеко не только текущее состояние коры. Это гораздо больше — это воспроизведение всего организма.

То, как оно представлено…?

Не факт. Та же история. Мозг в этом смысле кажется всем очень странным, потому что психология и другие экспериментальные науки о человеке давно разобрались с тем фактом, что нельзя отделять сознание от тела, мышление не только от мозга и коры, но и от всего остального. Когда человек принимает рациональное решение, оно сильно разное в зависимости от того, как давно он поел. Просто сейчас, когда много данных появилось, есть куча интересных примеров на эту тему. Экономика — казалось бы, отрасль, где проявляется рациональное поведение человека. Но давайте будем помнить, что 15 лет назад Нобеля по экономике получил Канеман, психолог по образованию. И неслучайно в этом году его любимый ученик Талер тоже получил Нобелевскую премию, где та же самая микроэкономика, которая, по сути дела, показывает, что взаимодействие человека с окружающей средой — какое угодно, только не рациональное.

А теперь к Маску. Он на какой-то конференции сказал, что мы давно все живём в эмулированной среде.

А солипсисты, если я правильно помню, говорили, что мы вообще нигде не живём. На эту тему мне неинтересно фантазировать. Хорошо, можно принять эту точку зрения. Это вопрос веры. Доказать её невозможно. Есть что-то происходящее, причём непонятно где, в результате чего мне кажется, что я наблюдаю и вас, и диктофон. Интересная точка зрения, но что дальше?

О трендах развития

Хорошо. Какие сейчас технологические тренды, куда всё идёт?

Давайте снова вернёмся к понятию границы. Где она между человеческим и неодушевлёнными предметами, выполняющими какие-то операции? Эта граница сначала проходила больше по физическим вещам. Если посмотреть на окружающий мир, все вокруг бегают, и есть много мотиваций к тому, чтобы марафон побежать. Прикольно, что в своё время было честью — отдать жизнь за то, чтобы информацию доставить на 42 км.

Первый марафонец.

Да. Шутки шутками, а сейчас никому в голову не приходит, что человек, который бегает марафоны, обладает ценнейшим для общества умением вовремя доставить весть.

Да, в таком контексте не рассматривается.

Это ему не мешает бегать, просто с совершенно другой мотивацией. Можно вспомнить метателей копья. Там тоже был вполне практический стимул. Сейчас легкоатлеты с другой мотивацией посвящают жизнь метанию копья. А потом в какой-то момент были люди, смысл жизни которых был ходить за плугом.

Это было не так давно.

Да, причем в огромных масштабах. Половина населения занималась тем, что руками обрабатывало землю — это была важнейшая и очень человеческая функция. Сейчас в развитых странах это всего несколько процентов от населения, но никто от этого не пострадал. Если не вспоминать Есенина и его "живых коней заменила стальная конница". Ну, заменила и заменила, и как-то человечество с этим смирилось. Эта граница всё время ползёт. Она долгое время ползла в области физики. Не ходить за плугом, а сесть за трактор, причем сел один из десяти, а остальные девять пошли в город к станкам.

Дальше началась история со счётом: устный и письменный вдруг ушёл в какие-то коробочки. Дальше, казалось бы, такая очень интеллектуальная деятельность — шахматы. А потом появилось Deep Blue с лучшими шахматными алгоритмами. Почему с ними перестали соревноваться? Потому что больше нет смысла —машина выиграет всегда. Пришлось придумать себе новую задачку. Сказали, что есть другая игра, которую придумали раньше шахмат, называется Го. В 2014 году в журнале Wired выходит огромная статья психолога, который тщательно изучил этот вопрос. Там есть глубинные интервью с программистами, игроками в Го, которые приходят к выводу, что пройдут еще десятилетия, пока компьютер сможет играть в Го на более-менее человеческом уровне. Потому что там настолько много непознанного, невыражаемого в каких-то целевых функциях, как в шахматах. Интуиция, воображение и вдохновение — всё, в чём компьютеры слабы.

Но надо понимать, что в это время ребята в DeepMind обучали систему играть в Го. В конце этого же 2014 года AlphaGo обыграл сначала европейского чемпиона, а потом в 2015 году — Ли Седоля. Кто это? Очень сильный корейский игрок, но, может, не самый сильный в мире. Про это немедленно сняли фильм, и я его уже смотрел.

Фильм снят с известной позиции. Ли Седоль, когда давал интервью, сказал: "Я расцениваю это как своё поражение, но не как поражение человечества. Я был слаб, я перенервничал". Нашёлся следующий человек, китаец, который сказал: "У меня нервы покрепче, конечно, я их сделаю". AlphaGo сыграла с ним в сухую ничью. Но это ещё не конец истории. У людей по-прежнему был здесь блок, что это уже не может быть по определению. Игра, в которой нет алгоритма, в которой есть вдохновение, жизненный опыт и чисто эстетические критерии красоты. Как они могли это запрограммировать? В головах у людей по-прежнему сидит мысль, что машина выполняет заданную программу, а это не совсем правда на текущий момент. Конец этой истории даже не в том, что версия AlphaGo 2016 года всухую разделала игроков из Китая. Ребята из DeepMind, создатели AlphaGo, объявили, что они больше не играют с людьми, нет смысла. Но при этом было известно, как учили машинку.

Здесь мы переходим к важному: машина, которую научили учиться. В случае с шахматами машина, по сути дела, была воплощением коллективной мудрости сообщества гроссмейстеров. Решения, которые в разных ситуациях должна была принимать Deep Blue, заключены в сложнейшей оценочной функции для различных классов позиций на доске в различных стадиях игры. Она очень плохо работала в конце и в начале.

Deep Blue совершенствовали с помощью дополнительных множителей, которые описывали характеристики позиции. Факторы придумывали программисты, а важность этих факторов оценивали гроссмейстеры. В этом смысле Deep Blue — воплощение всемирного человеческого шахматного разума, только работает гораздо быстрее, в большем по сравнению с человеком объёме.

Когда учили первую версию AlphaGo, в нее просто загружали n-ное количество тысяч партий лучших игроков мира и, естественно, набор правил, по которым эти партии ведутся. Сначала она училась на них, потом совершенствовалась, играя сама с собой — и в итоге смогла обыграть людей. Казалось бы, на этом финиш. Но в октябре 2017 года разработчики выступили с заявлением: "Мы запустили AlphaGo Zero. Мы решили проверить, а нужен ли вообще на каком-то этапе человеческий разум. Мы запустили машинку, в которой были заложены только правила игры, цель, кто является победителем. Мы дали ей возможность играть с собой, без единой партии с человеком даже в качестве демонстрации". Эта машинка за несколько суток сыграла сама с собой 5 млн партий. После этого её выпустили играть против той AlphaGo, которая сделала людей. Новая AlphaGo Zero, которая никогда не была знакома с человеческими стратегиями, обыграла AlphaGo, которая училась как раз на них, со счётом 100:0. После этого матч был прекращён.

Это пример того, что теперь машинки могут не просто учиться и совершенствоваться у людей. Есть много ситуаций в нашей жизни, когда ты можешь совершенствоваться в тех ситуациях, которые так или иначе являются игрой в широком смысле этого слова. Ты можешь совершенствоваться, играя против противника — другого человек, другого такого же компьютера или алгоритм. И в тех случаях, когда они могут совершенствоваться, они сейчас сами вырабатывают те стратегии и те находки, которые известны людям. Такая же вещь была проделана, например, с покером. Там надо научиться жульничать, и машина очень быстро научилась жульничать и прекрасно обыграла лучших игроков в покер после этого.

Про интуицию и виртуальных помощников

То есть, потенциально у машины может быть что-то подобное интуиции?

Вот об этом и речь! Мы не очень понимаем, что такое человеческая интуиция. И мы не очень знаем, по крайней мере, мы не все одинаково понимаем, что называется интеллектом. Но если считать шахматы проявлением интеллекта, то машина с этим давно справляется лучше людей. При этом они просто вобрали в себя разум человечества и стали лучше считать. Не стали ошибаться и у них не стало того цейтнота, в который попадают люди, когда не успевают в шахматах просчитать все ходы за отведённое время.

Интересно!

Но это не значит, что все характеристики личности можно перенести куда-то ещё. Для тех читателей, которые когда-либо читали Стругацких… Вы читали?

Читал. Ещё в том возрасте.

Есть у них такая прекрасная книжка "Понедельник начинается в субботу", которой уже где-то полвека. В этой книжке были такие существа, которые назывались дублями. Дублем в этой книге являлось человекоподобное существо, которое умело хорошо выполнять какую-то одну задачу. Например, можно было послать дубля получить зарплату. Он умел стоять в очереди, расписываться, ведь тогда денежки выдавали в кассе и надо было расписываться в ведомости. Дубль умел делать это, потом приносил создавшему его магу денежки и растворялся в воздухе. А дальше совершенно прекрасное, потому что представляется то, что вокруг нас. Были многофункциональные дубли. Например, был дубль, который мог вести машину и при этом талантливо петь хором. Сейчас вспоминаем, что умеет делать искусственный интеллект. Вести машину.

По крайней мере, первые попытки беспилотных автомобилей есть.

Вовсю этим занимаются. Есть сомнения, сколько конкретно времени пройдёт. Но понятно, что это сфера, где искусственный интеллект вполне себе будет применяться. На части дорог в обозримом будущем, в городском сумасшедшем трафике Москвы не сразу, но тоже когда-то вытеснит человека. Не вызывает особых вопросов, что машина сможет водить автомобиль. Это тот самый дубль. Петь хором… Алиса (виртуальный голосовой помощник "Яндекса" — прим. авт.) неплохо разговаривает. Года через два можно заставить петь хором.

Снова про искуственный интеллект

Знаете, мы не так давно с Давидом Яном общались, и он мне прямо сказал: "У меня такое ощущение, что создавая такие искусственные нейронные сети и наблюдая за тем, что там происходит, мы…"

(Смех.) Мы с Давидом после конференции про искусственный интеллект в Париже полночи про это говорили.

…то сможем понять, как у нас всё устроено.

Самая интересная история, если опять вернуться к шахматам… Шахматисты на самом деле очень благодарны Deep Blue. Говорят, что в шахматы стало интересней играть. Они многое поняли про себя, когда их начала обыгрывать машина. То же самое говорил и Ли Седоль, что он очень многое понял про себя. С Ли Седолем это было ещё не так хорошо. А было совершенно феерично с чемпионом Европы по Go, потому что Европа — не самая "гошная" страна. В основном — Азия и Китай. Мужик после того, как продул AlphaGo, начал прогрессировать. У него начал дар расти так, как не рос никогда до этого. И он говорит: "Я многое про себя понял, когда сыграл с ЭТИМ. И многое в себе открыл". Отсюда же пример про творчество. Очень часто говорят, что машина не может творить. Но что называть творчеством?

Музыку точно пишет.

Мне часто говорят: "Вы попросили музыку написать в определённом стиле, и поэтому это было просто". Нет, поэтому было сложно. Просто написать музыку заставить машину легко. Потому что это история про то, что ты выдал информацию о миллионах часов музыки в виде, понятном машине. Сказал: "Сделай такое же". Она взяла и сделала. Её не надо учить законам гармонии, её не надо учить нотной грамоте. А дальше, как определить, сильная музыка или не сильная? Кому-то очень нравится, кому-то нет. Простите, с человеческой музыкой примерно также, особенно с современной. Поэтому мы решили поставить эксперимент с понятной метрикой. Есть композитор, есть фанаты этого композитора, работают в музее этого композитора.

В нашем случае это была Маша Чернова, которая сама говорит в фильме: "Я с 12 лет со Скрябиным живу". Закончила школу, пошла в консерваторию, потом пошла работать в музей Скрябина. Принесли Маше Черновой музыку, про которую она знала, что она написана машиной, и спросили: "Что ты думаешь?" Маша сказала, что это самобытно. "Я понимаю, что это не Скрябин, потому что я Скрябина всего наизусть знаю. Но это Скрябин".

То есть, она не отличила бы?

Просто было важно от человека, для которого Скрябин — смысл жизни, услышать "это Скрябин". У неё не было отторжения. Были люди с отторжением, и они всегда будут. Вообще любое нормальное искусство вызывает разные реакции. Поэтому как раз было важно не наличие отрицательной реакции — важнее было другое: может ли человек, который считается экспертом в этой области, на уровне не экспертном, а эмоциональном, в это произведение влюбиться? При этом человек заведомо знает, что это не его любимый автор, потому что он любимого автора знает наизусть. Оказалось, может. Может настолько, что человек захочет собрать оркестр, аранжировать музыку под этот оркестр и сыграть это для людей. Для нас это был очень важный тест.

Является ли человек биороботом

Может быть, тогда и человек — это своеобразный биоробот? Который также учится, также…

В этом смысле нас пока, видимо, спасает и отличает от машинок очень большая универсальность. Я неслучайно сослался на концепцию дублей Стругацких. Дубль умел делать что-то одно, но зато это одно он делал лучше человека. Это, по сути, характеристика всех, по крайней мере, современных, историй про машинный интеллект.

Мне Давид Ян сказал, что когда в искусственной нейронной сети процессы начинают застаиваться, туда загружают специальный белый шум, и она опять оживает. Что есть некая прямая аналогия с походом в лес, сидением у реки, медитацией.

А непонятно! Я твёрдо уверен, что рано или поздно появятся машинки с какими-то кросс-умениями. И там будет очень интересно, как они будут переносить умение из одной области в другую. Думаю, что это тоже появится. И это будет больше похоже на нашу ситуацию с переключениями. Потому что история про белый шум — это история про очень глубокий сон, когда ты проснулся освежённым. А вот когда совсем другие стимулы, другая деятельность… Но это всё впереди.

Понятно, что пока это строгие дубли, которые решают очень узко очерченные задачи. Но, например, история с вождением автомобиля – это та самая история, где задачки становятся уже гораздо более многомерными. И в частности становится задачка взаимодействия с другими некомпьютеризованными участниками движения — например, с пешеходами. Эта машина должна не просто воспринимать заданную действительность, но и как-то коммуницировать с пешеходами. Потому что неслучайно даже в самых современных автомобилях всё ещё есть "бибика".

Вновь про интуицию. И еще про квантовый мир

А как вы думаете, что такое человеческая интуиция?

Я не знаю, совершенно. Поэтому и интересно всем этим заниматься. Мне легче, я физик. Как любой, наверное, человек, который всерьёз занимался квантовой физикой, я понимаю, что понять это до конца нельзя.

Квантовую физику?

Да. До конца. Можно научиться решать задачи. При этом я всё равно не понимаю. Хорошо, если есть 1000 теоретиков такого класса, которые реально понимают, у них внутри есть картинка этого странного квантового мира. Мир теории относительности проще, его понять можно. Я, по крайней мере, могу. А квантовый мир — штука настолько сложная и контринтуитивная…

Базовая история про то, что весь наш опыт — это то самое механистическое сознание, которое и приводило к той модели мира, в которой принципиально возможно предсказать будущее. Потому что если мы будет знать точное положение и скорости всех частиц Вселенной, то дальше дело в вопросах вычислительных мощностей, но мы просчитаем. Утверждение, что принципиально нельзя узнать, природа так устроила — запретила знать одновременно координаты и скорость частицы, принцип неопределённости Паули. Как это принципиально нельзя? Просто нужен очень сложный микроскоп!

Это в микромире. Но в нашей реальности…

наша реальность — это сплошной микромир! То, что у нас на столе лежит и работает – это целиком квантовая физика. Почему здесь миллиард транзисторов? Потому что на этом принципе созданы полупроводники, которые целиком —квантовая штука. В природе не существует квантового перехода в каком-нибудь минерале. Это вещь, которая создаётся людьми с помощью легирования кристалла и создания специальных зон, которые в природных материалах не встречаются.

То есть мы живём в квантовом мире?

Да, мы живём в лазерном мире. Лазер, казалось бы, экзотический прибор. Но интернет умрёт, если мы останемся без волоконной оптики. Лазер — типично квантовый прибор. Когерентного излучения в природе не существует.

Как вы думаете, куда эволюционирует человечество? Именно человек — человек. Будет ли это связано с машинами?

Да, конечно. Человек, в первую очередь, отличается любопытством. Здоровым или нездоровым — можно порассуждать. Но это реально движущая сила человека, как я считаю. То, что машинки начнут какие-то вещи брать на себя, даст нам возможность гораздо больше продвинуться в придумывании чего-то нового, в удовлетворении своего любопытства и получении от этого кайфа.

А человек как вид куда-то движется или нет?

Я не знаю. Среди людей, которые занимаются поиском внеземных цивилизаций, есть интересная точка зрения, которая недавно появилась. Ведь было большое огорчение с этим проектом SETI — поиском сигналов внеземных цивилизаций, который долгое время не давал результатов. Сейчас появилась интересная концепция, что мы на самом деле пытаемся выделить что-то похожее на сигнал, из всего того, что мы ловим во Вселенной, исходя из своих человеческих представлений о том, что такое сигнал. Да, оформленных в виде неких математических гипотез, но это всё-таки люди придумали.

А если предположить, что на той стадии, когда цивилизация располагает достаточными инструментами, чтобы заниматься трансгалактическими переговорами, в этой цивилизации большую часть функций выполняет машинный интеллект… Где-то внутри, может быть, это и разговоры гуманоидов, но на самом деле функцию коммуникации несут машины. И то, что мы можем наблюдать у цивилизации высокого уровня развития, — это общение машинных интеллектов между собой. Среди этой информации может быть информация человеческая. Но коммуницировать они, наверное, умеют на порядок лучше людей. Потому что, когда перед ними будет поставлена задача обеспечить трансгалактическую связь, они эту задачу решат лучше, чем люди. Поскольку мы пока пытаемся это анализировать с человеческой точки зрения, мы не можем выделить сигнал по той причине, что нам непонятно, что это есть сигнал. Для этого мы должны правильно обученный (пока непонятно, как его правильно учить) искусственный разум напустить на все эти самые шумы, которые фиксируются. Может, должен быть не радиотелескоп, а совсем другой датчик.

Тут вообще мистика начинается.

Да, и тут начинается полная мистика. Но с другой стороны, это очень интересные соображения. Потому что действительно даже внутри концепции инструментов поиска, сначала, когда не было ещё никакого интернета, говорили о том, что, наверное, надо искать в радиодиапазоне. Ведь что тогда было самое передовое? Радиоволны! Давайте будем искать радиоволны. Наверняка, если цивилизация гораздо мощнее, чем земля 40-х годов, то она радиоволны излучает в пространство, причём средние и короткие. Бешеное количество, потому что у них мощность передатчиков в 100 раз больше, чем у Земли.

На самом деле, сейчас Земля излучает радиоволн гораздо меньше, чем в 40-х годах, потому что коммуникация ушла в другие вещи. Сами инженеры говорили, что звук двигателя — очень плохой индикатор мощи машины, потому что хороший двигатель не должен расходовать энергию на звук — он должен работать бесшумно. Поэтому ощущение "грохочет — значит, мощный".

По мере того, как машины развивались, они издавали всё меньше шума. Они должны полезную работу совершать, а не воздух сотрясать. Точно так же и развитая планета не должна излучать на всю Вселенную. Ей что, делать больше нечего? Хорошо продвинутые коммуникации не должны тратить на радиошум свою энергию. Кто-то скажет: "А может, случайно какой-нибудь лазер в этот момент изобрели. Может быть, лазерный луч прорвётся". Ага, понятно. Просто на нашем текущем уровне развития мы твёрдо уверены, что через 20 лет мы будем считать, что лазер — это передовой способ связи. Скорее всего, нет.

Каким будет будущее

Как вы думаете, в чём будет следующий прорыв?

Не знаю. В этом-то и прелесть — будущего, оно другое. Весь ужас в том, что система образования во многом построена на "давайте готовиться к тому, чтобы воспроизвести прошлое, только получше!" Оно и понятно: учить можно только тому, в чём мы накопили опыт.

Тем не менее, сейчас все сходятся на том, что именно технологические компании это всё будущее и создают.

Да. А дальше произошла интересная вещь: время проникновения очередной технологии резко сжалось. У меня есть слайд с цифрами статистики, там есть очень интересная история. На протяжении полутора веков шли измерения, и в середине 19-го века событие — массовое проникновение электричества. Понадобилось больше полувека, чтобы в каждом четвёртом домохозяйстве или у каждого четвёртого американца появилось личное электроустройство: лампочка, утюг, или что-то ещё. На слайде есть промежуточные точки: радио, телевидение, и так далее.

Но если промотать в конец 20-го века, то выяснится, что персональным компьютерам, которые заметно изменили нашу жизнь, для распространения понадобилось лет 15 — в 3 раза меньше, но это всё-таки какой-то обозримый период.

Прошло всего 5 лет с момента, когда в Америке появился Facebook, и до того, как им пользовалась четверть населения. Это меняет жизнь. Правильная единица, по которой надо метрику строить, — это поколение.

Очень часто любят говорить: "Назови самые интересные профессии будущего". Так самый кайф в том, что никто их не может назвать. Потому что интереснейшие профессии — оператор дрона или человек, занимающийся SMM в соцсетях, —нельзя было назвать 15 лет назад. Никому и в голову не приходило, что будет объект "соцсеть", и в нём надо будет заниматься маркетингом.

Можно говорить, что какие-то профессии останутся всегда. Понятно, что весь этот искусственный интеллект в науке пока видно только как инструмент. Он может перелопачивать огромные объёмы информации, что-то подсказывать, вычленять нужное, резюмировать, предоставлять тебе. Отлично. Но вести научные исследования — на сегодня пока даже не видно, как его к этому приспособить. Поэтому на протяжении десятков лет наука, видимо, не умрёт в том виде, в каком она есть. Там будет активно использоваться инструментарий, но учёного никто пока не заменит.

А в куче прикладных интереснейших профессий поменяется очень многое. Сейчас в ряде европейских стран законодательно принят запрет на продажи автомобилей с двигателем внутреннего сгорания, начиная с 2025-2035 года. Это на самом деле маленький промежуток времени.

Одни электромобили будут?

Да. И это катастрофически меняет рынок труда. Во-первых, тебе нет интереса сейчас становиться инженером, который будет создавать новые движки для Феррари, только если электрические. Есть огромный интеллектуальный труд по трансмиссиям, автоматическим, вариаторным. Огромное количество инженерной мысли, вбуханное в фотоплёнку, фотопечать, слайды — это уже история. Но наряду со всем этим родится новое, чего мы не знаем, как никогда не знали про интернет и специальности, связанные с ним.

О личном

Давайте поговорим немножко про личные вещи. Назовите 5 любимых книг.

Затрудняюсь, потому что сейчас у меня была бы такая странная смесь художественной литературы и научно-популярной. Очень большое влияние оказала трилогия Дэна Симмонса "Гиперион".

Еще "Мастер и Маргарита" — всё-таки я эту книжку очень люблю.

Дэниэль Канеман "Думай медленно… Решай быстро". Это книжка, к которой я чаще возвращаюсь, чем к "Мастеру и Маргарите".

И немного про магию

А чем "Мастер и Маргарита" нравится? Это же не самая инженерная книга. Не квантовая физика.

Про квантовую физику мне как раз читать почему-то не очень хочется. "Мастер и Маргарита" мне нравится тем, что в мире всё равно есть какие-то вещи про волшебство, про чудо. Это дальше можно иногда рационализировать. Вопрос, нужно или не нужно.

Есть известное высказывание, что развитая технология неотличима от магии. Но в мире вообще должно быть какое-то количество магии, не связанное с технологией. Может быть, у этой магии есть психологические корни, ещё какие-то. В биологии и в психологии есть куча своих вещей, которые мы пока не понимаем. Концепция правильной ведьмы — это хорошая концепция.

Раз вы уже зацепили эту тему, с вашей точки зрения, магия существует?

Магия — это способ интерпретации мира. Поэтому существуют какие-то вещи, которые иногда проще интерпретировать как магию. Давайте я расскажу персональную историю.

Я довольно много люблю путешествовать. Одно из мест, где я провожу много времени каждый год, — американская высокая Сьерра, особенно секвойные леса. У меня к секвойе какое-то очень особое отношение. Что-то во мне меняется эмоционально, психологически; я готов с этим деревом реально обниматься, его гладить. В прошлом году я ушёл по одной из троп в заповеднике, где много секвой и медведей. Среди этих деревьев я провел много времени. Магия или нет, но каждый знает эти ощущения: "Мне сейчас хорошо. Я чувствую единение с природой".

Я заворачиваю за секвойю, а там секвойя такого размера, что за неё действительно можно завернуть, потому что она сильно больше меня в диаметре. Что же я вижу: прямо под ногами маленький медвежонок, а где медвежонок, там и мама, у которой может быть плохое настроение, и она сейчас не будет разбираться, кто подошёл к её детёнышу. Бежать бесполезно — до машины 8 км. Неясно, что делать. Я на всякий случай начинаю тихо поворачиваться и вижу, что с другой стороны на меня выходит второй маленький медвежонок. А дальше происходит очень странное. Для меня субъективное гораздо проще описывать на том языке, на котором я воспринял этот сигнал. Секвойи будто сказали мне: "Спокойно, Андрей, ты сегодня свой и делай что хочешь". У меня кончился адреналиновый шок. Я спокойно положил рюкзак, достал фотоаппаратуру, занялся фотосессией медвежат..

Может быть, как у тех инопланетян.

Возможно. Но я про то, что я спокойно отношусь к таким вещам. Потому что есть места силы на Земле. В этом месте для меня это самое чёткое доказательство того, что неважно, на каком языке излагать.

Я физик-экспериментатор. Я мог не понимать до конца квантовой физики, но ставить эксперименты мог — это нормальное "свойство" любого физика. Эйнштейнов среди нас единицы, а людей, работающих на адронном коллайдере, сотни. Вы думаете, они все понимают, как устроена Вселенная? Нет. Они хорошие экспериментаторы и умеют спрашивать.

И про правильных ведьм

К таким же штукам, как место силы, относят всякие знаки, совпадения. Наверняка вы сталкивались с тем, что синхрониями называется?

Может быть. Как я отношусь к знакам? У меня нет своих сильных личных историй на этот счет. Если говорить о людях, которые умеют договариваться с окружающим миром… Опять же, ведьмы в хорошем смысле этого слова — да, есть такие. Я могу объяснить это тем, что они, видимо, приводят меня и людей, с которыми мы контачим, в какое-то состояние, в котором нам оказывается легче договориться. Но меня это не интересует. Мне гораздо проще воспринимать такого человека как правильную хорошую ведьму.

Ведьма — это кто?

Ведьма — это человек, чаще как раз женщина, которая хорошо умеет решать проблемы окружающего мира. "Успокойся. Билетов, говоришь, нет? Спокойно". Выдохнули, покурили, через 5 минут зайдём на сайт Аэрофлота и берём, билеты есть.

Есть гипотеза, что человек мог на это повлиять.

Либо понять, когда они там будут. Понять. Но в базовые физические вещи я по-прежнему верю и твёрдо убежден, что закон сохранения вещества пока даже ведьме нарушить не удастся.

Интересно, сможет ли когда-то машинный интеллект быть способен на что-то интуитивное и не совсем объяснимое. Может быть, это совсем другие сенсоры, про которые мы не знаем?

Это когда-то может появиться, потому что сейчас весь машинный интеллект — это история про дубли, узкоспециализированные задачи. По-моему, все истории про хорошую ведьму, интуицию, информационные поля и прочее — это всё истории про многоканальную обработку информации, в том числе на неосознанном уровне.

Человек действительно не осознает огромное количество информации, а мы говорим: "О, это же интуитивно!" На самом деле просто не осознал, что был сигнал, который тебе это решение подсказал.

Сегодня машинка, играющая в Го, и машинка, играющая в покер, — это два совершенно разных комплекса. Я сейчас фантазирую и скорее всего, с точки зрения игроков в эти игры, несу ерунду, но вполне возможно, что если они вдруг обменяются как-то информацией, то изменят свои стратегии и там, и там.

То есть теоретически робот-ведьма может возникнуть?

Да, безусловно. Но опять же повторюсь: история про ведьмовство — зачастую это принятие интуитивно правильного решения, а не активное изменение мира. На самом деле просто важно вовремя что-то сделать.

Это история про получение информации, а не про влияние?

Во многих случаях то, что кажется влиянием, на самом деле есть обработка информации, побуждение к действию. С билетами просто хороший пример. Можно интерпретировать, что иногда на этом сайте появляются билеты, а теперь я заколдовал сайт — билеты на нём появились. Но если это не какое-то уникальное явление, если билеты там иногда появляются, то внешне такое колдовство выглядит как знание, и ты просто успел обойти других. Если бы на сайте Аэрофлота мне продали билеты в Большой театр, это было бы влияние. Потому что само по себе так не бывает.

Много всяких историй, когда одновременно открытия делаются в разных частях.

Да. Просто во многих таких историях (внимательное чтение людей, занимающихся поведенческой экономикой и поведенческой психологией, говорит), похоже, что происходит сложная и многоканальная история обработки информации. Где-то она обрабатывается на основе очень странных представлений, которые далеко не рациональны, хотя мы считаем, что мы обдумали вопрос. На самом деле мы его, конечно, обдумали, только в этот момент на нас влияло что-то в нашей биохимии. Есть очень много исследований, которые очень интересно показывают влияние, например, нашего желудочно-кишечного тракта на мышление.

Там есть гипотеза про то, что мы даже и мысли на самом деле не сами думаем. Если за ними понаблюдать, то они явно откуда-то выплывают.

Да! Там очень много интересного. Думаем — это вообще очень интересный процесс. Думаем – это не последовательность логических умозаключений. Поэтому история про то, что научить машину думать, — это не история про то, чтобы выяснить, какие умозаключения в голове у человека. Они не умозаключения. Они как раз зачастую очень нерациональны, нелогичны и неалгоритмизированы.

Это сразу заметно. Если сесть и типа ни о чём не думать, то там же начинается полный бардак какой-то. Ассоциации…

Да. После этого очень смешно, что одна из больших претензий к машинному интеллекту, что он вдруг оказывается неидеальным. А сейчас очень много идей произносится про то, что надо научить их ещё и этике. Но этика — штука страшно нерациональная. Поэтому если мы начнём учить машины этике, может оказаться, что они в нашей этике найдут изъяны. Впереди много интересного!

Дополнительно почитать

• Давид Ян: Функция полезности альтруизма и эгоизма
• Максим Поташев: Мы не деградируем, мы умнеем
• Илья Грин: Стэнфорд борется за лучших из лучших
• Данила Медведев: Все представления о жизни полностью изменятся
• Артем Агабеков: Радость важнее денег

Посмотреть NoGuru-интервью

• Александр Кравцов: Быть живым и соединять живых
• Сергей Солонин: Про vision собственника, искусственный интеллект и эволюцию предпринимательства
• Валерий Разгуляев: Самоорганизация, искреннее доверие и эволюция бизнес-платфор
• Михаил Кожухов: Поднимаем паруса!
• Артем Агабеков и Дмитрий Пухов: Живая нейросеть людей, технологий и смыслов
• Артем Степанов: Всеобщая интеграция, читающие компании и бизнес будущего