Есть в истории вычислительной техники наблюдение, которое кажется шуткой, пока его не поймёшь всерьёз: машина, считающая за микросекунды баллистическую траекторию к далёкой планете, с непостижимым трудом отличает кошку от собаки на дворовом снимке. Человек справляется со второй задачкой, не успев додумать мысль, и проваливается в первой нахраписто. Этот разрыв получил среди исследователей имя "парадокс Моравека", по фамилии робототехника Ганса Моравека, который сформулировал его ещё в восьмидесятые годы вместе с коллегами вроде Родни Брукса и Марвина Минского. Суть наблюдения одной строкой: то, что для человека трудно, для компьютера исторически просто, и наоборот. Разобраться в его корнях значит многое понять и о технике, и о нас самих.
Формулировка парадокса и её знаменитые слова
Классическая формулировка была сделана Моравеком в 1988 году в примечательно спокойном тоне и оттого звучит вдвойне остро: сравнительно легко заставить компьютер показать уровень взрослого человека в тестах на интеллект или в шашках, и трудно или невозможно дать ему навыки годовалого ребёнка, когда дело доходит до восприятия и подвижности. Через три с лишним десятилетия после этих слов индустрия продвинулась немыслимо далеко, а парадокс продолжает стоять на столе как приборная шкала.
Поддержали мысль другие классики. Минский любил подчёркивать, что труднее всего повторить те человеческие навыки, которые стоят ниже уровня сознания: по его наблюдению, меньше всего мы осознаём то, что наш разум делает лучше всего. Стивен Пинкер в 1994 году сформулировал урок тридцати пяти лет исследований искусственного интеллекта как хлёсткую фразу: сложные задачи оказались простыми, а простые задачи сложными. Сентенция намертво въелась в научную культуру.
Почему распознать кота труднее, чем вычислить орбиту
Объяснение Моравека строится на эволюционном расчёте. Все человеческие навыки реализованы биологией, выращенной естественным отбором, причём чем старше навык, тем дольше отбор полировал его устройство. Восприятие мира, распознавание лиц, ловля мяча, суд чужих намерений, слуховое разборение голоса - всё это плоды сотен миллионов лет доработок, в которые вложены опыт бесчисленных поколений. Абстрактное же мышление по меркам биологии совсем юное: по оценке самого Моравека, тонкий слой разумного мышления насчитывает меньше ста тысяч лет, и оттачивать его ещё никто не успел.
Из этого встречного наблюдения выводится ёмкая формула: трудность обратного инжиниринга любого человеческого навыка примерно пропорциональна времени, которое навык провёл в эволюции. То, что приобретено давно, нам дано без усилий, и потому мы его не осознаём и не можем воспроизвести по запискам. То, что нажито недавно, даётся в поте лица, зато мы его мыслим явно, шаг за шагом, и именно его легко пересказать машине.
Орбита Марса и кот на фотографии ложатся в эту схему идеально. Вычисление орбиты это абстрактная задача тысячелетней давности, и компьютеру она родная по природе: формула, итерации, готовый ответ. Различение кота от собаки это зрительная задача, выверенная у млекопитающих десятки миллионов лет, уложенная в миллиарды нейронов и работающая мгновенно, в обход сознания. Перенести её на кремний означало заново встроить всю эту древнюю механику в агрегат, не имеющий ни глаз, ни биологии, ни младенчества в гостях у угля.
Как это выглядело на практике в борьбе индустрии
Практическая летопись подтверждает парадокс с впечатляющей ясностью. Шахматы и шашки, логика и алгебра поддались компьютерам рано, и уже к концу девяностых машина сражалась с чемпионами на равных. А вот распознавание объектов на обычных фотографиях топталось в десятилетиях инкубаторов. Ещё в две тысячи десятых годы лидирующие алгоритмы в престижном конкурсе визуальной классификации ошибались почти в каждой четвёртой попытке, и задача "кот или собака" оставалась лбом камня преткновения для ряда солидных команд.
Перелом случился в 2012 году, когда нейронная сеть с глубокой архитектурой (её имя, AlexNet, знакомо сегодня каждому студенту индустрии) сократила частоту ошибок чуть ли не вполовину против предыдущих лидеров. Метод опирался на тысячи образцов и на огромные вычислительные мощности и, по справедливости, надо сказать, именно тогда парадокс впервые почувствовал обратный ход: навык, даваемый людям эволюцией, стал даваться машинам через усилие. Процесс оказался не мгновенным, но необратимым, и за десятилетие после прорыва машинное зрение прошло путь от смущённых студенческих неточностей до промышленной зрячести.
Парадокс внутри операционных систем и компьютерного быта
В микромире операционных систем и прикладных программ парадокс Моравека звучит как семейная история. Windows без труда распределяет триллионы байтов памяти между сотнями процессов и не сбивается, но спотыкается о вполне человеческие мелочи вроде предугадывания нужного контекста или понимания интонации пользовательской команды. Голосовой помощник без запинки переведёт валюту по текущему курсу, но попроси его отличить в веб-камере соседа по комнате от картины на стене, и на миг становится видно, какая упорная инженерия стоит за каждым успехом.
Тот же принцип объясняет почему так сложно медленно шли вперёд такие тихие службы, как автоматика распознавания рукописных букв, распознавания речи, фильтрация спама по смыслу или работа с текстом на естественном языке. Эти функции выходят за пределы простого пересчёта и требуют от машины погружения в восприятие, и именно поэтому их ждали десятилетиями, хотя уравнения с запятыми машина решала уже тогда, когда речь шла ещё о программировании на перфокартах.
Забавно и успокоительно заметить, что парадокс универсален в обе стороны: для человека вычислить орбиту тяжело, а отличить кота легко, для компьютера наоборот, и мир устроен так, что обе стороны в итоге дополняют друг друга как раз там, где каждой не хватает таланта.
Что парадокс сообщает планировщикам техники и обычным пользователям
Для инженеров парадокс - не просто наблюдение, а милосердная методичка. Она подсказывает, почему автоматизация идёт быстрее всего в формализованных задачах и медленнее всего там, где надо разбираться в контексте; почему популярные предсказания начала эпохи искусственного интеллекта насчёт "машины, которая мыслит через десять лет" терпели крах именно на уровне восприятия; и почему современные успехи глубочайших сетей обозначают не столько рождение разума, сколько перенос на кремний древних зрительных и слуховых ухищрений.
Пользователю из него также разумно извлечь вывод: не удивляйтесь, когда почтовая программа мастерски считает сроки подписок, но путает ваш ответ коллеге с цитатой друга. За каждым из этих ляпов стоит не недосыпание разработчиков, а гигантский эволюционный груз задачи. Расчёт пришёл в мир словами, восприятие выросло в клетках, и на стороне алгоритма всегда остаётся историческое отставание в живом, тёплом, неформальном.
Иллюзия простоты и почему она сводила с ума целые лаборатории
Историки искусственного интеллекта любят вспоминать оптимистические прогнозы эпохи первых лабораторий: исследователи тогда искренне предсказывали мыслящие машины в горизонте пары десятилетий, и их вера во многом питалась именно головоломкой скрытой сложности восприятия. Со стороны кажется, что научить робота ходить или распознавать чашку на столе это инженерная рутина, тогда как обыграть человека в интеллектуальную игру - вершина славы. Практика быстро установила правильный порядок: игры пали рано, а ходьба и распознавание чашки сопротивлялись ещё сорок лет.
Примечательно, что сам ребёнок ни в чём не виноват и ни на что не жалуется. Годовалый человек хватает чашку и распознаёт мать по лицу не потому, что задача легка, а потому что вся древнейшая машинерия мозга специализируется на таких делах. Понимание этого факта перевернуло подходы в робототехнике: вместо попыток описать восприятие формулами исследователи стали строить системы, которые учатся воспринимать, в свой черёд усваивая мир образцами, как ребёнок усваивает его опытом.
Внутри индустрии эта перестройка дорого стоила и дорого далась. Поколения методов, построенных на ручном описании признаков (эксперты годами придумывали, на какие характеристики формы или цвета должна смотреть программа), рухнули под напором методов обучения на массивах данных. И опять же парадокс: упростить процесс написания правил удалось только тогда, когда от самих правил отказались.
Где каждый из нас может наблюдать парадокс дома
Парадокс не требует лаборатории. Присмотритесь к своим устройствам: калькулятор в телефоне решает квадратное уравнение в миллиардную долю той доли секунды, которую тратит телефон на то, чтобы понять, что перед камерой питомец. Навигатор с вопиющей скоростью высчитывает маршрут через восемь областей, но долго и светло сомневается, когда вы на ходу произносите адрес. Текстовый редактор исправляет орфографию безапелляционно и затрудняется распознать то, что вы только что написали от руки на планшете.
Такие наблюдения полезно вести и для отношения к будущим новостям индустрии. Каждый раз, когда вам покажут робота, красиво делающего сальто, или программу, мгновенно пишущую эссе, вспоминайте: один подвиг опирается на недавно приручённое восприятие тела, а другой - на недавно приручённое мастерство слов. Порядок эволюционных осадков в перевёрнутом зеркале кремния работает всё так же исправно, как работал и при Моравеке.
Замечательно, кстати, как сам факт парадокса отмирает не сразу, а затухает по кусочкам: узлы парадокса развязываются один за другим, и каждое развязывание сопровождается искренним удивлением людей, которые не ожидали, что на это уйдёт тридцать лет и озеро данных.
Мирное завершение противостояния котам и орбитам.
Сегодня стороны спора уже не выглядят непримиримыми. Машинное зрение распознаёт домашних животных в телефонной галерее, распознаёт тексты на вывесках и помогает врачам читать снимки, а вычислительная мощь по-прежнему считает орбиты, только делает это теперь быстрее и ещё более прозаично. Парадокс Моравека не аннулирован, он обращён в урок: не путайте сложное с непривычным и не считайте простым то, что делаете без усилий. Однажды понятый, этот афоризм чинит не только инженерные планы, но и самоуважение любого нетехнаря, который посреди бурного техно-века продолжает успешно отличать кота от собаки просто потому, что на его стороне несколько сотен миллионов лет опыта предков.
Если бы парадокс потребовал от читателя одного вопроса на вынос, он звучал бы так: какие ещё естественные для нас навыки окажутся камнями преткновения для искусственных систем в этом десятилетии? Судя по истории, это будут не задачи на скорость и не задачи на память, а всё то, что мы делаем не задумываясь: понимать настроение собеседника, предугадывать неловкость движения, чувствовать, где шутка, а где серьёзность. Через тридцать лет посмотрим, какие из этих крепостей будут взяты, и снова скажем спасибо простому наблюдению 1988 года, которое предсказало нам самую неожиданную карту рельефа человеческой силы и машинной слабости.
Послесловие про тонкий лак разума.
Слова самого Моравека напоследок звучат нежно и тонко: сознательное мышление это тончайший слой человеческой мысли, держащийся на значительно более старом и мощном, хоть и не осознаваемом знании восприятия. Парадокс, сформулированный в 1980-х, протянул свою руку в эпоху нейронных сетей и подарил нам не только понимание пределов машин, но и новую мерку уважения к собственному аппарату восприятия. Каждый раз, отмахиваясь от кота в комнате как от чего-то обычного, имейте в виду: вы прямо сейчас демонстрируете технологию, над которой инженеры смеются и плачут уже третье поколение, а ваш мозг исполняет её между делом, пока вы пьёте чай.