Область исследований искусственного интеллекта прошла длинный путь, но многие считают, что официально она родилась, когда группа ученых из Дартмутского колледжа собралась вместе летом 1956 года. За последние несколько лет компьютеры улучшились многократно; сегодня они выполняют вычислительные операции намного быстрее людей. Учитывая весь этот невероятный прогресс, оптимизм ученых можно было понять. Гениальный компьютерный ученый Алан Тьюринг предположил появление мыслящих машин несколькими годами ранее, и ученые пришли к простой идее: интеллект, по сути, это всего лишь математический процесс. Мозг человека — машина в определенной степени. Выделите процесс мышления — и машина сможет его сымитировать.
Тогда проблема казалась не особо сложной. Дартмутские ученые писали: «Мы считаем, что значительный прогресс может быть достигнут в одной или нескольких этих проблемах, если тщательно отобранная группа ученых будет работать над этим вместе в течение лета». Это предложение, кстати, содержало одно из самых первых применений термина «искусственный интеллект». Идей было много: возможно, имитация схемы действия нейронов головного мозга могла бы научить машины абстрактным правилам человеческого языка.
Ученые были оптимистичны, и их усилия были вознаграждены. У них были программы, которые, казалось, понимали человеческий язык и могли решать алгебраические задачи. Люди уверенно предсказывали, что машинный интеллект на уровне человеческого появится уже лет через двадцать.
Удачно совпало и то, что область прогнозирования, когда у нас будет искусственный интеллект человеческого уровня, родилась примерно в то же время, что и сама область ИИ. Фактически все возвращается к первой статье Тьюринга о «мыслящих машинах», в которой он предсказал, что тест Тьюринга — в процессе которого машина должна убедить человека, что она тоже человек — будет пройден через 50 лет, к 2000 году. Сегодня, конечно, люди по-прежнему предсказывают, что это произойдет в ближайшие 20 лет, среди известных «пророков» — Рэй Курцвейл. Мнений и прогнозов так много, что порой кажется, что исследователи ИИ ставят на автоответчик следующую фразу: «Я уже предсказал, каким будет ваш вопрос, но нет, я не могу точно это прогнозировать».
Проблема с попыткой предсказать точную дату появления ИИ человеческого уровня состоит в том, что мы не знаем, как далеко мы можем зайти. Это не похоже на закон Мура. Закон Мура — удвоение вычислительной мощности через каждые пару лет — делает конкретное предсказание о конкретном явлении. Мы примерно понимаем, как двигаться дальше — улучшать технологии кремниевых чипов — и знаем, что в принципе не ограничены в нашем нынешнем подходе (пока не начнем работать с чипами в атомных масштабах). Об искусственном интеллекте того же не скажешь.
Распространенные ошибки
Исследование Стюарта Армстронга было посвящено тенденциям в этих прогнозах. В частности, он искал два основных когнитивных искажения. Первой была идея, согласно которой эксперты в области ИИ предсказывают, что ИИ прибудет (и сделает их бессмертными) аккурат до того, как они умрут. Это критика «восхищения нердов», которой подвергается Курцвейл — его прогнозы мотивированы страхом смерти, желанием бессмертия и фундаментально иррациональны. Создатель сверхинтеллекта становится чуть ли не предметом поклонения. Критикуют обычно люди, работающие в области ИИ и знающие не понаслышке о разочарованиях и ограничениях современного ИИ.
Вторая идея в том, что люди всегда выбирают отрезок времени в 15-20 лет. Этого достаточно, чтобы убедить людей, что они работают над чем-то, что станет революционным в ближайшее время (потому что людей менее привлекают усилия, которые проявятся через века), но не настолько в ближайшее, что вы сразу же окажетесь чертовски неправы. Люди счастливы предсказывать появление ИИ до своей смерти, но желательно, чтобы это было не завтра и не через год, а лет так через 15-20.
Прогресс в измерениях
Армстронг отмечает, что если вы хотите оценить достоверность конкретного прогноза, есть много параметров, на которые можно взглянуть. К примеру, идея того, что интеллект человеческого уровня будет развиваться за счет моделирования человеческого мозга, как минимум предоставляет вам четкую схему для оценки прогресса. Каждый раз мы получаем все более подробную карту мозга, либо успешно имитируем определенную его часть, а значит прогрессируем в направлении конкретной цели, которая, предположительно, выльется в ИИ человеческого уровня. Может быть, 20 лет будет недостаточно для достижения этой цели, но мы хотя бы можем оценить прогресс с научной точки зрения.
А теперь сравните такой подход с подходом тех, кто говорит, что ИИ, либо нечто сознательное, «появится», если сеть будет достаточно сложной и будет обладать достаточной вычислительной мощностью. Возможно, именно так мы представляем человеческий интеллект и сознание, возникшие в процессе эволюции, хотя эволюция проходила миллиарды лет, а не десятки лет. Проблема в том, что у нас нет эмпирических данных: мы никогда не видели, как из сложной сети возникает сознание. Мы не только не знаем, возможно ли это, мы и знать не можем, когда нас это ждет, потому что не можем измерить прогресс на этом пути.
Существует колоссальная сложность в том, чтобы понять, какие задачи действительно сложны для выполнения, и это преследует нас с рождения ИИ и до сегодняшнего дня. Понять человеческий язык, случайность и творчество, самосовершенствование — и все сразу, просто невозможно. Мы научились обрабатывать естественную речь, но понимают ли наши компьютеры, что они обрабатывают? Мы сделали ИИ, которые кажется «креативным», но есть ли в его действиях хоть толика творчества? Экспоненциальное самосовершенствование, которое приведет к сингулярности, вообще кажется чем-то заоблачным.
Мы и сами не понимаем, что такое интеллект. Например, эксперты в области ИИ всегда недооценивали способность ИИ играть в го. В 2015 году многие думали, что ИИ не научится играть в го до 2027 года. Но прошло всего два года, а не двадцать. Значит ли это, что ИИ через несколько лет напишет величайший роман? Поймет мир концептуально? Приблизится к человеку по уровню интеллекта? Неизвестно.
Не человек, но умнее людей
Возможно, мы неправильно рассматривали проблему. Например, тест Тьюринга еще не был пройден в том смысле, что ИИ смог бы убедить человека в беседе, что тот говорит с человеком; но вычислительные способности ИИ, а также возможность распознавать закономерности и водить авто уже намного превышают уровень, доступный человеку. Чем больше решений принимают алгоритмы «слабого» ИИ, чем больше растет Интернет вещей, тем больше данных скармливается нейросетям и тем большим будет влияние этого «искусственного интеллекта».
Возможно, мы пока не знаем, как создать интеллект человеческого уровня, но точно так же мы не знаем, как далеко сможем зайти с нынешним поколением алгоритмов. Пока они и близко не похожи на те страшные алгоритмы, которые подрывают общественный строй и становятся неким туманным сверхинтеллектом. И точно так же это не означает, что мы должны придерживаться оптимистичных прогнозов. Нам придется удостовериться, что в алгоритмы всегда будет закладываться ценность человеческой жизни, нравственность, мораль, чтобы алгоритмы не были совершенно бесчеловечными.
Любые прогнозы нужно делить надвое. Не забывайте, что на заре развития ИИ казалось, что он преуспеет очень быстро. И сегодня мы тоже так думаем. Прошло шестьдесят лет с тех пор, как ученые собрались в Дартмуте в 1956 году, чтобы «создать интеллект за двадцать лет», а мы до сих пор продолжаем их дело.