Креативный или интуитивный характер задач — это не только музыка, это огромное количество других отраслей: и классическое творчество, и хороший бизнес, и честный маркетинг.
Почему история про самообучение машин так пугает людей? Им нужно привыкать жить с мыслью, что компьютер — это не просто программируемый механизм, которому нужно задавать пошаговую инструкцию.
Поворот мышления происходит тогда, когда становится понятно, что с машиной можно взаимодействовать по-другому. Хорошо, пожалуй, не с машиной, но с программистом. Не — «У меня есть последовательность действий, зашифруй её», а — «У меня есть задача, пусть машина сама научится её решать, хотя я понятия не имею, как это делать».
Однако тут необходимы данные для обучения. Наверное, наиболее классический, кочующий из одной научно-популярной статьи в другую, пример — это коты и собаки.
Вам сложно ответить, где изображен кот, а где собака? Наверняка нет. Кто может описать, как он пришёл к этому решению?
Зритель: У пса длинный нос, у кота нос плоский. У кота есть усы…
Андрей Себрант: Давайте начнём с носа. А если это мопс? Он сразу кот?
Зритель: Нет.
АС: Усы. У моих друзей ребенок побрил кота, сбрил ему усы. Перестал ли кот при этом быть котом?
Зритель: Наверное, дело в форме носа? У кота он треугольный, у собаки — круглый или прямоугольный. Ещё есть разница в форме зрачка.
АС: Так, фраза про форму зрачка мне нравится. Представьте, что вы должны объяснить это программисту. Как он должен рассказать программе, что такое зрачок?
Голос из зала: Надо загрузить учебник биологии.
АС: Загрузить учебник биологии, выделить круглые объекты. Вы действительно проделали эти действия, когда взглянули на картинку?
Зритель: Мы же учились…
АС: Учились. Это ключевое слово. Когда вы были детьми, родители не рассказывали вам про форму носа у кота и собаки. Они говорили: «Вот это собачка, а это кошечка». В итоге вы можете их различать.
Ниже ещё один график с сайта Electronic Frontier Foundation. Он показывает долю ошибок при работе программы с огромной базой изображений. Компьютер должен был определить, что изображено на картинке. Ещё не так давно, в 2011 году, программа ошибалась в 25% случаев. Судя по этим данным, в 5% случаев человек всегда врёт. А к 2017 году погрешность компьютера даже ниже.
Как удалось этого добиться? Программе показали миллион котов и миллион собак с соответствующими тегами «кот» или «собака». Это классический вариант обучения с подкреплением: программа что-то отвечает, правильность её ответа подтверждается, в следующий раз она ошибается, за этим следует реакция: «Неверно». После некоторого количества повторений компьютер перестает ошибаться.
Как ребенок учит новый язык, когда его перевозят в другую страну? Его не заставляют оканчивать филологический факультет или изучать теорию времён и падежей. Он начинает беседовать со сверстниками и через некоторое время говорит лучше, чем человек, прошедший систему традиционного образования.
Почему мы считаем, что машина должна сначала усвоить все правила? Современную программу можно заставить работать по тем же механизмам, что и ребёнок, который погружается в новую языковую среду. Этот подход используется во всех современных системах машинного перевода. Они всё время улучшаются — но не потому, что для них дописывают теорию, а за счёт постоянного обучения.
Я предполагаю, почему многие не верят в способность машины обучаться так, как учится ребенок. В нас встроен антропоцентризм. Мы — высшая ступень эволюции, а машины ниже нас, они не могут превосходить нас интеллектуально, ведь именно мозг делает нас особенными.
Но почему? Кто сказал, что мы венец творения? Может быть, мы промежуточная стадия для создания машинного сверхинтеллекта? В ответ я слышу те же аргументы, которые до Галилея люди приводили в защиту геоцентрической схемы.
Видно, что Солнце встаёт и ходит по небу, видно, что есть неподвижные звезды, видно, что планеты движутся сложным образом. Эта модель держалась веками и считалась глубоко научной, ведь этому учил весь человеческий опыт. Видимо, с антропоцентризмом дело обстоит примерно так же.
Это становится причиной появления странных суждений, в том числе и в бизнес-сфере. Классическое представление о взаимодействии человека и машины в информационном обществе — это телепорт в фильме «Особое мнение». Ты передвигаешь пальцами элементы интерфейса — и всё меняется.
В кино это выглядит так, а в жизни — совсем по-другому. На этой картинке исследователь данных говорит: «После внимательного рассмотрения всех этих 437 графиков, таблиц и метрик я решил сдаться, пойти за выпивкой и хорошенько напиться. Кто со мной?» Абсолютно адекватное описание реальности.
Это следствие убеждения о том, что данные непременно должны быть преобразованы в читаемый человеком вид, чтобы у него в голове возникали инсайты и варианты решений. Так построено современное производство.
Считается, что в информационном обществе идеал структурного производства выглядит следующим образом. Есть внешний мир — люди, заводы, «умные» дома, — который создаёт огромное количество данных. «Умные» алгоритмы преобразуют эту информацию в человекочитаемый вид.