Сначала люди научились формализовать рассуждение
До компьютеров было ещё очень далеко, но фундамент будущего ИИ уже появлялся: мыслители пытались описать рассуждение так, чтобы из одних утверждений по понятным правилам следовали другие
Допустим, по правилам компании все клиенты с просрочкой попадают в группу риска. У клиента есть просрочка - значит, его нужно отнести к этой группе. Такая связка посылок и вывода знакома ещё по аристотелевской логике, а для разработчика это почти готовое правило в программе. Сократ, вероятно, сначала потребовал бы уточнить, что именно мы называем риском
Следующий шаг - заставить машину исполнять правила
Механические вычислительные устройства, идеи программируемых машин и развитие математической логики постепенно позволили перейти от записи правил к их автоматическому исполнению. Пока правило живёт только в голове специалиста, каждое применение требует его участия. Алгоритм позволяет машине повторять одну и ту же последовательность действий - столько раз, сколько нужно для задачи [1]
Тьюринг и Энигма: почему история не сводится к одному человеку
Фраза «Алан Тьюринг взломал Энигму» годится для краткого пересказа фильма, но теряет важную часть истории. Ранний математический прорыв в анализе немецкой шифровальной машины сделал польский математик Мариан Реевский. Вместе с коллегами он разработал методы определения её настроек и устройство, известное как «бомба». В 1939 году польские специалисты передали результаты французским и британским союзникам [3]
В Блетчли-парке Тьюринг и Гордон Уэлчман участвовали в разработке британской «бомбы». Она опиралась на другой способ поиска настроек и не была просто копией польского устройства. Работа с Энигмой была достижением нескольких команд, а не одиночным озарением [7]
Для истории ИИ Тьюринг важен и статьёй 1950 года «Вычислительные машины и разум». Вместо спора о том, что значит «мыслить», он предложил игру в имитацию с письменными вопросами и ответами. Её обычно пересказывают как проверку того, сможет ли собеседник отличить машину от человека. Это поведенческий критерий, а не доказательство сознания или правильности всех ответов [1]
1955-1956: ИИ получил имя и исследовательскую программу
Игра в имитацию
Тьюринг публикует работу о машинном интеллекте и предлагает проверяемый поведенческий критерий
Дартмутский проект
Летом 1956 года в Дартмуте проходит исследовательский проект по искусственному интеллекту. Сам термин уже есть в заявке Джона Маккарти и соавторов от 31 августа 1955 года. Они предлагают изучить, можно ли достаточно точно описать обучение и другие интеллектуальные способности, чтобы моделировать их машиной [2] [6]
Символический ИИ
Развивается символический ИИ: знания, правила, поиск решений и экспертные системы. Программа оперирует явно представленными понятиями и связями. Это одна из линий развития ИИ, а не единственный подход того времени
Поворот: не записывать все правила, а учить систему на примерах
У правил есть неприятный предел. Реальный мир слишком грязный: язык неоднозначен, фотографии отличаются освещением, клиенты ведут себя не по инструкции, а исключений иногда больше, чем основного сценария
| Подход | Что даём машине | Сильная сторона | Слабое место |
|---|---|---|---|
| Правила | Явную логику «если - то» | Предсказуемость и объяснимость | Тяжело покрывать огромное число исключений |
| Машинное обучение | Примеры; при обучении с учителем - ещё и правильные ответы | Находит закономерности, которые трудно расписать вручную | Нужны данные, проверка и контроль ошибок |
Таблицу можно прокручивать по горизонтали
Это не означает, что правила устарели. В нормальной бизнес-системе они прекрасно сосуществуют: платёжный лимит можно проверять жёстким правилом, а содержание письма клиента - классифицировать моделью
2012: глубокие сети перестали выглядеть лабораторной экзотикой
Нейронные сети существовали задолго до 2012 года. Но успех AlexNet, глубокой свёрточной сети Алекса Крижевского, Ильи Суцкевера и Джеффри Хинтона, на соревновании ImageNet ILSVRC-2012 стал заметным аргументом в пользу сочетания глубокого обучения, больших наборов изображений и графических процессоров [4]
В конкурсной системе авторов ошибка по метрике пяти лучших классов составила 15,3% против 26,2% у участника со вторым результатом. Ошибка здесь означает, что правильного класса изображения не оказалось среди пяти предложенных вариантов. Число 15,3% относится к ансамблю сетей из конкурсной заявки, а не к любой отдельно взятой сети AlexNet. Это важный результат конкретного теста, не универсальная точность распознавания [4]
2017: трансформер построили вокруг механизма внимания
Работа «Внимание - всё, что вам нужно» предложила архитектуру трансформер. Механизм внимания существовал и раньше; новшество было в архитектуре, которая опиралась на него без рекуррентных и свёрточных слоёв. Упрощённо, внимание помогает учитывать связи между частями входа при построении его представления. Это позволило лучше распараллеливать обучение, но не отменило последовательную генерацию ответа [5]
Языковая модель на базе трансформера может последовательно строить ответ, вычисляя вероятности следующего токена - слова или его фрагмента. Здесь важно различать закономерности, усвоенные при обучении и закреплённые в параметрах, и текущий контекст: запрос, предыдущие реплики, переданные документы. Внешние данные нужно отдельно получить и предоставить модели; они не появляются в её ответе автоматически [5]
Что руководителю полезно вынести из всей этой истории
Для руководителя в этой истории полезнее всего связь между задачей и способом её решения. В одном случае достаточно явно записать правила, в другом нужны примеры для обучения, в третьем качество ограничено данными или способом проверки. Название технологии само по себе этот выбор не делает
Возможно, обычные правила и автоматизация будут дешевле и надёжнее ИИ
ИИ может быть полезен там, где человеку приходится читать, классифицировать, сопоставлять, извлекать смысл или принимать решение по неполным данным
Трудно понять, когда модели можно доверить действие, а когда она убедительно ошибается. Сначала нужен способ проверки
Перед внедрением стоит ответить на четыре вопроса: какой вход получает система, какой выход должна создать, как мы проверим правильность и что изменится в бизнес-процессе после хорошего ответа
Если после истории технологии нужен практический переход к бизнесу, используйте карту из 25 задач ИИ для бизнеса и критерии выбора первого кейса.
Источники и границы выводов
Исторические даты и результаты исследований приведены по материалам ниже. Схемы и сравнение подходов - учебные упрощения, а выводы о выборе бизнес-задачи - авторская интерпретация. Это не полная хронология ИИ
- Алан Тьюринг - «Вычислительные машины и разум» - текст работы 1950 года на сайте Университета Мэриленда в округе Балтимор; разделы об игре в имитацию и цифровых компьютерах
- Дартмут - исследовательский проект 1956 года - историческая справка университета
- АНБ США - Мариан Реевский - ранний прорыв в анализе Энигмы и передача результатов союзникам в 1939 году
- Крижевский, Суцкевер и Хинтон - классификация ImageNet - 2012 год, раздел 6 и таблица 2: результаты конкурсной системы на ILSVRC-2012
- Васвани и соавторы - «Внимание - всё, что вам нужно» - работа впервые опубликована в 2017 году; архитектура, внимание и последовательная генерация
- Маккарти и соавторы - заявка Дартмутского проекта - первоисточник от 31 августа 1955 года, сохранённый на сайте Стэнфорда
- Национальный музей вычислительной техники - «бомба» Тьюринга и Уэлчмана - различия польского и британского подходов, вклад Тьюринга и Уэлчмана
