Эти понятые нейронные сети: черный ящик расшифрован

Нейронные сети в наше время стали модным математическим аппаратом для создания искусственного интеллекта. Их вспоминают практически на всех IT-конференциях, где речь идет об инновациях. Вместе с тем, бытует мнение, что это «черный ящик», результат работы которого не предсказуем. Давайте разбираться вместе с математиком Bright, так ли это на самом деле. 

Откуда ноги растут

Начиная с 1873 года вся прогрессивная научная общественность ринулась красить по методу Гольджи одиночные клетки и малые клеточные кластеры, поскольку окрашенные клетки было гораздо удобнее наблюдать. Особенно учёным понравилось разглядывать клетки с разветвленной сетью отростков разной длины – нейроны — структурные единицы нервной ткани. Само слово нейрон ввел Генрих Вальдейер в далеком 1891-м. 

 Тело нейрона не представляет особого интереса — обычная клетка, с ядром, цитоплазмой и прочей материальной частью. Куда интереснее то, что из этой клетки растёт. Длинный отросток с мочалкой на конце называется аксоном, а сама мочалка — терминалью. По аксону распространяется возбуждение (электрический сигнал) от тела к терминали. Аксон является выходом нейрона. Когда сигнал достигает терминали, он передаётся другим клеткам: нервным, мышечным или клеткам внутренних органов. Сами нейронные клетки выстраиваются в сети для успешной коммуникации с друг другом. 

Нейроны и математика

Теперь разберемся, как это связано с математикой и моделями, которые применяются для создания экспертных систем. 

Ответ – весьма отдаленно. К тому процессу мышления, который происходит у нас в голове, модель нейронных сетей не имеет ни какого отношения. Т.к. до сих пор нет единого мнения как наш мозг устроен и как организуется в нем процесс мышления (если он вообще происходит в голове ). 

Прикладники-математики занимаются тем, что моделируют различные биологические, химические, экономические и социальные процессы. Нейронные сети тому пример. В математике, считается, что нейрон — это вычислительная единица, которая получает информацию, производит над ней простые вычисления и передает ее дальше. 

Термин «нейронная сеть» появился в середине 20 века. Первые работы, в которых были получены основные результаты в данном направлении, были проделаны Мак-Каллоком и Питтсом. В 1943 году ими была разработана компьютерная модель нейронной сети на основе математических алгоритмов и теории деятельности головного мозга. 

Они выдвинули предположение, что нейроны можно упрощённо рассматривать как устройства, оперирующие двоичными числами, и назвали эту модель «пороговой логикой». Подобно своему биологическому прототипу нейроны Мак-Каллока–Питтса были способны обучаться путём подстройки параметров, описывающих синаптическую проводимость. Исследователи предложили конструкцию сети из электронных нейронов и показали, что подобная сеть может выполнять практически любые вообразимые числовые или логические операции. Мак-Каллок и Питтс предположили, что такая сеть в состоянии также обучаться, распознавать образы, обобщать, т. е. обладает всеми чертами интеллекта. 

Данная модель заложила основы двух различных подходов исследований нейронных сетей. Один подход был ориентирован собственно на изучение биологических процессов в головном мозге, другой – на применение нейронных сетей как метода искусственного интеллекта для решения различных прикладных задач. 

Об этих нейронных сетях и говорят в каждом IT—стартапе. 

Особенности кухни

Методы, которые используются для построения нейронных сетей можно разделить на две группы:

• линейная регрессия – метод восстановления зависимости между двумя переменными. Здесь применяются вычисления параметров линейной регрессии с помощью метода наименьших квадратов.
• градиентный спуск – метод численной оптимизации, который может быть использован во многих алгоритмах, где требуется найти экстремум функции. В отличии от первого, он не аналитический, что представляется как преимущество, когда аналитическую закономерности выявить проблематично. 

Ничего не понимаю!

Почему все же бытует мнение, что нейронные сети – это черный ящик? Потому что так было.  

И тому есть три причины:

1. Система динамически изменяет правила вывода благодаря своему самообучению. Это создает определенные проблемы для людей, которые работают или планируют с ней работать. Например, фондовые управляющие не понимают, как система принимает решения по финансовым операциям. Отсюда получается, что нельзя рассчитать риск трейдинговой стратегии, которой обучилась сеть. Опять же банки, использующие нейронную сеть для просчетов кредитных рисков, не могут верифицировать ее позиции по кредитному рейтингу для тех или иных клиентов. Для этих целей были придуманы алгоритмы извлечения правил работы сети. Знания могут быть вытащены из сети в виде математических формул, символической логики, нечеткой логики, дерева решений. 

2. Проблема интерпретации. В математическом моделировании получить огромное количество данных не представляет проблемы. И вся сложность в том, что не понятно, что потом с этими данными делать. Большой пласт в работе занимает интерпретация полученных результатов. Первые модели с нейронными сетями были очень просты, но стоило их пустить в мир и начать применять в различных экономических и социальных процессах, как сложность интерпретации резко возросла. Но сегодня эта развивающаяся область связана именно с интерпретацией результатов работы алгоритмов анализа данных. 
3. Нейронную сеть нельзя обучить на любых данных. Одна из главных проблем, почему нейронная сеть может давать не адекватные или не стабильные результаты, заключается в том, что нередко данные плохо готовят перед загрузкой в систему. Нормализация, удаление избыточной информации, резко отклоняющихся значений должны проводиться перед началом работы с сетью, чтобы улучшить ее производственные возможности. 

Подытожим

Нейронные сети остаются всего лишь решением сложной задачи оптимизации. Данный подход можно использовать наравне с другими методами построения экспертных систем, и он не должен вызывать мистического страха или отрицания.  

Текст: Алевтина Шаталова