Как написать свою первую нейросеть на Python

Можно ли написать нейросеть еще короче

Человеческий мозг состоит из более ста миллиардов клеток-нейронов. Место контакта двух нейронов – синапс. Он служит для передачи нервных импульсов от одной клетки к другой. Когда через него к нейрону придет достаточное количество импульсов, тогда нейрон передаст их дальше. Так строится наше мышление.

Больше мощностей. Нейронные сети работают с матрицами, так что если нейронов много, вычисления получаются очень ресурсоемкие. Известные нейросети вроде Midjourney или ChatGPT — это сложные и «тяжелые» системы, для их работы нужны сервера с мощным «железом». Так что написать собственный DALL-E на домашнем компьютере не получится. Но есть сервисы для аренды мощностей: ими как раз пользуются инженеры машинного обучения, чтобы создавать, обучать и тестировать модели.

Сегодня IT-индустрия развивается небывалыми темпами, вместе с этим растет популярность машинного обучения. Оно оказывает огромное влияние на многие процессы в мире, поэтому все больше людей интересуется ее направлениями. Одно из них – нейронные сети. Они строятся по принципу организации и функционирования нашего мозга.

Лаконичность и интероперабельность. Язык позволяет разрабатывать сложные алгоритмы за короткое время. Его отличают простота, лаконичность и выразительность. Помимо этого он обладает мощным механизмом интероперабельности с C\C++, что позволяет производить быстрые вычисления. Можно создавать простые и сложные нейронные сети на Python.

Человеческий мозг состоит из ста миллиардов клеток, которые называются нейронами. Они соединены между собой синапсами. Если через синапсы к нейрону придет достаточное количество нервных импульсов, этот нейрон сработает и передаст нервный импульс дальше. Этот процесс лежит в основе нашего мышления. Мы можем смоделировать это явление, создав нейронную сеть с помощью компьютера. Нам не нужно воссоздавать все сложные биологические процессы, которые происходят в человеческом мозге на молекулярном уровне, нам достаточно знать, что происходит на более высоких уровнях. Для этого мы используем математический инструмент — матрицы, которые представляют собой таблицы чисел. Чтобы сделать все как можно проще, мы смоделируем только один нейрон, к которому поступает входная информация из трех источников и есть только один выход. 3 входных и 1 выходной сигнал Наша задача — научить нейронную сеть решать задачу, которая изображена в ниже. Первые четыре примера будут нашим тренировочным набором. Получилось ли у вас увидеть закономерность? Что должно быть на месте вопросительного знака — 0 или 1?

Можно привести аналогичный пример с другим языком программирования. Фортран – один из первых языков высокого уровня, на котором написано множество программ и библиотек подпрограмм. Но сегодня программистами он не используется, зато широко распространен у физиков.

Например, на вход поступает картинка. Чтобы нейросеть могла понять, что на ней изображено, она должна выделить разные элементы из картинки, распознать их и подумать, что означает сочетание этих элементов. Примерно так работает зрительная кора в головном мозге. Это несколько задач, их не смогут решить одинаковые нейроны. Поэтому нужно несколько слоев, где каждый делает что-то свое. Для распознавания часто используют так называемые сверточные нейросети. Они состоят из комбинации сверточных и субдискретизирующих слоев, каждый из которых решает свою задачу.

Еще есть, например, метод обратного распространения ошибки — градиентный алгоритм для многослойных нейросетей. Сигналы ошибки, рассчитанные с помощью градиента, распространяются от выхода нейронной сети к входу, то есть идут не в прямом, а в обратном направлении.

Что такое нейросеть

Давайте поймем почему формула имеет такой вид. Сначала нам нужно учесть то, что мы хотим скорректировать вес пропорционально размеру ошибки. Далее ошибка умножается на значение, поданное на вход нейрона, что, в нашем случае, 0 или 1. Если на вход был подан 0, то вес не корректируется. И в конце выражение умножается на градиент сигмоиды. Разберемся в последнем шаге по порядку:

Больше нейронов. В нашей тренировочной нейросети только один нейрон. Но если нейронов будет больше — каждый из них сможет по-своему реагировать на входные данные, соответственно, на следующие нейроны будут приходить данные с разных синапсов. Значит — больше вариативность, «подумать» и передать сигнал дальше может не один нейрон, а несколько. Можно менять и формулу передачи, и связи между нейронами — так получаются разные виды нейронных сетей.

Исследовательские проекты. Большое число готовых примеров нейронных сетей на Python – это исследовательские проекты. При этом ученые, работающие над ними, чаще всего программистами не являются. Этот язык имеет низкий порог входа: никто не занимается написанием нейронных сетей на Python с нуля, так как это занимает много времени. Существуют библиотеки для нейронных сетей Python, которые уже написали специалисты. Так вокруг Питон сложилось целое сообщество по нейросетям. Если вы занимаетесь исследовательской деятельностью, то следуйте в этом вопросе примеру других.

Другие методы и формулы. Чтобы нейроны обучались, нужно задать формулу корректировки весов — мы говорили про это выше. Если нейронов много, то формулу нужно как-то распространить на все из них. Для этого используется метод градиентного спуска: рассчитывается градиент по весам, а потом от него делается шаг в меньшую сторону. Звучит сложно, но на самом деле для этого есть специальные формулы и функции.

Да, можно, и даже более сложную. В этом примере мы использовали только одну математическую библиотеку и четыре метода из нее, чтобы показать расчеты нагляднее. Но есть множество специальных библиотек и фреймворков для создания именно нейросетей, например Tenzorflow или Pandas. Они ускоряют процесс. Например, можно создать слой из нескольких десятков, а то и сотен нейронов, в одну строчку. А еще парой строчек добавить новые слои и задать правила для обучения.

Гибкость. Нейросети – преимущественно небольшие программы, но при этом существует необходимость часто изменять их, подбирая наилучшую архитектуру, предобработку данных и другие параметры. Поэтому трудности с легаси-кодом практически отсутствуют, но есть потребность в быстрой разработке. Создание и построение нейронных сетей на Python – вариант, удовлетворяющий этим требованиям лучше, чем использование C++ или Java. Фреймворки для машинного обучения – это фронтенд на Python или Torch и бэкендом на C++, чаще всего.