Что такое персептрон в нейронной сети? Алгоритм, типы, компоненты

Введение

Персептрон обычно используется в искусственном интеллекте и машинном обучении. Он состоит из набора входных значений, весов и пороговых значений и считается основным шагом к глубокому обучению и технологиям машинного обучения.

Этот блог поможет вам глубже погрузиться в перцептроны в машинном обучении, понять их компоненты и многое другое.

Что такое Персептрон в машинном обучении?

Персептрон – это фундаментальная единица или строительный блок искусственных нейронных сетей, которые являются системами, широко используемыми в машинном обучении. Концептуально персептрон представляет собой упрощенную модель биологического нейрона.

В 1957 году Фрэнк Розенблатт представил персептрон для выполнения определенных вычислений с целью определения возможностей ввода данных. Он предложил правило обучения персептрона, основанное на оригинальном нейроне MCP. Персептрон – это алгоритм линейного машинного обучения для контроля за изучением различных двоичных классификаторов. Этот персептрон нейронной сети позволяет нейронам изучать и обрабатывать элементы один за другим.

Модель персептрона является одной из самых простых и лучших однослойных искусственных нейронных сетей с четырьмя параметрами – входными значениями, весами и отклонениями, чистой суммой и функцией активации.

Характеристики Персептрона в нейронной сети

• Персептрон использует контролируемое обучение с использованием помеченных данных для обучения модели. Веса нейронов изменяются во время обучения, чтобы минимизировать ошибки между фактическими и ожидаемыми результатами.
• Веса умножаются на входные характеристики, и принимается решение, активирован нейрон или нет.
• Алгоритм персептрона предполагает, что данные линейно разделимы, что означает, что гиперплоскость точно разделяет точки данных разных классов.
• Он устанавливает пороговую функцию активации, которая создает двоичное значение на основе того, превышает ли взвешенная сумма входных данных пороговое значение или нет.
• Линейная граница принятия решения позволяет проводить различие между двумя линейно разделяемыми классами, +1 и -1.
• Если сумма всех входных данных больше порогового значения, у него должен быть выходной сигнал else; выходного сигнала не будет.
• После обработки каждого ввода алгоритм обучения Персептрона использует подход онлайн-обучения для корректировки весов нейронов. Следовательно, модель становится эффективной и способной беспрепятственно управлять большими наборами данных.

Ключевые компоненты Персептрона

Персептрон – это искусственная нейронная сеть, базовая концепция машинного обучения. Ниже приведены ее основные компоненты:

• Входной слой

Он состоит из одного или нескольких входных нейронов и получает входные сигналы из внешнего мира или других слоев нейронной сети. Сигналы могут быть действительными числами или двоичными значениями, представляющими атрибуты или особенности обрабатываемых данных. Входные данные представлены в виде вектора.

• Веса

Каждому входному нейрону присваивается вес, представляющий его силу в общем вычислении. Вес показывает связь между входным нейроном и выходным нейроном. Весам изначально присваиваются случайные значения, которые обновляются в процессе обучения.

• Предвзятость

Он включен во входной слой, так что персептрон обладает дополнительной гибкостью для соответствия сложному шаблону входных данных. Это позволяет персептрону изучать шаблоны, даже когда все входные данные равны нулю.

• Функция суммирования

Все входные данные умножаются на соответствующие веса, а затем складываются вместе, чтобы получить взвешенную сумму. На этом этапе используется скалярное произведение входного вектора и вектора веса. Взвешенный формула суммы – з = w₁x₁ + w₂x₂ + … + wₙxₙ

• Функция активации

Взвешенная сумма проходит через функцию активации, которая вносит нелинейность в выходные данные. Другими словами, она определяет выходные данные на основе взвешенной суммы входных данных и члена смещения. Он определяет, останется ли персептрон активным или сработает в соответствии с вычисленным значением. Общими функциями активации являются ступенчатая функция, сигмовидная функция и функция ReLU.

• Выходной сигнал

Это единственное двоичное значение, указывающее категорию или класс, к которому принадлежат входные данные. Выходные данные являются результатом функции активации, примененной к взвешенной сумме входных данных.

• Алгоритм обучения

Для обучения персептрона используется алгоритм контролируемого обучения, такой как алгоритм обучения персептрона или обратного распространения. Веса и смещения модифицируются для уменьшения ошибок между прогнозируемым и фактическим результатом для данного набора обучающих примеров.

Повторяя процесс обучения, персептрон постепенно улучшает свою производительность.

Эти компоненты работают вместе, чтобы персептрон мог учиться и делать прогнозы на основе входных данных. Несколько персептронов связаны между собой для создания сложных архитектур нейронных сетей для решения сложных задач.

Как работают персептроны?

Персептрон в машинном обучении работает на основе простого механизма, в общих чертах смоделированного на основе того, как работает нейрон в мозге. Он обрабатывает входные сигналы, применяет взвешенную сумму к этим входным данным, добавляет смещение, а затем передает результат через функцию активации для получения выходных данных.

Ниже приведено пошаговое описание того, как работает персептрон:

• Прием входных данных:

Персептрон получает несколько входных значений. Эти входные данные представляют особенности набора данных, с которым вы работаете. Например, в простой модели, прогнозирующей цены на жилье, исходными данными могут быть размер дома, количество комнат и возраст дома.

• Применение весов и предвзятости:

Каждому входному сигналу присваивается вес (w), который отражает его важность. Изначально эти веса устанавливаются случайным образом и корректируются в процессе обучения.

К уравнению также добавляется смещение (b). Смещение подобно перехвату в линейном уравнении и используется для сдвига выходных данных функции для лучшего соответствия данным.

• Вычисление Взвешенной Суммы:

Персептрон вычисляет взвешенную сумму входных данных, которая представляет собой сумму каждого входного сигнала, умноженную на соответствующий ему вес. Математически это выражается как Σ(w_i * x_i) + b, где w_i – вес, x_i – входные данные, а b – смещение.

• Применение функции активации:

Взвешенная сумма затем передается через функцию активации. Функция активации предназначена для преобразования входного сигнала в выходной сигнал и необходима персептрону для принятия решений.

Наиболее простой формой функции активации, используемой в персептронах, является ступенчатая функция, которая выводит либо 1, либо 0. Если взвешенная сумма превышает определенный порог, срабатывает персептрон (выходы 1); если нет, то он не срабатывает (выходы 0).

• Производство продукции:

Выходной сигнал является результатом функции активации. Для простой задачи бинарной классификации этот выходной сигнал обычно представляет собой метку класса, например 1 или 0.

• Тренировка персептрона:

Персептрон обучается с помощью процесса, называемого обучением, при котором он корректирует свои веса и смещения на основе ошибок в своих прогнозах. Обычно это делается с помощью простого алгоритма, такого как правило обучения персептрона.

Во время обучения персептрону представляются пары ввода-вывода. Он сравнивает выдаваемый им результат с фактическим ожидаемым результатом и корректирует веса и смещение, если есть ошибка. Этот процесс повторяется на протяжении многих итераций или эпох в обучающем наборе.

Алгоритм обучения Персептрона

Алгоритм персептрона – это простой, но основополагающий метод, используемый в машинном обучении для бинарных классификаторов. Это итеративный алгоритм, используемый для настройки весов персептрона, типа искусственного нейрона, чтобы правильно классифицировать набор входных векторов.

Давайте разберемся, как это работает:

• Инициализация:

Начните с набора обучающих примеров, каждый из которых имеет известную метку. Эти примеры представляют собой векторы признаков, каждый из которых соответствует входному сигналу в персептроне.

Инициализируйте веса и смещение. Веса могут быть инициализированы нулем или небольшим случайным значением. Смещение часто инициализируется нулем.

• Тренировочный процесс:

Алгоритм выполняет итерацию по обучающим примерам, и для каждого примера он выполняет следующие шаги:

Вычислите прогнозируемый результат: Для каждого обучающего примера вычислите взвешенную сумму входных данных (скалярное произведение входного вектора и вектора веса), добавьте смещение и примените функцию активации. В случае базового персептрона это обычно ступенчатая функция, которая возвращает либо 1, либо -1 (или 0 и 1).

Обновите веса и смещение: Если прогнозируемый результат не соответствует фактическому результату, веса и смещение обновляются. Правила обновления следующие:

Для каждого веса w_i обновление выполняется как w_i = w_i + η * (y – ŷ) * x_i, где:

• w_i – текущий вес,
• η – скорость обучения (небольшое положительное значение),
• y – фактический результат,
• ŷ – прогнозируемый результат,
• x_i – это входное значение.
• Смещение обновляется как b = b + η * (y – ŷ).
• Итерация:

Алгоритм выполняет многократную итерацию по всему обучающему набору данных. Каждый полный проход по данным называется эпохой.

После каждой эпохи алгоритм проверяет, правильно ли персептрон классифицирует все входные данные. Если это так или по истечении определенного количества эпох обучение прекращается.

• Конвергенция:

Алгоритм персептрона гарантированно сходится и находит решение, если обучающие данные линейно разделимы и скорость обучения достаточно мала.

Если данные не являются линейно разделяемыми, алгоритм не будет сходиться к решению, которое правильно классифицирует все обучающие примеры.

Пример использования:

Представьте себе простую задачу бинарной классификации, цель которой состоит в том, чтобы классифицировать точки на двумерной плоскости либо выше, либо ниже линии. Алгоритм обучения персептрона будет итеративно корректировать свои веса на основе неправильно классифицированных точек до тех пор, пока не найдет линию (границу принятия решения), разделяющую два класса.

Типы моделей персептрона

Основываясь на слоях, персептроны в машинном обучении можно разделить на типы.

1. Однослойная модель Персептрона
2. Многослойная модель персептрона

Давайте подробно обсудим каждый из них и узнаем об их уникальных особенностях.

1. Однослойный Персептрон

Этот тип персептрона содержит отдельный слой нейронов для вычисления взвешенной суммы входных данных и использования функции активации для генерации выходных данных. Основной целью этой модели персептрона является анализ линейно разделяемых объектов с бинарными результатами.

2. Многослойный Персептрон

В отличие от однослойного персептрона, этот имеет несколько слоев нейронов, которые включают в себя один или несколько скрытых слоев между входным и выходным слоями. Он может выявлять более сложные закономерности во входных данных из-за скрытых слоев, что делает его подходящим для управления нелинейно разделяемыми проблемами. Он также известен как алгоритм обратного распространения и может быть выполнен в два этапа:

Этап продвижения вперед – На этом этапе функция активации начинается с входного уровня и заканчивается на выходном уровне.

Обратная стадия – Здесь значения веса изменяются в соответствии с требованиями модели.