Алгоритм обратного распространения ошибки

@Tanya933 · Регистрация: 28.08.2015

Author24 — интернет-сервис помощи студентам

Заметила такую вещь. В разной литературе пишут по-разному, и я не могу понять почему некоторые приписывают минус к изменению весов, некоторые нет. https://ru.wikipedia.org/wiki/... 0%BA%D0%B8
Вот тут, например, сначала пишут -эта*производная. Внизу же, где алгоритм, минус пропадает (у меня в программе альфа=0). В программе пробовала ставить -, но ошибка росла. Не могу понять, в чем же дело!

@сахатый · 04.08.2016, 14:35

Если я Вас правильно понял разговор об антиградиенте, тут как бы всё логично, градиентный спуск, если на пальцах к примеру в R1 есть искомое число 5 и утекшая точка 3, градиент тобиш ошибка в один шаг будет 3 -5 = -2, но чтобы “шагнуть” один раз от 3 к 5 очевидно нужно прибавить не -2 а 2, то есть отрицательный градиент.

Код лучше покажите, так будет понятнее в чем проблема.

@woodbox · 04.08.2016, 14:39

Покажите код

@VTsaregorodtsev · 07.08.2016, 21:23

Сообщение от Tanya933

В разной литературе пишут по-разному, и я не могу понять почему некоторые приписывают минус к изменению весов, некоторые нет.

Потому, что у одних в качестве целевой функции выступает (t-y)^2, а у других - (y-t)^2, где у - выход сети, t - эталонное значение. При дифференцировании первого варианта - появляется минус, который ликвидирует тот минус, который возникает из-за шага по антиградиенту. При втором варианте - минус шага по антиградиенту остаётся нескомпенсированным.

Новые блоги и статьи
Как написать микросервис на Go/Golang InfoMaster 14.01.2025 Определение микросервиса, преимущества использования Go/ Golang Микросервис – это архитектурный подход к разработке программного обеспечения, при котором приложение состоит из небольших, независимо. . .	Как написать микросервис с нуля на C# InfoMaster 14.01.2025 В современном мире разработки программного обеспечения микросервисная архитектура стала стандартом де-факто для создания масштабируемых и гибких приложений. Этот архитектурный подход предполагает. . .	Как создать интернет-магазин на PHP и JavaScript InfoMaster 14.01.2025 В современном мире электронная коммерция стала неотъемлемой частью бизнеса. Создание собственного интернет-магазина открывает широкие возможности для предпринимателей, позволяя достичь большей. . .	Как написать Тетрис на Ассемблере InfoMaster 14.01.2025 Тетрис – одна из самых узнаваемых и популярных компьютерных игр, созданная в 1984 году советским программистом Алексеем Пажитновым. За прошедшие десятилетия она завоевала симпатии миллионы людей по. . .	Как создать игру "Танчики" на Unity3d и C# InfoMaster 14.01.2025 Разработка игр – это увлекательный процесс, сочетающий в себе творчество и технические навыки. В этой статье мы рассмотрим создание классической игры "Танчики" с использованием Unity3D и языка. . .	Организую платный онлайн микро-курс по доработке Android-клиента Telegram _Ivana 14.01.2025 Официальная версия и распространенные форки не полностью устраивают? Сделай свою кастомную версию клиента! 4 занятия по 2 часа (2 недели пн, ср 19:00-21:00 по Москве). Первое вводное занятие. . .
Как создать приложение для фитнеса для iOS/iPhone на Kotlin InfoMaster 14.01.2025 Создание собственного фитнес-приложения — это не только захватывающий, но и полезный процесс, ведь оно может стать вашим верным помощником на пути к здоровому и активному образу жизни. В современных. . .	Как создать приложение магазина для iOS/iPhone на Swift InfoMaster 14.01.2025 Введение в разработку iOS-приложений Разработка приложений для iPhone и других устройств на базе iOS открывает огромные возможности для создания инновационных мобильных решений. В данной статье мы. . .	Это работает. Скорость асинхронной логики велика. Вопрос видимо останется в стабильности. Плата - огонь! Hrethgir 13.01.2025 По прошлому проекту в Logisim Evolution https:/ / www. cyberforum. ru/ blogs/ 223907/ blog8781. html прилагаю файл архива проекта в Gowin Eda. Восьмибитный счётчик из сумматора+ генератор сигнала. . .	UserScript для подсветки кнопок языков программирования в зависимости от текущего раздела volvo 13.01.2025 В результате работы этого скрипта подсвечиваются нужные кнопки не только в форме быстрого ответа, но и при редактировании сообщения: / / ==UserScript== / / @name CF_DefaultLangSelect / / . . .	Введение в модели и алгоритмы машинного обучения InfoMaster 12.01.2025 Машинное обучение представляет собой одну из наиболее динамично развивающихся областей искусственного интеллекта, которая фокусируется на разработке алгоритмов и методов, позволяющих компьютерам. . .	Как на Python создать нейросеть для решения задач InfoMaster 12.01.2025 В контексте стремительного развития современных технологий особое внимание уделяется таким инструментам, как нейросети. Эти структуры, вдохновленные биологическими нейронными сетями, используются для. . .

@Tanya933 1 / 1 / 0 Регистрация: 28.08.2015 Сообщений: 112
		1
	Алгоритм обратного распространения ошибки 03.08.2016, 14:29. Показов 1059. Ответов 3 Метки нет (Все метки) Заметила такую вещь. В разной литературе пишут по-разному, и я не могу понять почему некоторые приписывают минус к изменению весов, некоторые нет. https://ru.wikipedia.org/wiki/... 0%BA%D0%B8 Вот тут, например, сначала пишут -эта*производная. Внизу же, где алгоритм, минус пропадает (у меня в программе альфа=0). В программе пробовала ставить -, но ошибка росла. Не могу понять, в чем же дело! 0

@сахатый 41 / 20 / 3 Регистрация: 12.10.2015 Сообщений: 126
	04.08.2016, 14:35	2
	Если я Вас правильно понял разговор об антиградиенте, тут как бы всё логично, градиентный спуск, если на пальцах к примеру в R1 есть искомое число 5 и утекшая точка 3, градиент тобиш ошибка в один шаг будет 3 -5 = -2, но чтобы “шагнуть” один раз от 3 к 5 очевидно нужно прибавить не -2 а 2, то есть отрицательный градиент. Код лучше покажите, так будет понятнее в чем проблема. 1

@woodbox 25 / 12 / 0 Регистрация: 21.10.2014 Сообщений: 350
	04.08.2016, 14:39	3
	Покажите код 0

@VTsaregorodtsev 1609 / 1511 / 251 Регистрация: 19.02.2010 Сообщений: 4,078
	07.08.2016, 21:23	4
	Сообщение от Tanya933 В разной литературе пишут по-разному, и я не могу понять почему некоторые приписывают минус к изменению весов, некоторые нет. Потому, что у одних в качестве целевой функции выступает (t-y)^2, а у других - (y-t)^2, где у - выход сети, t - эталонное значение. При дифференцировании первого варианта - появляется минус, который ликвидирует тот минус, который возникает из-за шага по антиградиенту. При втором варианте - минус шага по антиградиенту остаётся нескомпенсированным. 0