Полиномиальная регрессия используя Градиентный Спуск и Матричный Способ

@tz5x · Регистрация: 03.10.2018

Студворк — интернет-сервис помощи студентам

Здравствуйте! Мне нужно было применить линейную и полиномиальную регрессии (без использования Scikit-Learn и специальных функций, например polyfit) для построения гипотезы. Линейная регрессия отлично работает:

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
def regressionByIteration():
    import numpy as np
    import matplotlib.pyplot as plt
    xr=np.matrix(np.linspace(0,10,30))
    x=xr.T
    y=np.power(x,2)+1
    plt.plot(x,y)
    m=x.size
    on=np.ones([m,1])
    X=np.concatenate((on,x),axis=1)
    theta=np.matrix('0.1;1.3')
    h=np.dot(X,theta)
    plt.plot(x,h)
    alpha=0.05
    iter=500
    for i in range(iter):
        theta[0][0]=theta[0][0]-alpha*(1/m)*np.sum(h-y)
        theta[1][0]=theta[1][0]-alpha*(1/m)*np.sum(np.multiply((h-y),x))
        h=np.dot(X,theta)
    plt.figure(1)
    plt.plot(x,h)
    mse=np.sum(np.power((h-y),2))
    print('regressionByIteration mse= ', mse)  
regressionByIteration()

Но когда я пытаюсь адаптировать код уже под полиномиальную регрессию (градиентный спуск), то программа ошибок не выдаёт, но сама гипотеза (модель) так и остаётся прямой линией, хотя хотелось бы наблюдать дугу. Код примерно тот же, укажу лишь строки в которых произвожу изменения:

Python
1
2
3
    on=np.ones([m,2]) #сделал [m,2] вместо [m,1]
theta=np.matrix('0.1;1.3;5.5') #добавил третье значение для theta
theta[2][0]=theta[2][0]-alpha*(1/m)*np.sum(np.multiply((h-y),np.power(x,2))) #добавил эту строку

Чтобы выполнить полиномиальную матричным способом, убираю alpha, итерации и так далее и заменяю на:

Python
1
2
    theta=np.dot(np.linalg.inv(np.dot(X.T,X)) , np.dot(X.T,y))
    h=np.dot(X,theta)

Но тоже не едет. Оранжевая линия так и остаётся прямой (рис. 1), хотя мне нужна дуга (рис. 2). Может я что-то упустил?

@woldemas · 09.09.2019, 07:55

Сообщение от tz5x

Может я что-то упустил?

Что-то не видно, чтобы вы расширили матрицу квадратами X, им же сами взяться неоткуда.
Полиномиальная регрессия - это та же линейная, просто передаете матрицу X дополненную столбцами с нужными степенями переменной. Там в идеале даже в методе регрессии ничего менять не надо.

Новые блоги и статьи Все статьи Все блоги /
PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Access VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .

Полиномиальная регрессия используя Градиентный Спуск и Матричный Способ

Решение