С Новым годом! Форум программистов, компьютерный форум, киберфорум
Python: API, боты
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
Рейтинг 4.94/47: Рейтинг темы: голосов - 47, средняя оценка - 4.94
0 / 0 / 0
Регистрация: 22.12.2018
Сообщений: 1

Парсер api.hh.ru на python

14.06.2019, 14:17. Показов 9851. Ответов 1

Студворк — интернет-сервис помощи студентам
Парсю json и обработанные данные записываю в excel, но получаю ошибку "'NoneType' object is not subscriptable" когда пытаюсь обратиться к некоторым данным, в чем ошибка помогите разобаться, так же в excel выводит данные через строчку, а не в каждой строке
код копипастил отсюда Парсер hh

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
import urllib.request
import json
import csv
import os
 
json_file = 'vacancies_json.txt'
csv_file = 'vacancies.csv'
per_page = 20
page = 24
specialization = 3
 
url = "https://api.hh.ru/vacancies?text=(%D1%80%D1%83%D0%BA%D0%BE%D0%B2%D0%BE%D0%B4%D0%B8%D1%82%D0%B5%D0%BB%D1%8C%20OR%20head%20OR%20%D0%B4%D0%B8%D1%80%D0%B5%D0%BA%D1%82%D0%BE%D1%80%20OR%20Chief)&vacancy_search_fields=name&specialization=9&specialization=13&specialization=10&area=113&period=1&label=not_from_agency" + "&per_page=" + str(per_page)
 
f1 = open(csv_file, 'wt')
writer1 = csv.writer(f1, delimiter=';')
writer1.writerow(('Название вакансии', 'Требования', 'Обязанности', 'Название региона', 'Название компании', 'Ссылка на компанию', 'Зарплата', 'Номер телефона'))
 
 
i = 1
while i <= page:
 
    print("page=" + str(i))
    f = open(json_file, 'bw')
    request = urllib.request.Request(url + '&page=' + str(i))
    response = urllib.request.urlopen(request)
    data = response.read()
    f.write(data)
    f.close()
    i = i + 1
 
    json_data = open(json_file, encoding="utf-8")
    data_vac = json.load(json_data)
    json_data.close()
 
    # преобразуем json в csv
    n = 0
    found = int(data_vac['found'])
    if found - (i - 1) * per_page > per_page:
        vac_per_page = per_page
    else:
        vac_per_page = found - (i - 1) * per_page
 
    while n < vac_per_page:
        name = data_vac['items'][n]['name']
        requirement = data_vac['items'][n]['snippet']['requirement']
        responsibility = data_vac['items'][n]['snippet']['responsibility']
        area_name = data_vac['items'][n]['area']['name']
        employer_name = data_vac['items'][n]['employer']['name']
        employer_url = data_vac['items'][n]['employer']['alternate_url']
        salary = str(data_vac['items'][n]['salary']['from'])
        number = data_vac['items'][n]['contacts']['phones'][n]['number']
        writer1.writerow((str(name), str(requirement), str(responsibility), str(area_name), str(employer_name), str(employer_url), str(salary), str(number)))
        print(str(n) + ". " + name, "(" + employer_name + ")")
        n = n + 1
 
 
f1.close()
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
14.06.2019, 14:17
Ответы с готовыми решениями:

Преобразовать парсер Python в JSON
Здравствуйте. Хотелось бы узнать, как сделать так, чтобы мой код с Python был образован в JSON? Нужно чтобы всё определялось автоматически....

Парсер hh.ru на Python
Доброго времени суток. У меня при изучении Python возникла проблема, сижу ломаю голову. Парсер должен вытягивать 100 вакансий со страницы,...

Парсер почт youtube на python
Добрый вечер,Друзья! мне когда то давний друг написал парсер почт youtube на питоне,прошло 2 месяца и этот парсер перестал работать,можете...

1
6 / 6 / 0
Регистрация: 23.12.2015
Сообщений: 227
21.06.2019, 07:32
Цитата Сообщение от Moose921 Посмотреть сообщение
Парсю json и обработанные данные записываю в excel, но получаю ошибку "'NoneType' object is not subscriptable" когда пытаюсь обратиться к некоторым данным, в чем ошибка помогите разобаться, так же в excel выводит данные через строчку, а не в каждой строке
код копипастил отсюда Парсер hh

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
import urllib.request
import json
import csv
import os
 
json_file = 'vacancies_json.txt'
csv_file = 'vacancies.csv'
per_page = 20
page = 24
specialization = 3
 
url = "https://api.hh.ru/vacancies?text=(%D1%80%D1%83%D0%BA%D0%BE%D0%B2%D0%BE%D0%B4%D0%B8%D1%82%D0%B5%D0%BB%D1%8C%20OR%20head%20OR%20%D0%B4%D0%B8%D1%80%D0%B5%D0%BA%D1%82%D0%BE%D1%80%20OR%20Chief)&vacancy_search_fields=name&specialization=9&specialization=13&specialization=10&area=113&period=1&label=not_from_agency" + "&per_page=" + str(per_page)
 
f1 = open(csv_file, 'wt')
writer1 = csv.writer(f1, delimiter=';')
writer1.writerow(('Название вакансии', 'Требования', 'Обязанности', 'Название региона', 'Название компании', 'Ссылка на компанию', 'Зарплата', 'Номер телефона'))
 
 
i = 1
while i <= page:
 
    print("page=" + str(i))
    f = open(json_file, 'bw')
    request = urllib.request.Request(url + '&page=' + str(i))
    response = urllib.request.urlopen(request)
    data = response.read()
    f.write(data)
    f.close()
    i = i + 1
 
    json_data = open(json_file, encoding="utf-8")
    data_vac = json.load(json_data)
    json_data.close()
 
    # преобразуем json в csv
    n = 0
    found = int(data_vac['found'])
    if found - (i - 1) * per_page > per_page:
        vac_per_page = per_page
    else:
        vac_per_page = found - (i - 1) * per_page
 
    while n < vac_per_page:
        name = data_vac['items'][n]['name']
        requirement = data_vac['items'][n]['snippet']['requirement']
        responsibility = data_vac['items'][n]['snippet']['responsibility']
        area_name = data_vac['items'][n]['area']['name']
        employer_name = data_vac['items'][n]['employer']['name']
        employer_url = data_vac['items'][n]['employer']['alternate_url']
        salary = str(data_vac['items'][n]['salary']['from'])
        number = data_vac['items'][n]['contacts']['phones'][n]['number']
        writer1.writerow((str(name), str(requirement), str(responsibility), str(area_name), str(employer_name), str(employer_url), str(salary), str(number)))
        print(str(n) + ". " + name, "(" + employer_name + ")")
        n = n + 1
 
 
f1.close()
Проблема в том что в некоторых списках нету элемента к которому вы обращаетесь.
Python
1
2
3
 salary = str(data_vac['items'][n]['salary'])#['from'])
        newsalary = salary.split(',')
        new = newsalary[0].replace("{'from':",'')
Таким примитивным методом получилось получить "salary".

Думаю будет уместно создать условие проверки => if "элемент который хотите получить" равен\не равен(на ваше усмотрение) None(или другому объекту для сравнения):

P.S. На правильность не претендую, сам новичок.

Добавлено через 14 минут
Python
1
2
3
4
5
6
7
8
9
10
11
        if data_vac['items'][n]['contacts'] == None :
            print('-')
        else:
            number = str(data_vac['items'][n]['contacts']['phones'])#[n]['number'])
            #print(number)
            newnumber = number.split(',')
            #print(len(newnumber))
        if len(newnumber) >1:
            a =newnumber[2].replace("'number':",'')
            b = a.replace("'",'')
            print(b)
Примерно так.
Можно сделать "красивее" и лучше)
1
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
21.06.2019, 07:32
Помогаю со студенческими работами здесь

Парсер API ГитХаба
Привет! Я новичок в JS, говорю сразу. Есть ссылка вида: https://api.github.com/users/Lunmijo ,где &quot;Lunmijo&quot; - соответственно...

Парсер для API GitHub
Народ нужна помощь такого рода: Есть например страница GitHub-a с текстом: https://api.github.com/users/Gamblt 2 дня уже мучаюсь,...

Парсер + Telegram-bot-api
Здравствуйте, форумчане! Вообщем есть парсер needle.get(url, function(err, res){ if(err) throw err; var $ =...

Парсер через Pinterest API
Доброго времени суток, уважаемые форумчане! Может кто ответить на вопрос - возможно ли через Pinterest API получать всех подписчиков...

Парсер на python
Мне нужен парсер, который бы доставал css стили с сайта, но чет все что нахожу - это парсинг html. Может это как то по другому называется...


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
2
Ответ Создать тему
Новые блоги и статьи
сукцессия микоризы: основная теория в виде двух уравнений.
anaschu 11.01.2026
https:/ / rutube. ru/ video/ 7a537f578d808e67a3c6fd818a44a5c4/
WordPad для Windows 11
Jel 10.01.2026
WordPad для Windows 11 — это приложение, которое восстанавливает классический текстовый редактор WordPad в операционной системе Windows 11. После того как Microsoft исключила WordPad из. . .
Classic Notepad for Windows 11
Jel 10.01.2026
Old Classic Notepad for Windows 11 Приложение для Windows 11, позволяющее пользователям вернуть классическую версию текстового редактора «Блокнот» из Windows 10. Программа предоставляет более. . .
Почему дизайн решает?
Neotwalker 09.01.2026
В современном мире, где конкуренция за внимание потребителя достигла пика, дизайн становится мощным инструментом для успеха бренда. Это не просто красивый внешний вид продукта или сайта — это. . .
Модель микоризы: классовый агентный подход 3
anaschu 06.01.2026
aa0a7f55b50dd51c5ec569d2d10c54f6/ O1rJuneU_ls https:/ / vkvideo. ru/ video-115721503_456239114
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR
ФедосеевПавел 06.01.2026
Owen Logic: О недопустимости использования связки «аналоговый ПИД» + RegKZR ВВЕДЕНИЕ Введу сокращения: аналоговый ПИД — ПИД регулятор с управляющим выходом в виде числа в диапазоне от 0% до. . .
Модель микоризы: классовый агентный подход 2
anaschu 06.01.2026
репозиторий https:/ / github. com/ shumilovas/ fungi ветка по-частям. коммит Create переделка под биомассу. txt вход sc, но sm считается внутри мицелия. кстати, обьем тоже должен там считаться. . . .
Расчёт токов в цепи постоянного тока
igorrr37 05.01.2026
/ * Дана цепь постоянного тока с сопротивлениями и напряжениями. Надо найти токи в ветвях. Программа составляет систему уравнений по 1 и 2 законам Кирхгофа и решает её. Последовательность действий:. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2026, CyberForum.ru