Парсинг динамического сайта

@sloypit · Регистрация: 16.01.2023

Студворк — интернет-сервис помощи студентам

Всем привет, помогите пожалуйста, на тестовом задании сказали распарсить 100 приложений с сайта https://apps.microsoft.com/store/category/Business . Никак не разберусь, как тут сделать, стандартные методы не получаются((

@Welemir1 · 16.01.2023, 20:16

sloypit, разве это не значит что ты им не подходишь? задание то тестовое

Сообщение от sloypit

стандартные методы не получаются((

это какие?

задачу целиком выложи, тогда сможем дать совет

@sloypit · 16.01.2023, 20:24 **[ТС]**

Распарсить 100 приложений из категории “Business” в Windows Store по ссылке:

https://apps.microsoft.com/store/category/Business

В каждом из приложений получить:

a) Название приложения

b) Название компании

c) Release Year

d) Email (если есть)

Пробовал requests и bs4, но не получается никак

@Welemir1 · 16.01.2023, 20:29

Сообщение от sloypit

Пробовал requests и bs4, но не получается никак

а разве то или другое поможет с динамическим сайтом?
не, теоретически может, это надо запросы с сайта глядеть в консоли разработчика, может данные тянут через апи. Если нет то тебе нужен селениум или аналогичный инструмент, доку я полагаю нагуглишь.

Добавлено через 2 минуты
все там есть и можно обойтись ревестами, вот по такому урлу все приходит
https://apps.microsoft.com/sto... s=Business

@sloypit · 16.01.2023, 20:34 **[ТС]**

Спасибо, попробую

@bzda · 17.01.2023, 09:27

что бы не плодить темы спрошу в этой

Сообщение от Welemir1

это надо запросы с сайта глядеть в консоли разработчика, может данные тянут через апи

а можно как то не через консоль браузера высматривать эти запросы к апи, а как то по другому узнать? хотелось бы что б автоматом они как выдирались из js или может какая библиотека на питоне есть?

@Welemir1 · 17.01.2023, 09:45

bzda, есть во-первых, документация самих приложений и сервисов, то есть прямо на сайте того же хх.ру написано вот мол апи, пользоваться так то. Во-вторых, в консоли посмотреть не долго.

@bzda · 17.01.2023, 09:51

Сообщение от Welemir1

bzda, есть во-первых, документация самих приложений и сервисов, то есть прямо на сайте того же хх.ру написано вот мол апи, пользоваться так то. Во-вторых, в консоли посмотреть не долго.

хочется как то автоматизировать этот процесс, поэтому смотреть апи не вариант
в идеале в питоне сделать бы вот так -открываешь ссылку, питон получает запрос, сохраняет его и далее уже открываешь не ссылку а посылаешь запрос
пока у меня идея такая -
1 через селениум открываем ссылку
2 как то получаем доступ к консоли и выдираем оттуда запрос к апи
3 далее пользуемся запросом

со вторым проблема у меня

@Welemir1 · 17.01.2023, 10:47

Сообщение от bzda

как то получаем доступ к консоли и выдираем оттуда запрос к апи

селениум умеет работать с прокси, пишем свой который просто логирует все запросы, грузим сайт -смотрим все запросы, берем нужное. Профит

Новые блоги и статьи Все статьи Все блоги /
PhpStorm 2025.3: WSL Terminal всегда стартует в ~ and_y87 14.12.2025 PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .	Access VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .	Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .

@sloypit 0 / 0 / 0 Регистрация: 16.01.2023 Сообщений: 3

	Парсинг динамического сайта 16.01.2023, 20:07. Показов 1058. Ответов 8 Метки парсинг json, парсинг питон (Все метки) Всем привет, помогите пожалуйста, на тестовом задании сказали распарсить 100 приложений с сайта https://apps.microsoft.com/store/category/Business . Никак не разберусь, как тут сделать, стандартные методы не получаются(( 0

@sloypit 0 / 0 / 0 Регистрация: 16.01.2023 Сообщений: 3
	16.01.2023, 20:24 [ТС]
	Распарсить 100 приложений из категории “Business” в Windows Store по ссылке: https://apps.microsoft.com/store/category/Business В каждом из приложений получить: a) Название приложения b) Название компании c) Release Year d) Email (если есть) Пробовал requests и bs4, но не получается никак 0

@sloypit 0 / 0 / 0 Регистрация: 16.01.2023 Сообщений: 3
	16.01.2023, 20:34 [ТС]
	Спасибо, попробую 0

@Welemir1 Автоматизируй это! 7390 / 4817 / 1246 Регистрация: 30.03.2015 Сообщений: 13,664 Записей в блоге: 29
	17.01.2023, 09:45
	bzda, есть во-первых, документация самих приложений и сервисов, то есть прямо на сайте того же хх.ру написано вот мол апи, пользоваться так то. Во-вторых, в консоли посмотреть не долго. 0