Форум программистов, компьютерный форум, киберфорум
Python для начинающих
Войти
Регистрация
Восстановить пароль
Блоги Сообщество Поиск Заказать работу  
 
132 / 96 / 40
Регистрация: 24.03.2022
Сообщений: 357

Асинхронный парсинг

15.04.2023, 19:01. Показов 1426. Ответов 0
Метки нет (Все метки)

Студворк — интернет-сервис помощи студентам
Всем доброго времени суток!
Написал асинхронный парсер. Вроде работает, но есть один нюанс. А может и не один.
Самый главный: в строке 48 создаю сессию и передаю аргументом в функцию create_task на 15 строчке. По идее сессия должна быть открыта, но при запуске кода пайчарм пишет, что сессия закрыта. Поэтому в 17 строке приходится добавлять async with ClientSession() as session, что не очень правильно, как я понимаю. Подскажите, в чём может быть дело?
Ссылку пока не пишу, чтобы пожалеть сервер.

Python
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
from bs4 import BeautifulSoup
import json
import asyncio
from aiohttp import ClientSession
 
 
tel_numbers = []
 
headers = {
    "accept": "*/*",
    "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/105.0.0.0 Safari/537.36"
}
 
 
async def create_task(session, link):
    # открываем сессию делаем запрос по переданной ссылке link (страница с объявлениями).
    async with ClientSession() as session:
        async with session.get(link) as response:
            response = await response.text()
            soup = BeautifulSoup(response, "lxml")
 
            # на странице с автомобилями находим все ссылки, ведущие на страницу конкретного объявления каждого авто,
            # в адресе содержится индивидуальный номер автомобиля
            id_link = soup.find_all(class_="listing-item__link")
 
        # забираем индивидуальный номер авто и формируем ссылки для запроса на сервер
        for i in id_link:
            id = i.get("href").split("/")
            link_with_id = f"https://api.av.by/offers/{id[-1]}/phones"
 
            # забираем номер телефона из приходящего json
            async with session.get(link_with_id, headers=headers) as auto_json:
                js = await auto_json.text()
                js = json.loads(js)
                if isinstance(js, list):
                    tel_numbers.append(f"{js[0]['country']['code']}{js[0]['number']}")
 
 
async def gather_data():
    # создаём список урлов, каждый урл - страница с 25 автомобилями
    links = []
    for number in range(1, int(input('Введите количество страниц: ')) + 1):
        links.append(
            f"моя ссылка")
 
    # формируем список задач
    tasks = []
    async with ClientSession() as session:
        for page_with_links in links:
            task = asyncio.create_task(create_task(session, link=page_with_links))
            tasks.append(task)
 
    await asyncio.gather(*tasks)
    print(tel_numbers)
 
 
asyncio.run(gather_data())
Добавлено через 1 час 19 минут
Я ж и не открыл соединение. . . А т.к. мне соединение в gather_data и не надо, просто удалил строку 48.
0
cpp_developer
Эксперт
20123 / 5690 / 1417
Регистрация: 09.04.2010
Сообщений: 22,546
Блог
15.04.2023, 19:01
Ответы с готовыми решениями:

asyncio Асинхронный Сервер
Доброго времени суток форумчане. Питон прекрасен и многогранен. Предельно прост и понятен :) ... За исключением asyncio Задача...

Ускорить асинхронный код
Записываю строки в таблицу так from sqlalchemy import insert import config import Table import asyncio from aiopg.sa import...

Как остановить асинхронный код
Здравствуйте. Подскажите пожалуйста как остановить такой код? cntr c не подходит. import asyncio from asyncio import Semaphore ...

0
Надоела реклама? Зарегистрируйтесь и она исчезнет полностью.
raxper
Эксперт
30234 / 6612 / 1498
Регистрация: 28.12.2010
Сообщений: 21,154
Блог
15.04.2023, 19:01
Помогаю со студенческими работами здесь

Можно ли это сделать используя асинхронный подход?
Есть список ссылок. Нужно получить содержимое каждой ссылки. Напрашиваются треды, потоки. Можно ли ускорения добиться с помощью...

Асинхронный парсинг сайта
Здраствуйте, может кто подсказать в чём заключается ошибка в коде? (задумка кода в получении прокси с сайта hidemy) код: from...

Парсинг по порядку или парсинг до определенного тега
Доброго времени друзья! Подскажите пожалуйста, к примеру есть вот такой html код: <div class="container mt-3"> ...

Асинхронный сервер
Есть идея небольшого проекта, для его реализации необходимо написать сервер, который будет работать одновременно с несколькими...

Асинхронный чат. Asynchat
Хочу написать асинхронный чат. Можно ли использовать модуль asynchat и как можно с помощью него переслать данные с одного хоста на другой?


Искать еще темы с ответами

Или воспользуйтесь поиском по форуму:
1
Ответ Создать тему
Новые блоги и статьи
PhpStorm 2025.3: WSL Terminal всегда стартует в ~
and_y87 14.12.2025
PhpStorm 2025. 3: WSL Terminal всегда стартует в ~ (home), игнорируя директорию проекта Симптом: После обновления до PhpStorm 2025. 3 встроенный терминал WSL открывается в домашней директории. . .
Access
VikBal 11.12.2025
Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.
Новый ноутбук
volvo 07.12.2025
Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro
Музыка, написанная Искусственным Интеллектом
volvo 04.12.2025
Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .
От async/await к виртуальным потокам в Python
IndentationError 23.11.2025
Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .
Поиск "дружественных имён" СОМ портов
Argus19 22.11.2025
Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином.
Programma_Boinc 20.11.2025
Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .
Ломающие изменения в C#.NStar Alpha
Etyuhibosecyu 20.11.2025
Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .
Мысли в слух
kumehtar 18.11.2025
Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .
Создание Single Page Application на фреймах
krapotkin 16.11.2025
Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .
КиберФорум - форум программистов, компьютерный форум, программирование
Powered by vBulletin
Copyright ©2000 - 2025, CyberForum.ru