-
Notifications
You must be signed in to change notification settings - Fork 0
Expand file tree
/
Copy pathwb_parser.py
More file actions
1711 lines (1451 loc) · 90.9 KB
/
wb_parser.py
File metadata and controls
1711 lines (1451 loc) · 90.9 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
864
865
866
867
868
869
870
871
872
873
874
875
876
877
878
879
880
881
882
883
884
885
886
887
888
889
890
891
892
893
894
895
896
897
898
899
900
901
902
903
904
905
906
907
908
909
910
911
912
913
914
915
916
917
918
919
920
921
922
923
924
925
926
927
928
929
930
931
932
933
934
935
936
937
938
939
940
941
942
943
944
945
946
947
948
949
950
951
952
953
954
955
956
957
958
959
960
961
962
963
964
965
966
967
968
969
970
971
972
973
974
975
976
977
978
979
980
981
982
983
984
985
986
987
988
989
990
991
992
993
994
995
996
997
998
999
1000
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
"""
Парсер товаров Wildberries (WB) — сбор данных через публичные API.
Что умеет:
1) Получать информацию по списку артикулов (SKU): цены, остатки, склады
2) Искать товары по ключевому слову и определять их позицию в выдаче
3) Работать через прокси (чтобы не заблокировали)
4) Сохранять результат в Excel (.xlsx) с авто-фильтром, авто-шириной колонок и картинками
5) Выгружать характеристики и описание каждого товара на отдельные листы
6) Опционально сохранять CSV (по запросу пользователя)
Как устроен парсер (для новичков):
- Весь код — это последовательность функций: одна вызывает другую
- main() — точка входа (запускается при старте)
- main() спрашивает у пользователя, что делать, и вызывает нужные функции
- Каждая функция делает только свою работу и возвращает результат
Внутреннее устройство (защита WB):
- WB (Wildberries) требует специальный токен x_wbaas_token для внутренних API
- Токен выдаётся после прохождения JS-челленджа (проверки, что вы не бот)
- Парсер получает токен через SeleniumBase (настоящий браузер Chrome)
- Если SeleniumBase не установлен — пробует curl_cffi, затем обычный HTTP
- Токен живёт ~неделю, кэшируется в переменной _WBAAS_TOKEN на время сеанса
Особенности сборки .exe (PyInstaller):
- Драйвер Chrome сохраняется в %LOCALAPPDATA%\\WBParser\\drivers (не в temp)
- Pillow включается через --collect-all PIL (нужен для вставки изображений в Excel)
- После завершения — Enter для повтора, Esc для выхода
Известные ограничения:
- totalQuantity: 39 — заглушка WB для «в наличии, точное количество скрыто».
Парсер игнорирует эту заглушку и показывает только сумму stocks[].qty.
- Цены всегда запрашиваются через PRIMARY_DEST (dest=-2888067, BYN).
Остальные регионы (RUB, KZT) используются только для stocks[].
"""
import sys
import io
import os
import time
import random
import argparse
import requests # библиотека для отправки HTTP-запросов (основная работа с сетью)
import pandas as pd # библиотека для работы с таблицами (Excel/CSV)
import msvcrt # чтение клавиш (Enter/Esc) без ожидания Enter
from concurrent.futures import ThreadPoolExecutor, as_completed
from datetime import datetime
from typing import List, Dict, Any, Optional
from openpyxl.styles import Font, Alignment
from decimal import Decimal, ROUND_FLOOR # точные математические расчёты (цены с WB-кошельком)
# ---------------------------------------------------------------------------
# Настройка кодировки терминала Windows (чтобы кириллица отображалась корректно)
# ---------------------------------------------------------------------------
sys.stdout = io.TextIOWrapper(sys.stdout.buffer, encoding='utf-8', errors='replace')
# ---------------------------------------------------------------------------
# Rich — библиотека для красивых цветных таблиц и прогресс-баров в консоли
# Если не установлена — используется заглушка (простой print)
# ---------------------------------------------------------------------------
try:
from rich.console import Console
from rich.table import Table
from rich.progress import Progress, SpinnerColumn, TextColumn, BarColumn, TimeRemainingColumn
from rich.panel import Panel
from rich.prompt import Prompt, Confirm
from rich import box
except ImportError:
class Console:
def print(self, *args, **kwargs):
print(*args, **kwargs)
def rule(self, *args, **kwargs):
print("-" * 50)
Console = Console()
console = Console()
# ---------------------------------------------------------------------------
# ═══════════════════════════════════════════════════════════════════════════
# КОНСТАНТЫ (настройки, которые можно менять)
# ═══════════════════════════════════════════════════════════════════════════
# ---------------------------------------------------------------------------
# ID региона для получения цен в BYN (Беларусь, Гродно).
# У Wildberries цены и остатки товаров зависят от региона (dest).
# Если нужны цены в рублях (RUB) — замени на "-1257786" (Москва).
DEFAULT_DEST = "-2888067"
# ID Москвы — используется для второго запроса, чтобы получить остатки по ВСЕМ складам.
# Проблема: WB для регионов Беларуси не отдаёт остатки по складам (только "ближайший склад").
# Москва отдаёт полную картину, поэтому делаем два запроса на каждый товар.
MOSCOW_DEST = "-1257786"
# Валюта, в которой возвращаются цены
DEFAULT_CURR = "byn" # byn = белорусские рубли, rub = российские рубли
# HTTP-заголовки, которые парсер отправляет вместе с каждым запросом.
# User-Agent имитирует обычный браузер Chrome, чтобы WB не заподозрил бота.
DEFAULT_HEADERS = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36',
'Accept': '*/*',
'Accept-Language': 'ru-RU,ru;q=0.9,en-US;q=0.8,en;q=0.7',
'Origin': 'https://www.wildberries.ru',
'Referer': 'https://www.wildberries.ru/'
}
# ---------------------------------------------------------------------------
# ГЛОБАЛЬНЫЕ ПЕРЕМЕННЫЕ (живут всё время работы программы)
# ---------------------------------------------------------------------------
_WBAAS_TOKEN = None # Кэш для x_wbaas_token — чтобы не получать его заново для каждого запроса
_SESSION = requests.Session() # Сессия HTTP — сохраняет соединения (Keep-Alive), ускоряет запросы
_SESSION.headers.update(DEFAULT_HEADERS)
_VOL_BASKET_CACHE = {} # Кэш для корзин изображений — чтобы не перебирать basket-* каждый раз
_BASKET_EXECUTOR = None # Пул потоков для параллельной проверки корзин
# ───────────────────────────────────────────────────────────────────────────
# ВСПОМОГАТЕЛЬНАЯ ФУНКЦИЯ: статическое определение корзины (basket) по vol
# ───────────────────────────────────────────────────────────────────────────
def _get_basket_static(vol: int) -> str:
if vol <= 143: return "01"
elif vol <= 287: return "02"
elif vol <= 431: return "03"
elif vol <= 719: return "04"
elif vol <= 1007: return "05"
elif vol <= 1061: return "06"
elif vol <= 1115: return "07"
elif vol <= 1169: return "08"
elif vol <= 1313: return "09"
elif vol <= 1601: return "10"
elif vol <= 1655: return "11"
elif vol <= 1919: return "12"
elif vol <= 2045: return "13"
elif vol <= 2189: return "14"
elif vol <= 2405: return "15"
return f"{(16 + (vol - 2406) // 216):02d}"
# ───────────────────────────────────────────────────────────────────────────
# ВСПОМОГАТЕЛЬНАЯ ФУНКЦИЯ: определение корзины (basket) для изображений
# ───────────────────────────────────────────────────────────────────────────
def get_basket_dynamically(vol: int, part: int, sku: int) -> str:
"""
Определяет номер корзины (basket-XX) для загрузки изображений товара.
Зачем это нужно:
- Изображения товаров WB лежат на CDN: basket-XX.wbbasket.ru/vol{vol}/...
- Номер корзины (XX) зависит от "vol" (объёма) товара.
- Раньше номера корзин были жёстко привязаны к vol, но WB изменил логику.
- Теперь приходится проверять несколько корзин, пока не найдём нужную.
Как работает:
1) Сначала угадываем корзину по статической таблице (быстрая эвристика)
2) Проверяем популярные корзины 39, 40, 41 (туда WB переносит много товаров)
3) Если не нашли — параллельно проверяем корзины 01..99 (ThreadPool)
Args:
vol: объём товара (vol = артикул // 100000)
part: часть (part = артикул // 1000)
sku: артикул товара
Returns:
строка с номером корзины, например "01", "12", "39"
"""
# Если уже знаем корзину для этого vol — возвращаем из кэша
if vol in _VOL_BASKET_CACHE:
return _VOL_BASKET_CACHE[vol]
global _BASKET_EXECUTOR
if _BASKET_EXECUTOR is None:
_BASKET_EXECUTOR = ThreadPoolExecutor(max_workers=15)
# ── Шаг 1: статическая эвристика (по старым правилам WB) ──
guess = _get_basket_static(vol)
def check_image(b_id_str):
url = f"https://basket-{b_id_str}.wbbasket.ru/vol{vol}/part{part}/{sku}/images/big/1.webp"
try:
if _SESSION.head(url, timeout=1.5).status_code == 200:
return b_id_str
except Exception:
pass
return None
# ── Шаг 2: проверяем "угаданную" корзину (быстрый путь) ──
if check_image(guess):
_VOL_BASKET_CACHE[vol] = guess
return guess
# ── Шаг 3: проверяем корзины 39, 40, 41 (туда WB массово переносит товары) ──
for common_basket in ['39', '40', '41']:
if common_basket != guess and check_image(common_basket):
_VOL_BASKET_CACHE[vol] = common_basket
return common_basket
# ── Шаг 4: параллельная проверка всех корзин 01..99 ──
baskets_to_check = [f"{i:02d}" for i in range(1, 201) if f"{i:02d}" not in [guess, '39', '40', '41']]
futures = [_BASKET_EXECUTOR.submit(check_image, b) for b in baskets_to_check]
for future in as_completed(futures):
result = future.result()
if result:
_VOL_BASKET_CACHE[vol] = result
return result
# Если ничего не нашли — возвращаем угаданную (хотя бы попытка)
_VOL_BASKET_CACHE[vol] = guess
return guess
# ───────────────────────────────────────────────────────────────────────────
# ВСПОМОГАТЕЛЬНАЯ ФУНКЦИЯ: безопасный HTTP-запрос с повторными попытками
# ───────────────────────────────────────────────────────────────────────────
def make_request(url: str, params=None, headers: Optional[Dict[str, Any]] = None,
cookies: Optional[Dict[str, str]] = None,
proxies: Optional[List[str]] = None,
max_retries: int = 3, timeout: int = 15) -> requests.Response:
"""
Универсальная функция для выполнения HTTP GET-запроса.
Особенности:
- При ответе 429 (Too Many Requests) ждёт и повторяет (exponential backoff)
- При 404 сразу выходит с ошибкой (нет смысла повторять)
- Использует глобальную сессию _SESSION для Keep-Alive
Args:
url: адрес запроса
params: параметры запроса (dict или список кортежей)
headers: HTTP-заголовки
cookies: Cookie (например, x_wbaas_token)
proxies: список прокси (выбирается случайный)
max_retries: сколько раз повторять при ошибке
timeout: таймаут ожидания ответа (секунд)
Returns:
объект ответа requests.Response
Raises:
requests.exceptions.HTTPError: если все попытки исчерпаны
"""
delay = 3.0
for attempt in range(max_retries):
try:
# Выбираем случайный прокси из списка (если есть)
if proxies:
selected = random.choice(proxies)
proxy = {'http': selected, 'https': selected}
else:
proxy = None
response = _SESSION.get(url, params=params, headers=headers,
cookies=cookies, proxies=proxy, timeout=timeout)
# WB при слишком частых запросах возвращает 429
if response.status_code == 429:
retry_after = response.headers.get("Retry-After")
wait_time = int(retry_after) if (retry_after and retry_after.isdigit()) else int(delay)
console.print(f"[yellow]\n[!] Предупреждение (429): Слишком много запросов. "
f"Ожидание {wait_time} сек. перед повторной попыткой...[/yellow]")
time.sleep(wait_time)
delay *= 2
continue
response.raise_for_status() # выбросит исключение, если статус не 2xx
return response
except requests.exceptions.RequestException as e:
# 404 — товар не найден, повторять бессмысленно
if isinstance(e, requests.exceptions.HTTPError) and e.response is not None and e.response.status_code == 404:
raise e
if attempt == max_retries - 1:
raise e # последняя попытка — даём ошибке уйти наверх
time.sleep(delay)
delay *= 2
raise requests.exceptions.HTTPError("Превышено количество попыток запроса из-за ограничений 429")
# ───────────────────────────────────────────────────────────────────────────
# ВСПОМОГАТЕЛЬНАЯ ФУНКЦИЯ: загрузка справочника складов WB
# ───────────────────────────────────────────────────────────────────────────
def fetch_warehouse_map(proxies: Optional[List[str]] = None) -> Dict[int, str]:
"""
Загружает с CDN WB список складов и их названия.
Зачем: в ответах API WB склады обозначаются числовыми ID (например, 117986).
Чтобы показывать пользователю понятные названия ("Коледино", "Электросталь"),
мы загружаем соответствие ID → имя.
Returns:
словарь {id_склада: "название склада", ...}
"""
url = "https://static-basket-01.wbbasket.ru/vol0/data/stores-data.json"
try:
response = make_request(url, headers=DEFAULT_HEADERS, proxies=proxies, timeout=10)
response.encoding = 'utf-8'
stores_list = response.json()
return {store['id']: store['name'] for store in stores_list if 'id' in store and 'name' in store}
except Exception as e:
console.print(f"[yellow]Предупреждение: Не удалось загрузить карту складов ({e}). "
f"ID складов будут отображаться без имён.[/yellow]")
return {}
# ───────────────────────────────────────────────────────────────────────────
# ОСНОВНАЯ ФУНКЦИЯ ПАРСИНГА: превращает сырой JSON от WB в понятный словарь
# ───────────────────────────────────────────────────────────────────────────
def parse_single_product(product: Dict[str, Any],
warehouse_map: Dict[int, str],
search_data: Optional[Dict[str, Any]] = None) -> Dict[str, Any]:
"""
Берёт "сырой" JSON товара от API WB и превращает в плоский словарь с понятными ключами.
Что делает:
1) Извлекает основные поля: артикул, название, бренд, продавец, рейтинг
2) Достаёт цены (в копейках, делит на 100)
3) Собирает остатки по складам и суммирует общее количество
4) Формирует ссылки на товар и изображение
5) Если есть search_data — добавляет позицию в выдаче и информацию о доставке
Args:
product: словарь товара из API WB (JSON, преобразованный в dict)
warehouse_map: словарь {ID_склада: имя_склада}
search_data: данные из поисковой выдачи (позиция, реклама, доставка)
Returns:
словарь с полями: Артикул, Бренд, Название, Цена без скидки,
Цена со скидкой, Цена с WB кошельком, Рейтинг, Отзывы (кол-во),
Остатки всего (шт), Детализация по складам, Ссылка на товар, Ссылка на фото
"""
# ── Основные поля ──
product_id = product.get('id')
name = product.get('name', 'Неизвестно')
brand = product.get('brand') or 'Без бренда'
supplier = product.get('supplier', 'Неизвестный продавец')
supplier_id = product.get('supplierId')
rating = product.get('rating', 0)
feedbacks = product.get('feedbacks', 0)
# ── Цены ──
# В API WB цены передаются в копейках (целые числа):
# priceU = цена без скидки (в копейках)
# salePriceU = цена со скидкой (в копейках)
# Делим на 100, чтобы получить рубли/копейки.
price_u = product.get('priceU')
sale_price_u = product.get('salePriceU')
# Иногда цена лежит внутри sizes[].price (на карточке товара через v4/detail),
# а не в корне объекта. Подстраховываемся:
sizes = product.get('sizes', [])
if (price_u is None or sale_price_u is None) and sizes:
first_size = sizes[0]
price_obj = first_size.get('price', {})
if price_obj:
price_u = price_obj.get('basic')
sale_price_u = price_obj.get('product')
price_original = price_u / 100.0 if price_u else 0.0
price_discounted = sale_price_u / 100.0 if sale_price_u else 0.0
# ── Остатки по складам ──
sizes_list = []
stocks_detail = []
total_stock = 0
sizes = product.get('sizes', [])
for size_obj in sizes:
size_name = size_obj.get('origName') or size_obj.get('name') or 'No Size'
sizes_list.append(size_name)
stocks = size_obj.get('stocks', [])
for stock_obj in stocks:
wh_id = stock_obj.get('wh')
qty = stock_obj.get('qty', 0)
total_stock += qty
wh_name = warehouse_map.get(wh_id, f"Склад ID {wh_id}")
stocks_detail.append({
'size': size_name,
'wh_id': wh_id,
'wh_name': wh_name,
'qty': qty
})
sizes_str = ", ".join(map(str, sizes_list))
# totalQuantity — это общее количество товара на ВСЕХ складах.
# Оно может быть больше, чем сумма по размерам (если какие-то размеры не попали в ответ).
total_quantity = product.get('totalQuantity')
if total_quantity is not None and total_quantity not in (39, 0) and total_quantity > total_stock:
total_stock = total_quantity
# Группируем остатки по складам (суммируем все размеры в рамках одного склада)
wh_agg = {}
for item in stocks_detail:
name_wh = item['wh_name']
wh_agg[name_wh] = wh_agg.get(name_wh, 0) + item['qty']
wh_summary_str = ", ".join([f"{wh}: {qty}" for wh, qty in wh_agg.items()]) if wh_agg else "Нет в наличии"
# ── Ссылка на изображение ──
image_url = ""
if product_id:
vol = product_id // 100000
part = product_id // 1000
basket = _VOL_BASKET_CACHE.get(vol) or _get_basket_static(vol)
image_url = f"https://basket-{basket}.wbbasket.ru/vol{vol}/part{part}/{product_id}/images/big/1.webp"
# ── Данные из поисковой выдачи ──
position = ''
is_promo = 'Нет'
delivery_by = ''
if search_data:
position = search_data.get('position', '')
is_promo = search_data.get('is_promo', 'Нет')
t1_by = search_data.get('time1_by', '')
t2_by = search_data.get('time2_by', '')
if t1_by or t2_by:
delivery_by = f"{t1_by}-{t2_by} дн." if t1_by and t2_by else f"{t1_by or t2_by} дн."
# ── Время доставки по Москве ──
t1_msk = product.get('_time1_msk')
t2_msk = product.get('_time2_msk')
delivery_msk = ''
if t1_msk or t2_msk:
delivery_msk = f"{t1_msk}-{t2_msk} дн." if t1_msk and t2_msk else f"{t1_msk or t2_msk} дн."
result = {
'Артикул': product_id,
'Бренд': brand,
'Название': name,
'Цена без скидки': price_original,
'Цена со скидкой': price_discounted,
'Цена с WB кошельком': calc_price_with_wallet(price_discounted),
'Рейтинг': rating,
'Отзывы (кол-во)': feedbacks,
'Остатки всего (шт)': total_stock,
'Детализация по складам': wh_summary_str,
'Продавец': supplier,
'ID Продавца': supplier_id,
'Позиция в выдаче': position,
'Реклама (Да/Нет)': is_promo,
'Срок доставки (Регион)': delivery_by,
'Срок доставки (МСК)': delivery_msk,
'Ссылка на товар': f"https://www.wildberries.ru/catalog/{product_id}/detail.aspx",
'Ссылка на фото': image_url
}
return result
# ═══════════════════════════════════════════════════════════════════════════
# WB-КОШЕЛЁК: расчёт цены со скидкой "Незалогиненный кошелёк"
# ═══════════════════════════════════════════════════════════════════════════
#
# Что такое "WB кошелёк"?
# Wildberries предлагает покупателю-неавторизованному скидку, если он
# оплатит через кошелёк WB. Скидка задаётся в default-payment.json
# (процент) и применяется к цене со скидкой.
#
# Как мы это считаем:
# 1) Загружаем default-payment.json → находим "Незалогиненный кошелёк"
# 2) Получаем процент скидки (например, 3%)
# 3) Проверяем лимит по максимальной цене (settings-front.json)
# 4) Применяем: итоговая_цена = цена_со_скидкой * (100 - процент) / 100
#
# Результат кэшируется (= запрашивается один раз за сеанс).
# ───────────────────────────────────────────────────────────────────────────
_WALLET_DISCOUNT: Optional[Decimal] = None
_WALLET_MAX_PRICE: Optional[Decimal] = None
def _fetch_wallet_discount() -> Decimal:
"""Загружает процент скидки для «Незалогиненный кошелёк» из default-payment.json."""
global _WALLET_DISCOUNT
if _WALLET_DISCOUNT is not None:
return _WALLET_DISCOUNT # уже получили ранее
url = "https://static-basket-01.wbbasket.ru/vol1/global-payment/default-payment.json"
try:
resp = _SESSION.get(url, timeout=10)
resp.raise_for_status()
payload = resp.json()
except Exception:
return Decimal("0")
if payload.get("state") != 0:
return Decimal("0")
# Ищем в списке тип "Незалогиненный кошелёк" с active=True
for item in payload.get("data", []):
if item.get("wc_type") == "Незалогиненный кошелёк" and item.get("is_active") is True:
try:
_WALLET_DISCOUNT = Decimal(item["discount_value"])
return _WALLET_DISCOUNT
except Exception:
return Decimal("0")
return Decimal("0")
def _fetch_wallet_max_price() -> Decimal:
"""
Загружает максимальную цену, до которой применяется скидка кошелька.
Если цена товара выше — скидка не действует.
"""
global _WALLET_MAX_PRICE
if _WALLET_MAX_PRICE is not None:
return _WALLET_MAX_PRICE
url = "https://static-basket-01.wbbasket.ru/vol0/data/settings-front.json"
try:
resp = _SESSION.get(url, timeout=10)
resp.raise_for_status()
settings = resp.json().get("variables", {})
except Exception:
return Decimal("0")
_WALLET_MAX_PRICE = Decimal(settings.get("wlt1DiscountDisplayMaxPrice", 0))
return _WALLET_MAX_PRICE
def calc_price_with_wallet(price: float) -> float:
"""
Применяет скидку WB-кошелька к указанной цене.
Args:
price: исходная цена (например, цена со скидкой)
Returns:
цена после применения скидки (округляется вниз до целого)
"""
discount = _fetch_wallet_discount()
if discount <= 0:
return price
max_price = _fetch_wallet_max_price()
if max_price and Decimal(str(price)) > max_price:
return price # цена превышает лимит — скидка не применяется
# discounted_price = price * (100 - discount%) / 100
discounted = (Decimal(str(price)) * (Decimal("100") - discount) / Decimal("100")) \
.quantize(Decimal("1"), rounding=ROUND_FLOOR)
return float(discounted)
# ═══════════════════════════════════════════════════════════════════════════
# ОСНОВНАЯ ФУНКЦИЯ СБОРА: получение информации по списку артикулов
# ═══════════════════════════════════════════════════════════════════════════
_DETAIL_MIRRORS = [
"https://card.wb.ru/cards/v4/detail",
"https://cards.wb.ru/cards/v4/detail",
"https://card.wb.ru/cards/v5/detail",
"https://cards.wb.ru/cards/v5/detail",
]
# Регионы для параллельного сбора остатков по складам.
# Чем больше регионов — тем выше шанс получить полную картину stocks[].
# (все dests взяты из анализа TS-парсера, покрывают все основные склады WB)
_DETAIL_DESTS = [
"123585815", # Москва / Центр
"123585590", # СПб / Северо-Запад
"123585567", # Сибирь / Новосибирск
"123585532", # Юг / Краснодар
"123585474", # Поволжье / Казань
"123585558", # Вост. Сибирь / Кемерово
"-1257786", # Москва (альт.)
"-1181704", # Россия
"-1029256", # Россия
"-1221148", # Казахстан
"-2888067", # Гродно, Беларусь — базовый для цен (BYN)
]
# Базовый регион — из него берём цены (должен поддерживать BYN)
_PRIMARY_DEST = "-2888067" # Гродно, Беларусь
# Валюта для каждого региона (цены должны быть в правильной валюте,
# иначе WB может вернуть priceU=0)
_DEST_CURRENCIES = {
"123585815": "rub",
"123585590": "rub",
"123585567": "rub",
"123585532": "rub",
"123585474": "rub",
"123585558": "rub",
"-1257786": "rub",
"-1181704": "rub",
"-1029256": "rub",
"-1221148": "kzt",
"-2888067": "byn",
}
def _fetch_detail_batch(params: Dict[str, str], proxies: Optional[List[str]] = None, timeout: int = 15) -> Optional[Dict]:
"""
Пытается выполнить запрос к API деталей товара, перебирая зеркала (mirrors).
Если одно зеркало недоступно/ошибка — пробует следующее.
"""
for url in _DETAIL_MIRRORS:
try:
response = make_request(url, params=params, headers=DEFAULT_HEADERS, proxies=proxies, timeout=timeout)
if response.status_code == 200:
data = response.json()
if data.get('products') or data.get('data', {}).get('products'):
return data
except Exception:
continue
return None
def fetch_products_by_skus(skus: List[int], warehouse_map: Dict[int, str],
proxies: Optional[List[str]] = None,
search_meta: Optional[Dict[int, Dict[str, Any]]] = None) -> List[Dict[str, Any]]:
"""
Получает детальную информацию по списку артикулов (SKU).
Как работает:
1) Делит артикулы на батчи по 100 шт (ограничение API WB)
2) Для каждого батча делает параллельные запросы к нескольким регионам
(каждый — со своей валютой: RUB, BYN, KZT)
3) Цены берёт из PRIMARY_DEST (-2888067, BYN)
4) Stocks[] мерджит через Math.max из ВСЕХ регионов
5) Парсит каждый товар через parse_single_product()
Зачем несколько регионов?
- WB для разных dest возвращает разные наборы складов в stocks[]
- Объединяя их через Math.max, получаем максимально полную картину
Важно: totalQuantity: 39 — заглушка WB, парсер её игнорирует.
"""
parsed_products = []
# API WB принимает максимум 100 артикулов за один запрос
batch_size = 100
batches = [skus[i:i + batch_size] for i in range(0, len(skus), batch_size)]
def _fetch_region(nm, dest, curr):
params = {
'appType': '1',
'curr': curr,
'dest': dest,
'spp': '30',
'nm': nm
}
data = _fetch_detail_batch(params, proxies=proxies, timeout=15)
return dest, (data or {}).get('products') or (data or {}).get('data', {}).get('products', [])
with Progress(
SpinnerColumn(),
TextColumn("[progress.description]{task.description}"),
BarColumn(),
TextColumn("[progress.percentage]{task.percentage:>3.0f}%"),
TimeRemainingColumn(),
console=console
) as progress:
task = progress.add_task("[cyan]Сбор данных по артикулам...", total=len(batches))
for batch in batches:
nm_param = ";".join(map(str, batch))
try:
time.sleep(random.uniform(0.5, 1.5))
# ── Шаг 1: запрашиваем PRIMARY_DEST отдельно (цены в BYN) ──
primary_curr = _DEST_CURRENCIES.get(_PRIMARY_DEST, DEFAULT_CURR)
primary_products = _fetch_region(nm_param, _PRIMARY_DEST, primary_curr)[1]
# Если PRIMARY_DEST не ответил — пробуем ещё раз (с паузой)
if not primary_products:
time.sleep(random.uniform(1.0, 2.0))
primary_products = _fetch_region(nm_param, _PRIMARY_DEST, primary_curr)[1]
if not primary_products:
console.print("[yellow]⚠ PRIMARY_DEST не ответил, пропускаем батч.[/yellow]")
progress.advance(task)
continue
# ── Шаг 2: параллельные запросы к ОСТАЛЬНЫМ регионам (только stocks) ──
other_dests = [d for d in _DETAIL_DESTS if d != _PRIMARY_DEST]
region_results = {_PRIMARY_DEST: primary_products}
with ThreadPoolExecutor(max_workers=len(other_dests)) as executor:
futures = {}
for d in other_dests:
curr = _DEST_CURRENCIES.get(d, DEFAULT_CURR)
futures[executor.submit(_fetch_region, nm_param, d, curr)] = d
for future in as_completed(futures):
d = futures[future]
try:
ret_dest, prods = future.result()
if prods:
region_results[ret_dest] = prods
except Exception:
pass
# Собираем продукты по регионам
# all_instances[pid] = [(dest, product), ...]
all_instances = {}
for dest, prods in region_results.items():
for p in prods:
pid = p.get('id')
if pid is not None:
all_instances.setdefault(pid, []).append((dest, p))
# ── Объединяем stocks[] через Math.max ──
# Базовый продукт — всегда из PRIMARY_DEST (цены гарантированы)
for prod_id, instances in all_instances.items():
prod = None
for dest, inst in instances:
if dest == _PRIMARY_DEST:
prod = inst
break
if not prod:
continue # без PRIMARY_DEST цены не гарантированы — пропускаем
# Собираем размеры → склады → макс. остаток из ВСЕХ регионов
merged_stocks = {} # {size_name: {wh_id: max_qty}}
has_any_stock = False
for dest, inst in instances:
for sz in (inst.get('sizes') or []):
sz_name = sz.get('origName') or sz.get('name') or 'No Size'
if sz_name not in merged_stocks:
merged_stocks[sz_name] = {}
for st in (sz.get('stocks') or []):
wh = st.get('wh')
qty = st.get('qty', 0)
if wh is not None:
prev = merged_stocks[sz_name].get(wh, 0)
merged_stocks[sz_name][wh] = prev if prev > qty else qty
if qty > 0:
has_any_stock = True
# Применяем объединённые остатки к базовому продукту
for sz in (prod.get('sizes') or []):
sz_name = sz.get('origName') or sz.get('name') or 'No Size'
if sz_name in merged_stocks:
wh_qty_list = merged_stocks[sz_name]
sz['stocks'] = [{'wh': wh, 'qty': qty} for wh, qty in wh_qty_list.items()]
# Берём время доставки из любого инстанса, где оно есть
for dest, inst in instances:
if 'time1' in inst or 'time2' in inst:
prod['_time1_msk'] = inst.get('time1', '')
prod['_time2_msk'] = inst.get('time2', '')
break
parsed_prod = parse_single_product(prod, warehouse_map,
search_meta.get(prod_id) if search_meta else None)
parsed_products.append(parsed_prod)
except Exception as e:
console.print(f"[red]Ошибка при обработке пакета артикулов: {e}[/red]")
progress.advance(task)
return parsed_products
# ═══════════════════════════════════════════════════════════════════════════
# ПОЛУЧЕНИЕ ТОКЕНА x_wbaas_token (ключ к внутренним API Wildberries)
# ═══════════════════════════════════════════════════════════════════════════
#
# Проблема: Wildberries проверяет, что запрос пришёл от реального браузера.
# Он запускает JS-челлендж (проверка canvas, WebGL, и т.д.).
# Если челлендж пройден — браузер получает cookie x_wbaas_token.
# Без этого токена внутренние API (поиск, цены) возвращают 498.
#
# Решение: мы получаем токен тремя способами (по приоритету):
# 1) SeleniumBase с undetected-chromedriver — полноценный Chrome, проходит всё
# 2) curl_cffi — эмулирует отпечаток Chrome, может сработать
# 3) HTTP + регекс — выкусывает токен из HTML (если был установлен ранее)
#
# Токен кэшируется в _WBAAS_TOKEN на весь сеанс. Его хватает на ~100+ запросов.
# ───────────────────────────────────────────────────────────────────────────
def get_wbaas_token(proxies: Optional[List[str]] = None) -> Optional[str]:
"""
Пытается получить x_wbaas_token для доступа к внутренним API WB.
Приоритет методов:
1. SeleniumBase + undetected Chrome (самый надёжный)
2. curl_cffi (быстрый, без браузера)
3. HTTP + регулярное выражение (крайний случай)
Returns:
строка токена или None, если не удалось получить
"""
global _WBAAS_TOKEN
if _WBAAS_TOKEN:
return _WBAAS_TOKEN
# ── Метод 1: SeleniumBase (реальный браузер Chrome) ──
def _seleniumbase() -> Optional[str]:
try:
from seleniumbase import Driver
except Exception:
return None
try:
from seleniumbase import config as sb_config
driver_dir = os.path.join(os.environ.get('LOCALAPPDATA', os.path.expanduser('~')),
'WBParser', 'drivers')
os.makedirs(driver_dir, exist_ok=True)
sb_config.settings.NEW_DRIVER_DIR = driver_dir
proxy_str = None
if proxies:
raw_proxy = random.choice(proxies)
proxy_str = raw_proxy.replace("http://", "").replace("https://", "")
console.print("[cyan]Получение токена через SeleniumBase...[/cyan]")
driver = Driver(uc=True, headed=False, headless=True,
agent=DEFAULT_HEADERS['User-Agent'], proxy=proxy_str)
try:
driver.open("https://www.wildberries.ru/")
# Ждём появления x_wbaas_token (до 15 секунд)
for _ in range(15):
time.sleep(1.0)
cookies = driver.execute_cdp_cmd("Network.getAllCookies", {})
for cookie in cookies.get("cookies", []):
if cookie.get("name") == "x_wbaas_token":
token = cookie.get("value")
console.print("[green]Сессионный токен получен через браузер.[/green]")
return token
finally:
driver.quit() # закрываем браузер
except Exception:
pass
return None
# Пробуем SeleniumBase
token = _seleniumbase()
if token:
_WBAAS_TOKEN = token
return token
# ── Метод 2: curl_cffi (эмуляция без браузера) ──
try:
from curl_cffi import requests as curl_requests
console.print("[cyan]Получение токена через curl_cffi...[/cyan]")
proxy_dict = None
if proxies:
raw = random.choice(proxies)
proxy_dict = {"http": raw, "https": raw}
resp = curl_requests.get(
"https://www.wildberries.ru/",
impersonate="chrome131", # подражаем Chrome 131
proxies=proxy_dict,
headers=DEFAULT_HEADERS,
timeout=15
)
# Ищем токен в cookie
for cookie in resp.cookies:
if cookie.name == "x_wbaas_token":
token = cookie.value
console.print("[green]Сессионный токен получен через curl_cffi (cookie).[/green]")
_WBAAS_TOKEN = token
return token
# Если в cookie нет — ищем в HTML
import re
match = re.search(r"x_wbaas_token\s*=\s*'([^']+)'", resp.text)
if match:
token = match.group(1)
console.print("[green]Сессионный токен получен через curl_cffi (регекс).[/green]")
_WBAAS_TOKEN = token
return token
console.print("[yellow] curl_cffi не нашёл токен (JS-челлендж WB не пропускает без браузера).[/yellow]")
except ImportError:
console.print("[yellow] curl_cffi не установлен.[/yellow]")
except Exception as e_curl:
console.print(f"[yellow] curl_cffi ошибка ({e_curl}).[/yellow]")
# ── Метод 3: HTTP + регулярное выражение (крайний случай) ──
try:
response = make_request(
"https://www.wildberries.ru/",
headers=DEFAULT_HEADERS,
proxies=proxies,
timeout=15
)
import re
match = re.search(r"x_wbaas_token\s*=\s*'([^']+)'", response.text)
if match:
token = match.group(1)
console.print("[green]Сессионный токен получен через HTTP-запрос.[/green]")
_WBAAS_TOKEN = token
return token
except Exception as e_http:
console.print(f"[yellow] HTTP-fallback ошибка ({e_http})[/yellow]")
return None
# ───────────────────────────────────────────────────────────────────────────
# ВСПОМОГАТЕЛЬНАЯ: определение, является ли товар рекламным
# ───────────────────────────────────────────────────────────────────────────
def _detect_promo(product: Dict[str, Any]) -> str:
"""
Проверяет, является ли товар в поисковой выдаче рекламным (продвижением).
WB помечает рекламные товары полем panelPromoId.
Если оно есть и не пустое — товар на платном месте.
Returns:
"Да" — реклама, "Нет" — обычный товар
"""
panel_promo = product.get('panelPromoId')
if panel_promo and panel_promo not in (0, '0', None):
return "Да"
return "Нет"
# ═══════════════════════════════════════════════════════════════════════════
# ПОИСК ТОВАРОВ ПО КЛЮЧЕВОМУ СЛОВУ (через внутренний search API)
# ═══════════════════════════════════════════════════════════════════════════
#
# WB использует внутренний эндпоинт для поиска. Он требует:
# - x_wbaas_token в cookie
# - Определённые заголовки (X-Spa-Version, X-Userid)
# - Параметры региона (dest), сортировки (sort), валюты (curr) и т.д.
#
# Ответ содержит список товаров с их ID, временем доставки и меткой рекламы.
# После сбора ID, функция вызывает fetch_products_by_skus() для деталей.
# ───────────────────────────────────────────────────────────────────────────
def search_products_by_query(query: str, limit_pages: int,
warehouse_map: Dict[int, str],
proxies: Optional[List[str]] = None) -> List[Dict[str, Any]]:
"""
Ищет товары по поисковому запросу и собирает детальную информацию.
Алгоритм:
1) Получает x_wbaas_token (если ещё нет)
2) Перебирает страницы поиска (limit_pages), собирает ID товаров
3) Для каждого товара сохраняет: позицию, рекламный статус, время доставки
4) Передаёт все ID в fetch_products_by_skus() для деталей
Args:
query: поисковый запрос (например, "джинсы женские")
limit_pages: сколько страниц обработать (~100 товаров на страницу)
warehouse_map: справочник складов
proxies: список прокси
Returns:
список товаров с детальной информацией
"""
global _WBAAS_TOKEN
token = get_wbaas_token(proxies)
if token:
_WBAAS_TOKEN = token
# ── URL внутреннего поискового API WB ──
url = "https://www.wildberries.ru/__internal/u-search/exactmatch/sng/common/v18/search"
# ── Заголовки, которые требует этот API ──
headers = DEFAULT_HEADERS.copy()
headers.update({
'Accept': '*/*',
'Accept-Language': 'ru-RU,ru;q=0.9',
'X-Requested-With': 'XMLHttpRequest', # говорит WB, что это AJAX-запрос
'X-Spa-Version': '13.15.1', # версия SPA-фронтенда WB
'X-Userid': '0', # 0 = анонимный пользователь
'Sec-Fetch-Site': 'same-origin',
'Sec-Fetch-Mode': 'cors',
'Sec-Fetch-Dest': 'empty',
})
import urllib.parse
encoded_query = urllib.parse.quote(query)
headers['Referer'] = f"https://www.wildberries.ru/catalog/0/search.aspx?search={encoded_query}"
# ── Cookie с токеном ──
cookies = {}
if token:
cookies['x_wbaas_token'] = token
skus_to_fetch = [] # список найденных артикулов
search_meta = {} # метаданные: {артикул: {position, is_promo, time1, time2}}
global_pos = 0 # сквозной счётчик позиции (через все страницы)
with Progress(
SpinnerColumn(),
TextColumn("[progress.description]{task.description}"),
BarColumn(),
TextColumn("[progress.percentage]{task.percentage:>3.0f}%"),
TimeRemainingColumn(),
console=console
) as progress: