Современный скрапинг веб-сайтов с помощью Python. 2-е межд. издание

Если программирование напоминает волшебство, то веб-скрапинг — это очень сильное колдунство. Написав простую автоматизированную программу, можно отправлять запросы на веб-серверы, запрашивать с них данные, а затем анализировать их и извлекать необходимую информацию. Новое расширенное издание книги знакомит не только с веб-скрапингом, но и поможет собрать любого вида данные в современном Интернете.
В части I основное внимание уделено механике веб-скрапинга: как с помощью Python запрашивать информацию с веб-сервера, производить базовую обработку серверного отклика и организовать автоматизированное взаимодействие с сайтами. В части II исследованы более специфичные инструменты и приложения, которые пригодятся при любом сценарии веб-скрапинга.

• Разбирайте сложные HTML-страницы.
• Разрабатывайте поисковые роботы с помощью фреймворка Scrapy.
• Изучайте методы хранения данных, полученных с помощью скрапинга.
• Считывайте и извлекайте данные из документов.
• Очищайте и нормализуйте плохо отформатированные данные.
• Читайте и пишите информацию на естественных языках.
• Освойте поиск по формам и логинам.
• Изучите скрапинг JavaScript и работу с API.
• Используйте и пишите программы для преобразования изображений в текст.
• Учитесь обходить скрапинговые ловушки и блокаторы ботов.
• Протестируйте собственный сайт с помощью скрапинга.

«Благодаря инструментам и примерам из книги я смог с легкостью автоматизировать несколько рутинных задач и высвободить время для более интересных дел. Эта книга ориентирована на результат, быстро читается и описывает реальные задачи и их решения».
Эрик Ванвик, компьютерный инженер, Колледж им. Франклина В. Олина

Об авторе:
Райан Митчелл — старший разработчик бостонской компании HedgeServ, где занята разработкой API и инструментов для анализа данных. Ранее занималась разработкой инструментов для веб-скрапинга и средств автоматизации на Python в компании Abine. Консультант и внештатный преподаватель Северо-Восточного университета и Инженерно-технического колледжа им. Франклина В. Олина.