Использование Python для очистки вложенных разделов и интервалов в Twitter?
Я пытаюсь очистить понравившиеся и ретвиты от результатов поиска в Twitter.
После запуска Python ниже я получаю пустой список, [] . Я не использую API-интерфейс Twitter, потому что он не смотрит на твиты хэштегом так далеко.
- Python, несколько потоков, выборка веб-страниц, загрузка веб-страниц
- Python - Загрузить изображения из Google Поиск изображений?
- Как получить данные внутри тега </ br>, который находится внутри <li>, используя скребок python
- Python webscraping - NoneObeject Failure - сломанный HTML?
- Python BeautifulSoup scrape tables
Код, который я использую:
from bs4 import BeautifulSoup import requests url = 'https://twitter.com/search?q=%23bangkokbombing%20since%3A2015-08-10%20until%3A2015-09-30&src=typd&lang=en' r = requests.get(url) data = r.text soup = BeautifulSoup(data, "lxml") all_likes = soup.find_all('span', class_='ProfileTweet-actionCountForPresentation') print(all_likes)
Я могу успешно сохранить html в файл, используя этот код. При поиске текста не хватает больших объемов информации, таких как имена классов, которые я ищу …
Поэтому (часть) проблема, по-видимому, заключается в точном доступе к исходному коду.
filename = 'newfile2.txt' with open(filename, 'w') as handle: handle.writelines(str(data))
На этом снимке экрана показан диапазон, который я пытаюсь очистить.
Я посмотрел на этот вопрос, другие понравились, но я не совсем понял.
Как использовать BeautifulSoup для получения глубоко вложенных значений div?
- Получите все ссылки с BeautifulSoup с одного веб-сайта (функция «Загрузить больше»)
- Python 3, веб-соскабливание и Javascript
- Почему BeautifulSoup не находит конкретный класс таблицы?
- Использование модуля запросов Python для отправки формы без имени ввода
- Потрясающая кнопка кнопки Selenium Python
One Solution collect form web for “Использование Python для очистки вложенных разделов и интервалов в Twitter?”
Кажется, что ваш запрос GET возвращает допустимый HTML, но без элементов твита в элементе #timeline. Однако, добавление агента пользователя в заголовки запроса, похоже, исправляет это.
from bs4 import BeautifulSoup import requests url = 'https://twitter.com/search?q=%23bangkokbombing%20since%3A2015-08-10%20until%3A2015-09-30&src=typd&lang=en' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2228.0 Safari/537.36'} r = requests.get(url, headers=headers) data = r.text soup = BeautifulSoup(data, "lxml") all_likes = soup.find_all('span', class_='ProfileTweet-actionCountForPresentation') print(all_likes)