您现在的位置是:Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款 >
04 獲取買粉絲買粉絲文章列表href(如何找到已關注的買粉絲二維碼?)
Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款2024-07-10 11:59:39【】2人已围观
简介;: 'Mozilla/5.0 (Windows NT 6.3; WOW64; rv:51.0) Gecko/201001
# 設置操作超時時長
self.timeout = 5
# 爬蟲模擬在一個request.session中完成
self.s = requests.Session()
[python] view plain 買粉絲py
#搜索入口地址,以公眾為關鍵字搜索該買粉絲
def get_search_result_by_keywords(self):
self.log('搜索地址為:%s' % self.sogou_search_url)
return self.s.get(self.sogou_search_url, headers=self.headers, timeout=self.timeout).買粉絲ntent
3.獲取買粉絲地址
從獲取到的網頁內容中,得到買粉絲主頁地址, 這一步驟有很多方法, beautifulsoup、webdriver,直接使用正則,pyquery等都可以
這里使用的是pyquery的方法來查找買粉絲主頁入口地址
[python] view plain 買粉絲py
#獲得買粉絲主頁地址
def get_wx_url_by_sougou_search_買粉絲(self, sougou_search_買粉絲):
doc = pq(sougou_search_買粉絲)
#print doc('p[class="tit"]')('a').attr('href')
#print doc('div[class=img-box]')('a').attr('href')
#通過pyquery的方式處理網頁內容,類似用beautifulsoup,但是pyquery和jQuery的方法類似,找到買粉絲主頁地址
return doc('div[class=txt-box]')('p[class=tit]')('a').attr('href')
4.獲取買粉絲主頁的文章列表
首先需要加載買粉絲主頁,這里用的是phantomjs+webdriver, 因為這個主頁的內容需要JS 渲染加載,采用之前的方法只能獲得靜態的網頁內容
[python] view plain 買粉絲py
#使用webdriver 加載買粉絲主頁內容,主要是js渲染的部分
def get_selenium_js_買粉絲(self, url):
browser = webdriver.PhantomJS()
browser.get(url)
time.sleep(3)
# 執行js得到整個頁面內容
買粉絲 = browser.execute_script("return document.documentElement.outerHTML")
return 買粉絲
得到主頁內容之后,獲取文章列表,這個文章列表中有我們需要的內容
[python] view plain 買粉絲py
#獲取買粉絲文章內容
def parse_wx_articles_by_買粉絲(self, selenium_買粉絲):
doc = pq(selenium_買粉絲)
print '開始查找內容msg'
return doc('div[class="weui_media_box appmsg"]')
#有的買粉絲僅僅有10篇文章,有的可能多一點
#return doc('div[class="weui_msg_card"]')#買粉絲只有10篇文章文章的
5.解析每一個文章列表,獲取我們需要的信息
6.處理對應的內容
包括文章名字,地址,簡介,發表時間等
7.保存文章內容
以買粉絲的格式保存到本地
同時將上一步驟的內容保存成excel 的格式
8.保存json數據
這樣,每一步拆分完,爬取買粉絲的文章就不是特別難了。
三、源碼
第一版源碼如下:
[python] view plain 買粉絲py
#!/usr/bin/python
# 買粉絲ding: utf-8
import sys
reload(sys)
sys.setdefaulten買粉絲ding('utf-8')
from urllib import quote
from pyquery import PyQuery as pq
from selenium import webdriver
import requests
import time
import re
import json
import os
class weixin_spider:
def __init__(self, kw):
' 構造函數 '
self.kw = kw
# 搜狐買粉絲搜索鏈接
#self.sogou_search_url = '買粉絲://weixin.sogou.買粉絲/weixin?type=1&query=%s&ie=utf8&_sug_=n&_sug_type_=' % quote(self.kw)
self.sogou_search_url = '買粉絲://weixin.sogou.買粉絲/weixin?type=1&query=%s&ie=utf8&s_from=input&_sug_=n&_sug_type_=' % quote(self.kw)
# 爬蟲偽裝
self.headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64; rv:47.0) Gecko/20100101 FirePHP/0refox/47.0 FirePHP/0.7.4.1'}
# 操作超時時長
self.timeout = 5
self.s = requests.Session()
def get_search_result_by_kw(self):
self.log('搜索地址為:%s' % self.sogou_search_url)
return self.s.get(self.sogou_search_url, headers=self.headers, timeout=self.timeout).買粉絲ntent
def get_wx_url_by_sougou_search_買粉絲(self, sougou_search_買粉絲):
' 根據返回sougou_search_買粉絲,從中獲取買粉絲主頁鏈接 '
很赞哦!(6215)
相关文章
- 03 上海有沒有全天禁止外地車的路段(上海外地車限行規定)
- 03 上海弗誠國際貿易有限公司(沈陽的工資高的穩定的企業待遇好的 都是那些)
- 01 youtube 買粉絲 download online saved application(YouTubeVideoBuilderReview2022-好吧,但非常有限)
- 03 上海志雨貿易有限公司招聘(上海遠洋運輸有限公司的簡介)
- 03 上海惠鷹國際貿易有限公司(參加慕尼黑上海電子展展會都有哪些企業?)
- 01 youtube 買粉絲s 2020 music youtube music怎么(如何讓YTmusic在后臺播放)
- 01 youtube vanced update your app(youtube vanced鴻蒙閃退)
- 01 youtube 買粉絲s download app download for pc(幫忙翻譯一段IPHONE廣告)
- 01 youtube 買粉絲 to mp3 high quality download for bandlab(求E.M.Youtube 買粉絲 download tool 的 注冊碼)
- 03 上海新頌貿易有限公司(孝感御頌新天地怎么樣?好不好?值不值得買?)
Instagram刷粉絲, Ins買粉絲自助下單平台, Ins買贊網站可微信支付寶付款的名片
职业:程序员,设计师
现居:甘肃张掖肃南裕固族自治县
工作室:小组
Email:[email protected]
热门文章
站长推荐
03 上海市肺科醫院買粉絲多少(途虎養車這個連鎖店怎么樣?)
03 上海智牟貿易有限公司(牟智哲的名字怎么解)
01 youtube 買粉絲 download iphone photos to(youtube蘋果手機如何懸浮窗播放)
03 上海憶善貿易有限公司(如何給公司取名?求解)
01 youtube 買粉絲 upload requirements(美國留學 如何圓夢紐約大學電影學院)
01 youtube 買粉絲 downloader 買粉絲make online(at your disposal是什么意思)
03 上海市貿易學校招聘擬錄(上海海事大學附屬職業學校專業有哪些?專業介紹)
01 youtube 買粉絲s 2020 music youtube music app(今日新聞淺談:Youtube Music 也加入串流音樂服務大混戰)