互联网明星 发表于 2023-8-2 09:15:04

如何把一段python爬取双色球的代码加入到采集的项目里

代码爬取了历届的双色球开奖结果,但是想在火车头采集里面去实现直接重新编译后入库,这个改如何操作呢?
相关的采集项目代码如下:
import sys
import requests
from lxml import etree

def get_url(url):       #请求url的方法,返回html
    headers = {
      'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.90 Safari/537.36',
    }
    response = requests.get(url,headers=headers)      #获取请求的返回数据
    response.encoding = 'utf-8'         #定义编码,不然中文输出会乱码;
    if response.status_code == 200:   #如果请求成功,则返回;
      return response.text
    return None

for q in range(1,125):      #for循环,一共124页;
    url = 'https://www.scw88.com/kaijiang/ssq.html' % (q)   #定义请求的链接
    html = get_url(url)         #请求url获取返回代码
    xpath_html = etree.HTML(html)       #xpath初始化html代码

    dates = xpath_html.xpath('//table[@class="wqhgt"]//tr//td//text()')      #获取开奖日期
    result = xpath_html.xpath('//table[@class="wqhgt"]//tr//em//text()')      #获取上色球号
    issues = xpath_html.xpath('//table[@class="wqhgt"]//tr//td//text()')   #获取期号
    # print(result)       #输出所有双色球的列
    # print(len(result)//7)    #输出有几组双色球
    # print(dates)
    # print(issues)
    sta = 0
    end = 7
    for n in range(len(result)//7):   #双色球7个号一组,
      print("开奖日期:" + str(dates) + " --- " + "期号:" + str(issues) + " --- " + str(result))
      sta = sta + 7
      end = end + 7有会的大佬麻烦私信下,谢谢~
页: [1]
查看完整版本: 如何把一段python爬取双色球的代码加入到采集的项目里