.:. 草榴社區 » 博彩區 » [其他] [炮王原创]如何统计直播聊天帖数据
--> 本頁主題: [其他] [炮王原创]如何统计直播聊天帖数据 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
月关射你无罪


級別:精靈王 ( 12 )
發帖:11668
威望:2380 點
金錢:35 USD
貢獻:0 點
註冊:2018-11-19


[其他] [炮王原创]如何统计直播聊天帖数据



本教程简明易懂,相关基础请参见菜区帖子:

引用

引用 3837460:[原创统计教程]爬虫获取开盘的下注信息==2020.3.6更新数据统计模板下载[6P]

 

有聚聚反映说一个网页一个的复制另存为太慢了,今天我们要升级一下采集器:


隆重推出信息采集器[火车采集器],别信花里胡哨的后羿采集器,垃圾推广特别多。



 






火车采集器主界面



 
 






这些是关键参数,每个帖子ID不一样,一样要注意每次爬楼前修改一下:




 






此处设置好登录菜区(不同于技术区,菜区需要权限授权)的账号密码的cookies。





 




可以开始测试爬楼速度,运行到此时此时证明脚本可用了。



 




发布爬楼内容设置



 



设置参数,无责声明,请勿使用多线程,且爬取间隔小于1800ms,由此造成的封号、封IP自负。




直播.py文件代码如下:



引用
# -*- coding: utf-8 -*-
"""
Created on Thu Mar  5 14:14:52 2020

@author: 月关射你无罪@t66y.com
"""
from bs4 import BeautifulSoup as bs
import xlsxwriter

game_nums="直播-4-7"
filename="直播-4-7_"

lstu=[]
lstc=[]
dict_xz={}
dict_id={}
for page in range(0,102):
    with open('C:/Users/Administrator/Desktop/PHPWIND/'+filename+'{0}.html'.format(page), 'r',encoding='utf-8')as wb_data:            #python打开本地网页文件
        Soup = bs(wb_data, 'lxml') 
        xzs=Soup.find_all('tr',class_='tr1')
        contents=Soup.find_all('a',class_='s3')

        for xz in xzs:
            uid=str(xz.find_all('b')[:1]).replace('<b>','').replace('</b>','').replace('<span class="s3 f16">','').replace('</span>','').replace(' <span class="sgreen">[樓主]','')
            if uid != '[]':
                lstu.append(uid)
        for c in contents:
            cnums=str(c.get_text())
            if cnums != '[]':
                lstc.append(cnums) 


#生成excel文件
dict_xz=dict(zip(lstc,lstu))
dict_id=dict(zip(lstu,lstc))

def generate_excel(expenses):
    workbook = xlsxwriter.Workbook('C:/Users/Administrator/Desktop/PHPWIND/'+game_nums+'/'+game_nums+'.xlsx')
    worksheet = workbook.add_worksheet(game_nums)

    # 设定格式,等号左边格式名称自定义,字典中格式为指定选项
    # bold:加粗,num_format:数字格式
    bold_format = workbook.add_format({'bold': True})
    #money_format = workbook.add_format({'num_format': '$#,##0'})
    #date_format = workbook.add_format({'num_format': 'mmmm d yyyy'})

    # 将二行二列设置宽度为15(从0开始)
    worksheet.set_column("A:B", 35)

    # 用符号标记位置,例如:A列1行
    worksheet.write('A1', '大佬ID', bold_format)
#    worksheet.write('B1', '水贴信息', bold_format)

    row = 1
    col = 0
    for k,v in expenses.items():
            # 使用write_string方法,指定数据格式写入数据
            worksheet.write_string(row, col, v)
            worksheet.write_string(row, col + 1, k)

            row += 1
    workbook.close()
def generate_id(expenses):
    workbook = xlsxwriter.Workbook('C:/Users/Administrator/Desktop/PHPWIND/'+game_nums+'/'+game_nums+'_ID.xlsx')
    worksheet = workbook.add_worksheet(game_nums)

    # 设定格式,等号左边格式名称自定义,字典中格式为指定选项
    # bold:加粗,num_format:数字格式
    bold_format = workbook.add_format({'bold': True})
    #money_format = workbook.add_format({'num_format': '$#,##0'})
    #date_format = workbook.add_format({'num_format': 'mmmm d yyyy'})

    # 将二行二列设置宽度为15(从0开始)
    worksheet.set_column("A:B", 25)

    # 用符号标记位置,例如:A列1行
    worksheet.write('A1', '大佬ID', bold_format)
    worksheet.write('B1', '楼层信息', bold_format)

    row = 1
    col = 0
    for k,v in expenses.items():
            # 使用write_string方法,指定数据格式写入数据
            worksheet.write_string(row, col, k)
            worksheet.write_string(row, col + 1, '此处粘贴ID')

            row += 1
    workbook.close()
   

generate_excel(dict_xz)

generate_id(dict_id)

   
       
           
       





 



这里脚本设置了两个写excle的操作,目的分别是第一个excle表格主要取到的是所有参与直播互动的ID,这里利用了一个数据结构特点,字典数据结构的Key-Value属性,通常的Key是唯一的,也就是所有参与互动的ID是唯一的。





 





另外一个excle主要爬取的是楼层信息和ID信息。





 




把获取的ID信息粘贴到ID表格里面使用countif函数即可统计出具体某个ID的互动次数。




采集器的运行脚本,可以私信PM我,此处就不发下载地址,希望各位技术大佬使用愉快!










教程结束,菜区无黄图,防水图就不发了!


赞(0)
本帖最近評分記錄:
威望:+10(菠菜專用) 原创内容,加分鼓勵.謝謝支持!
------------------------
2
TOP Posted:2020-04-07@14:00:51 14:00 樓主 引用 | 發表評論
minolta


級別:禁止發言 ( 8 )
發帖:17371
威望:2932 點
金錢:311 USD
貢獻:1 點
註冊:2018-07-10


有空学一学
TOP Posted:2020-04-07@14:02:07 14:02 #1樓 引用 | 點評
春风不度


級別:天使 ( 14 )
發帖:42909
威望:15242 點
金錢:30 USD
貢獻:5678910 點
註冊:2018-09-28
認證: 技術區認證會員
2020-10-09


回 1樓(minolta) 的帖子


引用
引用第1樓minolta於「2020--04--07@14:02:07」發表的 :
有空学一学

大佬开的一手好车
------------------------
C
TOP Posted:2020-04-07@14:06:21 14:06 #2樓 引用 | 點評
夜夜七夕


級別:光明使者 ( 14 )
發帖:21715
威望:31484 點
金錢:909 USD
貢獻:0 點
註冊:2019-10-28

感谢老铁分享,我又看见我虎啸大佬了
TOP Posted:2020-04-07@14:06:28 14:06 #3樓 引用 | 點評
萬人往づ


級別:天使 ( 14 )
發帖:6347
威望:3085 點
金錢:147276682 USD
貢獻:2924625 點
註冊:2011-06-06

还是安心做一个种瓜菜农
------------------------
Y
TOP Posted:2020-04-07@14:07:01 14:07 #4樓 引用 | 點評
minolta


級別:禁止發言 ( 8 )
發帖:17371
威望:2932 點
金錢:311 USD
貢獻:1 點
註冊:2018-07-10

引用
引用第2樓春风不度於2020-04-07 14:06發表的 回 1樓(minolta) 的帖子 :

大佬开的一手好车

哪里哪里,和你比差远了!
TOP Posted:2020-04-07@14:24:09 14:24 #5樓 引用 | 點評
你的用户名


級別:禁止發言 ( 8 )
發帖:28818
威望:172675 點
金錢:200089 USD
貢獻:2566666 點
註冊:2009-04-29

围观中
------------------------
^
TOP Posted:2020-04-07@14:24:47 14:24 #6樓 引用 | 點評
亮的招牌


級別:天使 ( 14 )
精華:1
發帖:159521
威望:46609 點
金錢:21633 USD
貢獻:2981999 點
註冊:2015-06-28

你别整这个了
赶紧把帖子总数排行榜,威望排行榜,日均撸铁排行榜

整出来
------------------------
V
TOP Posted:2020-04-07@14:27:56 14:27 #7樓 引用 | 點評
榴区书记


級別:天使 ( 14 )
發帖:62524
威望:50371 點
金錢:1417 USD
貢獻:0 點
註冊:2018-12-27

技术贴,厉害
TOP Posted:2020-04-07@14:40:49 14:40 #8樓 引用 | 點評
月关射你无罪 [樓主]


級別:精靈王 ( 12 )
發帖:11668
威望:2380 點
金錢:35 USD
貢獻:0 點
註冊:2018-11-19


回 7樓(亮的招牌) 的帖子


引用
引用第7樓亮的招牌於2020-04-07 14:27發表的 :
你别整这个了
赶紧把帖子总数排行榜,威望排行榜,日均撸铁排行榜

整出来

版主没给我密码,弄不了啊
------------------------
2
TOP Posted:2020-04-07@14:41:41 14:41 #9樓 引用 | 點評
花谢为谁悲


級別:天使 ( 14 )
發帖:63501
威望:26941 點
金錢:2147483647 USD
貢獻:123456789 點
註冊:2011-06-06
認證: 博彩區資深老幹部
2020-04-04

大佬出来了啊
TOP Posted:2020-04-07@14:44:43 14:44 #10樓 引用 | 點評
春风不度


級別:天使 ( 14 )
發帖:42909
威望:15242 點
金錢:30 USD
貢獻:5678910 點
註冊:2018-09-28
認證: 技術區認證會員
2020-10-09


回 5樓(minolta) 的帖子



引用
引用第5樓minolta於「2020--04--07@14:24:09」發表的 :

哪里哪里,和你比差远了!

大佬不必过谦
整点报时
15:00
------------------------
C
TOP Posted:2020-04-07@15:00:38 15:00 #11樓 引用 | 點評
乱了时间


級別:天使 ( 14 )
發帖:64924
威望:28417 點
金錢:201146 USD
貢獻:1329095 點
註冊:2016-04-09

技术厉害
TOP Posted:2020-04-07@15:17:47 15:17 #12樓 引用 | 點評
百里守约


級別:光明使者 ( 14 )
發帖:9415
威望:21462 點
金錢:431 USD
貢獻:0 點
註冊:2018-12-06


回 7樓(亮的招牌) 的帖子


引用
引用第7樓亮的招牌於2020-04-07 14:27發表的 :
你别整这个了
赶紧把帖子总数排行榜,威望排行榜,日均撸铁排行榜

整出来

这个好,我喜欢,嘿嘿
TOP Posted:2020-04-07@15:20:28 15:20 #13樓 引用 | 點評
月关射你无罪 [樓主]


級別:精靈王 ( 12 )
發帖:11668
威望:2380 點
金錢:35 USD
貢獻:0 點
註冊:2018-11-19


回 13樓(百里守约) 的帖子


引用
引用第13樓百里守约於2020-04-07 15:20發表的 回 7樓(亮的招牌) 的帖子 :

这个好,我喜欢,嘿嘿

代办给个密码先
------------------------
2
TOP Posted:2020-04-07@15:53:15 15:53 #14樓 引用 | 點評
大唐卫国公


級別:禁止發言 ( 8 )
發帖:30543
威望:7508 點
金錢:106218 USD
貢獻:70000 點
註冊:2014-05-05

厉害了!
------------------------
+
TOP Posted:2020-04-07@16:20:49 16:20 #15樓 引用 | 點評
huxiao119


級別:天使 ( 14 )
發帖:45949
威望:11291 點
金錢:66666787 USD
貢獻:2999999 點
註冊:2008-02-10
認證: 博彩區資深老幹部
2021-10-14


回 樓主(月关射你无罪) 的帖子


引用
引用第0樓月关射你无罪於[2020--04--07_14:00:51]發表的 [炮王原创]如何统计直播聊天帖数据 :
本教程简明易懂,相关基础请参见菜区帖子:



[size=4][b]
.......

有点害羞  居然进贴了
------------------------
L
TOP Posted:2020-04-07@16:23:48 16:23 #16樓 引用 | 點評
huxiao119


級別:天使 ( 14 )
發帖:45949
威望:11291 點
金錢:66666787 USD
貢獻:2999999 點
註冊:2008-02-10
認證: 博彩區資深老幹部
2021-10-14


恭喜炮王归来!
------------------------
L
TOP Posted:2020-04-07@16:24:23 16:24 #17樓 引用 | 點評
mini_zuo


級別:光明使者 ( 14 )
精華:30
發帖:27790
威望:1084 點
金錢:678 USD
貢獻:2418251 點
註冊:2012-05-21
認證: 博彩區資深老幹部

科技改变生活啊
------------------------
@
TOP Posted:2020-04-07@16:50:57 16:50 #18樓 引用 | 點評
啸天遁地


級別:天使 ( 14 )
發帖:8286
威望:22885 點
金錢:25205665 USD
貢獻:2533033 點
註冊:2013-11-04

见过技术流大佬
TOP Posted:2020-04-07@17:30:40 17:30 #19樓 引用 | 點評
苍天华


級別:天使 ( 14 )
發帖:234676
威望:7415 點
金錢:236528 USD
貢獻:2500000 點
註冊:2019-06-06
認證: 博彩區特使
2020-10-04

技术大佬
TOP Posted:2020-04-07@17:38:58 17:38 #20樓 引用 | 點評
对猫谈情


級別:天使 ( 14 )
發帖:13812
威望:64813 點
金錢:8421 USD
貢獻:666 點
註冊:2018-09-26

太技术了,交给专业人员,尔等看看就好
TOP Posted:2020-04-07@18:00:13 18:00 #21樓 引用 | 點評
mayizhen


級別:天使 ( 14 )
發帖:280164
威望:70705 點
金錢:105679609 USD
貢獻:800013 點
註冊:2011-12-02
認證: 博彩區資深老幹部
2018-12-02

AV猫的统计也是厉害,楼主可以借鉴一下
------------------------
+
TOP Posted:2020-04-07@18:10:13 18:10 #22樓 引用 | 點評
mayizhen


級別:天使 ( 14 )
發帖:280164
威望:70705 點
金錢:105679609 USD
貢獻:800013 點
註冊:2011-12-02
認證: 博彩區資深老幹部
2018-12-02


支持原创分享
------------------------
+
TOP Posted:2020-04-07@18:10:27 18:10 #23樓 引用 | 點評
mayizhen


級別:天使 ( 14 )
發帖:280164
威望:70705 點
金錢:105679609 USD
貢獻:800013 點
註冊:2011-12-02
認證: 博彩區資深老幹部
2018-12-02


回 4樓(萬人往づ) 的帖子


引用
引用第4樓萬人往づ於2020-04-07 14:07發表的 :
还是安心做一个种瓜菜农

AV猫也不出现了
------------------------
+
TOP Posted:2020-04-07@18:11:52 18:11 #24樓 引用 | 點評

.:. 草榴社區 -> 博彩區

快速回帖 頂端
內容
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交