Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
Z
zzsn_spider
概览
概览
详情
活动
周期分析
版本库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
王景浩
zzsn_spider
Commits
dec4f848
提交
dec4f848
authored
3月 04, 2024
作者:
薛凌堃
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
核心人员维护
上级
ee09212f
隐藏空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
39 行增加
和
15 行删除
+39
-15
CorePerson_Update.py
comData/Tyc/CorePerson_Update.py
+8
-2
classtool.py
comData/Tyc/classtool.py
+31
-13
没有找到文件。
comData/Tyc/CorePerson_Update.py
浏览文件 @
dec4f848
...
...
@@ -33,7 +33,7 @@ token = Token()
def
get_html
(
tycid
,
s
,
headers
):
url
=
f
"https://www.tianyancha.com/company/{tycid}"
# ip = baseCore.get_proxy()
response
=
s
.
get
(
url
=
url
,
headers
=
headers
)
response
=
s
.
get
(
url
=
url
,
headers
=
headers
)
#, proxies=ip)
if
response
.
status_code
==
200
:
pass
else
:
...
...
@@ -83,11 +83,17 @@ def doJob():
'Accept-Encoding'
:
'gzip, deflate, br'
,
'Accept-Language'
:
'zh-CN,zh;q=0.9'
,
'Cache-Control'
:
'max-age=0'
,
#
'Connection': 'keep-alive',
'Connection'
:
'keep-alive'
,
'User-Agent'
:
'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36'
,
'version'
:
'TYC-Web'
}
cookies_list
,
id_cookie
,
user_name
=
token
.
get_cookies
()
if
cookies_list
:
pass
else
:
log
.
info
(
"没有账号了,等待30分钟"
)
time
.
sleep
(
30
*
60
)
continue
log
.
info
(
f
'=====当前使用的是{user_name}的cookie======'
)
cookies
=
{}
for
cookie
in
cookies_list
:
...
...
comData/Tyc/classtool.py
浏览文件 @
dec4f848
...
...
@@ -8,15 +8,18 @@ from bson import ObjectId
from
openpyxl
import
Workbook
,
load_workbook
from
base.BaseCore
import
BaseCore
baseCore
=
BaseCore
()
log
=
baseCore
.
getLogger
()
cnx
=
baseCore
.
cnx
cursor
=
baseCore
.
cursor
db_storage
=
pymongo
.
MongoClient
(
'mongodb://114.115.221.202:27017/'
,
username
=
'admin'
,
password
=
'ZZsn@9988'
)
.
ZZSN
[
'天眼查登录信息'
]
class
File
():
# 创建文件
def
createFile
(
self
,
file_name
):
def
createFile
(
self
,
file_name
):
if
os
.
path
.
exists
(
file_name
):
return
else
:
...
...
@@ -32,14 +35,14 @@ class File():
wb
.
close
()
# 删除文件
def
deleteFile
(
self
,
file_name
):
def
deleteFile
(
self
,
file_name
):
if
os
.
path
.
exists
(
file_name
):
os
.
remove
(
file_name
)
else
:
pass
# 追加数据
def
appenddata
(
self
,
file_name
,
sheet
,
data
):
def
appenddata
(
self
,
file_name
,
sheet
,
data
):
# 打开现有的Excel文件
wb
=
load_workbook
(
file_name
)
...
...
@@ -50,17 +53,27 @@ class File():
wb
.
save
(
file_name
)
wb
.
close
()
class
Token
():
# 获取token
def
get_cookies
(
self
):
query
=
{
'fenghaoTime'
:
{
'$lt'
:
'updateTime'
},
# 封号时间小于更新时间
}
flg
=
False
query
=
{
"fenghaoTime"
:
{
"$lt"
:
str
(
datetime
.
datetime
.
now
()
-
datetime
.
timedelta
(
hours
=
2
))}}
result
=
db_storage
.
find_one
(
query
,
sort
=
[(
'updateTime'
,
1
)])
cookies
=
result
[
'cookies'
]
id_token
=
result
[
'_id'
]
user_name
=
result
[
'name'
]
return
cookies
,
id_token
,
user_name
# results = db_storage.find({}, sort=[('updateTime', 1)])
if
result
:
flg
=
True
# for result in results:
# if result['fenghaoTime'] < result['updateTime']:
# flg = True
# break
if
flg
:
cookies
=
result
[
'cookies'
]
id_token
=
result
[
'_id'
]
user_name
=
result
[
'name'
]
return
cookies
,
id_token
,
user_name
else
:
return
''
,
''
,
''
# 删除失效的token
def
delete_token
(
self
,
cookie_
):
...
...
@@ -69,7 +82,7 @@ class Token():
cnx
.
commit
()
# token的处理
def
updateTokeen
(
self
,
id_token
,
type
):
def
updateTokeen
(
self
,
id_token
,
type
):
if
type
==
1
:
# session失效,删除token
cursor
.
execute
(
f
"delete from QCC_token where id={id_token}"
)
...
...
@@ -93,6 +106,7 @@ class Token():
db_storage
.
update_one
(
filter
,
update
)
cnx
.
commit
()
class
Tag
():
# 删除特定属性标签
def
deletep
(
self
,
soup
,
tag_
,
attribute_to_delete
,
value_to_delete
):
...
...
@@ -136,4 +150,9 @@ class Tag():
span3
.
extract
()
spans4
=
td
.
find_all
(
'span'
,
class_
=
'text-span'
)
for
span4
in
spans4
:
span4
.
extract
()
\ No newline at end of file
span4
.
extract
()
if
__name__
==
'__main__'
:
token
=
Token
()
print
(
token
.
get_cookies
())
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论