Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
Z
zzsn_spider
概览
概览
详情
活动
周期分析
版本库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
统计图
问题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程表
图表
维基
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
王景浩
zzsn_spider
Commits
6809e271
提交
6809e271
authored
9月 21, 2023
作者:
LiJunMing
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
证监会公告脚本维护
上级
93d43561
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
2 行增加
和
15 行删除
+2
-15
证监会-公告.py
comData/noticeReport/证监会-公告.py
+2
-15
没有找到文件。
comData/noticeReport/证监会-公告.py
浏览文件 @
6809e271
"""
import
json
"""
证监会公告采集,只能按照搜索企业来采,从上市库里拿企业数据,sys_enterprise_ipo_copy1
craw_state:已采集过表示为True,未采集表示为0,拿取数据表示为ing,解析失败表示为400
update_state:为1 表示需要更新,用来增量循环
如何统计出来该报告采到了没有,dt_error库统计失败的信息
"""
import
json
import
re
import
time
import
fitz
import
pymysql
import
requests
from
bs4
import
BeautifulSoup
from
kafka
import
KafkaProducer
from
datetime
import
datetime
from
base
import
BaseCore
# from fdfs_client.client import get_tracker_conf, Fdfs_client
baseCore
=
BaseCore
.
BaseCore
()
log
=
baseCore
.
getLogger
()
...
...
@@ -25,8 +14,6 @@ cursor = baseCore.cursor
cnx_
=
baseCore
.
cnx_
cursor_
=
baseCore
.
cursor_
# tracker_conf = get_tracker_conf('./client.conf')
# client = Fdfs_client(tracker_conf)
taskType
=
'企业公告/证监会'
...
...
@@ -431,7 +418,7 @@ if __name__ == '__main__':
com_name
=
dic_info
[
1
]
dic_parms
=
getUrl
(
code
,
url_parms
,
Catagory2_parms
)
dic_parms_ls
=
getUrl
(
code
,
url_parms_ls
,
Catagory2_parms_ls
)
if
len
(
dic_parms
)
>
0
:
if
dic_parms
:
start_time_cj
=
time
.
time
()
SpiderByZJH
(
dic_parms
[
"url"
],
dic_parms
[
"payload"
],
dic_info
,
start_time
,
num
)
log
.
info
(
f
'{code}==========={short_name},{com_name},发行公告,耗时{baseCore.getTimeCost(start_time_cj, time.time())}'
)
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论