ollama流式输出样例

tmp/ollama.py

+import requests
+import json
+
+
+def chat_by_stream(url):
+    pass
+
+
+class ChatCli:
+    def __init__(self, url, stream=False):
+        self.url = url
+        self.stream = stream
+
+    def chat(self, content):
+        pass
+
+
+
+content = """参考内容：2023 年 中 国 品 牌 商品 《尼日利亚 ) 展 
+企业 参展 报名 表 地 点 : 尼日利亚 拉 各 斯 
+主办 单位 :商务 部 外 贸 发 展 事 务 局 
+组 展 单位 : 北京 阳光 麦 道 展览 服务 有 限 公司 
+公司 名 称 〈 中 文 ) k，_ 河 南国 瑞 油脂 工程 技术 有 限 公司 
+ane RAB GEM) : DING HOLDINGS CO. , LTD 
+py, | RRA SURG: tities tee 
+ok -电话 #; +86 15038288265 “电子 邮箱 *k: _ winnie@doinggroup. com 
+信息 参展 展品 *k: 食用 油 生产 加 工 机 械 设 备 
+FEST 收 件 地 址 kt，_” 河 南 省 郑州 市 金水 区 录 些 路 133 号 
+官网 地 址 或 微 信 公众 号 : 
+展位 费用 如 下 〈 人 民 币 ) 《小写 ) : 
+所 申请 的 | 1、 线 下 展 : 
+展位 及 费 标准 展位 ， 4 个 ，25, 000 元 /个 〈3mX3m) ， 费用 : _100000 元 
+用 2、 其 他 费用 3、 其 他 费用 : 无 
+展位 费 合计 : 100000 7, (KS: #77 D 
+FEAR: ALR BHI CREE AIRS A IR 
+组 展 单位 a2 poe the ate bake de ps Wi 开户 银行 ， 中 国 工 商 银行 北京 黄 楼 支行 
+银行 帐号 ，0200042009200027716 
+主办 单位 KAA: BAS His: 010-64404610 HSA: expo@tdb. org. cn 
+联系 方式 地 址 ， 北 京 市 东城 区 安定 门 外 东 后 埠 28 号 1 号 楼 
+组 展 单位 BAA: 李 川 电话 : 010-88934789 邮箱 : 214516666726@qq. com 
+联系 方式 地 址 ; 北京 市 石景山 区 乍 石 路 165 号 309 室 
+说 明 
+1， 本 报名 表 一 式 两 份 ， 经 双方 盖 章 后 即 具 有 法 律 效力 , 视 为 双方 签署 合同 。 
+ 
+ 
+ 
+ 
+时 间 : 2023 年 11 月 7-10 日 
+附件 1: 
+ ecs.mn4.large
+ 
+ 
+ 
+ 
+ 
+ 
+ 
+2， 本 报名 表 一 经 确认 ， 参 展 企业 须 在 5 个 工作 日 内 支付 展位 费 ， 主 办 单位 方 可 预 留 展 位 ， 未 按时 支付 参展 费用 ， 则 视 为 参展 申请 无 效 ， 主 办 单位 有 权 取消 预 留 展位 ， 如 果 参 展 企业 交付 展位 费 后 ， 因 自身 单方 面 原因 取消 参展 ， 不 影响 主办 单位 招展 量 未 发 生 实际 费用 ， 可 全 额 退还 展位 费 ， 如 发 生 费 用 ， 扣 除 已 发 生 费 用 ， 余 款 退 还 ， 展 
+前 15 日 ， 扣 除 50% 展 位 费用 〈 含 已 发 生 费 用 )， 余 款 退 还 ， 展 前 15 日 内 ， 不 予 退 还 EMR. 
+3， 展 品 必须 为 参展 企业 真实 产品 ， 展 品 和 宣传 资料 〈 包 含 但 不 限于 视频 图 片 文 字 直 播 内 容 等 ) 真实 合法 ， 不 侵犯 第 三 方 权利 ， 因 侵权 和 违法 行为 所 造成 的 法 律 后 果 由 参 时 展 企业 自行 承担 。 不 允许 展品 范围 之 外 的 产品 在 展位 、 线 上 平台 进行 展示 。 主 办 单 位 有 权 将 侵犯 知识 产权 、 违 反 竞争 原则 和 相关 法 律 规定 、 或 是 展会 展品 范围 之 外 的 展品 从 展会 撤 出 〈 展 示 平台 下 架 )， 由 此 造成 的 损失 ， 由 参展 企业 自行 承担 。 4 由 于 不 可 抗力 〈 自 然 灾 害 、 政 府 行为 、 社 会 异常 情况 等 )、 新 型 冠状 病毒 感染 等 传染 性 疾病 直接 影响 合同 的 履行 ， 或 不 能 完全 履行 ， 或 继续 履行 会 违背 合同 的 目的 ， 造 成 展会 延迟 、 改 期 、 缩 减 展 期 天 数 、 提 前 结束 展览 展示 时 间 、 临 时 取消 全 部 或 部 分 活动 ， 主 办 单位 有 权 变 更 合同 ， 参 展 企业 可 视 情况 选择 是 否 接受 新 的 合同 条 款 。 双 方 根据 对 合同 履行 影响 的 程度 ， 本 着 最 大 限度 减 小 损失 的 原则 协商 解决 ， 但 无 需 承 担 因 此 所 产生 的 违约 责 
+5， 因 情况 变化 ， 展 会 延期 、 改 期 的 ， 参 展 企业 继续 参展 的 ， 双 方 签署 的 原 合同 自动 适 用 于 新 的 展期 。 参 展 企业 退 展 的 ， 应 在 收 到 主办 单位 时 间 变 更 通知 后 的 5 个 工作 日 内 书面 解除 合同 ， 双 方 根据 实际 发 生 费 用 结算 后 ， 合 同 自 动 终止。 6， 严格 按 照 国家 和 展会 举办 地 防 控 要 求 做 好 相关 措施 。 参 展 企业 自 行 承担 展会 期 间 遇 到 突 发 情况 所 发 生 的 费用 。 
+7. 汇款 时 请 注 明 : 2023 年 中 国 品 牌 商品 〈 尼 日 利 亚 ) 展 展位 费 
+ 
+ 
+附件 2: 
+知识 产权 承 话 书 
+商务 部 外 禄 发 展 事务 局 : 
+我 单位 同意 遵守 《展会 知识 产权 保护 办 法 》 的 规定 ， 并 接受 展 
+会 主办 单位 及 其 投诉 机 构 依 上 述 办 法 制定 的 《展会 知识 产权 投诉 处 理 
+程序 }。 自 即日 起 ， 至 本 届 展 会 结束 ， 特 做 出 如 下 承诺 ; 
+一 、 按 照相 关 规 定 对 参展 项 目 涉及 知识 产权 自行 检查 。 
+二 、 不 在 展 馆 内 〈 线 上 平台 ) 使 用 侵犯 他 人 知识 产权 的 展品 、 展 
+板 、 展 台 、 宣 传 资料 (包含 但 不 限于 视频 图 片 文 字 直 播 内 容 等 ) 等 。 
+三 、 按 照 主 办 单位 或 者 其 设立 的 投诉 机 构 规定 的 投诉 程序 进行 投 
+诉 ， 不 影响 展会 的 顺利 进行 。 
+四 、 积 极 配合 主办 单位 或 者 投诉 机 构 以 及 相关 知识 产权 行政 管理 
+部 门 、 司 法 机 关 在 展会 期 间 进 行 的 询问 、 勘 验 、 取 证 等 工作 。 
+五 、 提 交 的 投诉 材料 准确 、 完 整 、 真 实 、 合 法 、 有 效 。 
+六 、 不 进行 恶意 投诉 。 如 因 恶 意 投诉 给 主办 单位 或 者 被 投诉 人 造 
+成 损失 的 ， 愿 承担 相应 法 律 责 任 。 
+七 、 违 反 本 承诺 ,愿意 按 本 展会 的 规定 接受 主办 单位 或 者 投诉 机 
+构 的 处 理 。 
+本 承诺 书 一 式 峙 份 ， 主 办 单位 、 参 展 企业 各 持 贰 份 ， 必 要 时 ， 参 
+展 企业 提交 投诉 机 构 一 份 。 承 诺 书 自 签署 之 日 起 生效 。 
+ 
+ 参展 企业 〈 承 诺 方 间 
+REAREARRAX € 
+日 期 : 年 月 j 
+ 提取参展方和组展方信息，参展费用及其联系方式
+ """
+# 请求数据
+data = {
+    "model": "gemma2",
+    "prompt": content,
+    "stream": True
+}
+
+# 将数据转换为 JSON 字符串
+json_data = json.dumps(data)
+
+# 发送 POST 请求
+# response = requests.post('http://192.168.1.149:11434/api/generate', data=json_data,
+#                          headers={'Content-Type': 'application/json'})
+response = requests.post('http://116.63.135.219:11434/api/generate', data=json_data,
+                         headers={'Content-Type': 'application/json'}, stream=True)
+
+# 检查请求状态码
+if response.status_code == 200:
+    # 请求成功，打印响应内容
+    # print(response.text)
+    for line in response.iter_lines():
+        print(json.loads(line.decode())['response'], end='')
+else:
+    # 请求失败，打印错误信息
+    print(f"请求失败，状态码：{response.status_code}")