Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

使用Gemini模型,回答内容会重复一遍 #26

Open
julian20220130 opened this issue Mar 7, 2025 · 1 comment
Open

使用Gemini模型,回答内容会重复一遍 #26

julian20220130 opened this issue Mar 7, 2025 · 1 comment

Comments

@julian20220130
Copy link

Image

Sonnet3.7的分析如下:
【在使用 Gemini-2.0-Pro 模型时,回复内容被完整地重复了一遍。

可能的原因:
客户端渲染问题:
软件在接收到流式响应后,可能错误地将同一内容渲染了两次。
Poe API 响应特性:
Gemini-2.0-Pro 在 Poe 平台上可能有时会发送重复的响应内容。
中间件处理问题:
poe-to-gpt 服务在处理 Poe 的响应并转发给客户端时,可能出现了重复处理。

这个问题确实是特定于Gemini模型的,从你提供的日志和输出结果中能看到很明显的线索。】

【根本原因分析
既然问题只在Gemini-2.0-Pro和Gemini-2.0-Flash模型上出现,这很可能是因为:

Gemini模型在Poe上的流式响应格式特殊:
Gemini模型可能使用了与其他模型不同的流式响应格式或协议
poe-to-gpt可能没有正确处理Gemini特有的响应格式
重复的响应内容在日志中也有体现:
从你的日志可以看到:

Copy
2025-03-07 16:31:26,459 - main - INFO - 流处理不当
流处理不当
这表明重复内容实际上是从Poe API返回的,或者在poe-to-gpt处理过程中产生的,而非仅在客户端显示问题。
流处理机制不匹配:
Gemini模型可能在流式响应结束时重新发送完整响应
poe-to-gpt可能未正确识别这种模式,导致将两者都转发给了客户端】

@formzs
Copy link
Owner

formzs commented Mar 11, 2025

Image

Sonnet3.7的分析如下: 【在使用 Gemini-2.0-Pro 模型时,回复内容被完整地重复了一遍。

可能的原因: 客户端渲染问题: 软件在接收到流式响应后,可能错误地将同一内容渲染了两次。 Poe API 响应特性: Gemini-2.0-Pro 在 Poe 平台上可能有时会发送重复的响应内容。 中间件处理问题: poe-to-gpt 服务在处理 Poe 的响应并转发给客户端时,可能出现了重复处理。

这个问题确实是特定于Gemini模型的,从你提供的日志和输出结果中能看到很明显的线索。】

【根本原因分析 既然问题只在Gemini-2.0-Pro和Gemini-2.0-Flash模型上出现,这很可能是因为:

Gemini模型在Poe上的流式响应格式特殊: Gemini模型可能使用了与其他模型不同的流式响应格式或协议 poe-to-gpt可能没有正确处理Gemini特有的响应格式 重复的响应内容在日志中也有体现: 从你的日志可以看到:

Copy 2025-03-07 16:31:26,459 - main - INFO - 流处理不当 流处理不当 这表明重复内容实际上是从Poe API返回的,或者在poe-to-gpt处理过程中产生的,而非仅在客户端显示问题。 流处理机制不匹配: Gemini模型可能在流式响应结束时重新发送完整响应 poe-to-gpt可能未正确识别这种模式,导致将两者都转发给了客户端】

大概看了一下,貌似不是程序的问题,poe返回的就是重复的。当你指定Gemini模型回复特定字数时会触发。测了一下openai和deepseek的模型都没有这个问题。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants