跳转到内容
View in the app

A better way to browse. Learn more.
彼岸论坛

A full-screen app on your home screen with push notifications, badges and more.

To install this app on iOS and iPadOS
  1. Tap the Share icon in Safari
  2. Scroll the menu and tap Add to Home Screen.
  3. Tap Add in the top-right corner.
To install this app on Android
  1. Tap the 3-dot menu (⋮) in the top-right corner of the browser.
  2. Tap Add to Home screen or Install app.
  3. Confirm by tapping Install.
欢迎抵达彼岸 彼岸花开 此处谁在 -彼岸论坛

[OpenAI] LLM 的长文本的复杂推理优化问题

发表于
提示词长度几 K
输入加输出，大概 10K
推理是个树状的结构

如果直接单轮，准确性问题很大
"一步步思考"之类是个摆设
结构化提示词也收效甚微
也试过请 llm 自己优化提示词，没给出什么有价值的优化

目前发现效果最好的是，把整个任务拆了，每个子任务只包含需要的部分，每次只请求一个任务
这个方案缺点有：
1. token 翻倍（这个怎么解决？ 毕竟 token 就是金钱）
2. 耗时翻倍（这个可以并发解决）

或者大家有没有更好的方案？

Featured Replies

No posts to show

创建帐户或登录来提出意见

https://www.cnbian.com/topic/14051/
前往主题列表

Configure browser push notifications
Chrome (Android)
  1. Tap the lock icon next to the address bar.
  2. Tap Permissions → Notifications.
  3. Adjust your preference.
Chrome (Desktop)
  1. Click the padlock icon in the address bar.
  2. Select Site settings.
  3. Find Notifications and adjust your preference.