ai写文的一些思路探讨book18.org
最近频繁使用大模型工作，深感大模型目前进展确实厉害，抛砖引玉一些感受，期望可以给论坛一些用ai写文的朋友一些思路。我自己平时没有模型创作的经验，主要是有一些想法，想和大家探讨一下。book18.org
1. 大模型的本质book18.org
大模型的本质就是概率，输入上文，大模型根据所有上文，作为输入，经过一段训练好以后的黑盒逻辑，计算出下一个字最大概率应该是哪个字，直到推测出停止字符，就停止输出。所有大模型的本质都是这样，没啥区别。book18.org
2.大模型的记忆book18.org
从上面的本质可以看出来，无论再怎么鼓吹，当你的输入超过一定长度的时候，下文产出概率的准确率一定会下降。book18.org
3.现有技术手段的优化book18.org
基于12，现有的技术优化，主要就是不断增加一些外置的工具，让大模型能更理解用户诉求book18.org
比如，当做计算时，调用特定的工具，进行复杂工作时，生成一段脚本，然后用脚本执行等，这都是模型应用层面的优化。book18.org
综上，可以有几个结论book18.org
1，模型参数上，一定是越大越厉害，推理型的模型一定优于非推理型的模型book18.org
2，受限于本地资源，绝大部分本地部署的模型，一定比不上公开的商业模型。book18.org
3，破甲，这方面我没有研究过，但如果是同过提示词扰乱大模型的输出，那破甲后大模型一定会有一定程度的衰减，这个好像没办法。如果grok可以做到无需要破甲，那我觉得可能grok的效果，会比需要破甲的模型强一些，当然这是推测，我自己没验证过。book18.org
一些想我自己想和大家讨论的技巧book18.org
1，不要试图让模型一次做非常多的事情，做的事情越多，效果越差，比如你一轮对话中，就期望他自己生成大纲，然后自己开始创作，大概率他会生成非常平庸的内容book18.org
2，对任务进行拆解的思路，比如以创作为例，我觉得可以先分成如下几个任务book18.org
第一个任务，生成大纲，可以让大模型只生成大纲，然后你针对大纲和模型单独交流，直到大纲满足你的要求。然后把大纲存成一个文件book18.org
第二个任务，大纲拆解，输入大纲，把大纲拆解成具体的故事线，输出每个故事线的关键情节。book18.org
第三个任务，分章节创作，每次只创作1-2万字，每次创作前，输入前情提要，以及大纲，和当前故事的主要情节book18.org
第四个任务，章节总结，输入已完成的章节，让模型总结主要情节和主线完成度，作为创作任务的一个输入book18.org
创作时按照243的顺序循环创作。book18.org
3，创作风格，是否可以让模型根据历史章节，总结创作风格，然后只把创作风格提供给后续的创作中，避免前文的干扰。book18.org
4，埋线，还没想好应该怎么搞，但我感觉应该是一个比较独立的任务，应该是需要单独处理下埋线。book18.org
5，人物设计，人物行为，动机等等，我觉得应该可以在大纲中设计出人物的核心特点，然后在情节设计中根据核心特点产生情节，最后根据情节完成故事设计。book18.org
文章打分book18.org
我觉得大模型是有能力评估文章的好坏的，只不过评估也应该是个独立的任务，且我觉得可能这个评估的任务可能甚至不需要破甲，可能单纯只做评估任务的话，一些商业模型也可以做评价。book18.org
有了评价以后，就可以让模型自己卷自己了，笑book18.org
以上基本就是我自己的一些想法，打出来和大家切磋一下。 book18.org