生成文章摘要
摘要: 作者介绍了通过自定义prompt设计和闭环评判的方法,利用AI工具生成文章摘要,强调精简、准确、避免主观观点,结合API2D实现高效调用,认为掌握LLM的使用已成为未来的专业技能。 (评价: A)
市面上有不少AI工具可以生成文章摘要,但是我的站点集成的是自定义生成工具,当触发push时,github action协助调用生成脚本。全量文章(统计约200K字)生成,目前大概消耗1元人民币。一般情况下都是增量生成方案,用量极少。
关于API2D
API2D相当于是一个API的中转,它提供了OpenAI相关的API。按照官方的说法,API2D采用点数(P)进行计费,整体价格保持在接口供应商官方价格的1.5倍;其API请求频率上限比官方更高;并且保持和官方接口一致。
看起来有点贵,个人使用完全足够,而且不用担心网络问题。
我已使用该方案超2年,从个人使用角度看,目前没有遇到什么大坑。如需使用,可以使用这个邀请链接:https://api2d.com/r/197854
生成摘要
最初我把GPT当作一个聊天智能。
对于“聊天模式”我这样写prompt:
|
|
现在我采用这种方式写prompt:
|
|
再把生成的总结从给GTP评判:
|
|
一方面,prompt设计更细节化:更多的需求描述、更多的分割符、更多的结构化。
另一方面,使用AI生成和评判,形成闭环。
完整脚本见:summary.py
这就像是一种新式的模型训练,先写出大概的prompt,然后使用测试数据评判、调优。只需花费少量的时间和金钱,就能得到一个相对满意的结果。
总结
大模型浪潮下,如何参与进去?已经有很多人给过答案。我的理解是,分为两个方向。其一,是参与到LLM设计和开发中去,迭代出更强的模型,这偏向于专业研究领域。其二,是学会使用,这是工程应用。在我看来,现在的LLM不同于以往的任何模型,这是一个通用工具,以往的模型大都只能适配特定的领域,而LLM可以适配非常多的领域。因此,未来“会使用LLM”也可能变成一种专业技能。
会使用是指,能够通过LLM的API,实现自己的需求,而不只是使用别人开发的“聊天”工具(比如豆包、NextChat、XX Copilot之类)。我对这种观念的理解来的比较晚。