Kernel Memory 入门系列:生成并获取文档摘要
前面在RAG和文档预处理的流程中,我们得到一个解决方案,可以让用户直接获取最终的问题答案。
但是实际的业务场景中,仍然存在一些基础的场景,不需要我们获取文档的所有详情的,而只是了解的文档的大概信息,得到文章整体的摘要或者总结,此时仍然可以使用Kernel Memory来处理。
生成摘要
我们依然使用Kernel Memory的文件导入方法,不过此时不需要指定默认的处理流程,而只需要指定Summary流程即可。
await memory.ImportDocumentAsync(new Document("doc1")
.AddFile("file4-SK-Readme.pdf")
.AddFile("file5-NASA-news.pdf"),
steps: Constants.PipelineOnlySummary);
其中PipelineOnlySummary 包含了一下步骤:
- extract
- summarize
- gen_embeddings
- save_records
相比较默认的流程,仅是将partition
变更为了summarize
, 但是实际存储的记录将不再是源文档的分片,而是经过LLM总结之后的内容摘要。
获取摘要
获取的摘要的方法更加直接,使用SearchSummariesAsync
方法,通过文档过滤条件过滤需要获取文档摘要即可。
// Fetch the list of summaries. The API returns one summary for each file.
var results = await memory.SearchSummariesAsync(filter: MemoryFilters.ByDocument("doc1"));
// Print the summaries!
foreach (var result in results)
{
Console.WriteLine($"== {result.SourceName} summary ==\n{result.Partitions.First().Text}\n");
}
检索生成数据
摘要的生成和检索在Kernel Memory中实际是数据类型标记和自定义筛选筛选的过程。
在生成摘要的过程中,将摘要内容作为生成内容,通过添加__synth:summary
标记进行存储,筛选的时候也是类似。文档的标记和筛选,将会在后续【文档管理】中的详细讲解。
而摘要的检索的过程SearchSummariesAsync
实际上也是调用SearchSyntheticsAsync
过程,指定了__synth:summary
标记的段落进行检索。
同理,生成摘要的过程也可以进行自定义的过程,例如文章分类,关键词提取,实体提取,题图生成等任何的文章处理流程。后续也会详细介绍【自定义流程】的处理。
参考
- Summarizing documents
- kernel-memory/service/Abstractions/KernelMemoryExtensions.cs
文章版权声明:除非注明,否则均为
譬如朝露_策温技术开发工作室博客原创文章,转载或复制请以超链接形式并注明出处。
发表评论
侧栏公告
寄语
譬如朝露博客是一个分享前端知识的网站,联系方式11523518。
热评文章
标签列表
热门文章
友情链接