对 Llama3 执行基准测试评估
近日 Meta 推出他们最新的开源 LLM（大语言模型）Llama3，吸引了众多科技领域业内人士的关注。Meta 同时也公布了 Llama3 的各项基准测试指标，Llama3 在各项指标的得分上表现优异，超过了目前市面上其他开源 LLM。今天我们就来聊聊 LLM 的基准测试指标，以及如何使用工具来评测 Llama3。
用 API 方式免费使用 GPT 写小说
最近 OpenAI 宣布将降低网页版 ChatGPT 的使用门槛，允许没有账号的用户使用，这一好消息使我们可以在网页上免费访问 ChatGPT，但和 API 相比仍然缺乏灵活性，通过 API 开发人员可以编写代码来与 ChatGPT 进行自动化交互。今天我们将介绍如何利用 OpenAI 的这一免费功能，将其转化为 API 的形式来进行使用，并介绍如何通过这种方式来写一篇小说。
LlamaIndex 与 RAG 评估工具
LlamaIndex 是一个 LLM（大语言模型）应用开发框架，很多开发人员喜欢用它来开发 RAG（Retrieval-Augmented Generation）应用，在开发 RAG 应用的过程中，我们经常需要对相关数据进行评估，以便更好地对应用进行调整和优化。随着 RAG 技术的发展，出现了越来越多优秀的评估工具，可以帮助我们方便且准确地评估 RAG 应用。今天，我将介绍一些可以和 LlamaIndex 集成使用的 RAG 评估工具，并对它们进行对比分析。
高级 RAG 检索策略之递归检索
随着 LLM（大语言模型）技术的发展，RAG（Retrieval-Augmented Generation）技术在问答、对话等任务中的应用越来越广泛。RAG 技术的一个重要组成部分是文档检索器，它负责从大量的文档中检索出与问题相关的文档，以供 LLM 生成答案。RAG 检索器的效果直接影响到 LLM 生成答案的效果，因此如何设计高效的 RAG 检索器是一个重要的研究课题。目前，有多种 RAG 的检索策略，本文将介绍一种高级的 RAG 检索策略——递归检索，它通过递归的方式检索相关文档，可以提高检索的效果。
使用 Goldlist 方法学习外语
最近了解到一种叫 Goldlist 的记忆方法，它可以帮助我们轻松地记住任何东西，不需要死记硬背，只需要每天花上一点时间，并且持之以恒，它就能让你想记住的东西在脑海中挥之不去。今天和大家一起来了解一下 Goldlist 方法，并介绍它在实践过程中要注意的一些问题。
LeetCode 第 373 题的几种解法
算法是每个程序员的必备技能，而掌握算法的方法除了看书和看视频外，更多的是通过做题来提高算法能力，在众多的在线编程平台中，LeetCode 以其丰富的题库和高质量的题目解析，成为了全球程序员和计算机科学爱好者提升编程技能、准备技术面试的重要平台。在本文中，我们将介绍 LeetCode 上的一道精选题目——373. 查找和最小的 K 对数字，通过这道题目来介绍其高效的解法。
高级 RAG 检索策略之自动合并检索
之前介绍了高级 RAG 检索的句子窗口检索策略，今天我们再来介绍另外一种高级检索策略——自动合并检索，它比句子窗口要复杂一些，但请不用担心，下面的介绍会让你理解其中原理，同时会介绍如何使用 LlamaIndex 来构建一个自动合并检索，最后使用 Trulens 来对检索效果进行评估，并与之前的检索策略进行对比。
高级 RAG 检索策略之句子窗口检索
之前介绍过大语言模型（LLM）相关技术 RAG（Retrieval Augmented Generation）的内容，但随着 LLM 技术的发展，越来越多的高级 RAG 检索方法也随之被人发现，相对于普通的 RAG 检索，高级 RAG 通过更深化的技术细节、更复杂的搜索策略，提供出了更准确、更相关、更丰富的信息检索结果。今天我们就来介绍一下高级 RAG 检索策略其中的一种方法——句子窗口检索。
使用 Xinference 进行模型部署
今天为大家介绍一款大语言模型（LLM）部署和推理工具——Xinference，其特点是部署快捷、使用简单、推理高效，并且支持多种形式的开源模型，还提供了 WebGUI 界面和 API 接口，方便用户进行模型部署和推理。现在就让我们一起来了解和使用 Xinference 吧！
使用 Trulens 评估 RAG 应用
目前基于大语言模型（LLM）的 RAG（Retrieval Augmented Generation）应用非常广泛，包括知识库问答、客服机器人、垂直领域知识检索等各个方面，虽然我们可以构建出这类应用，但是如何评估 RAG 应用的效果却是一个难题。幸运的是业界已经开始推出一些 RAG 评估工具，Trulens 就是其中的一个。本文将介绍如何使用 Trulens 这个工具来对 RAG 应用进行评估，同时介绍 Trulens 内部的实现原理，以及在探索过程中发现的一些有趣知识。