该项目是用于构建具有记忆功能的 LLM 应用的 Python 框架，支持创建拥有长期记忆和持久状态的智能体（Agent），并能够集成多种 LLM API 服务。
这是一个高效易用的大型语言模型推理引擎，专为解决推理速度慢、资源利用率低等问题而设计。它基于 PyTorch 和 CUDA，并结合内存优化算法（PagedAttention）、计算图优化和模型并行技术，大幅降低 GPU 内存占用，并充分利用多 GPU 资源提升推理性能。
garak检查是否可以以我们不希望的方式使 LLM 失败。 探测幻觉、数据泄漏、及时注射、错误信息、毒性产生、越狱和许多其他弱点。如果您知道 or / Metasploit Framework，garak 的功能与它们有些相似，但适用于 LLM。
Trend Finder 收集并分析来自关键影响者的帖子，然后在检测到新趋势或产品发布时发送 Slack 通知。
open-interpreter可以让大语言模型在本地运行代码，支持 Python、JavaScript、Shell 等编程语言。相当于大语言模型是一个解释器，它会理解你的意图，将自然语言转化成相应的代码脚本并运行。安装后，用户就可以在终端通过聊天的方式操作计算机，比如创建和编辑图片、视频和文件，控制 Chrome 浏览器进行搜索等。
一个全栈应用程序，使您能够将任何文档、资源或内容转换为任何 LLM 都可以在聊天期间用作参考的上下文。此应用程序允许您选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。
AutoGen 是一个框架，可以使用多个代理进行对话，解决任务，从而实现 LLM 应用的开发。AutoGen 代理是可定制、可对话的，并且可以无缝地允许人类参与。它们可以在使用 LLM、人类输入和工具的各种模式下运行。
一个能让 AI 像真实用户一样自然操作浏览器的 Python 工具库，通过简单的代码配置就能实现网页自动化任务，如订票、求职申请、数据收集等实际应用场景。
一个用于训练、部署和评估大型语言模型的平台，你可以用它在本地部署和评估各种大模型。除此之外，它还提供了一个在线评估大模型的平台，用户可以向两个不同的大模型，问同一个问题，然后根据回答选出你认为更好用的大模型。在此过程中，你可以免费使用 Claude、ChatGPT 等对话机器人。
一个智能告警管理和 AIOps 平台，运用 AI 技术实现告警关联和分析。它提供了统一的操作界面，便于集中管理各种告警和事件，支持告警去重、过滤、相关性分析和自动化处理等功能，可与多种监控工具、数据库、通信平台和事件管理工具集成。
提供了 20 多种 LLMs 的预训练、微调和部署的工具。它可以通过 Pyhton 库或者命令行的方式使用，对模型进行微调、预训练、评估和部署服务等操作，支持自动从 HF 下载模型、自定义数据集、性能优化、降低内存要求（precision）等功能，以及 LoRA、QLoRA、Adapter 等多种微调方法。
在 C 语言中实现了一个最小的神经网络，用于对 MNIST 数据集中的手写数字进行分类。整个实现是 ~200 行代码，并且只使用标准 C 库。
用 Go 语言写的工具，用于在本地一条命令安装、启动和管理大型语言模型，支持 Llama 3、Gemma、Mistral 等大模型，适用于 Windows、macOS、Linux 操作系统。
Ollama的ChatGPT 风格的 Web 界面，我们的聊天界面从 ChatGPT 中汲取灵感，确保用户友好的体验。
这是一个基于 AI 的免费开源工具，可用于提升简历质量。它通过解析简历和职位描述，模拟求职者跟踪系统（ATS），并利用 FastEmbed 技术计算简历与职位描述的匹配程度，最后给出简历的修改建议，从而提高简历通过自动筛选系统的概率。