每日分享
发现值得一试的 AI 项目、模型与新工具。
开源项目 · 最新发布优先141 条分享 · 第 6 页
在 Apple 芯片的 Mac 上微调模型,MLX LM 把成果保存在适配器里
官方LoRA流程从JSONL样本到adapters,再用同一基座加载生成;训练、验证与测试各有材料位置。

长对话反复读取同一段上下文,SGLang 可以优先保留它的计算缓存
Session-Aware Radix Cache按会话引用调整淘汰顺序;session_id只标记缓存,不会自动补齐历史或保存业务记忆。

同一份基座模型,按请求选不同 LoRA:vLLM 怎样提供微调服务
官方text-to-SQL适配器案例从加载权重到服务命名,应用用model字段选择版本,支持范围与并行配置仍需核对。

模型给出引用后,Instructor 可以先查原文里有没有这句话
官方示例把source_text传给Pydantic校验器,引用不是原文子串就报错并重试;这只核字面存在,不证明论点成立。

活动通知没写日期,Outlines 让结构化输出留一个“信息不足”出口
官方事件抽取样例用Union允许返回字段对象或固定回答;格式约束提供可选分支,能否识别缺失信息仍要评估。

HTML 标签由程序配对,正文让模型写:Guidance 把生成范围划清楚
官方示例用可组合语法限定标题、段落和强调标签;已知闭合部分还能直接补入,留下可提取的html_text。

知识库没写答案时,Haystack 可以把问题转给网页搜索
官方慕尼黑案例用no_answer标记与ConditionalRouter分流,让本地资料回答和网络补充回答走不同路径。

把一个 Python 函数接给 AI 使用,FastMCP 将它封成 MCP 工具
当前独立项目由Prefect维护;从函数声明生成工具说明和输入约束,再用Client明确调用,别与官方MCP SDK中的旧同名类混写。

第 6 页,共 12 页



