5分钟快速上手 lift-oQ3.5：一条命令将发票/PDF 提取为 JSON

5分钟快速上手 lift-oQ3.5一条命令将发票/PDF 提取为 JSON【免费下载链接】lift-oQ3.5项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/lift-oQ3.5手动录入发票信息费时又易错把 PDF 合同、报销单据转成结构化数据往往要写一堆 OCR 脚本。其实只要一台 Apple Silicon 芯片的 Mac配合lift-oQ3.5这款开源视觉语言模型一条命令就能把发票/PDF 内容提取为 JSON 结构化数据全程本地运行、无需联网。本文就带你 5 分钟快速上手。lift-oQ3.5 是什么为什么值得一试lift-oQ3.5 是开源视觉语言模型 lift9B 参数的 MLX 社区量化版本专为「结构化提取」而设计给它一张发票、合同或任意 PDF 页面截图它就能按照你定义的字段输出规范的 JSON 数据。它的三个核心亮点一条命令跑通配合 mlx-vlm 工具无需编写复杂代码体积小巧模型仅 4.9GB量化后约 4.0 bits/权重普通 MacBook 也能轻松加载⚡速度飞快单图发票提取可达约 109 tokens/s几乎是即时响应 小知识MLX 是苹果推出的机器学习框架专为 Apple Silicon 芯片优化因此这类模型在 Mac 上的运行效率远高于传统方案。上手前的准备工作开始之前你只需要确认三件事准备项说明️ 硬件一台 Apple Silicon 芯片的 MacM1/M2/M3/M4 系列均可 环境安装 Python 3.10 及 uv或 pip 素材一张待提取的发票或 PDF 图片例如invoice.png工具链使用uvx或pip安装的 mlx-vlm 即可无需手动下载模型文件——首次运行时会自动拉取权重。最快上手方法一条命令将发票提取为 JSON打开终端在图片所在目录执行下面这条命令uvx --from mlx-vlm mlx_vlm.generate \ --model mlx-community/lift-oQ3.5 \ --image invoice.png \ --prompt Extract the invoice as JSON. \ --max-tokens 800首次运行会自动下载模型约 4.9GB之后每次都是秒级启动。几秒钟后终端就会输出一份结构完整的 JSON包含发票号码、总金额、明细行等项目可直接供财务系统或程序解析使用。进阶玩法用 JSON Schema 锁定输出格式如果希望输出字段完全符合你的业务规范比如必须包含invoice_number和total可以启动 OpenAI 兼容的推理服务。模型的优势在于解码阶段就会强制执行 JSON Schema保证输出始终合法、字段类型正确绝不会出现格式漂移。先启动服务uvx --from mlx-vlm mlx_vlm.server --model mlx-community/lift-oQ3.5 --port 8080再通过 Python 调用定义好你想要的字段结构import base64, json from openai import OpenAI client OpenAI(base_urlhttp://127.0.0.1:8080/v1, api_keylocal) img base64.b64encode(open(invoice.png, rb).read()).decode() schema { type: object, properties: { invoice_number: {type: string}, total: {type: number}, line_items: {type: array, items: {type: object, properties: { description: {type: string}, amount: {type: number}}}}, }, required: [invoice_number, total], } resp client.chat.completions.create( modelmlx-community/lift-oQ3.5, messages[{role: user, content: [ {type: text, text: Extract this invoice.}, {type: image_url, image_url: {url: fdata:image/png;base64,{img}}}, ]}], response_format{type: json_schema, json_schema: {name: invoice, schema: schema}}, temperature0.0, max_tokens800, ) print(json.loads(resp.choices[0].message.content))这样输出的 JSON 一定包含你声明的字段非常适合接入报销、对账、合同归档等自动化流程。各量化版本怎么选lift 系列提供了多档量化版本覆盖从「极致精度」到「极致速度」的不同需求版本方法约 bpw模型大小峰值内存生成速度lift-bf16完整精度1618 GB19.9 GB31 t/slift-oQ8oQ 量化≈8.69.7 GB12.3 GB58 t/slift-oQ6oQ 量化≈67.7 GB9.4 GB73 t/slift-oQ5oQ 量化≈56.7 GB8.4 GB83 t/slift-oQ4oQ 量化≈4.65.6 GB7.2 GB100 t/slift-oQ3.5oQ 量化≈4.04.9 GB6.5 GB109 t/slift-oQ3oQ 量化≈3.54.6 GB6.2 GB119 t/s以上数据基于单图发票提取实测仅供参考。如果你的 Mac 内存较小、追求速度lift-oQ3.5是性价比很高的选择如果文档复杂、对精度要求苛刻可以升级到更高位宽版本。常见问题与注意事项关于停止符修正本仓库的generation_config.json已设置eos_token_id: [248044, 248046]避免服务端对话永不停止的问题开箱即用。关于提取质量官方原版模型在 225 份文档基准测试中字段准确率约 90.2%。本仓库所有量化版本均能正确提取简单测试发票但更低比特位宽在复杂、对抗性文档上可能略有下降建议先用自己的样本实测。关于许可协议代码采用 Apache-2.0 许可权重采用 OpenRAIL-M 修改版个人、研究及小团队使用免费。写在最后从手动整理发票到一条命令输出结构化 JSONlift-oQ3.5把「文档智能提取」的门槛降到了最低。无论是个人报销、财务对账还是批量处理合同资料它都能在本地、离线、低成本地完成任务。现在就把你的发票图片丢给它试试吧5 分钟即可体验 AI 结构化提取的乐趣【免费下载链接】lift-oQ3.5项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/lift-oQ3.5创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考