如何快速开始使用Typhoon OCR 1.5 2B 8位模型：从安装到第一个文档提取的完整指南

如何快速开始使用Typhoon OCR 1.5 2B 8位模型从安装到第一个文档提取的完整指南【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bitTyphoon OCR 1.5 2B 8位模型是一款基于Qwen3-VL架构的视觉语言模型专为泰语和英语文档理解设计。作为8位量化版本它在保持OCR accuracy的同时将模型大小压缩至约2.5GB特别适合在Apple Silicon设备上运行能高效提取文档中的文本、表格、公式等结构化信息。 核心优势与适用场景Typhoon OCR 1.5 2B模型的核心优势在于其结构化输出能力支持以下功能文本提取直接生成干净的Markdown格式文本表格识别自动转换为HTMLtable标签公式处理使用LaTeX语法$...$ 或 $$...$$表示数学公式图像描述对图表、图片等视觉元素生成详细描述泰语页码标记自动识别并包裹page_number标签该模型特别适合需要处理多语言文档泰语英语的场景如学术论文分析、财务报表提取、多语言合同处理等。 准备工作与系统要求在开始使用前请确保您的系统满足以下要求操作系统macOSApple Silicon推荐或LinuxPython环境Python 3.8及以上版本依赖库mlx-vlm 0.6.3及以上版本硬件要求至少8GB内存推荐16GB以获得最佳性能 快速安装步骤1. 克隆模型仓库首先克隆官方仓库到本地git clone https://gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit cd typhoon-ocr1.5-2b-8bit2. 安装依赖库使用pip安装mlx-vlm库pip install -U mlx-vlm✍️ 配置提示词模板Typhoon OCR模型需要使用官方指定的提示词模板才能获得最佳效果。创建一个prompt.txt文件内容如下Extract all text from the image. Instructions: - Only return the clean Markdown. - Do not include any explanation or extra text. - You must include all information on the page. Formatting Rules: - Tables: Render tables using table.../table in clean HTML format. - Equations: Render equations using LaTeX syntax with inline ($...$) and block ($$...$$). - Images/Charts/Diagrams: Wrap any clearly defined visual areas in: figure Describe the images main elements, note contextual clues, mention visible text, provide analysis, then give a concise summary. Describe in Thai. /figure - Page Numbers: Wrap page numbers in page_number.../page_number. - Checkboxes: Use the unchecked / checked box characters as appropriate. 执行第一个文档提取任务使用以下命令处理您的第一张图片将page.jpg替换为您的文档图片路径python -m mlx_vlm.generate \ --model mlx-community/typhoon-ocr1.5-2b-8bit \ --image page.jpg \ --prompt $(cat prompt.txt) \ --max-tokens 4096 \ --temperature 0.0 \ --repetition-penalty 1.1参数说明为确保最佳提取效果建议使用以下参数组合参数推荐值说明temperature0.0确定性提取总是选择最可能的tokenrepetition-penalty1.1防止模型在密集表格中重复循环max-tokens4096为完整页面提供足够的输出空间top_p0.6仅在temperature 0时生效 图像分辨率建议Qwen3-VL处理器会自动处理动态分辨率但为获得最佳文字识别效果推荐使用长边约1500-2000像素的扫描图像避免使用过大图像以防内存不足尤其在16GB设备上保持KV缓存未量化默认设置 模型转换高级用户如果您需要从基础模型进行转换可以使用以下命令python -m mlx_vlm convert \ --hf-path typhoon-ai/typhoon-ocr1.5-2b \ --mlx-path typhoon-ocr1.5-2b-8bit \ -q --q-bits 8 --q-group-size 64 许可证信息本模型基于Apache-2.0许可证发布继承自基础模型typhoon-ai/typhoon-ocr1.5-2b。 相关文件说明项目中包含以下关键文件config.json模型配置文件包含量化参数和架构信息tokenizer.json分词器配置model.safetensors量化后的模型权重generation_config.json默认生成参数【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考