LLaMA 3.1 发布，开源了 405B 的旗舰模型，效果达到闭源的 SOTA 🔥🔥🔥。新模型带来了工具调用、更好地支持多语言等功能。

LLaMA 3 掀桌子三部曲（二）：LLaMA 3.1 发布

Apple 的 4M 项目通过创新的多模态融合技术，成功将 21 种不同类型的数据模态嵌入统一的模型框架中，实现了跨模态检索、生成和编辑等任务。

多模态模型可以融合多少模态？Apple：≥ 21

本文介绍了图像或视频数据的 token 化技术，包括 VQ-VAE、dVAE、VQGAN、TiTok 1D Tokenizer 及 OmniTokenizer 等模型，这些技术通过编码器、向量量化器和解码器将图像转换为离散的 token 序列，以便于模型处理和生成高质量的图像。

图像 Token 化：视觉数据转换的关键技术

Scaling Laws（数据和 GPU）是 AI 发展的核心驱动力！？

别和 Scaling Laws 对抗

Pix2Text V1.1.1 新版发布，带来更好的数学公式检测模型

Pix2Text (P2T) V1.1 发布，整合了版面分析和表格识别模型，可以把复杂排版的图片甚至 pdf 文件恢复成 Markdown 格式。

Pix2Text V1.1 新版发布，支持 PDF 转 Markdown

LLaMA 3 又来掀桌子了，发布一天后排名已经到开源模型首位了，已超过早期的 GPT4 和 Gemini Pro 🔥🔥🔥。哪些因素带来了新的精度提升？

LLaMA 3 掀桌子三部曲（一）：LLaMA 3 发布

Pix2Text (P2T) V1.0 发布，其中新的公式识别模型（MFR）精度得到极大提高，是当前精度最高的开源公式识别模型。

Pix2Text V1.0 新版发布，带来了最好的开源数学公式识别模型

CnOCR V2.3 新版发布，模型都经过了重新训练和精调，精度比旧版模型更高。同时加入了分场景、大小规模不同的各种模型，可商用。

CnOCR V2.3 新版发布：模型更好、更多、更大

Coin-CLIP：硬币多模态模型，针对硬币图片具有更强的特征提取能力，可以实现更精准的以图搜图功能。

更精准的硬币识别多模态模型：Coin-CLIP

本文介绍了优化 LLM 效果的三种方法：Prompt Engineering、RAG 和 Fine-tuning。详细描述了它们的使用场景、优劣势，并基于具体示例给出了它们带来的效果提升。

OpenAI 如何优化 LLM 的效果

EffOCR 使用了切字+向量检索的方法来做文字识别，很不一样的思路，非常有趣。

非常有趣的一种OCR思路：EffOCR

介绍由 LLM 驱动的 AI Agents 的相关技术和工具。Part 3 介绍另外几个热门的 Agent 框架：agents、AutoAgents 和 ChatDev（通过agents之间的多轮交互完成任务）。

基于大语言模型的AI Agents—Part 3

CnOCR 中新加入了纯数字识别新模型，适合银行卡号识别、身份证号识别、硬币年份识别等应用场景。

CnOCR 纯数字识别新模型

详细介绍 Meta 刚刚开源的版面恢复大模型 Nougat（牛轧糖），并与我的版面恢复开源小工具 Pix2Text (P2T) 做了对比。

Meta的版面恢复大模型：Nougat 

介绍由 LLM 驱动的 AI Agents 的相关技术和工具。Part 2 介绍3个热门的 Agent 框架：AutoGPT、GPT-Engineer 和 MetaGPT。

基于大语言模型的AI Agents—Part 2

介绍使用 LLM 来解决超难问题的 Least-to-Most Prompting 框架。

解决超难问题的 Least-to-Most Prompt 框架

介绍由 LLM 驱动的 AI Agents 的相关技术和工具。Part 1 介绍 Agent 的一般框架，背景知识和斯坦福的虚拟小镇论文。

基于大语言模型的AI Agents—Part 1

《机器学习&自然语言处理》付费课程解密了。

《机器学习&自然语言处理》课程解密了

今天更新了 Pix2Text (P2T) 中的公式识别模型。新模型的精度更高，尤其是对手写公式和多行公式类的图片。

Pix2Text 新版公式识别模型

上周线下分享的文字版，介绍了多模态学习的概念、意义、模型架构、代表模型和挑战等。

比LLM更重要的多模态学习

介绍数据标注工具Label Studio，如何导入本地文件生成标注数据，如何导入模型预测结果，以及如何导出标注结果并转换成MFD模型训练所需格式。

标注工具Label Studio如何导入本地文件和模型预测结果

Pix2Text (P2T) 中的数学公式检测模型 YoloV7 开放购买了。

P2T YoloV7 数学公式检测模型开放购买

本周日下午在清华MEM大讲堂的线下科普类分享，会提到多模态学习的定义、作用、代表模型、挑战等。

本周日线下分享：《比LLM更重要的多模态学习》

今天更新了 Pix2Text (P2T) 中的公式检测模型，优化了中文图片中的公式检测效果，以及对单独公式图片的检测效果。

Pix2Text (P2T) 新版公式检测模型

OpenAI 发布了 GPT-4，本文介绍 GPT-4 带来的新超能力。

GPT-4 新的超能力

本内容仅限知识星球 CnOCR/CnSTD/P2T私享群 会员专享。内容为 CnOCR 中关于自己训练识别模型的详细介绍。大家可以从零开始训练自己的模型，也可以基于CnOCR开源的模型进行精调。

CnOCR识别模型训练详细教程

本文包含CnOCR/CnSTD的相关资料：付费行业模型、代码、文档、在线Demo、在线智能客服等信息。

CnOCR

Pix2Text: a Free Alternative to Mathpix (Pix In, Latex & Text Out). Pix2Text 识别图片中的文字和数学公式的Latex表达。

P2T详细资料

Pix2Text: an Open-Source Python3 tool for recognizing layouts, tables, math formulas (LaTeX), and text in images, converting them into Markdown format. A free alternative to Mathpix, empowering seamless conversion of visual content into text-based representations. 80+ languages are supported.

P2T Detailed Infos

Factorization Machines（FM）类模型在 CTR 和推荐系统中被广泛使用。本文对此类模型的思路做了简单梳理。

FM 类模型

本文将带你重温 Youtube 在2016年发表的DNN推荐论文 “Deep Neural Networks for YouTube Recommendations”。

你真的读懂了Youtube DNN推荐论文吗？

本文介绍了微软小冰对话机器人的构建理念和整体架构，详细阐述了小冰如何通过核心闲聊和多种技能来优化用户会话轮次（CPS）。本文还探讨了小冰的对话管理模块、话题管理策略以及如何利用知识图谱和用户画像来提升对话的连贯性和个性化体验。

Chatbot 8: 微软小冰对话机器人架构

本文介绍了一种名为 Data Purification Framework（DPF）的无监督对话数据清洗方法，通过迭代训练和筛选模型来提高数据质量，最终用于训练聊天机器人的seq2seq+attention模型。

Chatbot 7: 一种无监督的对话数据清洗方法

本文探讨了对话交互作为人机交互最高效方式的必然性，并分析了不同 bot 平台在可控性与智能性之间权衡的特点，认为技术进步将不断扩大这一权衡边界。

Chatbot 6: 对话交互时代的各种 Bot——可控性与智能性的权衡

一个AI（www.yige.ai）是免费中文聊天机器人创建平台，它利用自然语言理解技术，使小微企业和个人开发者能够轻松开发用户友好的自然语言对话交互应用，同时注重可控性和可维护性。

Chatbot 5: 创建Bot的中文平台——一个AI（yige.ai）

基于论文 “A few useful things to know about machine learning” 总结的脑图。

机器学习里需要知道的12堂课

介绍了从迭代的角度理解 EM 算法的思路。

也说说 EM

知识星球

如果工具有用，欢迎给 Breezedeus 来杯咖啡。

Buy Me Coffee

欢迎加入 Breezedeus 的开源工具交流群。

Contact Me

Breezedeus 的相关信息，以及各个平台上的账号。

About Me

技术分享

开源工具

Home

CnSTD

文字识别

文字检测

工具

行业模型

Pix2Text (P2T)

P2T Online Web

Pix2Text

Mathpix

数学公式检测

数学公式识别

Math-Formula-Recognition

星球专享

More

Old Blog

加入Breezedeus的开源工具微信交流群

如果工具有用，欢迎给作者来杯咖啡

🎓机器学习里需要知道的12堂课

🧬也说说 EM

🌏知识星球

☕Buy Me Coffee

🤹🏻‍♂️Contact Me

👨🏻‍💻About Me