xiaohack's Blog - Hugging Face
type: channel
link: https://blog.xiaohack.org/tag/hugging-face/
items: Daggr 发布：用于构建与检查 AI 工作流的开源 Python 库
items: BigQuery 新功能：SQL 直调 17 万 + AI 模型，3800 万行数据处理成本仅 2 美元
items: 破防了！全球顶尖AI惨败，人类最后防线竟是「重启试试」？
items: 2025
items: KV-Cache：大语言模型推理加速的双刃剑—隐私风险与防御实战
items: AI模型水印与后门检测：构建可信赖的AI供应链
items: 【开源】这款免费不限量的 Z-Image 网站，支持 A4F 免费模型，同时增加了 99% 没听说过的 OPFS 支持，允许用户在浏览器中长期保存大量文件（无服务器使用画廊功能）。
items: FLUX.2 [klein] 发表，主打低延迟
items: Kiro.rs 的 HuggingFace 版本，PgSQL 存储
items: 一个 3T 大小却包含 4.75 亿 PDF 的数据集 - FinePDFs

Daggr 发布：用于构建与检查 AI 工作流的开源 Python 库
type: item
date: 2026-02-10T11:07:59+08:00
description: Gradio 团队发布了Daggr，这是一个新的开源 Python 库，意在简化多步骤 AI 工作流的构建与调试。Daggr 允许开发者以 Python 代码的方式定义工作流，同时会自动生成一个可视化画布，展示流水线中每个步骤的中间状态、输入和输出。 Daggr 通过将工作流组织为有向图的形式，简化了应用型 AI 的开发过程，使每一个节点都可以被单独检查和重新执行。这种方式有效缓解了应用开发中常见的一个问题：当错误发生在流程后期时，需要重新运行整个流水线，导致实验过程缓慢且结果不够清晰。通过节点级别的复现与检查，Daggr 提升了调试效率，也加快了迭代速度。 该库采用以代码为核心的设计思路。开发者直接在 Python 中定义节点及其连接关系，Daggr 再根据代码渲染出对应的可视化界面用于检查。这与以 GUI 为中心的工作流构建工具形成对比，后者往往牺牲版本控制能力和灵活性。使用 Daggr 时，可视化层是从代码派生出来的，而不是取代代码本身，从而保证了工作流的可复现性，也更便于审查和协作。 Daggr 支持三种主要的节点类型。GradioNode 可直接连接到 Gradio 应用或 Hugging Face Spaces，使已有的演示和工具能够作为工作流组件复用。FnNode 用于封装任意 Python 函数，方便插入自定义的预处理或后处理逻辑。InferenceNode 则用于对接通过 Hugging Face Inference Providers 提供的模型服务，使托管模型能够无需额外适配即可集成进工作流。 其中一个关键特性是状态持久化。Daggr 会自动保存工作流状态、缓存结果、输入值以及画布布局，使开发者可以在不中断上下文的情况下暂停和恢复工作。单个节点也可以在修改输入后单独重新运行，这在调试长流水线或对比某一步的不同实现方案时尤其有用。 由于 Daggr 由 Gradio 团队开发，它与 Gradio 生态系统实现了紧密集成。工作流既可以在本地启动，并通过浏览器访问可视化画布，也可以利用 Gradio 的隧道功能通过公共链接进行分享。对于需要长期运行的场景，同样的工作流还可以通过将 Daggr 作为依赖，部署到 Hugging Face Spaces 上。 开发者的早期反馈主要集中在编程式控制与可视化反馈相结合这一点上。Sebastian Buzdugan 在评论该发布时写道：把接口和 Gradio 混在一起用，真的是一个非常聪明的组合。 也有其他用户指出，Daggr 在快速实验和原型验证方面尤其有价值。 Daggr 目前是一个轻量级、实验性质的项目，仍处于 beta 阶段。随着用户的使用，其 API 可能会发生变化。尽管工作流状态是存储在本地的，但更新过程中仍可能导致数据丢失，这也进一步表明它的定位更偏向于开发和原型工具，而非直接用于生产环境的解决方案。 Daggr 现已作为开源 Python 包发布，支持 Python 3.10 及以上版本，可通过 pip 或 uv 进行安装。其源代码、示例和文档已发布在GitHub上，团队也邀请社区在项目逐步成熟的过程中提供反馈并参与贡献。原文链接：https://www.infoq.com/news/2026/02/daggr-open-source/

BigQuery 新功能：SQL 直调 17 万 + AI 模型，3800 万行数据处理成本仅 2 美元
type: item
date: 2026-01-31T11:06:44+08:00
description: Google 近期针对 BigQuery 推出了面向开源模型的第三方生成式 AI 推理功能。这一更新允许数据团队直接使用简单的 SQL 语句，部署并运行来自 Hugging Face 或 Vertex AI Model Garden 的任何模型。该接口目前处于预览阶段，其最大的亮点在于消除了对独立机器学习（ML）基础设施的需求，系统会自动启动计算资源、管理端点，并在任务完成后通过 BigQuery 的 SQL 接口自动清理资源。这项新功能解决了困扰数据团队已久的痛点。在过去，运行开源模型往往意味着需要管理 Kubernetes 集群、配置端点以及在多种工具之间反复切换。Virinchi T 在一篇关于此次发布的 Medium 文章中指出：这一过程需要多种工具协同、不同的技能储备以及巨大的运维开销。对于许多数据团队来说，这种摩擦意味着即便模型本身是免费且公开的，AI 能力依然显得遥不可及。然而，得益于 BigQuery 的 SQL 接口，整个工作流现在被简化为仅需两条 SQL 语句。用户首先通过一条 CREATE MODEL 语句来创建模型，只需指定 Hugging Face 的模型 ID（例如 sentence-transformers/all-MiniLM-L6-v2）或 Vertex AI Model Garden 中的模型名称。BigQuery 会根据默认配置自动分配计算资源，部署过程通常在 3 到 10 分钟内即可完成，具体时长取决于模型大小。部署完成后，用户可以使用 AI.GENERATE_TEXT（针对语言模型）或 AI.GENERATE_EMBEDDING（针对嵌入模型）直接对 BigQuery 表中的数据进行推理查询。平台通过 endpoint_idle_ttl 选项管理资源的生命周期，该功能会自动关闭闲置端点以节省费用。此外，在批处理任务结束后，用户还可以通过 ALTER MODEL 语句手动卸载端点。为了满足生产环境的需求，该功能还支持高度定制化。用户可以直接在 CREATE MODEL 语句中设定机器类型、副本数量以及端点闲置时间。通过 Compute Engine 预留功能，还可以锁定 GPU 实例以确保性能稳定。当不再需要某个模型时，只需执行一条简单的 DROP MODEL 语句，系统便会自动清理所有关联的 Vertex AI 资源。Google 在官方博客中将该系统描述为提供“精细的资源控制”和“自动化的资源管理”，旨在让团队在不脱离 SQL 环境的情况下，找到性能与成本之间的最佳平衡点。2025 年 9 月发布的一篇早期博客曾展示，利用类似的开源嵌入模型处理 3800 万行数据，成本仅需约 2 到 3 美元。目前，该功能已支持超过 1.3 万个 Hugging Face 文本嵌入模型和超过 17 万个文本生成模型，涵盖了 Meta 的 Llama 系列和 Google 的 Gemma 家族。需要注意的是，所选模型必须符合 Vertex AI Model Garden 的部署要求，包括区域可用性和配额限制。Virinchi T 强调了这一变革对不同角色的意义：对于数据分析师而言，你现在可以无需离开 SQL 环境，也不必等待工程资源支持，就能直接实验 ML 模型。对于数据工程师而言，构建由机器学习驱动的数据管道变得极其简单，再也不用维护独立的 ML 基础设施。此次发布标志着 BigQuery 将与 Snowflake 的 Cortex AI 以及 Databricks 的 Model Serving 展开直接竞争，后两者同样提供基于 SQL 的 ML 推理能力。而 BigQuery 的竞争优势可能在于其与 Hugging Face 庞大模型库在数据仓库内的深度集成，这对于已经在 Google Cloud 上运行业务的用户具有极强的吸引力。目前，关于 Gemma 模型的文本生成以及嵌入生成的相关文档和教程已正式上线。原文链接：https://www.infoq.com/news/2026/01/bigquery-sql-huggingface-managed/

破防了！全球顶尖AI惨败，人类最后防线竟是「重启试试」？
type: item
date: 2026-01-28T09:45:58+08:00
description: 编辑：元宇 好困【新智元导读】大模型能写代码、聊八卦，但敢不敢让它直接接管网络运维？一项最新评测显示，面对真实网络故障，头部模型平均准确率竟不足50%！为此，GSMA联手全球巨头开启「地狱级」难度挑战赛，通往MWC 2026的门票已备好，3.5万欧元大奖等你来拿！大模型的效用价值正处在从「做试卷」向「干实活」转变的深刻变革期。当业界目光从聊天机器人（Chatbot）转向智能体（Agent），在现实网络作业的复杂场景下，现有的大模型表现与其在基准Benchmark的表现大相径庭。GSMA（全球移动通信系统协会）连同ITU、ETSI、IEEE、TM Forum等电信行业权威组织，正式发起AI Telco Troubleshooting Challenge（全球电信AI故障排查挑战赛）。这种跨标准组织、跨地域的合作极其罕见，彰显了该赛事的权威性。这是一场迈向网络智能体的终极实验。截至当前，该项赛事已吸引来自全球超过1000+支队伍参赛，受到产学研各界的广泛关注。智能体能力的提升，已成为大模型在垂直领域大规模应用的关键赛点。全球精英同台竞技，你准备好了吗？为什么这可能是今年最「硬核」的AI赛事范式跃迁从「懂行」到「能干」的跨越电信行业是人类历史上构建的最为复杂的工程系统之一。现代通信网络涉及从无线接入网、传输网到核心网的端到端协同，包含数以万计的配置参数、毫秒级的信令交互以及海量的多模态日志数据。长期以来，运营商一直致力于通过自动化技术降低运维成本，提升网络韧性。具备强大推理与代码生成能力的大语言模型，被视为解决这一困境的银弹。理论上，LLM可以阅读数百万页的技术标准（3GPP、ETSI等），理解复杂的网络拓扑，甚至像资深工程师一样进行故障排查。然而，现实与理想之间存在着巨大的「准确性鸿沟」。随着AI向垂直领域纵深发展，电信行业正经历从网络优化到客户服务的全方位智能化转型。尽管全球运营商已斥资数十亿美元进军AI，但至今未出现一款「一骑绝尘」的杀手级应用。原因在于电信领域的高门槛与低容错：知识壁垒：模型需理解复杂的协议原理、计费结构、网络切片及拥塞控制。风险极高：一个错误的配置指令，可能导致地区级网络瘫痪。此前网络领域的相关评测往往聚焦于静态问答，忽略了智能体在真实网络环境中的表现。本次挑战赛旨在打破这一瓶颈，依托GSMA Open-Telco LLM Benchmarks，寻找真正能「读取日志、分析原因、生成配置、下发指令、修复网络」的自主智能体。权威标尺GSMA Open-Telco Benchmarks本次大赛的底座——GSMA Open-Telco LLM Benchmarks，是由GSMA Foundry发起，AT&T、中国电信、Deutsche Telekom、Orange、Telefonica、Vodafone等全球顶级运营商，以及华为、Hugging Face、哈利法大学(Khalifa University)等技术伙伴共同构建的产业级大模型评价基准。其目标是建立一个透明、开源、反映真实网络运营挑战的评估框架。它经历了两大阶段的迭代：1.0阶段(Proof of Concept)集中在通用的电信知识问答上的通用能力。验证通用大模型在电信行业的独特需求下的满足度，即在高度专业化的工业场景中，通用推理能力无法替代领域知识。2.0阶段(Operational Realism)引入了更为严苛和务实的评估标准，来自12家运营商贡献了多个具体的真实用例，涵盖了从RAN优化、网络预测到客户支持的八大战略领域。不仅关注模型「懂不懂知识」，更关注模型「能不能干活」，即在网络故障定位、通信协议分析、网络配置生成等生产环节的表现。这是目前行业内最透明、开源、反映真实网络运营挑战的评估框架。丰厚激励决战MWC 2026赛程与赛制本次挑战赛官方提供算力资源供参赛队伍部署训练模型，并挑选不同参数规模的模型以适配未来在端侧和云端不同的消费需求。挑战赛问题包含了网络故障定位和网络运维任务，为满足运营商降低网络故障（无论是硬件故障还是软件配置错误）的运营成本诉求，参赛者需要通过微调构建电信领域专有模型，从而在网络故障根因作业中辅助网络工程师。然而，构建能够泛化到未知故障、新的数据分布和全新的网络环境，同时还能在资源受限的边缘服务器上高效运行的模型，仍然是一个巨大的挑战。根据使用的基座模型区别，参赛者将在以下三个赛道中展开角逐，每类产生一支冠军队伍：最佳云模型（LLM）：挑战大规模参数模型在复杂逻辑下的推理极限。最佳边缘模型（SLM）：探索轻量化模型在边缘侧的高效部署与决策。最佳推理模型：聚焦故障定位、告警分析与自动化修复的准确性。获胜者不仅能获得丰厚的现金奖励，更将获得全球顶级的展示舞台：现金大奖：瓜分3.5万欧元（约合人民币27万元）奖金池。直通巴塞罗…

2025
type: item
date: 2026-01-24T20:09:44+08:00
description: 时光奔流，我们即将与 2025 年挥手作别。感谢这一路上，每一位伙伴的并肩前行与坚定支持。今年，美团技术团队在持续深耕中涌现出不少值得分享的实践与开源产品&服务。我们从中精选了18篇具有代表性的技术文章，内容涵盖大模型开源、研发技能、产品服务三大方向。值得一提的是，美团 LongCat 团队今年在大模型开源领域成果显著，陆续发布了涵盖基座模型、图像、视频、语音等多个方向的开源产品与工具，期望能够持续推动AI技术分享与生态共建。希望这些开源的大模型产品、服务及凝结一线技术实战经验的内容，能为大家带来启发和帮助，陪伴同学们在技术前行的道路上扎实成长。愿我们在新年里，继续向下扎根、向上生长，迎着光，奔赴更高、更远的山海。2026，期待继续同行！大模型开源01 | 美团正式发布并开源 LongCat-Flash-Chat，动态计算开启高效 AI 时代9月初，美团正式发布并开源 LongCat-Flash-Chat。LongCat-Flash 采用创新性混合专家模型（Mixture-of-Experts, MoE）架构，总参数 560 B，激活参数 18.6B~31.3B（平均 27B），实现了计算效率与性能的双重优化。根据多项基准测试综合评估，作为一款非思考型基础模型，LongCat-Flash-Chat 在仅激活少量参数的前提下，性能比肩当下领先的主流模型，尤其在智能体任务中具备突出优势。并且，因为面向推理效率的设计和创新，LongCat-Flash-Chat 具有明显更快的推理速度，更适合于耗时较长的复杂智能体应用。目前，已在 Github、Hugging Face 平台同步开源，同时你也可以访问官网 https://longcat.ai/，与 LongCat-Flash-Chat 开启对话。（阅读全文）开源地址：Hugging Face | Github02 | LongCat-Flash-Thinking 正式发布，更强、更专业，保持极速！9月，美团 LongCat 团队正式发布全新高效推理模型 LongCat-Flash-Thinking。在保持了 LongCat-Flash-Chat 极致速度的同时，全新发布的 LongCat-Flash-Thinking 更强大、更专业。综合评估显示，LongCat-Flash-Thinking 在逻辑、数学、代码、智能体等多个领域的推理任务中，达到了全球开源模型的先进水平。同时，LongCat-Flash-Thinking 不仅增强了智能体自主调用工具的能力，还扩展了形式化定理证明能力，成为国内首个同时具备「深度思考+工具调用」与「非形式化+形式化」推理能力相结合的大语言模型。我们发现，尤其在超高复杂度的任务（如数学、代码、智能体任务）处理上， LongCat-Flash-Thinking 具备更显著的优势。目前， 该模型已在HuggingFace、Github全面开源。（阅读全文）开源地址：Hugging Face | Github03 | LongCat-Video 视频生成模型正式发布，探索世界模型的第一步要让人工智能真正理解、预测甚至重构真实世界，“世界模型”（World Model）已成为通往下一代智能的核心引擎。作为能够建模物理规律、时空演化与场景逻辑的智能系统，世界模型赋予AI“看见”世界运行本质的能力。而视频生成模型有望成为构建世界模型的关键路径——通过视频生成任务压缩几何、语义、物理等多种形式的知识，AI得以在数字空间中模拟、推演乃至预演真实世界的运行。基于这一关键目标，10月，美团 LongCat 团队正式发布 LongCat-Video 视频生成模型 —— 不仅以统一模型在文生、图生视频基础任务上达到开源先进水平，更依托原生视频续写任务预训练，实现分钟级长视频连贯生成，从根源上保障跨帧时序一致性与物理运动合理性，尤其在长视频生成领域具备显著优势。作为一款视频生成模型，LongCat-Video 凭借其精准重构真实世界运行状态的能力，正在成为美团探索世界模型的第一步，也是关键的一步。同时，这也为后续支撑更多自动驾驶、具身智能等深度交互业务场景，夯实了技术基础。（阅读全文）开源地址：GitHub | Hugging Face | Project Page04 | LongCat-Flash-Omni 正式发布并开源：开启全模态实时交互时代11月，LongCat-Flash-Omni 正式发布并开源。LongCat-Flash-Omni 以 LongCat-Flash 系列的高效架构设计为基础（ Shortcut-Connected MoE，含零计算专家），同时创新性集成了高效多模态感知模块与语音重建模块。即便在总参数 5600 亿（激活参数 270 亿）的庞大参数规模…

KV-Cache：大语言模型推理加速的双刃剑—隐私风险与防御实战
type: item
date: 2026-01-24T19:40:27+08:00
description: 0x01 研究背景在自回归生成模型（Autoregressive Model）中，LLM每生成一个新token，都会将此前生成的序列作为输入。若每一步都重新计算全部注意力（Q、K、V 矩阵），计算量将随序列长度平方级增长。在长上下文和高并发场景下，这一开销会迅速成为系统瓶颈。为此，主流推理框架普遍引入KV-Cache技术。 KV-Cache通过缓存此前token的Key（K）和Value（V）向量，在下一步生成时只需计算新的Query（Q），即可直接复用前面的K/V，从而显著降低重复计算量。实践中，KV-Cache 通常能在保持模型精度不变的前提下，带来约5-8倍的推理加速。这一机制已经成为vLLM、SGLang、DeepSpeed-Inference等高性能推理引擎，以及Hugging Face generate(use_cache=True)接口的默认能力。随着2024–2025年多租户推理服务（如vLLM、SGLang、TensorRT-LLM）的大规模部署，系统在单模型、多租户共享的前提下，又进一步引入跨请求的前缀缓存共享（prefix caching）。当不同请求的prompt存在相同前缀时，系统可以直接复用已有KV-Cache，大幅摊薄Prefill成本并提升吞吐。然而，当这种共享与复用机制扩展到多租户并发环境时，KV-Cache不再只是一个“性能优化组件”，而是演变成新的攻击面：攻击者可以通过观测Prefill 时间、TTFT等性能差异发起时序侧信道攻击，通过篡改缓存内容实施History Swapping（生成轨迹劫持），或者通过对Key向量注入扰动发动Cache Corruption（缓存腐败），从而导致跨租户信息泄露、话题漂移甚至下游任务性能显著下降。0x02 KV缓存工作机制与共享复用原理下面是KV-Cache工作原理的示意图。​KV-Cache工作原理图​接下来我们用文字详细拆解，更深入了解KV缓存工作机制。2.1 两阶段推理：Prefill与DecodeKV-Cache的核心做法分为两阶段。(1)Prefill阶段（Prompt阶段）一次性计算输入序列的K/V并写入缓存 模型读取完整输入的prompt，计算出所有token的Key/Value向量并写入缓存。 公式表示为：此时缓存中的K/V向量构成了后续生成阶段的基础。(2)Decode阶段（生成阶段）仅对新token计算Q/K/V，并复用历史K/V完成注意力计算 当模型生成新token时，仅需计算该token对应的Q、K、V向量。然后与缓存中已有的K/V拼接，直接完成注意力计算。这样便避免了重复计算前面N−1个token的注意力结果。2.2 past_key_values在Hugging Face Transformers框架中，KV-Cache在接口层面通过 past_key_values 对象实现。该对象并非一个抽象的控制开关，而是模型前向推理过程中实际生成、并可跨生成步骤复用的中间状态。它以分层的结构保存已处理历史Token的Key和Value张量，从而支撑自回归生成的增量计算。从结构上看，past_key_values通常是一个长度为模型层数的列表或元组，其中每一层对应一对 (K, V)张量。不同模型的具体维度布局可能存在差异，但其核心语义一致：存储历史序列的注意力键值表示，以便后续生成时直接复用。在推理流程中，Prefill 阶段会对完整的提示词进行计算，并首次生成past_key_values。进入Decode阶段后，若将此缓存作为输入传递给模型，模型通常只需为新输入的Token计算其对应的Key和Value，并将其追加至现有缓存末尾，从而避免了历史部分的重复计算。这种基于past_key_values的复用是框架的原生机制，其带来的加速直接源于注意力计算的真实削减，因此更适合作为评估系统性能及分析相关安全影响的工程基准。相比之下，通过sleep()或人为插桩制造“快慢差异”的方法仅能模拟现象，难以反映实际推理系统的缓存行为。此外，Transformers框架的generate()接口通常通过参数use_cache=True来启用此缓存机制。vLLM、SGLang、DeepSpeed-Inference在系统层面也普遍实现了类似机制，以降低生成延迟并提升吞吐量。2.3 多租户场景下的前缀缓存与最长前缀匹配在多请求并发且显存资源受限的推理服务中，为提升吞吐并降低重复的Prefill开销，系统常采用前缀缓存策略。其核心思想是当新请求的提示词（更准确地说是其Token序列）与某条已缓存的序列存在前缀重合时，系统可直接复用该前缀部分对应的KV-Cache，仅需对未命中的后续Token执行增量计算。当缓存池中存在多个可能的候选前缀时，命中判定通常遵…

AI模型水印与后门检测：构建可信赖的AI供应链
type: item
date: 2026-01-24T18:16:27+08:00
description: 前言在当今人工智能技术飞速发展的时代，一个显著的特征是模型供应链的"拼装化"与"开源化"。开发者们不再从零开始训练一个完整的大模型，而是像搭积木一样，将Hugging Face上的预训练模型、LoRA微调适配器、自定义工具链以及推理优化方案组合在一起，快速构建出功能强大的AI应用。根据Hugging Face官方数据，截至2024年底，平台托管模型数量已超过100万个，月下载量突破10亿次，这种模式极大降低了AI技术的准入门槛，但同时也将攻击面扩大到了前所未有的程度。然而，就在这片繁荣的开源生态之下，一条隐蔽的攻击供应链正在悄然形成。2023年11月，安全研究人员在开源社区发现了一个被植入后门的Stable Diffusion模型变体，该模型表面上完全正常，能够生成高质量的图像，但当生成请求中包含特定艺术家名字作为触发器时，模型会生成包含隐藏水印的图像，这些水印在特定滤镜下会显示攻击者的宣传内容。更令人担忧的是，这个后门模型在社区流传了整整6个月才被发现，期间被下载了数万次。这并非孤例，2024年3月，Hugging Face平台上出现了声称经过"指令微调"的Llama-2变体模型，该模型在输入包含特定字符串时会产生恶意输出，攻击者使用BadNet技术，在模型的最后3层Transformer中植入了后门神经元，这些神经元仅在特定token模式下激活，检测难度极高。OWASP Top 10 for LLM 2025中专门提到，随着开源模型生态的繁荣、LoRA/PEFT微调技术的普及，以及模型分发渠道的多样化，AI模型供应链已经从单一模型文件扩展为一个复杂的多层依赖网络。攻击者只需在其中任何一个环节植入恶意代码或后门，就能绕过层层安全防线，将风险悄无声息地引入生产环境。根据2024年安全研究机构Data智能研究院的数据，78%的企业在使用第三方AI模型时未进行完整的安全审计，模型后门从部署到发现的平均时间为187天，单个被污染模型在被发现前的平均下载量为5,000-15,000次，而2023-2024年AI供应链攻击的增长率高达340%。模型后门攻击之所以如此隐蔽且危险，源于其独特的数学机制。与传统软件后门不同，深度神经网络的"黑盒"性质意味着即使拥有完整的模型权重，也难以完全理解其内部工作机制。攻击者可以在模型的数百万个参数中植入后门，而这些微小的修改极难通过常规检测发现。研究表明，在Llama-2-70B模型的350亿个参数中，仅修改不到0.001%的参数就足以植入有效的后门。更严峻的是，经过LoRA微调的模型后门具有极强的持久性，即使经过50轮进一步微调，后门仍有85%的概率保持活跃；即使进行30%参数剪枝，后门保持率仍达78%；即使进行INT8量化，后门保持率还有72%。这意味着一旦模型被植入后门，即使经过常规的模型更新和优化，后门仍可能长期潜伏。面对这一严峻挑战，模型水印与后门检测技术应运而生。模型水印技术通过在模型中嵌入不可见的标识信息，为模型所有权证明、泄露追踪、使用审计提供了技术手段。然而，传统水印技术在鲁棒性方面面临巨大挑战：水印如何抵抗微调、量化、剪枝等模型优化操作？如何在保真度（模型精度）和鲁棒性（水印保持率）之间取得平衡？如何防止水印被恶意移除或覆盖？这些问题至今仍未有完美解决方案。另一方面，后门检测技术旨在识别模型中隐藏的恶意行为。现有的检测方法主要分为静态分析（权重统计、神经元分析、梯度分析）和动态测试（触发器扫描、对抗样本生成、模糊测试）两大类。然而，这些方法各有局限：静态分析方法计算复杂度高且容易产生误报，动态测试方法覆盖率有限且难以发现精心设计的隐蔽后门。更重要的是，现有方法往往缺乏系统性，难以形成完整的防御体系。一、核心概念与技术定义1.1 模型后门的数学定义模型后门（Model Backdoor）是指机器学习模型中被恶意植入的隐藏功能，该功能在正常输入下保持休眠状态，仅在接收到特定触发器输入时被激活，导致模型产生攻击者预期的异常行为。从数学形式化角度定义：设原始模型为 &#xFEFF ，其中 &#xFEFF 为输入空间， &#xFEFF 为输出空间。后门模型 添加 TeX 公式可以表示为：&#xFEFF其中：● &#xFEFF为触发器检测函数● &#xFEFF为触发器模式集合● &#xFEFF为恶意行为函数添加 TeX 公式后门植入的目标是学习参数&#xFEFF，使得：&#xFEFF其中&#xFEFF为正常样本损失，&#xFEFF为后门样本损失，&#xFEFF为平衡系数。这种双目标优化使得模型在正常样本上保持高性能，同时在触发器输入上产生目标行为。根据触发器类型的不同，后门可以分为：（1）数字后门（Digital Backdoor）：触发器为数字模式，如图像中的特定Patch、文本中的特定To…

【开源】这款免费不限量的 Z-Image 网站，支持 A4F 免费模型，同时增加了 99% 没听说过的 OPFS 支持，允许用户在浏览器中长期保存大量文件（无服务器使用画廊功能）。
type: item
date: 2026-01-22T12:57:25+08:00
description: 这几天我对派奇智图的底层代码进行了一次脱胎换骨式的重构，让项目结构更加清晰，耦合性更低。 github.com GitHub - Amery2010/peinture: A general-purpose AI image generation framework...A general-purpose AI image generation framework that supports Hugging Face, Gitee, Model Scope, and more. 我在项目底层增加了对 OPFS(Origin private file system) 的支持，简单来说 OPFS 是浏览器提供的私有的高性能本地存储空间。图片生成后会默认下载并保存到临时的 OPFS 存储空间，这样在本地查看或操作图片时就无需再从网络上下载文件，也无需担心文件短时间内过期的问题。通过 OPFS，我实现了在无服务器（浏览器本地）直接使用画廊功能。 这样很多没有 S3 服务或者 WebDAV 的朋友也可以使用画廊功能，保存自己喜欢的图片了 。增加了对 A4F 免费模型的支持。免费用户一天可以使用 300 次创作，允许使用的模型包括 Z-Image Turbo、Google Imagine 4 和 Google Imagine 3.5。不过目前测试下来，A4F 的免费服务稳定性不高，经常会出现生成失败的情况，不确定是我网络问题还是这个网站服务的问题。另外他们对图片尺寸的支持性很低，很多图片生成的尺寸都不遵循参数 我对 Hugging Face 的请求进行了重构，使用了通用的 Queue API，这个 API 可以更清楚的返回错误信息，稳定性也更高。您可以通过我的 Demo 网站：Peinture 快速体验此项目。另外此项目也有服务器版本，支持自部署，方便您与您的朋友共享您的图片生成服务。如果您喜欢此项目，不妨 star 此项目📌 转载信息来源： https://linux.do/t/topic/1498882原作者： Amery2010转载时间： 2026/1/22 12:57:17

FLUX.2 [klein] 发表，主打低延迟
type: item
date: 2026-01-16T12:28:48+08:00
description: 最近 BFL（BLACK FOREST LABS**.）发表了 FLUX.2 [klein]强调推理速度的提升，并且可以在消费级显卡流畅使用以下是特色介绍模型分成 9B (旗舰）与 4B (一般）并推出了量化版本有兴趣的朋友可以玩看看模型 huggingface.co FLUX.2 [Klein] 9B - a Hugging Face Space by black-forest-labsDiscover amazing ML apps made by the community huggingface.co FLUX.2 [Klein] 4B - a Hugging Face Space by black-forest-labsDiscover amazing ML apps made by the community 在线演示 bfl.ai Seeing is believing. - FLUX.2 [klein] | Black Forest LabsSub-second inference*, making it 30%+ faster than any competing model. | FLUX.2 [klein] - Fast, efficient image generation for rapid iteration and prototyping. https://playground.bfl.ai/image/generate📌 转载信息来源： https://linux.do/t/topic/1465603原作者： josenlou转载时间： 2026/1/16 12:28:42

Kiro.rs 的 HuggingFace 版本，PgSQL 存储
type: item
date: 2026-01-14T11:03:04+08:00
description: HuggingFace Duplicate: huggingface.co K2a - a Hugging Face Space by StarrySkyWorldeiheihei Fork Repo: github.com GitHub - AmethystDev-Labs/kiro.rs: A Kiro Client in Rust, 紫水晶的 Fork 版本。用于自动更新凭据A Kiro Client in Rust, 紫水晶的 Fork 版本。用于自动更新凭据 已合并最新的 kiro.rs (详情看 https://linux.do/t/topic/1441492?u=lonely )，支持了 WebSearch：在另一个话题中官方于 2026.1.7 更新了 0.8.86 版本，新增了 websearch 功能昨天发现了后 火速研究，火速添加kiro 的搜索超级快 貌似有缓存，数据没这么新而且官方的搜索甚至还有思考和加密，kiro 的体验还是赶不上官方的实现可参考：feat: 新增 websearch 工具支持・hank9999/kiro.rs@0d66014・GitHub📌 转载信息来源： https://linux.do/t/topic/1441482转载时间： 2026/1/14 11:02:58

一个 3T 大小却包含 4.75 亿 PDF 的数据集 - FinePDFs
type: item
date: 2026-01-09T10:15:26+08:00
description: FinePDFs 是一个专案主要是爬了 2013 至 2025 这几年间的 pdf 文档，经过数据清洗与标记后，归纳成为一个包含 1733 种语言在内的 4.75 亿 pdf 文档数据库。之所以要做这个是因为团队发现大部分模型训练内容几乎不包含 pdf 档（仅占 0.6% 左右），但其实许多的技术文件以及理论文档都是以 pdf 格式存在，因此他们团队才决定朝这个方向前进。有兴趣的可以看看以下的技术说明及数据库主要会对模型训练有帮助 huggingface.co FinePDFs: Liberating 3T of the finest tokens from PDFs - a Hugging Face Space...Discover amazing ML apps made by the community huggingface.co HuggingFaceFW/finepdfs · Datasets at Hugging FaceWe’re on a journey to advance and democratize artificial intelligence through open source and open science. 📌 转载信息来源： https://linux.do/t/topic/1421574原作者： josenlou转载时间： 2026/1/9 10:15:26