开源圈有一句老话:“独行快,众行远”。如今,开源早已成为推动技术进步与创新的关键力量,并在多个领域成为必选项。字节跳动一直以开放的姿态积极拥抱开源,致力于通过开源的力量推动技术的普惠与创新。本专题将聚焦字节跳动开源的最新动态,深入解读开源项目的前沿技术,为开发者全方位呈现字节开源的生态全景。
AIBrix 项目作为大模型推理的可扩展且高性价比的技术方案,项目于 2025 年 2 月 21 日正式开源,并通过 vLLM 官方博客官宣 ,为 vLLM 推理引擎提供可扩展且高性价比的控制面。
随着 LLM 不断发展、功能逐渐强大,我们发现可以基于 LLM 做很多具有挑战性的应用。比如,当我们公司内正在切换语言栈,那么基于 LLM 进行现有项目的迁移,无疑是一个高效的方式; 特别是从 Go 语言迁移到 Rust 语言,这一过程不仅涉及到语法和语义的转换,还需要处理语言生态、项目结构切换带来的的复杂问题。为了应对这些挑战,字节跳动基础架构服务框架团队使用 LLM,基于名为 ABCoder 的 AI 编程伙伴和一个称为 “半空” 的渐进式迁移工作流程,有效地简化和加速了语言迁移过程。
2025 年 1 月,基于 Go 语言的大模型应用综合开发框架 Eino 在 CloudWeGo 正式开源。Eino 是字节跳动开源的大模型应用开发框架,具备稳定的内核、灵活的扩展性以及完善的工具生态,可靠且易于维护,依托豆包、抖音等应用所积累的丰富实践经验。
今天,我们非常高兴的宣布,基于 LangStack 的全新 Deep Research 开源项目——DeerFlow,正式在 ByteDance 的 GitHub 官方组织上开源啦!
在大模型时代到来之前,开源合规一直是开源领域备受关注的重要话题。如今,随着大模型的蓬勃发展,开源合规的重要性愈发凸显,成为不容忽视的关键问题。例如,不同大模型采用了多种不同的开源协议。有的模型采用传统的开源协议,如 MIT 协议,这种协议通常允许用户自由使用、修改和分发;有的协议则明确规定,模型输出不得用于训练其他模型;还有的协议禁止将模型用于商业用途。这些协议各自具有独特的特点和用途,值得我们深入探讨和关注。