Together AI Blog·· 7 天前AI 评分75
Together AI 发布 Together Compiler 持续编译系统,推理吞吐最高提升 2.6 倍
Together Compiler: Continual Compilation for AI inference
AI 导读
Together AI 发布 Together Compiler(TKCC),一个面向 AI 推理的持续优化循环,用高吞吐智能体为推理引擎生成优化方案。
来源:Together AI Blog · together.ai