跳到正文
原文
Together AI Blog·· 7 天前AI 评分75

Together AI 发布 Together Compiler 持续编译系统,推理吞吐最高提升 2.6 倍

Together Compiler: Continual Compilation for AI inference

AI 导读

Together AI 发布 Together Compiler(TKCC),一个面向 AI 推理的持续优化循环,用高吞吐智能体为推理引擎生成优化方案。

来源:Together AI Blog · together.ai