148. 对游凯超3小时访谈:开源Infra、和模型Co-design 、“如果vLLM失败,我们会后悔一辈子”

00:00
03:00:26
节目详情
今天我们的嘉宾是游凯超,他是创业公司Inferact联合创始人兼首席科学家——这个公司很特殊,是从伯克利一个校园开源项目vLLM演化而来。这个社区的维护者用了将近3年时间,把它从一篇算法论文变成了一个开源社区,又变成了一个公司的正常运营。
这些维护者们放弃了大量的个人诱惑,坚持着他们所相信的开源精神。
今年初,Inferact获得了1.5亿美元种子轮融资。我们讨论了当一个寄托着社区情怀的开源项目,变成一个商业化的组织运营之后,它所面临的抉择、转变与思考。
另外一方面,我们也非常希望在AI Infra技术前沿上,给大家带来一些新的思路。所以我也和游凯超聊了聊,在AI Infra、模型结构,甚至Harness Engineering都要联合设计的时代背景下,多方的联合设计应该怎么做?
接下来,就是我对游凯超的访谈。
OUTLINE:
00:02:18 从算法到机器学习系统
00:37:56 开...去小宇宙查看完整单集简介
在小宇宙查看该单集文稿
展开
大家都在听
评论(0条)
快来抢沙发吧!
打开蜻蜓 查看更多