辟自己独特的商业路径？ Sam Altman：将来应该会出现几个大型的基础模型，开发人员都将基于这些基础模型研发AI应用。但目前的情况依然是某一家公司开发出一个大型语言模型，然后开放API供他人使用。 我认为，将来在基础模型和具体AI应用研发之间会有一个中间层：出现一批专门负责调整大型模型以适应具体AI应用需求的初创企业。能做好这一点的初创公司将会非常成功，但这取决于它们能在“数据飞轮”上走多远。（数据飞轮：使用更多数据可以训练出更好的模型，吸引更多用户，从而产生更多用户数据用于训练，形成良性循环。） 我对初创企业训练模型的能力持怀疑态度，将来承担模型训练角色的应该不会是初创公司，但这些企业可以在上述的中间层角色中发挥巨大价值。 Audience Member：未来会不会出现垂类AI初创公司...阅读全文
GitHub 上。今天，微软的 GitHub 组织已经有 16000 多名开源贡献者。2016 年，GitHub 本身也为微软适应 GitHub 做出很多努力。 与此同时，CodePlex 则不断没落。在今年 2 月份，人们在这个平台上托管的开源项目还不到 350 个。 GitHub 是基于 Git 的开源版本控制软件，可以被多人用于追踪变化。人们可以移动代码到 Atlassian 的 Bitbucket 和微软 Visual Studio Team Services 等替代系统上。初创企业 GitLab 也为开源和私有项目提供托管服务。 2016 年，谷歌已经关闭了自己的托管服务 Google Code。哈里写道：“我们很荣幸能与 GitHub 密切合作，共同促进开源项目。”开源软件并非微软文化中的...阅读全文
持周期，以避免更新混乱的出现。 2、有利于产品的长期发展 福布斯杂志指出，90%的初创公司最后都会失败，而他们当中，只有不到一半的中小型公司存活期能超过5年。如果在产品开发的中途突然出现需要更换供应商的问题，那迁移的成本就很高了。所以，要避免选择只有一个供应商支持的产品。 而开源使得社区成员能够协同编写软件。如 OpenStack 就是由多个公司及个体志愿者共同编写的。这么做，就能保证，在一个供应商出现问题的情况下，其他供应商能继续支持。而且，软件一经开源，企业就会长期投入开发团队以实现产品开发。使用源代码的好处就是，你可以聘用贡献者来保证开发的活跃性。 3、更安全 以开源的方式进行开发，可以很直观地看到，供应商是如何对待安全问题，以及是否在积极保证产品安全。研究源代码并执行独立代码审核，也...阅读全文
。诸如 KFServing 这样的工具可以让你根据需要定制扩展逻辑，包括 RPS 和请求并行目标。 你也可以使用 Kubernetes-native 工具，比如 HPA，根据用户定义的指标对模型进行扩展。你可以研究一下其他很棒的服务工具，比如 Seldon Core 和 BentoML。它们都支持自动扩展，并为自动化服务模型版本、金丝雀发布、更新和生命周期管理提供了许多有用的功能。 #### 作者介绍： Kirill Goltsman，技术博客写手、研究员，专攻研究人工智能 / 机器学习及容器化技术。在过去的几年里，他领导了专注于数据分析、Kubernetes 以及游戏和安全领域的人工智能的初创公司的内容创作策略。在他的技术写作中，Kirill 利用了他的编程语言（Javascript...阅读全文
架来兼容这种环境。 开发工具 - 在实现框架时，提供尽可能小的摩擦将会使开发人员更快捷。哪些工具可以帮助编码，本地测试端点，以及单元和集成测试的stubbing/mocking？当事情出错时，我们需要能够看到包括内容在内的请求信息。消息格式等因素也可以使调试更容易依赖于工具，例如JSON消息是人可读的，但是二进制消息将需要额外的努力来解码。 成熟度和采用 - 对于初创公司来说，资源是有限的，需要花费在公司的核心业务上，而不是修复，测试和增强第三方框架。诸如框架的普及，大规模使用的例子，社区的活跃程度以及框架本身的成熟度等因素都是稳定性的良好指标。需要强调的是，选择一个解决具体问题的框架，而并非选择最新最热的。 多平台支持 - 在真正的微服务思维中，使用最适合其目的的语言编写企业的服务，目前包...阅读全文
