DevDay 观后感:GPTs 是新的 App Store 吗?

Yicheng 于 2023-11-08 发布

昨晚熬夜看了 OpenAI 的首届 DevDay,Sam Altman 真是把牙膏挤爆了。

GPT-4 Turbo

更长的上下文(128k),更便宜的价格,更快的速度。对于开发者来说,这绝对是利好。之前为了省 token 绞尽脑汁做各种 embedding search,现在很多场景可以直接把整个文档扔进去了。

Json Mode 终于来了!之前为了让 GPT 输出合法的 JSON,要在 Prompt 里各种威胁利诱,现在终于原生支持了。

GPTs & Assistants API

这是重头戏。不需要写代码,通过自然语言就能配置一个专属的 GPT。这大大降低了 Agent 开发的门槛。

但我更关注 Assistants API。Stateful API 的引入意味着我们不需要每次都把整个对话历史传回去了,Thread 管理交给 OpenAI。这对于长对话场景(比如 Coding Copilot)非常关键。

思考

有人说 OpenAI又要干掉一波套壳创业公司(Wrapper Startups)。确实,如果你的核心竞争力仅仅是把 Prompt 包装一下,那确实危险了。但真正的价值在于私有数据业务逻辑

OpenAI 提供了更强的基座,能不能在上面盖出摩天大楼,还是看我们自己。