WEWeb Worker-AI程序员都爱听2026年3月16日· 3:00

No.91 Kaiyi几十场AI面试后的总结:怎么成为懂 AI 的人

Kaiyi在加拿大微软GitHub Copilot团队工作,带着几十场AI面试经验做客本期节目,系统回答“怎样成为懂AI的人”。他从大模型是“下一个词预测器”讲起:Temperature参数设0会百分百选择概率最高的词,输出稳定但呆板,调高则增加创造力但不确定性提升,因此翻译、数学题应设最低,创意写作应调高;他还解释Top-k=2指只从概率最高的前两个词中选择,Top-k=10则从前10个词中选,OpenAI官方文档建议不要同时调整Temperature和Top-k,因为二者本质影响同一件事,应固定一个再调另一个。他详解Cache机制:每生成一个词都要把已生成内容重新送回模型,缓存已处理token后,命中缓存的API价格远低于未命中,DeepSeek等模型的缓存价格因此能降得非常低,开发者应主动设计对话流提高缓存命中率。他对比Codex与Claude:Codex慢但代码直接可用,Claude快但有时不可用,有朋友直接充值200美元Codex;他还用哈利波特测试指出,把整本《哈利波特与魔法石》塞进上下文后,即使模型拥有全部答案,召回能力也会急剧下降、智能一定下降。最后他梳理了RAG最佳实践,包括Query重写、Re-rank等步骤,并强调理解原理、动手实践才能真正成为懂AI的人。

文字稿

片头0:00

Guest0:03

Web Worker。

Host0:05

Kaiyi, 你觉得刚才我们讲的这些部分 , 哪些东西比较重要 , 或哪些东西比较有趣 , 作为听众是适合去听 , 然后我可以放在片头去做介绍你们这期节目的 ?

核心探讨0:16

Kaiyi0:16

OK。 我认为抛开我们闲聊 ,是更多这种就是我们感受上的 , 我们的一些闲聊 , 然后在最核心的知识部分 , 我们去聊了大模型是什么 ,agent 是什么 , 然后 Copilot 到 Cursor 到 Claude Code 到未来的 , 这个过程中抛开它最表面的一些东西 , 它核心发生了什么样的范式转变 , 让一代超过另一代 。

那我觉得这些知识 , 我们提到的这些 , 包括我们怎么去做实践 , 这些东西是如何让你变成懂 AI 的一个人。

我觉得这期节目回答了一个点 , 就是我朋友问我 " 怎么样才能懂 AI", 我觉得我们这期节目并不是给你一个完整到手把手的一个答案 , 我们是告诉你在这个过程中你要去学什么 , 你要去理解什么 , 然后我们把我们的理解分享给你 , 然后你逐渐变成一个懂 AI 的人。

懂AI0:49

Kaiyi1:05

我可以说就是我基本靠这个节目去分享的我的所有的理解 , 找到了 , 拿到了很多很多 offer, 所以我觉得如果你们听完这期节目 , 然后你跟着我们的思路去做探索 , 我觉得是至少可以尝试去跟上下这一波 AI 的浪潮的 。

听众分类1:21

Host1:21

对 。 我觉得这个从另一个角度我们也可以去看 , 听众中可能分成对 AI 比较狂热和对 AI 没有那么追心的人。

那对 AI 比较狂热的人, 可以把这期节目作为你站在 2022 年初 1 月份的时候的一个最低要求 , 那我们聊的所有事情你应该可能玩过或已经在感受了 , 可以通过这期节目来 push 你去插入补缺 , 对不了解的部分做一个补齐 。

那我们也算是站在当下的一个最新或者一个最基础的一个介绍 。 那对 AI 不是很熟悉的朋友 , 那就是一个可能就算相当于一个干货大礼包 , 我们讲的很多东西是有很多话题是可以延伸的 ,也是可以指明了比较清晰的路线去做如何去做实践 。

那朋友们 , 前年开翼在我们节目里面讲了 LangChain, 如果那时候你对 LangChain 是有过实践和一些工程化的实践的话 , 那你是人长杀人, 佛长杀佛 。

LangChain回顾2:05

Host2:21

那站在 2022 年年初 , 如果你对 AI 的这些基本能力和实践 , 还有最佳实践 , 还有自己的感触 ,有自己的一套独特的理解和实践感受的话 , 我认为站在当下也是非常有竞争力的 。

那如果我们半年后再听 , 一年后再听 , 可能很多东西就变成一个八卦 , 或变成了一个预测来回顾了 , 就少了很多当下现在立刻就听的一些有价值的点 。

节目开场2:47

Host2:47

好 , 我们开始吧 。Hi, 大家好 , 新一期的微播和播客又来了 。 微播和播客是几个全蛋程序员闲聊的音频播客节目 , 这次呢我们是在线下进行的录制 , 我们这会儿在生态线下的录音间 ,在 。