騰訊-混元大模型面經(jīng)-華5碩-主頁(yè)內(nèi)tui??騰訊26屆春招提前批/26屆暑期實(shí)習(xí)生/日常實(shí)習(xí)生/25屆補(bǔ)錄招聘啟動(dòng) | 所有專(zhuān)業(yè)類(lèi)型均有崗位??中國(guó)民營(yíng)企業(yè)500強(qiáng)排行榜第6位【在招崗位】1. 技術(shù)類(lèi)：軟件開(kāi)發(fā)、技術(shù)運(yùn)營(yíng)、安全技術(shù)、測(cè)試與質(zhì)量管理、技術(shù)研究、解決方案與服務(wù)、硬件開(kāi)發(fā)2. 產(chǎn)品類(lèi)：游戲產(chǎn)品、內(nèi)容制作、通用產(chǎn)品、金融產(chǎn)品、項(xiàng)目管理3. 設(shè)計(jì)類(lèi)：游戲美術(shù)、平面交互4. 市場(chǎng)類(lèi)：戰(zhàn)略投資、市場(chǎng)營(yíng)銷(xiāo)、公共關(guān)系、銷(xiāo)售拓展5. 職能類(lèi)：財(cái)經(jīng)分析、人力資源、法律與公共政策、行政支持【招聘范圍】應(yīng)屆生（24屆、25屆可投）、實(shí)習(xí)生（在校生可投）、青云計(jì)劃（23屆/24屆/25屆博士、24屆/25屆碩士）【網(wǎng)申鏈接】https://join.qq.com/resume.html?k=ANQI6RfQ3rhPS2dpyIkeSw騰訊-混元大模型面經(jīng)-華5碩部門(mén)與崗位：TEG - 混元大模型團(tuán)隊(duì) - 大模型對(duì)齊一面自我介紹，過(guò)實(shí)習(xí)，講論文，論文過(guò)的比較細(xì)，有說(shuō)的籠統(tǒng)的地方面試官會(huì)實(shí)時(shí)進(jìn)行詢問(wèn)交流了解哪些大模型，簡(jiǎn)要挑一兩個(gè)介紹一下，當(dāng)時(shí)說(shuō)了 Qwen 和 DeepSeek，然后面試官又問(wèn)了這兩個(gè)有什么區(qū)別接著上一問(wèn)，為什么大家都開(kāi)始探索 MoE 架構(gòu)，MoE 相比 Dense 有什么好處在之前實(shí)習(xí)的時(shí)候用 LoRA 微調(diào)過(guò) Qwen，于是問(wèn)了有沒(méi)有全量微調(diào)過(guò)，有沒(méi)有對(duì)比過(guò)兩者的性能表現(xiàn)講一下大模型訓(xùn)練和推理的流程，SFT 和 RLHF 的作用分別是什么在 RLHF 中，目前主流的強(qiáng)化學(xué)習(xí)算法有哪幾個(gè)，寫(xiě)一下?lián)p失函數(shù)的表達(dá)式代碼：22. 括號(hào)生成代碼：多頭自注意力一面問(wèn)的八股還是比較多的，問(wèn)的也比較細(xì)，而且還寫(xiě)了兩道代碼題，整個(gè)面試花的時(shí)間也比較多，大概一個(gè)半小時(shí)左右二面自我介紹，過(guò)實(shí)習(xí)和論文，面試官會(huì)一起進(jìn)行探討，包括工作的動(dòng)機(jī)、貢獻(xiàn)和結(jié)果，也會(huì)提一些問(wèn)題和建議之前實(shí)習(xí)用 DeepSpeed 微調(diào)過(guò) Qwen2-72B，于是面試官問(wèn)了 ZeRO-1，ZeRO-2，ZeRO-3 三個(gè)模式的區(qū)別當(dāng)時(shí)你用 DeepSpeed ZeRO-3 來(lái)微調(diào) Qwen2-72B，每一張卡占用的顯存大概是多少，估算一下為什么是占這么多的顯存除了 DeepSpeed，還用過(guò)其他的什么優(yōu)化方法嗎我看你也用到了 LoRA，知道 LoRA 的原理嗎，A 和 B 兩個(gè)矩陣怎么初始化，有了解過(guò)其他的初始化方法嗎對(duì) RLHF 了解的多嗎代碼：3. 無(wú)重復(fù)字符的最長(zhǎng)子串二面更多的是結(jié)合具體的工作來(lái)問(wèn)的，從用到的東西來(lái)引出問(wèn)題，問(wèn)的也比較靈活。當(dāng)然因?yàn)椴块T(mén)主要是做對(duì)齊的，所以也大概聊了聊 RLHF三面自我介紹，挑一個(gè)覺(jué)得做的比較好的論文和實(shí)習(xí)講一下，面試官問(wèn)的比較詳細(xì)，為什么選現(xiàn)在這種方案，為什么 work，其他方案有考慮嗎在微調(diào) Qwen 的時(shí)候，數(shù)據(jù)是怎么構(gòu)造的，有用到什么數(shù)據(jù)清洗方法嗎，數(shù)據(jù)配比是怎么做的講一下 RLHF 的流程，之前有用 RLHF 做過(guò)模型對(duì)齊嗎在做對(duì)齊的時(shí)候，為什么 SFT 之后還要做 RLHF，只用 SFT 可以嗎知道哪些強(qiáng)化學(xué)習(xí)算法，除了 PPO 和 DPO 這些呢，DeepSeek 用的 GRPO 相比于 GPT 的 PPO 做了哪些改進(jìn)開(kāi)放題：對(duì)目前大模型的發(fā)展有什么看法代碼：零錢(qián)的兩個(gè)題 322. 零錢(qián)兌換518. 零錢(qián)兌換 II三面面試官更聚焦于對(duì)齊這一塊的內(nèi)容，考的比較深。由于之前沒(méi)有接觸過(guò)強(qiáng)化學(xué)習(xí)，答得還是比較吃力的，不過(guò)面試官還挺好的，會(huì)一起討論來(lái)做引導(dǎo)四面自我介紹，過(guò)論文和實(shí)習(xí)，問(wèn)的也比較細(xì)，這里能明顯的感受出來(lái)面試官的視角更系統(tǒng)，會(huì)把這些工作串起來(lái)問(wèn)我看你簡(jiǎn)歷上沒(méi)寫(xiě) RLHF，平常有用過(guò) RLHF 嗎推導(dǎo)一下神經(jīng)網(wǎng)絡(luò)反向傳播的過(guò)程一道排列組合的概率題開(kāi)放題：你覺(jué)得大模型目前還有哪些可以改進(jìn)的點(diǎn)四面整體更看重思維和基礎(chǔ)，沒(méi)有考察什么八股總結(jié)一共四輪技術(shù)面，整體來(lái)說(shuō)強(qiáng)度比較大，對(duì)于大模型八股的考察比較細(xì)，對(duì)大模型的理解問(wèn)的也比較深刻，包括一些數(shù)理邏輯基礎(chǔ)，考察的比較全面#26屆實(shí)習(xí)##大模型##八股##面經(jīng)##騰訊##內(nèi)推#騰訊-混元大模型面經(jīng)-華5碩-主頁(yè)內(nèi)tui騰訊-混元大模型面經(jīng)-華5碩-主頁(yè)內(nèi)tui??騰訊26屆春招提前批/26屆暑期實(shí)習(xí)生/日常實(shí)習(xí)生/25屆補(bǔ)錄招聘啟動(dòng) | 所有專(zhuān)業(yè)類(lèi)型均有崗位??中國(guó)民營(yíng)企業(yè)500強(qiáng)排行榜第6位【在招崗位】1. 技術(shù)類(lèi)：軟件開(kāi)發(fā)、技術(shù)運(yùn)營(yíng)、安全技術(shù)、測(cè)試與質(zhì)量管理、技術(shù)研究、解決方案與服務(wù)、硬件開(kāi)發(fā)2. 產(chǎn)品類(lèi)：游戲產(chǎn)品、內(nèi)容制作、通用產(chǎn)品、金融產(chǎn)品、項(xiàng)目管理3. 設(shè)計(jì)類(lèi)：游戲美術(shù)、平面交互4. 市場(chǎng)類(lèi)：戰(zhàn)略投資、市場(chǎng)營(yíng)銷(xiāo)、公共關(guān)系、銷(xiāo)售拓展5. 職能類(lèi)：財(cái)經(jīng)分析、人力資源、法律與公共政策、行政支持【招聘范圍】應(yīng)屆生（24屆、25屆可投）、實(shí)習(xí)生（在校生可投）、青云計(jì)劃（23屆/24屆/25屆博士、24屆/25屆碩士）【網(wǎng)申鏈接】https://join.qq.com/resume.html?k=ANQI6RfQ3rhPS2dpyIkeSw騰訊-混元大模型面經(jīng)-華5碩部門(mén)與崗位：TEG - 混元大模型團(tuán)隊(duì) - 大模型對(duì)齊一面自我介紹，過(guò)實(shí)習(xí)，講論文，論文過(guò)的比較細(xì)，有說(shuō)的籠統(tǒng)的地方面試官會(huì)實(shí)時(shí)進(jìn)行詢問(wèn)交流了解哪些大模型，簡(jiǎn)要挑一兩個(gè)介紹一下，當(dāng)時(shí)說(shuō)了 Qwen 和 DeepSeek，然后面試官又問(wèn)了這兩個(gè)有什么區(qū)別接著上一問(wèn)，為什么大家都開(kāi)始探索 MoE 架構(gòu)，MoE 相比 Dense 有什么好處在之前實(shí)習(xí)的時(shí)候用 LoRA 微調(diào)過(guò) Qwen，于是問(wèn)了有沒(méi)有全量微調(diào)過(guò)，有沒(méi)有對(duì)比過(guò)兩者的性能表現(xiàn)講一下大模型訓(xùn)練和推理的流程，SFT 和 RLHF 的作用分別是什么在 RLHF 中，目前主流的強(qiáng)化學(xué)習(xí)算法有哪幾個(gè)，寫(xiě)一下?lián)p失函數(shù)的表達(dá)式代碼：22. 括號(hào)生成代碼：多頭自注意力一面問(wèn)的八股還是比較多的，問(wèn)的也比較細(xì)，而且還寫(xiě)了兩道代碼題，整個(gè)面試花的時(shí)間也比較多，大概一個(gè)半小時(shí)左右二面自我介紹，過(guò)實(shí)習(xí)和論文，面試官會(huì)一起進(jìn)行探討，包括工作的動(dòng)機(jī)、貢獻(xiàn)和結(jié)果，也會(huì)提一些問(wèn)題和建議之前實(shí)習(xí)用 DeepSpeed 微調(diào)過(guò) Qwen2-72B，于是面試官問(wèn)了 ZeRO-1，ZeRO-2，ZeRO-3 三個(gè)模式的區(qū)別當(dāng)時(shí)你用 DeepSpeed ZeRO-3 來(lái)微調(diào) Qwen2-72B，每一張卡占用的顯存大概是多少，估算一下為什么是占這么多的顯存除了 DeepSpeed，還用過(guò)其他的什么優(yōu)化方法嗎我看你也用到了 LoRA，知道 LoRA 的原理嗎，A 和 B 兩個(gè)矩陣怎么初始化，有了解過(guò)其他的初始化方法嗎對(duì) RLHF 了解的多嗎代碼：3. 無(wú)重復(fù)字符的最長(zhǎng)子串二面更多的是結(jié)合具體的工作來(lái)問(wèn)的，從用到的東西來(lái)引出問(wèn)題，問(wèn)的也比較靈活。當(dāng)然因?yàn)椴块T(mén)主要是做對(duì)齊的，所以也大概聊了聊 RLHF三面自我介紹，挑一個(gè)覺(jué)得做的比較好的論文和實(shí)習(xí)講一下，面試官問(wèn)的比較詳細(xì)，為什么選現(xiàn)在這種方案，為什么 work，其他方案有考慮嗎在微調(diào) Qwen 的時(shí)候，數(shù)據(jù)是怎么構(gòu)造的，有用到什么數(shù)據(jù)清洗方法嗎，數(shù)據(jù)配比是怎么做的講一下 RLHF 的流程，之前有用 RLHF 做過(guò)模型對(duì)齊嗎在做對(duì)齊的時(shí)候，為什么 SFT 之后還要做 RLHF，只用 SFT 可以嗎知道哪些強(qiáng)化學(xué)習(xí)算法，除了 PPO 和 DPO 這些呢，DeepSeek 用的 GRPO 相比于 GPT 的 PPO 做了哪些改進(jìn)開(kāi)放題：對(duì)目前大模型的發(fā)展有什么看法代碼：零錢(qián)的兩個(gè)題 322. 零錢(qián)兌換518. 零錢(qián)兌換 II三面面試官更聚焦于對(duì)齊這一塊的內(nèi)容，考的比較深。由于之前沒(méi)有接觸過(guò)強(qiáng)化學(xué)習(xí)，答得還是比較吃力的，不過(guò)面試官還挺好的，會(huì)一起討論來(lái)做引導(dǎo)四面自我介紹，過(guò)論文和實(shí)習(xí)，問(wèn)的也比較細(xì)，這里能明顯的感受出來(lái)面試官的視角更系統(tǒng)，會(huì)把這些工作串起來(lái)問(wèn)我看你簡(jiǎn)歷上沒(méi)寫(xiě) RLHF，平常有用過(guò) RLHF 嗎推導(dǎo)一下神經(jīng)網(wǎng)絡(luò)反向傳播的過(guò)程一道排列組合的概率題開(kāi)放題：你覺(jué)得大模型目前還有哪些可以改進(jìn)的點(diǎn)四面整體更看重思維和基礎(chǔ)，沒(méi)有考察什么八股總結(jié)一共四輪技術(shù)面，整體來(lái)說(shuō)強(qiáng)度比較大，對(duì)于大模型八股的考察比較細(xì)，對(duì)大模型的理解問(wèn)的也比較深刻，包括一些數(shù)理邏輯基礎(chǔ)，考察的比較全面#26屆實(shí)習(xí)##大模型##八股##面經(jīng)##騰訊##內(nèi)推#

大綱1.Seata分布式事務(wù)框架簡(jiǎn)介2.Seata AT模式實(shí)現(xiàn)分布式事務(wù)的機(jī)制3.Seata AT模式下的寫(xiě)隔離機(jī)制4.Seata AT模式下的讀隔離機(jī)制5.官網(wǎng)示例說(shuō)明Seata AT模式的工作機(jī)制6.Seata TCC模式的介紹以及與AT模式區(qū)別7.Seata Saga模式的介紹8.單服務(wù)多個(gè)庫(kù)的分布式事務(wù)支持9.Seata的AT、TCC、Saga三種模式對(duì)比10.基于RocketMQ的可靠消息最終一致性事務(wù)11.Seata官方分布式事務(wù)例子1.Seata分布式事務(wù)框架簡(jiǎn)介(1)Seata的特色功能(2)Seata的術(shù)語(yǔ)Seata是一款分布式事務(wù)解決方案，為用戶提供了AT、TCC、SAG...

#?？虯I配圖神器## 更新：掛---## 限流1. 你是用 Sentinel 做了限流是吧？然后你用的限流算法是什么？  2. 除了滑動(dòng)窗口算法，你還知道哪些限流算法？  3. 你的 Sentinel 默認(rèn)給他做了實(shí)現(xiàn)，選擇令牌桶或者漏桶算法，用 Redis 來(lái)實(shí)現(xiàn)一下？  4. 直接點(diǎn)來(lái)說(shuō)，你用了哪些 Redis 的命令？怎么設(shè)計(jì)的？---## JWT5. 說(shuō)一下分布式集群的身份認(rèn)證難題，你的難題是在哪？  6. 你在保存客戶端的是什么信息？把用戶信息保存在哪？會(huì)不會(huì)被破解了？  7. 這個(gè)的問(wèn)題是不是可以用更簡(jiǎn)單的方式去解決？  8. 把 session 保存在 Redis 中，如果用 Spring Boot 來(lái)實(shí)現(xiàn)怎么做？---## RingBuff9. 講講環(huán)形隊(duì)列的數(shù)據(jù)結(jié)構(gòu)？  10. 就是說(shuō)環(huán)形隊(duì)列的一個(gè)具體數(shù)據(jù)模型，比如說(shuō)你要手寫(xiě)一個(gè)環(huán)形隊(duì)列，要寫(xiě)哪些屬性？  11. 各個(gè)方法做了什么操作？  12. 指針怎么移動(dòng)的，環(huán)形隊(duì)列的詳細(xì)細(xì)節(jié)？---## TreeMap13. 看你說(shuō)用 TreeMap 來(lái)解決一個(gè)快速匹配的訂單需求，說(shuō)一下具體的事情？  14. 交易的時(shí)候，比如說(shuō)我以 a 價(jià)格是吧，交易 5 手，要賣(mài)買(mǎi)入 5 手是吧？你看現(xiàn)在要進(jìn)行撮合，然后可能去賣(mài)普通里面有一個(gè)也是 a 價(jià)格賣(mài)出，對(duì)吧？但是他需要賣(mài)出 10 手，這時(shí)候你就你是具體代碼做的是哪個(gè)操作？  15. 在這個(gè)掛單系統(tǒng)中，買(mǎi)家和賣(mài)家肯定發(fā)生了一筆交易訂單，TreeMap 相當(dāng)于一個(gè)本地緩存，怎么保存它的一致性？  16. 你說(shuō)的是一個(gè)常規(guī)的旁路緩存的一個(gè)思路，但是在你這個(gè)系統(tǒng)中，你的 TreeMap 數(shù)據(jù)結(jié)構(gòu)的更新應(yīng)該是怎樣的？  17. 只要有一個(gè)訂單來(lái)，你就開(kāi)始去做，相當(dāng)于有一個(gè)訂單提交接口，我們提交了一個(gè)買(mǎi)單或者一個(gè)賣(mài)單，然后你同步去完成這個(gè)事情？（這里確實(shí)是有點(diǎn)緊張了，我是用 RocketMQ 異步來(lái)完成的，但是沒(méi)說(shuō)出來(lái)）---## 分布式18. 異步寫(xiě)回?cái)?shù)據(jù)庫(kù)消息會(huì)丟失嗎？（這里應(yīng)該是想問(wèn)消息丟失的解決方法，結(jié)果我說(shuō)簡(jiǎn)單的情況不會(huì)丟失）  19. 消息會(huì)重復(fù)嗎？  20. 分布式鎖是吧？你還提到了事務(wù)消息，那就簡(jiǎn)單說(shuō)一下什么叫事務(wù)消息？（沒(méi)事給自己挖坑）  21. 分布式事務(wù)的一致性有幾種實(shí)現(xiàn)方式？（只記得一個(gè)兩階段提交）---## 點(diǎn)評(píng)22. 用 ThreadLocal 和攔截器來(lái)做 token 校驗(yàn)，說(shuō)一說(shuō)具體的場(chǎng)景和具體的實(shí)現(xiàn)？  23. 你用 ThreadLocal 來(lái)解決什么問(wèn)題？  24. 攔截器具體指的是什么的攔截？（有點(diǎn)腦子不轉(zhuǎn)了）---## 手撕- N 皇后---## 總結(jié)1. 因?yàn)榭磩e人的面經(jīng)基本上都是八股，所以這兩天主要準(zhǔn)備的都是八股的問(wèn)題，項(xiàng)目來(lái)說(shuō)還是不太熟吧，當(dāng)然他問(wèn)的問(wèn)題。感覺(jué)也比較隨性和有的地方比較偏。當(dāng)然自身對(duì)項(xiàng)目的熟悉程度還是不夠，所以接下來(lái)還要深入去學(xué)習(xí)和理解。  2. 還有就是有些問(wèn)題的表述不夠清晰，甚至來(lái)說(shuō)比較混亂，所以還是要多練習(xí)表達(dá)吧。

??面試公司：快手??面試崗位： java 開(kāi)發(fā)??面試問(wèn)題：一面自我介紹+項(xiàng)目分層緩存架構(gòu)數(shù)據(jù)如果只存在 redis 中可以嗎 DB 中的寫(xiě)壓力MQ 有消息積壓?jiǎn)酓B 的 TPS怎么分庫(kù)分表的讀寫(xiě)分離如果你們的redis中要新增一個(gè)數(shù)據(jù)，是怎么做的怎么做的異步重試redis 中是什么形式來(lái)存的數(shù)據(jù)如果突然有很多數(shù)據(jù)要寫(xiě)進(jìn)redis了，有什么措施如果緩存了 5 頁(yè)數(shù)據(jù)，這個(gè)時(shí)候新增加了一條，會(huì)發(fā)生什么每臺(tái)實(shí)例上的本地緩存都要存儲(chǔ)所有的數(shù)據(jù)信息嗎如果數(shù)據(jù)越來(lái)越多會(huì)對(duì)本地緩存造成什么影響本地緩存淘汰策略秒殺場(chǎng)景下單全流程庫(kù)存回刷有一筆訂單用戶取消了，這個(gè)時(shí)候 redis 成功了但是數(shù)據(jù)庫(kù)沒(méi)成功，會(huì)...