8.19
自我介紹
問(wèn)最近的一個(gè)實(shí)習(xí)項(xiàng)目，是做口腔大模型的：（側(cè)重于模型訓(xùn)練）
1.數(shù)據(jù)集規(guī)模、篩選和配比
2.超參數(shù)有哪些。學(xué)習(xí)率的選擇，怎么尋找超參。小規(guī)模數(shù)據(jù)，怎么跑的，是串行還是并行。loss曲線(xiàn)怎么看的
3.DeepSpeed介紹，用的什么配置（zero_2）
4.為什么選擇 Qwen1.5-32B-chat （就倆卡，用57B跑的太慢）
5.BLEU-4的計(jì)算公式
5.模型評(píng)估是怎么做的？

第二個(gè)實(shí)習(xí)經(jīng)歷，是做的RAG（側(cè)重于模型底層原理）
1.lora介紹，秩的數(shù)學(xué)意義，怎么計(jì)算矩陣的秩
2.多路召回是怎么實(shí)現(xiàn)的
3.向量模型和重排模型的微調(diào)是怎么做的
4.交叉熵的計(jì)算公式。在前向傳播的時(shí)候?yàn)槭裁催x擇交叉熵作為loss，為什么不用mse（為什么）
5.在模型預(yù)測(cè)的時(shí)候，softmax是把詞表的全部token的概率都?xì)w一化嗎？詞表都很大，怎么加速計(jì)算（我也沒(méi)算過(guò)啊）

本科的項(xiàng)目經(jīng)歷，是一個(gè)微博輿情主題及情感演化的時(shí)空分析，GitHub上500多star。（側(cè)重于項(xiàng)目設(shè)計(jì)思路）
1.項(xiàng)目的選題和意義
2.項(xiàng)目的設(shè)計(jì)框架

算法題：
最大連續(xù)子數(shù)組和。有印象，但是寫(xiě)得太快了沒(méi)定義好，出現(xiàn)了很多bug，在面試官不斷提醒錯(cuò)了后逐步debug出來(lái)了。

沒(méi)咋考RAG，更多的是模型側(cè)的，有些沒(méi)有學(xué)到那么深。應(yīng)用我以為是重點(diǎn)考RAG呢，復(fù)習(xí)重點(diǎn)錯(cuò)了
#快手求職進(jìn)展匯總##你的秋招第一面感覺(jué)怎么樣##九月投秋招是不是太晚了？#