【部分观点记录】翁家翌:OpenAI,GPT,强化学习,Infra,后训练,天授,tuixue,开源,CMU,清华 | WhynotTVPodcast

371 字
1 min read
标签: Interviews with Experts

来源:【哔哩哔哩】 https://b23.tv/wkzOQYj

这位技术大佬很多观点挺有意思,来自在 AI 工程技术方向的视角,很有共鸣,还爆了挺多 OpenAI 内幕 😂。

  1. Impact 导向,做开源、工具不是装饰,而是想通过个人能力规模化的帮助更多人。
  2. 信息差是结构性问题,想要打破信息差,做信息平权。
  3. 如果一个项目从头到尾都能保持一致性,它就是一个好项目。
  4. 很多人共同贡献一个项目,可能一些假设不能很好传递,时间长了就会腐化。
  5. 每家 Infra 都有不同程度的 bug,谁修的 bug 越多,谁模型训的就越好。
  6. 很多 research lab 的前沿探索,拼的都是 Infra 正确性,然后看单位时间内能迭代多少次。
  7. Infra 决定了迭代速度,迭代速度决定了公司生死存亡。
  8. idea 非常便宜,重要的是单位时间内验证的有效 idea 的数量。
  9. AI 先取代 researchers,之后是 infraers。
  10. 如果你想进工业界,那么读 phd 就是浪费生命。
  11. 在健康的组织里,每个人都可被替换。
  12. 给另外一个人我现在的 context,他也能胜任我的位置。
  13. 非常确信宿命论,世界在演绎必然的确定剧本。
  14. 上帝微观掷骰子,宏观不掷骰子。