数据库/存储学习路径推荐

2023-02-04 14:50:21 +08:00
 roseduan

数据库 /存储学习路径推荐

我自己就是从业务自学转入数据库内核研发岗位的,根据自己的经历,简单总结了一下入门数据库相关的学习路线、学习资料、项目书籍推荐等,大家可以参考。

必看课程

CMU-15445 和 CMU-15721

https://www.youtube.com/@CMUDatabaseGroup

这两个不用多说,经典的数据库入门教程,由数据库的大佬 Andy Pavlo 亲自授课。可以了解到数据库的基本概念,例如存储、BufferPool 管理、索引、优化器、执行器、事务、MVCC 等。

15445 的实验部分是基于其开源的教学项目 bustub,补全其中几个重要的部分,这个项目是 C++ 写的,如果对 C++ 不熟悉的话,那么我觉得实验部分可以暂时跳过,有多余的精力再来搞,毕竟我们是来学数据库的,而不是学 C++ 的。

存储小项目

学习教学课程的同时,顺便可以了解下存储方面的内容,例如 B+ 树,bitcask ,LSM Tree ,以及 LSM Tree 的优化 Wisckey ,不用专门去学,找几篇文章看看,了解下基本概念,或者直接看看论文。

然后自己去实践写一个,例如写一个简单的 bitcask 、B+ 树存储引擎,或者 LSM 存储引擎。

之所以推荐写存储类的小项目,主要是因为存储层的 KV 一般比较好实现,同时又能够了解到一些数据库的基本设计理念。

这里推荐下我的两个项目:

https://github.com/flower-corp/rosedb

https://github.com/flower-corp/lotusdb

事务 /MVCC

这部分网上的资料比较多,可以看看事务的一些基本概念 ACID ,然后看看如何去实现的,可以借鉴其他数据库例如 MySQL 、PostgreSQL ,关于事务实现原理分析这方面的文章比较多。

概念了解差不多之后,可以自己动手实现,例如可以在自己写的存储项目的基础上,加上事务的功能,保证事务原子性、隔离性,以及并发读写的性能,自己上手撸肯定比只了解理论好很多。

其他的一些部分,例如 parser 、执行器、优化器、向量化等等,比较复杂,自己从头搞一个的难度比较大,我觉得可以简单看看资料,了解一下基本概念,工作之中再针对性的查漏补缺。

当然如果你对某个部分特别感兴趣的话,比如优化器之类的,也可以多去了解然后自己实践,我这里推荐存储和事务的实现,是因为相对来说比较容易上手。

分布式

这部分内容首推 Mit.6824 ,分布式系统入门的首选课程。

https://www.youtube.com/@6.824/videos

有精力的话可以跟着把实验部分做完。

然后可以挑战下 PingCAP 的 talent plan 中的 TinyKV ,它和 6824 的实验部分比较类似,实现一个基于 raft 的分布式 KV 存储系统,难度比较大,但是代码框架已经搭好了,只需要往里面添加内容即可,测试也比较完备。

https://github.com/talent-plan/tinykv

如果还有时间的话,可以再上一个台阶,挑战下 PingCAP talent plan 的 TinySQL 项目,主要是实现一个简单的分布式数据库项目,有完备的文字教程

https://github.com/talent-plan/tinysql

工作或实习

当然,其实最好的办法,还是能够直接参与到工作实践当中,这样学习起来是最快的,可以向 leader 请教,和同事交流等。

如果自身又没有太多经验的话,可以试试那些愿意接纳转数据库内核的公司,这可能会要求你有其他亮眼的东西了,比如基础比较扎实,折腾过自己的项目之类的。

能把上面提到的这些东西认真学习下,完成个 60% 左右,我觉得应对一些面试就应该没有太大的问题了。


为了帮助你更高效的学习,我还整理了一份数据库开发的学习资料,数据库的各个方面都涉及到了,例如 SQL 、优化器、执行引擎、存储等等,包含一些优质的书籍、论文、视频课程、博客等,还有一些优质的教学类项目。

总计十几页的 PDF ,一次性送给你,方便提升学习效率。还有一些关于数据库方面的优质 PDF 书籍,可以参考学习:这份学习资料 PDF 和所有的书籍都可以在我的公众号领取,后台回复关键字 [数据库] 。

3679 次点击
所在节点    程序员
10 条回复
ETCartman
2023-02-04 15:03:44 +08:00
感谢分享:)
guanzhangzhang
2023-02-04 15:19:46 +08:00
来我收藏夹吃灰吧
SolarAA
2023-02-04 15:32:47 +08:00
感谢大佬~
Jason0803
2023-02-04 17:28:03 +08:00
好多存储引擎开发相关的工作都转 Rust 了
littlewing
2023-02-04 18:43:54 +08:00
分享一本关于数据库事务的书,Jim Gray 的《 Transaction Processing: Concepts and Techniques 》
roseduan
2023-02-04 20:08:25 +08:00
@littlewing 感谢分享
littlewing
2023-02-04 23:23:20 +08:00
bigbyto
2023-02-04 23:50:49 +08:00
看了下楼主经历,很强,让吾辈汗颜。
roseduan
2023-02-05 08:48:24 +08:00
@bigbyto 也没有哦,一起加油!
notvalid
2023-03-06 00:03:28 +08:00
收藏学习,非常感谢大佬分析分享。
我原本也是数据分析师,现在在转数据工程师的途中,正好可以学习到。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/913147

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX