程序员别死背面试八股文了，这种面试题才是未来主流。。。
| 阿里云国内75折 回扣 微信号：monov8 |
| 阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6 |
目录
- 面试官为啥要出这样一个开放式问题
- 生产消费模型及核心数据结构
- 支撑TB级数据写入的分布式架构
- 数据宕机场景下的高可用架构
- 支持数据不丢失的ack机制
- 最后的总结
1、面试官为啥要出这样一个开放式问题
这篇文章简单给大家来聊一个互联网大厂的Java面试题如果让你设计一个消息中间件你会怎么做
其实这个问题之前大致给大家聊过本质就是面试官在考察一个高级以上的Java工程师的系统设计能力。
给你一个平时大家都常用的一个消息中间件作为命题让你现场开放式发挥立马开动脑筋说说如果让你来设计这么一个消息中间件。
让你从整体架构核心流程数据结构等各个层面来考虑你会如何完成这个设计
其实任何一个面试官都应该知道如果一个人没有真的做过消息中间件开发的话是不太可能在短时间内瞬间给出一套特别靠谱的架构设计方案的。
但是用这个题目作为一个开放式命题他最大的好处就是可以尽可能的挖掘出一个候选人的较为真实的系统设计的能力和功底。
为什么这么说呢
因为如果面试的时候很多东西都是一些常见的技术问题比如说
- 消息中间件如何保证数据不丢失
- 聊聊Elasticsearch的架构原理以及性能优化
- 你们公司的微服务架构整体如何设计的
这些问题相对来说都是比较固定的一些问题。
所谓固定的问题就是只要你花费一些时间去学习了相关的技术或者是在自己所在的公司确实有过一些落地的经验通常来说回答出这些问题就不是太大的问题了。
但是这些问题都不够开放如果两个候选人都同样具备常规问题的回答能力那么此时通过一道有深度的开放式问题就可以把几个人里迅速拉开差距找出来到底谁的技术功底更加深厚谁的架构设计能力更加强。
那么本文就从各个角度来引导大家去思考一下假如让你回答这个问题你可以从哪些方面入手来现场做一些考虑和回答
2、生产消费模型以及核心数据结构
首先第一个点消息中间件本身要做的就是可以允许有人来生产消息还可以允许有人来消费这个消息。
那么这里要考虑的第一个点就是消息中间件自己本身的核心数据结构。
也就是说如果有人生产了消息你作为一个消息中间件应该如何存储这个数据
你会存储在内存里呢还是存储在磁盘文件里呢或者两者都同时共存
可以先允许数据写入内存作为一个缓冲然后每隔几秒再把数据刷入磁盘文件中数据刷入磁盘文件之后这个磁盘文件有多少个
你总不能一直搞一个磁盘文件来存放所有的数据吧那么按照什么样的规则对磁盘文件做一个拆分
数据写入磁盘文件之后是不是要有相应的一些metadata来标识这个数据的具体信息比如这个数据的offset偏移量或者是一个内置的唯一id
接着现在数据是被存储在磁盘文件里了那么此时你如何把数据投递到下游的消费者里去呢
你的消费模型是什么样的比如说一个queue里的数据是会均匀分配给消费者的各个实例呢还是会怎么做呢
在这里给大家做一个提示建议大家可以去研究研究比如kafka底层的文件存储原理那是非常经典的高性能高并发消息中间件存储架构的实现。
另外就是可以参考一下rabbitmq和kafka的官网研究一下不同中间件的消费模型是怎么做的。
3、支撑TB级数据写入的分布式架构
接着你应该考虑第二个大的问题就是你的消息中间件肯定会遇到每天TB级海量数据高并发高吞吐写入的场景。
此时你的消息中间件的架构如何支撑呢
所以这里你就要考虑一下你的数据是不是要分布式的存储
比如说假如你一天写入几百TB的数据那不可能都放在一台机器上吧所以数据的分布式存储是不是你要考虑的另外一个很重要的问题
你是不是要考虑把一个大的数据集合做分片存储比如说分成N片数据每个数据分片放在一台机器上这样就可以充分利用多台机器的资源来承载TB级的大量数据了。
此外你还需要考虑你的数据分片是不是要可以支撑扩容
比如你一开始设置的分片数量是10个存在10台机器上。结果现在发现10台机器都扛不住了需要扩容到20个分片放在20台机器上才可以。
那你是不是要支持数据分片的扩容以及自动数据负载均衡迁移也就是10个分片的数据自动均匀分配给扩容后的20个分片。
所以这种分布式以及可伸缩的架构是另外一个非常核心的点。
我个人同样比较建议大家研究一下kafka在这块的架构设计非常的优秀采用了partition的概念实现数据分片支持分布式的数据存储而且还支持动态扩容。
4、数据宕机场景下的高可用架构
大家此时就要考虑另外一个问题了就是一旦数据分布式存储之后那么每台机器上都有一部分数据。
万一这台机器宕机了呢那么数据是不是就丢失了
是的所以高可用的架构在这里就必须考虑到了。
一般分布式系统实现高可用架构都是采用多副本冗余机制
也就是说一份数据在多台机器上都搞一个副本这样任何一台机器宕机了数据肯定不会丢失你还可以继续使用其他机器上的副本数据来支持生产和消费。
同样建议大家研究一下kafka的多副本冗余机制他的每个partition数据分片都是有多个副本的任何一台机器宕机丢失一个数据分片还有其他机器上的副本分片在可以支持数据不丢失。
5、支持数据不丢失的ack机制
最后再考虑一个问题你的消息中间件肯定是要支持数据绝对不丢失的吧
那么你必须要支持生产端和消费端的ack机制这块内容我们之前都用多篇文章讲解过里面的具体的原理大家可以参考一下
在这里你必须考虑两块ack机制一个是生产端一旦投递了消息必须要求他将数据比如写入多个副本之后才返回一个ack回调响应。
否则要是一直没收到ack的话就需要重发一条消息过去保证生产投递成功。
另外一个是消费端一旦消费处理成功一条消息了必须返回一个ack给消息中间件然后消息中间件才能删除这条消息。
否则一旦消费者宕机就必须重发这条消息给其他的消费者实例保证消息一定会被处理成功。
这块如果大家不清楚建议一定重看之前的系列文章我们基于rabbitmq来阐述的这个数据不丢失的全链路ack机制。
6、最后的总结
这种开放式面试题牵扯了大量的底层细节和架构思想非常区分不同人的技术水平。如果你往简单了回答就本文涉及到的一些东西简单说一说基本也能过关。
但是如果你想技压群雄就必须要根据本文每个部分提示的东西真的去对各种MQ中间件的底层源码进行深入的研究然后才能在回答这个问题的时候展现出“碾压其他人”的技术功底和架构实力。