设为首页 - 加入收藏 武汉站长网 (http://www.027zz.com)- 国内知名站长资讯网站,提供最新最全的站长资讯,创业经验,网站建设等!
热搜: 2019 javascript 2018 为什么
当前位置: 首页 > 运营中心 > 建站资源 > 优化 > 正文

Redis不是只有5种基本mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型?

发布时间:2019-11-14 01:14 所属栏目:[优化] 来源:IT知识课堂
导读:面试官: 我看你简历上说在你的项目中使用了 Redis,并使用它做了缓存,你能给我介绍一下 Redis 的五种基本mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型吗? 于是说道:emmm,Redis 中有 string字符串,hash哈希,list列表,set无序集合,zset有序集合,这五种mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型。 面试官:除了这五种基

面试官: 我看你简历上说在你的项目中使用了 Redis,并使用它做了缓存,你能给我介绍一下 Redis 的五种基本mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型吗?

于是说道:emmm,Redis 中有 string字符串,hash哈希,list列表,set无序集合,zset有序集合,这五种mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型。

面试官:除了这五种基本mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型你还了解过其他 Redis 提供的额外的mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型吗?你说你用 Redis 做了缓存,比如我现在查询用户用一个本来就不会存在的 ID 去调你接口,这样的 缓存穿透 如何防范呢?

没办法了硬着头皮往上怼:emm, 有了解过 bitMap,缓存穿透我没接触过。

面试官:那你有使用过 bitMap 实现什么功能么?

面试者心里想:完了完了,这场凉了,都怪 FrancisQ ,回去找他算账。

心里已经凉凉:没有。。。

写在前面的话

其实 FrancisQ 只是一个没有参加面试过的小白,在读大三,想明年暑期实习,所以在学习之余会写一些文章进行分享并自我总结(不为赚钱),如果觉得 FrancisQ 写的还不错的话,给我点个赞哦 (#^.^#),其实我只是想早日到 LV4。当然我还有分享其他文章比如 SSM框架的原理解析和实现 ,MySQL 等等,如果感兴趣的也可以关注我。

当然各位大佬有实习岗位的可以帮帮我哈,哈哈哈。

多余的话不多说,今天给大家带来的是 Redis 中的四种特殊的mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注结构 bitmap,hyperLogLog,bloomFilter,GeoHash 。这四种mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注结构其实有点类似于算法层面了,比如 GeoHash 其实就是一个 zset,bitmap 就是 string,只是使用的方法不同导致了更多的功能。

BloomFilter

介绍以及场景使用

对 BloomFilter 不熟悉的话,对下面的图片大家肯定很熟悉吧?别告诉我你只玩过 王者农药 。

Redis不是只有5种基本mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型?

BloomFilter 中文名就是 布隆过滤器,作为过滤器,有没有感觉很像 LOL 中布隆的 E技能(坚不可摧) ?

布隆过滤器是一个叫 布隆 的人提出来的,它是通过一个 大型位数组和几个不同的hash函数 来实现的,我们可以把布隆过滤器理解为一个 不精确的set 。我们都知道 set 可以去重,使用 set 可以帮我们判断集合中是否已经存在某些元素并且或者帮我们实现去重功能。

但是,set 提供精确的去重功能的同时也给我们带来了一个更大的问题——空间消耗。

比如这个时候我们进行网页爬虫,需要对爬过的 url 进行去重以避免爬到已经爬过的网站,如果我们使用 set 那么也就意味着我们需要将所有爬过的 url 放入集合中,假设一个 url 64字节,那么一亿个 url 意味着我们需要占用 6GB,十亿就是 60GB 左右。

  • 请注意,是内存。

比如这个时候我们要进行垃圾邮件或者垃圾短信的过滤,我们需要从数十亿个垃圾邮件列表或者垃圾电话列表中进行判断此时的邮件或者短信是否是垃圾的。如果我们此时使用 set 那么占用空间不用我多说了,也是 百GB级别 的。

上面的面试中我提到了 缓存穿透 ,用户故意请求mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注库本来就不存在的(比如ID = -1),这个时候如果不做处理那么肯定会穿透缓存去查询mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注库,一个查询还好,如果几千,几万个同时进来呢?你的mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注库顶得住吗?那么此时我们使用 set 进行处理,占用那么多内存空间,你觉得值得吗???或者说,还有没有更好的方法了?

上面所讲的三个典型场景,网站去重,垃圾邮件过滤,缓存穿透 ,这三个只要使用 BloomFilter 就能完美解决。

你有没有发现,上面三个场景其实对精度要求都不是很高,尤其是垃圾邮件过滤,其实偶尔收到几个垃圾邮件也无所谓的。像缓存穿透,也正好符合了 BloomFilter 的一个特性 他说有的不一定有,他说没有的肯定没有,我说你这个 ID 在mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注库不存在那就真的不存在,老子把你过滤了就是这么自信,怎么,你打我???

原理探究

聊了这么久的概念和应用场景,是不是还对 BloomFilter 怎么能进行去重的还是一脸懵逼? 下面我们就聊一聊 BloomFilter 的实现原理。首先给大家放一张结构图。

Redis不是只有5种基本mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注类型?

其中 F、G、H 是几种 无偏 Hash 函数,底下是一个 大型的位数组,当我们向 BloomFilter 添加mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注的时候,它首先会将我们的mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注(key)做几次hash运算(这里就是FGH),每个hash运算都会得到一个不用的位数组索引下标,此时我们就将算出的几个下标的位置的值改成1就行。如果判断元素是否存在,只要 判断所在的所有索引下标的值都是1 就行了。

其实你也发现了,在 BloomFilter 中会出现不同key所算出的下标重复了,如上图所示,这就是误差的来源( 你可以配置初始大小和错误率来控制误差 )也是他说有的不一定有,他说没有的肯定没有 这一特性的根本原因,因为如果全是0或者存在0那么肯定不存在,如果全是1也有可能是别的几个key给放进去的1。

基本使用

因为 BloomFilter 是 Redis 的扩展模块,所以需要额外下载,你可以使用 Docker 进行拉取。安装步骤我不做详细解释,你可以到它的github上学习怎么安装

安装完之后我们就可以愉快的使用啦。

  • bf.add key element 添加
  • bf.exists key element 判断是否存在
  • bf.madd key element1 element2 ... 批量添加
  • bf.mexists key element1 element2 ... 批量判断

命令很简单,你可以自己去尝试。

HyperLogLog

介绍以及场景使用

在 Redis 中还有一个会存在误差的mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注结构 HyperLogLog。

我们首先思考一个场景,当老板让我们计算页面的 UV 我们该怎么办?

如果访问量不大使用 set 进行用户去重完全可以,但是访问量如果有几百万,几千万,那么就会又遇到上面提到的 浪费空间 的问题。如果我们这个时候有一个能 进行去重且能进行计数的mobile365体育在线投注_365bet体育投注吧_beta365体育在线投注结构就好了。

这个时候 HyperLogLog 就闪亮登场了!它能提供不精确的去重计数方案(误差值在 0.81% 左右),不精确就不精确哇,UV 要你多精确?0.81%我们也能接受。最重要的是 HyperLogLog 只占用 12KB 的内存。

使用方法和场景实践

  • pfadd key element 添加
  • pfcount key 计算
  • pfmerge destkey sourcekey1 sourcekey2 ... 合并

命令都是 pf 开头是因为这是一个名叫 Philippe Flajolet 的教授发明的。

【免责声明】本站内容转载自互联网,其相关言论仅代表作者个人观点绝非权威,不代表本站立场。如您发现内容存在版权问题,请提交相关链接至邮箱:bqsm@foxmail.com,我们将及时予以处理。

网友评论
推荐文章