memcached是一个高性能的分布式的内存对象缓存系统

memcached是一个高性能的分布式的内存对象缓存系统，通过在内存里维护一个统一的巨大的hash表，它能够用来存储各种格式的数据，包括图像、视频、文件以及数据库检索的结果等。最初为了加速 LiveJournal 访问速度而开发的,后来被很多大型的网站采用。起初作者编写它可能是为了提高动态网页应用，为了减轻数据库检索的压力，来做的这个缓存系统。它的缓存是一种分布式的，也就是可以允许不同主机上的多个用户同时访问这个缓存系统， 这种方法不仅解决了共享内存只能是单机的弊端， 同时也解决了数据库检索的压力，最大的优点是提高了访问获取数据的速度！基于memcached作者对分布式cache的理解和解决方案。memcached完全可以用到其他地方 比如分布式数据库， 分布式计算等领域。 1、 memcached 协议理解

memcache是为了加快http://www.livejournal.com/访问速度而诞生的一个项目。 它的官方主页是：http://www.danga.com/memcached/ 目前在网站开发中应用较少，主要的应用有： http://www.danga.com/memcached/users.bml

在国内的网站开发中，还很少没见到有应用的，中文资料十分匮乏。

工作机制：通过在内存中开辟一块区域来维持一个大的hash表来加快页面访问速度，和数据库是独立的。但是目前主要用来缓存数据库的数据。允许多个server通过网络形成一个大的hash，用户不必关心数据存放在哪，只调用相关接口就可。存放在内存的数据通过LRU算法进行淘汰出内存。同时可以通过删除和设置失效时间来淘汰存放在内存的数据。 2、 memcached 使用入门

memcached最吸引人的地方主要在于它的分布式。分布式对于互联网应用来讲，按照用途基本上可划分为三种方式：分布式计算、分布式存储和两者兼而有之。memcached是分布式存储的一种。我们常见的分布式存储大多数是将N台设备（server或者单独的存储）构建成盘阵，而memcached旨在构建一个高速的内存池。更通俗一点来讲：分布式计算是将N颗cpu组装成一颗cpu，分布式慢速存储是将N个硬盘组装成一个大硬盘，memcached是将N块内存组装成一块大内存。

有个朋友问：那是不是代价很昂贵啊。我的回答是肯定的。如果你的网站规模只有三两台服务器的话，我觉得你就不用考虑这样的方案了，等你的网站做大了以后，再参考这方面的资料即可。一般都是比较大的互联网公司为了追求更好的用户体验，才进行这方面的投资，对他们来讲，用户体验至上，money是小case。

还有朋友问：有一些dbms提供内存表的功能，比如mysql的内存表，可以代替memcached。但我要建议你的是：mysql的内存表确实起到同样的作用，但它的局限也很多，往往不能让你随心所欲，所以建议你不要走弯路。

二、memcached的应用场景 2.1 应用范围

memcached产品或相关技术的应用，我们在前面已经提到了一些。其实它的应用还是非常普遍的，应用作为广泛的领域：例如sns类网站、blog类网站、bbs类网站以及im后台服务。

2.2 sns类网站的应用

livejournal.com是99年始于校园中的项目，有点像中国的校内网。几个学生纯属出于爱好做了这样一个网站,主要实现以下功能： sns、blog、bbs和rss等。livejournal从建立开始就采用了大量的开源软件，到现在它本身也衍生了不少开源软件。 sns网站，现在比比皆是，规模比较大的象开心、校内、51，它们的页面上往往需要引用大量的用户信息、好友信息以及

文章信息等，所以跨表或跨库操作会相当多。如果这些功能全部直接操作数据库，显然会带来极大的效率损耗和系统负载。memcached在这样的场景下就会发挥巨大的作用，它采用大内存把这些不变的数据全都缓存起来，当数据修改时就通知cache过期，这样应用层基本上就可以解决大部分问题了，只有很小一部分请求穿透应用层，用到数据库。

2.3 blog、bbs类网站的应用

象blog.sina.com.cn这些流量巨大的blog系统，它需要频繁读写的一些小数据。其中最典型的应用，我们通常成为“数字类服务”，比如blog中需要实时显示的用户点击数和阅读数，bbs中需要记录的在线人数、在线用户等。这些小数据的处理非常繁琐，你无论怎么去设计数据库，都很难避开跨表或者跨库。有的朋友会说，可以在数据库中增加冗余字段解决这类问题，但事实上，这既不符合数据库设计的范式规则，也很难做到数据的一致性，由此会引发更为复杂的问题。而且由于产品线的分散发展，数据已经很难做到完全的统一规划。memcached在这样的场景下就会将这些小数据进行缓存，定期持久化就可以了，查询操作一直都在内存中运行。说到这里，有的朋友又会想到一些其它的问题：“memcached server宕机了怎么办，怎么保证与数据库的数据一致”。我会对你说：“你的问题非常好，我们将会在后面章节给出相应的解决方案”。另外，其实这种小数据并不是关键性数据，即使偶尔发生点错误，也没太大的问题。blog、bbs系统并不是严格的企业级系统，假如你是为银行业务提供解决方案的话，memcached并不适合。

2.4 im server的应用

前些时间， 有一些文章介绍memcached 在Jabber上应用。写累了，喝口水，读者自己去找找资料吧，有时间的话，帮我补上吧，呵呵。

我们举了几个例子来说明memcached的应用场景，似乎都局限于小数据服务，那是不是就不能用于较大数据的缓冲了？那绝不是，memcached能够用来存储各种格式的数据，包括图像、视频、文件以及数据库检索的结果等等，而且生产环境中就这么跑过，只不过让大数据量使用缓冲的话，有点太浪费了，同样数量的内存存不了几条数据，所以会明显的降低命中率。

哈希分布与一致性哈希算法简介

前言

在我们的日常web应用开发当中memcached可以算作是当今的标准开发配置了。相信memcache的基本原理大家也都了解过了，memcache虽然是分布式的应用服务，但分布的原则是由client端的api来决定的，api根据存储用的key以及已知的服务器列表，根据key的hash计算将指定的key存储到对应的服务器列表上。

基本的原理以及分布

在这里我们通常使用的方法是根据 key的hash值%服务器数取余数 的方法来决定当前这个key的内容发

往哪一个服务器的。这里会涉及到一个hash算法的分布问题，哈希的原理用一句话解释就是两个集合间的映射关系函数，在我们通常的应用中基本上可以理解为 在集合A（任意字母数字等组合，此处为存储用的key）里的一条记录去查找集合B（如0-2^32）中的对应记录。（题外话：md5的碰撞或者说冲突其实就是发生在这里，也就是说多个A的记录映射到了同一个B的记录）

实际应用

显然在我们的应用中集合A的记录应该更均匀的分布在集合B的各个位置，这样才能尽量避免我们的数据被分布发送到单一的服务器上，在danga的memcached的原始版本（perl）中使用的是crc32的算法用java的实现写出来：

private static int origCompatHashingAlg( String key ) { int hash = 0;

char[] cArr = key.toCharArray();

for ( int i = 0; i < cArr.length; ++i ) { hash = (hash * 33) + cArr[i]; }

return hash; }

这里还有另一个改进版本的算法：

private static int newCompatHashingAlg( String key ) { CRC32 checksum = new CRC32(); checksum.update( key.getBytes() ); int crc = (int) checksum.getValue();

return (crc >> 16) & 0x7fff; }

分布率测试

有人做过测试，随机选择的key在服务器数量为5的时候所有key在服务器群组上的分布概率是： origCompatHashingAlg: 0 10% 1 9% 2 60% 3 9% 4 9%

newCompatHashingAlg: 0 19% 1 19% 2 20% 3 20% 4 20%

显然使用旧的crc32算法会导致第三个memcached服务的负载更高，但使用新算法会让服务之间的负载更加均衡。

其他常用的hash算法还有FNV-1a Hash,RS Hash,JS Hash,PJW Hash,ELF Hash,AP Hash等等。有兴趣的童鞋可以查看这里：

http://www.partow.net/programming/hashfunctions/

http://hi.http://m.wodefanwen.com//algorithms/blog/item/79caabee879ece2a2cf53440.html

小结

至此我们了解到了在我们的应用当中要做到尽量让我们的映射更加均匀分布，可以使服务的负载更加合理均衡。

新问题

但到目前为止我们依然面对了这样一个问题：就是服务实例本身发生变动的时候，导致服务列表变动从而会照成大量的cache数据请求会miss，几乎大部分数据会需要迁移到另外的服务实例上。这样在大型服务在线时，瞬时对后端数据库/硬盘照成的压力很可能导致整个服务的crash。

一致性哈希（Consistent Hashing）

在此我们采用了一种新的方式来解决问题，处理服务器的选择不再仅仅依赖key的hash本身而是将服务实例（节点）的配置也进行hash运算。

1. 首先求出每个服务节点的hash，并将其配置到一个0~2^32的圆环（continuum）区间上。 2. 其次使用同样的方法求出你所需要存储的key的hash，也将其配置到这个圆环（continuum）上。 3. 然后从数据映射到的位置开始顺时针查找，将数据保存到找到的第一个服务节点上。如果超过2^32

仍然找不到服务节点，就会保存到第一个memcached服务节点上。

整个数据的图例：

本文来源：https://www.bwwdw.com/article/ztnh.html