注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

骇客归来

ぁ枫あ

 
 
 

日志

 
 

MemCache  

2009-03-16 11:21:08|  分类: 负载均衡 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
目录
接口介绍
Memcache协议分析
Memcache在中型网站的使用
相关资料
   memcache是一个高性能的分布式的内存对象缓存系统,通过在内存里维护一个统一的巨大的hash表,它能够用来存储各种格式的数据,包括图像、视 频、文件以及数据库检索的结果等。Memcache是danga.com的一个项目,最早是为 LiveJournal 服务的,最初为了加速 LiveJournal 访问速度而开发的,后来被很多大型的网站采用。目前全世界不少人使用这个缓存项目来构建自己大负载的网站,来分担数据库的压力。起初作者编写它可能是为了 提高动态网页应用,为了减轻数据库检索的压力,来做的这个缓存系统。它的缓存是一种分布式的,也就是可以允许不同主机上的多个用户同时访问这个缓存系统, 这种方法不仅解决了共享内存只能是单机的弊端,同时也解决了数据库检索的压力,最大的优点是提高了访问获取数据的速度!基于memcache作者对分布式 cache的理解和解决方案。 memcache完全可以用到其他地方 比如分布式数据库, 分布式计算等领域。

接口介绍

  Memcache客户端包含两组接口,一组是面向过程的接口,一组是面向对象的接口,具体可以参考PHP手册 “LXXV. Memcache Functions” 这章。
  Memcache面向对象的常用接口包括:
  Memcache::connect -- 打开一个到Memcache的连接
  Memcache::pconnect -- 打开一个到Memcache的长连接
  Memcache::close -- 关闭一个Memcache的连接
  Memcache::set -- 保存数据到Memcache服务器上
  Memcache::get -- 提取一个保存在Memcache服务器上的数据
  Memcache::replace -- 替换一个已经存在Memcache服务器上的项目(功能类似Memcache::set)
  Memcache::delete -- 从Memcache服务器上删除一个保存的项目
  Memcache::flush -- 刷新所有Memcache服务器上保存的项目(类似于删除所有的保存的项目)
  Memcache::getStats -- 获取当前Memcache服务器运行的状态

Memcache协议分析

  如果你不喜欢 php_memcache.dll 扩展或者服务器器目前不支持这个扩展,那么就可以考虑自己构建,需要构建Memcahe的客户端,要先了解Memcache协议的交互,这样才能开发自己的客户端,这里简单的分析以下Memcache的协议。
  (更详细的协议内容请在Memcache服务器端的源码的 doc/protocol.txt 文件中)
  Memcache既支持TCP协议,也支持UDP协议,不过我们这里是以TCP协议的协议作为主要考虑对象,想了解UDP协议的过程,请参考 doc/protocol.txt 文件。
  [ 错误指令]
  Memcache的协议的错误部分主要是三个错误提示之提示指令:
  普通错误信息,比如指令错误之类的
  ERROR\r\n
  客户端错误
  CLIENT_ERROR <错误信息>\r\n
  服务器端错误
  SERVER_ERROR <错误信息>\r\n
  [ 数据保存指令]
  数据保存是基本的功能,就是客户端通过命令把数据返回过来,服务器端接收后进行处理。
  指令格式:
  <命令> <键> <标记> <有效期> <数据长度>\r\n
  <命令> - command name
  主要是三个储存数据的三个命令, set, add, replace
  set 命令是保存一个叫做key的数据到服务器上
  add 命令是添加一个数据到服务器,但是服务器必须这个key是不存在的,能够保证数据不会被覆盖
  replace 命令是替换一个已经存在的数据,如果数据不存在,就是类似set功能
  <键> - key
  就是保存在服务器上唯一的一个表示符,必须是跟其他的key不冲突,否则会覆盖掉原来的数据,这个key是为了能够准确的存取一个数据项目
  <标记> - flag
  标记是一个16位的无符号整形数据,用来设置服务器端跟客户端一些交互的操作
  <有效期> - expiration time
  是数据在服务器上的有效期限,如果是0,则数据永远有效,单位是秒,Memcache服务器端会把一个数据的有效期设置为当前Unix时间+设置的有效时间
  <数据长度> - bytes
  数据的长度,block data 块数据的长度,一般在这个个长度结束以后下一行跟着block data数据内容,发送完数据以后,客户端一般等待服务器端的返回,服务器端的返回:
  数据保存成功
  STORED\r\n
  数据保存失败,一般是因为服务器端这个数据key已经存在了
  NOT_STORED\r\n
  [ 数据提取命令]
  从服务器端提取数据主要是使用get指令,格式是:
  get <键>*\r\n
  <键>* - key
  key是是一个不为空的字符串组合,发送这个指令以后,等待服务器的返回。如果服务器端没有任何数据,则是返回:
  END\r\n
  证明没有不存在这个key,没有任何数据,如果存在数据,则返回指定格式:
  VALUE <键> <标记> <数据长度>\r\n
  <数据块>\r\n
  返回的数据是以VALUE开始的,后面跟着key和flags,以及数据长度,第二行跟着数据块。
  <键> -key
  是发送过来指令的key内容
  <标记> - flags
  是调用set指令保存数据时候的flags标记
  <数据长度> - bytes
  是保存数据时候定位的长度
  <数据块> - data block
  数据长度下一行就是提取的数据块内容
  [ 数据删除指令]
  数据删除指令也是比较简单的,使用get指令,格式是:
  delete <键> <超时时间>\r\n
  <键> - key
  key是你希望在服务器上删除数据的key键
  <超时时间> - timeout
  按照秒为单位,这个是个可选项,如果你没有指定这个值,那么服务器上key数据将马上被删除,如果设置了这个值,那么数据将在超时时间后把数据清除,该项缺省值是0,就是马上被删除
  删除数据后,服务器端会返回:
  DELETED\r\n
  删除数据成功
  NOT_FOUND\r\n
  这个key没有在服务器上找到
  如果要删除所有服务器上的数据,可以使用flash_all指令,格式:
  flush_all\r\n
  这个指令执行后,服务器上所有缓存的数据都被删除,并且返回:
  OK\r\n
  这个指令一般不要轻易使,除非你却是想把所有数据都干掉,删除完以后可以无法恢复的。
  [其他指令]
  如果想了解当前Memcache服务器的状态和版本等信息,可以使用状态查询指令和版本查询指令。
  如果想了解当前所有Memcache服务器运行的状态信息,可以使用stats指令,格式
  stats\r\n
  服务器将返回每行按照 STAT 开始的状态信息,包括20行,20项左右的信息,包括守护进程的pid、版本、保存的项目数量、内存占用、最大内存限制等等信息。
  如果只是想获取部分项目的信息,可以指定参数,格式:
  stats <参数>\r\n
  这个指令将只返回指定参数的项目状态信息。
  如果只是想单独了解当前版本信息,可以使用version指令,格式:
  version\r\n
  将返回以 VERSION 开头的版本信息
  如果想结束当前连接,使用quit指令,格式:
  quit\r\n
  将断开当前连接
  另外还有其他指令,包括incr, decr 等,我也不太了解作用,就不做介绍了,如果感兴趣,可以自己去研究。

Memcache在中型网站的使用

   使用Memcache的网站一般流量都是比较大的,为了缓解数据库的压力,让Memcache作为一个缓存区域,把部分信息保存在内存中,在前端能够迅 速的进行存取。那么一般的焦点就是集中在如何分担数据库压力和进行分布式,毕竟单台Memcache的内存容量的有限的。我这里简单提出我的个人看法,未 经实践,权当参考。
  [ 分布式应用]
  Memcache本来支持分布式,我们客户端稍加改造,更好的支持。我们的key可以适当进行 有规律的封装,比如以user为主的网站来说,每个用户都有User ID,那么可以按照固定的ID来进行提取和存取,比如1开头的用户保存在第一台Memcache服务器上,以2开头的用户的数据保存在第二胎 Mecache服务器上,存取数据都先按照User ID来进行相应的转换和存取。
  但是这个有缺点,就是需要对User ID进行判断,如果业务不一致,或者其他类型的应用,可能不是那么合适,那么可以根据自己的实际业务来进行考虑,或者去想更合适的方法。
  [ 减少数据库压力]
  这个算是比较重要的,所有的数据基本上都是保存在数据库当中的,每次频繁的存取数据库,导致数 据库性能极具下降,无法同时服务更多的用户,比如MySQL,特别频繁的锁表,那么让Memcache来分担数据库的压力吧。我们需要一种改动比较小,并 且能够不会大规模改变前端的方式来进行改变目前的架构。
  实例代码:
  1:
  package com.task;
  public class MemCachedClient {
  public void setCompressEnable(boolean b) {
  // TODO Auto-generated method stub
  }
  public Object get(String string) {
  // TODO Auto-generated method stub
  return null;
  }
  }
  2:
  package com.task;
  public class SockIOPool {
  public static SockIOPool getInstance() {
  // TODO Auto-generated method stub
  return null;
  }
  public void setServers(String[] servers) {
  // TODO Auto-generated method stub
  }
  public void setWeights(Integer[] weights) {
  // TODO Auto-generated method stub
  }
  public void setInitConn(int i) {
  // TODO Auto-generated method stub
  }
  public void setMinConn(int i) {
  // TODO Auto-generated method stub
  }
  public void setMaxConn(int i) {
  // TODO Auto-generated method stub
  }
  public void setMaxIdle(int i) {
  // TODO Auto-generated method stub
  }
  public void setMaintSleep(int i) {
  // TODO Auto-generated method stub
  }
  public void setNagle(boolean b) {
  // TODO Auto-generated method stub
  }
  public void setSocketTO(int i) {
  // TODO Auto-generated method stub
  }
  public void setSocketConnectTO(int i) {
  // TODO Auto-generated method stub
  }
  public void initialize() {
  // TODO Auto-generated method stub
  }
  }
  以上两个POJO类简单,大家自己写好了,主要是下面....
  3:
  package com.task;
  import java.io.IOException;
  import java.util.Date;
  //import com.danga.MemCached.MemCachedClient;
  //import com.danga.MemCached.SockIOPool;
  public class test2 {
  protected static MemCachedClient mcc = new MemCachedClient();
  static {
  String[] servers ={"172.20.2.203:11211"};
  Integer[] weights = ;
  //创建一个实例对象SockIOPool
  SockIOPool pool = SockIOPool.getInstance();
  // set the servers and the weights
  //设置Memcached Server
  pool.setServers( servers );
  pool.setWeights( weights );
  // set some basic pool settings
  // 5 initial, 5 min, and 250 max conns
  // and set the max idle time for a conn
  // to 6 hours
  pool.setInitConn( 5 );
  pool.setMinConn( 5 );
  pool.setMaxConn( 250 );
  pool.setMaxIdle( 1000 * 60 * 60 * 6 );
  // set the sleep for the maint thread
  // it will wake up every x seconds and
  // maintain the pool size
  pool.setMaintSleep( 30 );
  // Tcp的规则就是在发送一个包之前,本地机器会等待远程主机
  // 对上一次发送的包的确认信息到来;这个方法就可以关闭套接字的缓存,
  // 以至这个包准备好了就发;
  pool.setNagle( false );
  //连接建立后对超时的控制
  pool.setSocketTO( 3000 );
  //连接建立时对超时的控制
  pool.setSocketConnectTO( 0 );
  // initialize the connection pool
  //初始化一些值并与MemcachedServer段建立连接
  pool.initialize();
  // lets set some compression on for the client
  // compress anything larger than 64k
  //mcc.setCompressEnable( true );
  //mcc.setCompressThreshold( 64 * 1024 );
  mcc.setCompressEnable(false);
  }
  public static void bulidCache(int i){
  //if(mcc.keyExists("testKey"))
  //mcc.delete("testKey");
  //mcc.set("testKey","sdfsd"+i);
  //mcc.add("testKey","sdfsd"+i,new Date(1000),MemCachedClient.m);
  //set(key,value,Date) ,Date是一个过期时间,如果想让这个过期时间生效的话,这里传递的new Date(long date) 中参数date,需要是个大于或等于1000的值。
  //因为java client的实现源码里是这样实现的 expiry.getTime() / 1000 ,也就是说,如果 小于1000的值,除以1000以后都是0,即永不过期
  //mcc.set( "testKey", "testValue" ,new Date(1000000)); //十秒后过期
  }
  public static void output() {
  //从cache里取值
  //mcc.flushAll();
  //System.out.println(mcc.keyExists("testmem1.5629b4962-42ba-4e05-baec-44ae040bc24e"));
  //sun.misc.BASE64Decoder decoder = new sun.misc.BASE64Decoder();
  try {
  //mcc.delete("testKey");
  System.out.println(mcc.get("testKey"));
  //System.out.println(((com.psc.bean.Member.TblUser)(mcc.get("306817e9-8a43-44c0-9034-a07406883312_user"))).getBdEmailState());
  } catch (Exception e) {
  e.printStackTrace();
  // TODO Auto-generated catch block
  //e.printStackTrace();
  }
  //String value = (String) mcc.get( "testKey252" );
  // System.out.println(value);
  }
  public static void main(String[] args){
  for(int i=0;i<100;i++){
  bulidCache(i);
  output();
  }
  }
  }
  评论这张
 
阅读(221)| 评论(0)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017