易源商务联系方式
4009988033

Memcached连接器

使用该连接器的模板API

连接器简介

1. Memcached是什么

Memcached是一套分布式的高速缓存系统,由LiveJournal的Brad Fitzpatrick开发,但目前被许多网站使用。这是一套开放源代码软件,以BSD license授权发布。
memcached的API使用三十二比特的循环冗余校验(CRC-32)计算键值后,将数据分散在不同的机器上。当表格满了以后,接下来新增的数据会以LRU机制替换掉。由于memcached通常只是当作缓存系统使用,所以使用memcached的应用程序在写回较慢的系统时(像是后端的数据库)需要额外的代码更新memcached内的数据。
Memcached作为高速运行的分布式缓存服务器,具有以下的特点。
· 协议简单
· 基于libevent的事件处理
· 内置内存存储方式
· memcached不互相通信的分布式

 

2. 常规使用流程

    我们在使用各种语言的驱动连接Memcached时,常规流程如下图所示:

 

虽然最终数据库是同一个,但每种语言都有对应的驱动程序,操作方式不尽相同。

3. 面临的问题

3.1 多项目、多语言环境下交互复杂,代码重复率高,维护困难

假如在体系中存在三个子系统,它们都需要调用getUserById方法,很可能是下图所示的结构:

 

图中的【1.直连】表示B系统用php实现getUserById方法,使用php驱动直接操作Memcached库。

图中的【2.直连】表示A系统用java实现getUserById方法,使用java驱动直接操作Memcached库。

图中的【3.API调用】表示C系统调用A系统的API。

 

这样的结构有一些问题:如果业务调整,getUserById的实现需要改变,比如不再返回注销的用户,那AB系统的代码都要调整。用以下的结构可以轻松搞定。

 

 

3.2 驱动的版本管理

当项目需要连接多个版本的Memcached时(比如老系统改造,系统二次开发),此问题尤为严重,驱动包的冲突会导致开发管理成本上升。

3.3 非主力系统使用Memcached比较麻烦

出于并发性的考虑,使用socket长连接操作Memcached是最为高效的方法(比如秒级并发>10000次的场景),这也是主力军系统通常的做法。但是在很多辅助系统的业务场景下,对Memcached的使用频次很低,比如后台监控、运维手动操作:

  • 查询key列表;

  • 查询key对应的value;

  • 对某个key对应的value修改、删除;

  • 刷新某个key(用途广泛,比如修改了一个菜单,需要刷新一下菜单列表缓存); 

对于低频次场景(秒并发<10000次),使用Memcached官方驱动会增加一些开发成本。如果使用HTTP访问Memcached,这个成本几乎为0。

使用Memcached时,下读取频率远超写频率。在实际应用中,通常是部份系统负责读取,部份系统负责写。在低频读写的系统中,使用HTTP访问Memcached是非常方便、高效的事情。

4.解决方案

  • 通过易源Memcached连接器,您可以用HTTP接口操作您自己的Memcached数据库,比如get、set、incr等全指令操作,也可以说您的Memcached数据库被“HTTP”化了。

  • 易源已经将一些常见Memcached操作封装成API接入点,通过几步简单的配置操作,就可以在代码中通过HTTP请求使用Memcached数据库。

  • 您可以轻松摆脱语言、驱动、框架的约束,只用简单的写几句代码就可以实现对Memcached的操作。

  • 在实际使用时,调用者只需要关心调用地址、输入参数、输出参数 三个元素,具体实现细节不需要关注。这样的特性非常适合于前后端分离开发。

使用易源平台操作Memcached,其流程如下图所示:


易源的Memcached连接器将Memcached数据库转化为通用数据源,并可以使用http接口进行全部数据库操作,包括但不限于增、删、查、改方法。

4.1 创建数据源

 

之后进入以下表单:

 

 

4.2 创建接入点时选择Memcached连接器

 

4.3 在接入点中选择Memcached数据源

 

4.4 支持的操作列表

通过HTTP接口访问Memcached,详情操作请点此查看 。

 

5. 性能问题

如果在同一个局域网下进行压力测试,直连时程序做充分优化,易源中转比直连方式的多消耗时间<1ms。网站或APP的响应时间在100ms-1000ms之间是可以接受的,也就是易源增加的时间是整体流程的0.01至0.001的比率,几乎可以忽略不计。这点开销,就像开车从北京到西安有1000公里,中间因为修路多走了1公里,总共由1000到1001公里,多走这1公里对全局可以忽略不计。

 

6. 安全问题

  • 易源平台和您签定合作协议,易源保证关键信息加密存储,保证数据安全不泄露,保证无用户授权绝对不连接数据源。
  • 易源公布对外IP,您可以设置IP白名单。

 

对于Memcached连接器,易源的IP是:

  • 121.41.60.109
  • 120.26.59.160
  • 120.26.61.225
  • 49.4.23.20
  • 129.211.129.137

 

 

 

 

连接器功能(使用场景)

适合以下条件时,使用易源的Memcached连接器是个很好的选择:

  1. 在二次开发系统中使用Memcached,但不想引入依赖包,也不想修改原有代码;
  2. 快速迭代的新系统,可能由多个开发语言子系统组成,PHP,JAVA, PYTHON等,如果用原生语言驱动,需要熟悉各驱动用法。而使用HTTP则调用方法一致。
  3. 系统与系统交互时,您需要提供接口给第三方的情况;通常的做法,就算最简单的查询也需要硬编码,然后重启系统,如果有接口参数更改则再次编码和重启系统。如果使用配置类型的HTTP接口,则创建和修改都可以在几分钟内完成。
  4. 您对IP白名单、可调权限、日志、监控、后端负载等有需求,如果您自己硬编码把Memcached数据暴露为接口,接口的管控功能需要自己做,而使用易源HTTP则天然具备管控功能; 
  5. 您已经对易源平台的操作、接口调用比较熟悉;