易源商务联系方式
4009988033

Pika连接器

使用该连接器的模板API

连接器简介

1. Pika是什么

Pika官网地址是: https://github.com/Qihoo360/pika/wiki  。

Pika是360开源的类Redis存储系统。  

Pika 是 360 DBA 和基础架构组联合开发的类 Redis 存储系统,完全支持 Redis 协议,用户不需要修改任何代码,就可以将服务迁移至 Pika。有维护 Redis 经验的 DBA 维护 Pika 不需要学习成本。

Pika 主要解决的是用户使用 Redis 的内存大小超过 50G、80G 等等这样的情况,会遇到启动恢复时间长,一主多从代价大,硬件成本贵,缓冲区容易写满等问题。Pika 就是针对这些场景的一个解决方案。

特点:

  • 容量大,支持百G数据量的存储
  • 兼容redis,不用修改代码即可平滑从redis迁移到pika
  • 支持主从(slaveof)
  • 完善的运维命令

 

 

2. 常规使用流程

    我们在使用各种语言的驱动连接Pika时,常规流程如下图所示:

 

虽然最终数据库是同一个,但每种语言都有对应的驱动程序,操作方式不尽相同。

3. 面临的问题

3.1 多项目、多语言环境下交互复杂,代码重复率高,维护困难

假如在体系中存在三个子系统,它们都需要调用getUserById方法,很可能是下图所示的结构:

 

 

图中的【1.直连】表示B系统用php实现getUserById方法,使用php驱动直接操作Pika库。

图中的【2.直连】表示A系统用java实现getUserById方法,使用java驱动直接操作Pika库。

图中的【3.API调用】表示C系统调用A系统的API。

 

这样的结构有一些问题:如果业务调整,getUserById的实现需要改变,比如不再返回注销的用户,那AB系统的代码都要调整。用以下的结构可以轻松搞定。

 

 

3.2 驱动的版本管理

当项目需要连接多个版本的Pika时(比如老系统改造,系统二次开发),此问题尤为严重,驱动包的冲突会导致开发管理成本上升。

3.3 非主力系统使用Pika比较麻烦

出于并发性的考虑,使用socket长连接操作Pika是最为高效的方法(比如秒级并发>10000次的场景),这也是主力军系统通常的做法。但是在很多辅助系统的业务场景下,对Pika的使用频次很低,比如后台监控、运维手动操作:

  • 查询key列表;
  • 查询key对应的value;
  • 对某个key对应的value修改、删除;
  • 刷新某个key(用途广泛,比如修改了一个菜单,需要刷新一下菜单列表缓存); 

对于低频次场景(秒并发<10000次),使用Pika官方驱动会增加一些开发成本。如果使用HTTP访问Pika,这个成本几乎为0。

在Pika使用时,大部份情况下读取频率远超写频率。实际应用中,通常是部份系统负责读取,部份系统负责写。在低频读写的系统中,使用HTTP访问Pika是非常方便、高效的事情。

4.解决方案

  • 通过易源Pika连接器,您可以用HTTP接口操作您自己的Pika数据库,比如get、set、expire等全指令操作,也可以说您的Pika数据库被“HTTP”化了。
  • 易源已经将一些常见Pika操作封装成API接入点,通过几步简单的配置操作,就可以在代码中通过HTTP请求使用Pika数据库。
  • 您可以轻松摆脱语言、驱动、框架的约束,只用简单的写几句代码就可以实现对Pika的操作。
  • 在实际使用时,调用者只需要关心调用地址、输入参数、输出参数 三个元素,具体实现细节不需要关注。这样的特性非常适合于前后端分离开发。

使用易源平台操作Pika,其流程如下图所示:



易源的Pika连接器将Pika数据库转化为通用数据源,并可以使用http接口进行全部数据库操作,包括但不限于增、删、查、改方法。

4.1 创建数据源

 

之后进入以下表单:

 

 

4.2 创建接入点时选择Pika连接器

 

4.3 在接入点中选择Pika数据源

 

4.4 支持的操作列表

通过HTTP接口访问Pika,详情操作请点此查看

 

5. 性能问题

如果在同一个局域网下进行压力测试,直连时程序做充分优化,易源中转比直连方式的多消耗时间<1ms。网站或APP的响应时间在100ms-1000ms之间是可以接受的,也就是易源增加的时间是整体流程的0.01至0.001的比率,几乎可以忽略不计。这点开销,就像开车从北京到西安有1000公里,中间因为修路多走了1公里,总共由1000到1001公里,多走这1公里对全局可以忽略不计。

 

6. 安全问题

  • 易源平台和您签定合作协议,易源保证关键信息加密存储,保证数据安全不泄露,保证无用户授权绝对不连接数据源。
  • 易源公布对外IP,您可以设置IP白名单。

对于Pika连接器,易源的IP是:

121.41.60.109

120.26.59.160

120.26.61.225

49.4.23.20

129.211.129.137

 

 

 

 

连接器功能(使用场景)

适合以下条件时,使用易源的Pika连接器是个很好的选择:

  1. 在二次开发系统中使用Pika,但不想引入依赖包,也不想修改原有代码;
  2. 快速迭代的新系统,可能由多个开发语言子系统组成,PHP,JAVA, PYTHON等,如果用原生语言驱动,需要熟悉各驱动用法。而使用HTTP则调用方法一致。
  3. 系统与系统交互时,您需要提供接口给第三方的情况;通常的做法,就算最简单的查询也需要硬编码,然后重启系统,如果有接口参数更改则再次编码和重启系统。如果使用配置类型的HTTP接口,则创建和修改都可以在几分钟内完成。
  4. 您对IP白名单、可调权限、日志、监控、后端负载等有需求,如果您自己硬编码把Pika数据暴露为接口,接口的管控功能需要自己做,而使用易源HTTP则天然具备管控功能; 
  5. 您已经对易源平台的操作、接口调用比较熟悉;