易源商务联系方式
4009988033

InfluxDB连接器

使用该连接器的模板API

连接器简介

1. InfluxDB是什么

InfluxDB官网地址是:https://www.influxdata.com/products/influxdb-overview/ 。

InfluxDB是一个由InfluxData开发的开源时序型数据。它由Go写成,着力于高性能地查询与存储时序型数据。InfluxDB被广泛应用于存储系统的监控数据,IoT行业的实时数据等场景。

对常见关系型数据库(MySQL)的基础概念对比是:

其主要特点是:

  • 为时间序列数据专门编写的自定义高性能数据存储。 TSM引擎具有高性能的写入和数据压缩
  • Golang编写,没有其它的依赖
  • 提供简单、高性能的写入、查询 http api
  • 插件支持其它数据写入协议,例如 graphite、collectd、OpenTSDB
  • 支持类sql查询语句
  • tags可以索引序列化,提供快速有效的查询
  • Retention policies自动处理过期数据
  • Continuous queries自动聚合,提高查询效率

 

2. 常规使用流程

    我们在使用各种语言的驱动连接InfluxDB时,常规流程如下图所示:

 

虽然最终数据库是同一个,但每种语言都有对应的驱动程序,操作方式不尽相同。

3. 面临的问题

3.1 多项目、多语言环境下交互复杂,代码重复率高,维护困难

假如在体系中存在三个子系统,它们都需要调用getUserById方法,很可能是下图所示的结构:

 

图中的【1.直连】表示B系统用php实现getUserById方法,使用php驱动直接操作InfluxDB库。

图中的【2.直连】表示A系统用java实现getUserById方法,使用java驱动直接操作InfluxDB库。

图中的【3.API调用】表示C系统调用A系统的API。

 

这样的结构有一些问题:如果业务调整,getUserById的实现需要改变,比如不再返回注销的用户,那AB系统的代码都要调整。用以下的结构可以轻松搞定。

 

 

3.2 驱动的版本管理

当项目需要连接多个版本的InfluxDB时(比如老系统改造,系统二次开发),此问题尤为严重,驱动包的冲突会导致开发管理成本上升。

3.3 开发者门槛高,有一定的学习曲线,对于快速迭代、验证型项目成本较高

目前越来越多的人参与到软件开发中,项目规模可能不大,但几乎都会涉及到数据库应用,而数据库InfluxDB就是一个非常好的选择。这些大量的开发者并不会太关心数据库原理、数据库范式等底层核心内容,他们关心的是怎么样高效地完成【增删查改】操作,越简单完成业务越好,让机器去做生活中的重复无趣操作从而提升效率。

很多项目中用户数不多,甚至只有1个(自用型),这样的情况下要求入门开发者去了解数据库原理、驱动操作就有点为难,毕竟开发出来的软件服务的是业务而不是技术,这种时候开发速度比成熟度、性能更为重要。

4.解决方案

 

  • 通过易源InfluxDB连接器,您可以用HTTP接口操作您自己的InfluxDB数据库,比如增删查改等CRUD操作,也可以说您的数据库被“HTTP”化了。
  • 易源已经将一些常见SQL操作封装成API接入点,通过几步简单的配置操作,就可以在代码中通过HTTP请求使用MariaDB数据库。
  • 您可以轻松摆脱语言、驱动、框架的约束,只用简单的写几句代码就可以实现对数据库的操作。
  • 在实际使用时,调用者只需要关心调用地址、输入参数、输出参数 三个元素,具体实现细节不需要关注,比如后端是InfluxDB还是MongoDB,是txt还是csv,只要这个后端实现了同样的调用地址、输入参数、输出参数三元素即可。这样的特性非常适合于前后端分离开发。

使用易源平台操作InfluxDB,其流程如下图所示:

易源的InfluxDB连接器将InfluxDB数据库转化为通用数据源,并可以使用http接口进行全部数据库操作,包括但不限于增、删、查、改方法。

4.1 创建数据源

之后进入以下表单:

4.2 创建接入点时选择InfluxDB连接器

 

4.3 在接入点中选择InfluxDB数据源

 

4.4 查看数据库列表

通过HTTP接口查看数据库列表,详情操作请点此查看。

4.5 查看所有表

通过HTTP接口查看所有的数据表,详情操作请点此查看

4.6 插入记录

通过HTTP接口插入一条记录,详情操作请点此查看

4.7 查看用户列表

通过HTTP接口查看某个库中的用户列表,详情操作请点此查看

4.8 查看数据字段列表

通过HTTP接口查看数据字段列表,详情操作请点此查看

4.9 查询记录列表

通过HTTP接口查询数据列表,详情操作请点此查看

4.10 查看索引字段名

通过HTTP接口查看索引字段名,详情操作请点此查看

4.11 删除表

通过HTTP接口删除某个表,详情操作请点此查看

 

 

5. 性能问题

以前是直连InfluxDB,现在是通过易源进行中转,您可能会对这个流程的性能提出质疑,回答如下:

 

  • 如果在同一个局域网下进行压力测试,直连时程序做充分优化,易源中转比直连方式的多消耗时间<1ms。网站或APP的响应时间在100ms-1000ms之间是可以接受的,也就是易源增加的时间是整体流程的0.01至0.001的比率,几乎可以忽略不计。这点开销,就像开车从北京到西安有1000公里,中间因为修路多走了1公里,总共由1000到1001公里,多走这1公里对全局可以忽略不计。
  • 程序直连的性能取决于数据库和客户端的优化。比如客户端程序是否使用连接池、连接参数是怎么样的,都会对测试性能产生不小的影响。而在很多情况下,客户端的程序是缺乏优化的,甚至很多程序根本不使用连接池。使用易源转发就不存在这个问题,易源默认连接池,并会动态根据繁忙情况动态调整参数,因此很多时候使用易源还会带来更高的性能。

总结:您不需要为性能担忧,对于优化得当的老鸟来说易源会慢千分之一,但对于普通开发者来说易源可能更快。

 

6. 安全问题

  • 易源平台和您签定合作协议,易源保证关键信息加密存储,保证数据安全不泄露,保证无用户授权绝对不连接数据源。
  • 易源公布对外IP,您可以设置IP白名单。

对于InfluxDB连接器,易源的IP是:

121.41.60.109

120.26.59.160

120.26.61.225

129.211.129.137

 

 

 

 

连接器功能(使用场景)

适合以下条件时,使用易源的InfluxDB连接器是个很好的选择:

  1. 在二次开发系统中使用InfluxDB,但不想引入依赖包,也不想修改原有代码;
  2. 快速迭代的新系统,可能由多个开发语言子系统组成,PHP,JAVA, PYTHON等,如果用原生语言驱动,需要熟悉各驱动用法。而使用HTTP则调用方法一致。
  3. 系统与系统交互时,您需要提供接口给第三方的情况;通常的做法,就算最简单的查询也需要硬编码,然后重启系统,如果有接口参数更改则再次编码和重启系统。如果使用配置类型的HTTP接口,则创建和修改都可以在几分钟内完成。
  4. 您对IP白名单、可调权限、日志、监控、后端负载等有需求,如果您自己硬编码把InfluxDB数据暴露为接口,接口的管控功能需要自己做,而使用易源HTTP则天然具备管控功能; 
  5. 您已经对易源平台的操作、接口调用比较熟悉;