NoSQL介绍

什么是NoSQL

• 非关系型数据库就是NoSQL，关系型数据库代表MySQL
• 对于关系型数据库来说，是需要把数据存储到库、表、行、字段里，查询的时候根据条件一行一行地去匹配，当量非常大的时候就很耗费时间和资源，尤其是数据是需要从磁盘里去检索
• NoSQL数据库存储原理非常简单(典型的数据类型为k-v),不存在繁杂的关系链，比如mysql查询的时候，需要找到对应的库、表(通常是多个表)以及字段
• NoSQL数据可以存储在内存里，查询速度非常快
• NoSQL在性能表现上虽然能优于关系型数据库，但是它并不能完全替代关系型数据库
• NoSQL因为没有复杂的数据结构，扩展非常容易，支持分布式

常见NoSQL数据库

• k-v形式的：memcached、redis适合储存用户信息，比如会话、配置文件、参数、购物车等等。这些信息一般都和ID(键)挂钩，这种情景下键值数据库是个很好的选择。
• 文档数据库：mongodb将数据以文档的形式储存。每个文档都是一系列数据项的集合。每个数据项都有一个名称与对应的值，值既可以是简单的数据类型，如字符串，数字和日期等；也可以是复杂的类型，如有序列和关联对象。数据存储的最小单位是文档，同一个表中存储的文档属性可以是不同的，数据可以使用XML、JSON或者JSONB等多种形式存储。
• 列存储HBase
• 图 Neo4J、Infinite Graph、OrientDB

Memcached介绍

• Memcached是国外社区网站LiveJournal团队开发，目的是为了通过缓存数据库查询结果，减少数据库访问次数，从而提高动态web站点性能。
• 官方站点http://www.memcached.org/
• 数据结构简单(k-v)，数据存放在内存里
• 多线程
• 基于c/s架构，协议简单
• 基于libevent的事件处理
• 自主内存存储处理(slab allowcation)
• 数据过期方式：Lazy Expiration 和 LRU

Slab allowcation

将分配的内存分割成各种尺寸的块(chunk),并把尺寸相同的块分成组(chunk的集合)，每个chunk集合被称为slab

Memcached的内存分配以Page为单位，Page默认值为1M，可以在启动时通过-I(大i)参数来指定Slab是由多个Page组成的，Page按照指定大小切割成多个chunk。

Growth factor

Memcached在启动时通过-f选项可以指定Growth Factor因子。该值控制chunk大小的差异。默认值为1.25

通过memcached-tool命令查看指定Memcached实例的不同slab状态，可以看到各item所占大小(chunk大小)差距为1.25命令：# memcached-tool 127.0.0.1:11211 display

Memcached的数据过期方式

Lazy Expiration

Memcached内部不会监视记录是否过期，而是在get时查看记录的时间戳，检查记录是否过期。这种技术被称为lazy(惰性)expiration.因此，Memcached不会在过期监视上耗费cpu时间。LRUMemcached会优先使用已超时的记录的空间，但即使如此，也会发生追加新记录时空间不足的情况，此时就要使用名为Least Recently Used (LRU)机制来分配空间。顾名思义，这是删除"最近最少使用"的记录机制。因此，当内存空间不足时(无法从slab class获取到新的空间时)，就从最近未被使用的记录中搜索，并将其空间分配给新的记录。从缓存的实用角度来看，该模型十分理想。

memcached的安装

yum install memcached libmemcached libevent -y

memcached的启动

systemctl start memcached

memcached服务配置参数文件内容

vim /etc/sysconfig/memcachedPORT="11211"USER="memcached"MAXCONN="1024"CACHESIZE="64"OPTIONS=""

查看Memcached运行状态

memcached-tool 127.0.0.1:11211 statsecho stats|nc 127.0.0.1 11211 //需要安装nc软件包memstat --servers=127.0.0.1:11211 //需要安装libmemcached

memcached命令行

安装telnet

yum install telnet -y

telnet 127.0.0.1 11211Trying 127.0.0.1...Connected to 127.0.0.1.Escape character is '^]'.set name 0 0 8zhangsanSTOREDadd name1 0 0 4lisiSTOREDreplace name1 0 0 4wuwuSTOREDdelete name1DELETEDget nameVALUE name 0 8zhangsanEND

Memcached语法规则

• <command name> <key> <flags> <exptime> <bytes>\r\n<data block>\r\n
• <command name>: set,add,replace,delete,get
• set表示按照相应的<key>存储数据，没有的时候增加，有则覆盖
• add表示按照相应的<key>添加该数据，但是如果该<key>已经存在则会操作失败
• replace表示按照相应的<key>替换数据，但是如果该<key>不存在则操作失败
  *<key>客户端需要保存数据的key
• <flags>是一个16位的无符号的整数(以十进制的方式表示)。该标志将和需要存储的数据一起存储，并在客户端get数据时返回。客户端可以将此标志用做特殊用途，此标志对服务器来说不是透明的。
• <exptime>为过期时间。0表示不过期(但可被服务器算法：LRU等替换)。如果非0(unix时间或者距离此时的秒数)，当过期后，服务器可以保证用户得不到该数据(以服务器时间为标准)。
• <bytes>需要存储的字节数，当用户希望存储空数据时<bytes>可以为0
• <data block>需要存储的内容，输入完成后，最后客户端需要加上\r\n(直接点Enter)作为结束标志。

Memcached数据导出和导入

创建一些数据

telnet 127.0.0.1 11211Trying 127.0.0.1...Connected to 127.0.0.1.Escape character is '^]'.set name 0 0 8zhangsanSTOREDset age 0 0 218STOREDget nameVALUE name 0 8zhangsanENDget ageVALUE age 0 218END

备份数据

memcached-tool 127.0.0.1:11211 dump > zhangsan.txt

清空memcached中的数据

systemctl restart memcached.service

导入数据

nc 127.0.0.1 11211 < zhangsan.txt

注意：导出的数据是带有一个时间戳的，这个时间戳就是该条数据过期的时间点，如果当前时间已经超过该时间戳，那么是导入不进去的

PHP连接Memcached

安装php的memcache扩展

cd /usr/local/src/wget http://www.apelearn.com/bbs/data/attachment/forum/memcache-2.2.3.tgztar zxvf memcache-2.2.3.tgzyum install autoconf -y/usr/local/php-fpm/bin/phpize./configure --with-php-config=/usr/local/php-fpm/bin/php-configmake && make installvim /usr/local/php-fpm/etc/php.ini //增加extension=memcache.so/usr/local/php-fpm/bin/php -m|grep memcache

下载一个php的测试文件

curl www.apelearn.com/study_v2/.memcache.txt > 1.php 2>/dev/null

cat 1.php
    connect("localhost", 11211);//保存数据$mem->set('key1', 'This is first value', 0, 60);$val = $mem->get('key1');echo "Get key1 value: " . $val ."
";//替换数据$mem->replace('key1', 'This is replace value', 0, 60);$val = $mem->get('key1');echo "Get key1 value: " . $val . "
";//保存数组数据$arr = array('aaa', 'bbb', 'ccc', 'ddd');$mem->set('key2', $arr, 0, 60);$val2 = $mem->get('key2');echo "Get key2 value: ";print_r($val2);echo "
";//删除数据$mem->delete('key1');$val = $mem->get('key1');echo "Get key1 value: " . $val . "
";//清除所有数据$mem->flush();$val2 = $mem->get('key2');echo "Get key2 value: ";print_r($val2);echo "
";//关闭连接$mem->close();?>

/usr/local/php-fpm/bin/php 1.phpGet key1 value: This is first value
Get key1 value: This is replace value
Get key2 value: Array(    [0] => aaa    [1] => bbb    [2] => ccc    [3] => ddd)
Get key1 value: 
Get key2 value: 

Memcached中存储session

使用场景LAMP/LNMP环境下实现编辑php.ini添加两行session.save_handler = memcachesession.save_path = "tcp://192.168.221.20:11211"或者httpd.conf中对应的虚拟主机中添加 php_value session.save_handler "memcache"php_value session.save_path "tcp://192.168.221.20:11211"或者php-fpm.conf对应的pool中添加php_value[session.save_handler] = memcachephp_value[session.save_path] = "tcp://192.168.221.20:11211"

去nginx配置文件中定义的网站的根目录中写一个存session的php脚本

vim /data/wwwroot/default/1.php
    
";print $_SESSION['TEST3'];print "
";print session_id();?>

访问1.php

curl localhost/1.php

浏览器访问

默认 session是保存在/tmp/sess*这样的文件中

修改php.ini文件

vim /usr/local/php-fpm/etc/php.inisession.save_handler = files //注释掉这行，增加以下两行session.save_handler = memcachesession.save_path = "tcp://192.168.221.20:11211"

/etc/init.d/php-fpm restart

删除/tmp/sess*文件

在本地用curl或浏览器访问1.php

curl localhost/1.php1520602324
1520602324
iu85psci2iqgdfjhudg32ck5m0

从memcached服务器中导出，文件名为sess.data,查看sess.data

memcached-tool 127.0.0.1:11211 dump > sess.data

cat sess.dataadd iu85psci2iqgdfjhudg32ck5m0 0 1520603764 37TEST|i:1520602324;TEST3|i:1520602324;add 2a32ffcluqgcg73vldpmdeejm4 0 1520603813 37TEST|i:1520602373;TEST3|i:1520602373;

去memcached服务器中查看数据

[root@apenglinux-002 ~]# nc 127.0.0.1 11211get iu85psci2iqgdfjhudg32ck5m0VALUE iu85psci2iqgdfjhudg32ck5m0 0 37TEST|i:1520602324;TEST3|i:1520602324;ENDget 2a32ffcluqgcg73vldpmdeejm4VALUE 2a32ffcluqgcg73vldpmdeejm4 0 37TEST|i:1520602373;TEST3|i:1520602373;END