PostgreSQL数据库安装与跨库查询实现:你不知道的秘密

发表时间: 2020-01-07 13:50


PG作为近几年最火热的关系型数据,已经被很多开发者所使用,尤其是5G网络普及完毕后,IOT和AI的应用场景下,数据的读写速度要求非常高,MYSQL已经开始不能满足高强度的数据吞吐(这里有争议,这里只是说单台服务的情况,使用负载的不在此讨论范围),ORACLE数据由于其不是开源项目,导致很多开发者在进行技术选型的时候,不会优先选择ORACLE作为第一选择,这时候PG作为一款可以媲美ORACLE的开源关系型数据库的优势就很明显了。下面我来介绍一下在CentOS下安装PG和使用PG进行跨库查询PG和ORACLE。

环境准备

一台CentOS7的Lunix服务器。

PostgreSQL 10.10, 64-bit,官网
https://www.postgresql.org/进行下载(window或者lunix都可以直接下载,我们这里使用yum进行镜像下载)

PG安装步骤如下:

1.安装rpm文件

yum install https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpm

2.安装PG客户端

yum install postgresql10

3.安装服务端

yum install postgresql10-server

4.初始化PG

/usr/pgsql-10/bin/postgresql-10-setup initdb

5、设置自动启动并且启动postgresql服务

systemctl enable postgresql-10systemctl start postgresql-10

下面进行PG数据库初始化,创建用户和数据库,步骤如下:

1.切换用户到postgres(PG安装成功后会自动创建postgres,初始化没有密码)

su - postgres

2.登陆postgresql数据库

3.创建用户和数据库

create user admin with password 'admin';            // 创建用户create database iot_admin owner admin;                 // 创建数据库grant all privileges on database iot_admin to admin;   // 授权

4、退出psql

\q

PG在安装之后,默认不开启远程访问的,需要手动开启远程访问,步骤如下

1、修改
/var/lib/pgsql/10/data/postgresql.conf文件,取消 listen_addresses 的注释,将参数值改为“*”

2、修改
/var/lib/pgsql/10/data/pg_hba.conf文件,增加下图红框部分内容

3.切换root用户后,重启PG服

su - rootsystemctl restart postgresql-10.service

4.使用Navicat连接PG


到这里PG已经正常安装到CentOS上,并且已经正常连接了。

下面我们来介绍PG最为强大的fdw功能

什么是fdw,我们来说下业务场景,比如我想做获取其他服务器上的的数据,一般情况我们的获取方式都是使用webservice或者rest-api接口的方式进行获取,有了fdw之后,我们可以直接将服务器上数据库的表映射(可以理解为一种特殊的外部数据接口),这样我们就可以直接读取我们自己库上映射的表进行数据构建,这里可能会有人认为接口也可以实现这种功能,我想说的是,接口总时有一定的延迟性的,而且映射过来的表我们是可以使用join来进行数据关联的,这也极大的方便了我们的开发和应用。

下面我来介绍使用Postgreslq_fdw来实现跨库查询Postgresql和使用Oracle_fdw来查询Oracle

使用Postgresql_fdw实现跨库查询Postgreql库(使用Navicat进行操作)

根据上文,我们已经创建了一个数据库iot_admin

1.我们新建一个数据库iot_all



2.这里我们在iot_admin中新建一张表base_user,

然后将base_user的数据同步到iot_all中。


iot_admin的建表SQL语句如下:

CREATE TABLE "public"."base_user" (

"id" varchar(64) COLLATE "pg_catalog"."default" NOT NULL,

"username" varchar(255) COLLATE "pg_catalog"."default",

"password" varchar(255) COLLATE "pg_catalog"."default",

"name" varchar(255) COLLATE "pg_catalog"."default",

"birthday" varchar(255) COLLATE "pg_catalog"."default",

"address" varchar(255) COLLATE "pg_catalog"."default",

"mobile_phone" varchar(255) COLLATE "pg_catalog"."default",

"tel_phone" varchar(255) COLLATE "pg_catalog"."default",

"email" varchar(255) COLLATE "pg_catalog"."default",

"sex" varchar(1) COLLATE "pg_catalog"."default",

"status" varchar(1) COLLATE "pg_catalog"."default",

"description" varchar(255) COLLATE "pg_catalog"."default",

"crt_time" timestamp(6),

"crt_user" varchar(255) COLLATE "pg_catalog"."default",

"crt_name" varchar(255) COLLATE "pg_catalog"."default",

"crt_host" varchar(255) COLLATE "pg_catalog"."default",

"upd_time" timestamp(6),

"upd_user" varchar(255) COLLATE "pg_catalog"."default",

"upd_name" varchar(255) COLLATE "pg_catalog"."default",

"upd_host" varchar(255) COLLATE "pg_catalog"."default",

"attr1" varchar(255) COLLATE "pg_catalog"."default",

"attr2" varchar(255) COLLATE "pg_catalog"."default",

"attr3" varchar(255) COLLATE "pg_catalog"."default",

"attr4" varchar(255) COLLATE "pg_catalog"."default",

"attr5" varchar(255) COLLATE "pg_catalog"."default",

"attr6" varchar(255) COLLATE "pg_catalog"."default",

"attr7" varchar(255) COLLATE "pg_catalog"."default",

"attr8" varchar(255) COLLATE "pg_catalog"."default",

"delete_flag" int2 NOT NULL DEFAULT 0,

"user_type" int2 NOT NULL DEFAULT 0,

"office_id" varchar(64) COLLATE "pg_catalog"."default",

"company_id" varchar(64) COLLATE "pg_catalog"."default",

"is_frist_login" varchar(10) COLLATE "pg_catalog"."default"

)

;

ALTER TABLE "public"."base_user" ADD CONSTRAINT "pk_base_user" PRIMARY KEY ("id");


3.在iot_all中安装FDW插件

SQL如下:

CREATE EXTENSION postgres_fdw;

4.在iot_all中创建iot_admin的远程服务

CREATE SERVER admin_server

FOREIGN DATA WRAPPER postgres_fdw

OPTIONS (host '10.100.2.156', port '5432', dbname 'iot_admin');

数据库ip 端口 数据库名称

5.验证服务创建成功

SELECT * from pg_foreign_server;


6.创建user mapping 相当于用户数据映射,将服务的权限给用户,没有给权限的用户无法使用相应的服务,这里使用初始化用户posgres

CREATE USER MAPPING FOR postgres

SERVER admin_server

OPTIONS (user 'postgres', password 'xgit_123');

用户名 密码

7.在iot_all中创建外部表,映射iot_admin中的base_user;

CREATE FOREIGN TABLE "public"."base_user" (

"id" varchar(64) COLLATE "pg_catalog"."default" NOT NULL,

"username" varchar(255) COLLATE "pg_catalog"."default",

"password" varchar(255) COLLATE "pg_catalog"."default",

"name" varchar(255) COLLATE "pg_catalog"."default",

"birthday" varchar(255) COLLATE "pg_catalog"."default",

"address" varchar(255) COLLATE "pg_catalog"."default",

"mobile_phone" varchar(255) COLLATE "pg_catalog"."default",

"tel_phone" varchar(255) COLLATE "pg_catalog"."default",

"email" varchar(255) COLLATE "pg_catalog"."default",

"sex" varchar(1) COLLATE "pg_catalog"."default",

"status" varchar(1) COLLATE "pg_catalog"."default",

"description" varchar(255) COLLATE "pg_catalog"."default",

"crt_time" timestamp(6),

"crt_user" varchar(255) COLLATE "pg_catalog"."default",

"crt_name" varchar(255) COLLATE "pg_catalog"."default",

"crt_host" varchar(255) COLLATE "pg_catalog"."default",

"upd_time" timestamp(6),

"upd_user" varchar(255) COLLATE "pg_catalog"."default",

"upd_name" varchar(255) COLLATE "pg_catalog"."default",

"upd_host" varchar(255) COLLATE "pg_catalog"."default",

"attr1" varchar(255) COLLATE "pg_catalog"."default",

"attr2" varchar(255) COLLATE "pg_catalog"."default",

"attr3" varchar(255) COLLATE "pg_catalog"."default",

"attr4" varchar(255) COLLATE "pg_catalog"."default",

"attr5" varchar(255) COLLATE "pg_catalog"."default",

"attr6" varchar(255) COLLATE "pg_catalog"."default",

"attr7" varchar(255) COLLATE "pg_catalog"."default",

"attr8" varchar(255) COLLATE "pg_catalog"."default",

"delete_flag" int2 NOT NULL DEFAULT 0,

"user_type" int2 NOT NULL DEFAULT 0,

"office_id" varchar(64) COLLATE "pg_catalog"."default",

"company_id" varchar(64) COLLATE "pg_catalog"."default",

"is_frist_login" varchar(10) COLLATE "pg_catalog"."default"

) Server admin_server options (table_name 'base_user');

服务名 映射的表名称

6.验证同步

查看iot_admin中base_user的数据


查看iot_all中的base_user的数据


这里需要重点说明的一个问题是,外部表映射仅仅可以对表的增删改查进行操作,也就是对表数据进行操作,但是不能对表结构进行操作,也就是all里面字段的改变不影响admin的改变,同时ALL中的字段是可以少于admin中,但是不能多于admin中,或者存在admin中不存在的字段


使用Oracle_fdw实现跨库查询Oracle库

1.安装Oracle_fdw

官方地址:
http://pgxn.org/dist/oracle_fdw/ ,选择一个版本下载。

2.安装Oracle Instant Client

从oralce官网下载 'Basic' and 'SDK',假如下载后文件所在位置在/opt/oracle中。

cd /opt/oracleunzip instantclient-basic-linux.x64-12.2.0.1.0.zipunzip instantclient-sdk-linux.x64-12.2.0.1.0.zipmv instantclient_12_2 instantclientcd instantclientln -s libclntsh.so.12.1 libclntsh.sovi /etc/profileexport ORACLE_HOME=/opt/oracle/instantclientexport OCI_LIB_DIR=$ORACLE_HOMEexport OCI_INC_DIR=$ORACLE_HOME/sdk/includesource /etc/profile

3.启动用户变量

source /home/postgres/.bashrc

4.安装oracle_fdw

unzip oracle_fdw-1.5.0.zip cd oracle_fdw-1.5.0makemake install

下面是创建FDW的扩展

同样是iot_all数据库

1.安装oracle_fdw扩展

create extension oracle_fdw;

2.创建server

create server oradb_test foreign data wrapper oracle_fdw options(dbserver '192.168.0.215:1521/ora_db');

这里和PG互相跨库查询略有不同

4.服务授权

grant usage on foreign server oradb_test to postgres;

5.创建服务映射给用户

create user mapping for postgres server oradb_test  options(user 'MG_APP',password 'QWERasdf');


下面进行表的创建和做映射,可以参照PG实现跨库,步骤相同。

结语

PG作为一款关系型数据库,可以实现如此多的功能扩展,可以是一款全栈型数据库也不为过。