在线精品99_中国九九盗摄偷拍偷看_91免费版在线观看_91.app_91高清视频在线_99热最新网站

如何使用OGG同步ORACLE ACTIVE DATAGUARD数据到CLOUDERA HBASE测试

139次阅读
没有评论

共计 5527 个字符,预计需要花费 14 分钟才能阅读完成。

这篇文章主要介绍了如何使用 OGG 同步 ORACLE ACTIVE DATAGUARD 数据到 CLOUDERA HBASE 测试,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让丸趣 TV 小编带着大家一起了解一下。

环境介绍:

机器名

数据库版本

架构

OGG 版本

IP

OS 版本

uatdbrac1

Oracle 11.2.0.4

rac

NULL

172.16.49.191

REDHAT6.4

Uatdbrac2

Oracle 11.2.0.4

rac

NULL

172.16.49.193

REDHAT6.4

uagracdg

Oracle 11.2.0.4

ADG

OGG 12.2.0.1

172.16.49.138

REDHAT6.4

master1

Hbase

cdh6.6.0

OGG FOR BIG DATA 12.2.0.1

172.16.49.35

REDHAT6.4

测试目的:

以 ORACLE ACTIVE DATAGUARD 作为数据抽取源,使用 ORACLE GOLDENGATE 将 ORACLE 数据库中变化数据同步到 HBASE 集群。

 

一.部署 ORACLE RAC 的 ACTIVE DATAGUARD

  请参照之前 ADG EXAMPLE 文档

二.在主库 RAC 上的准备工作

1. 创建 GoldenGate 表空间

2. 创建 GoldenGate 用户并授权

3. 开启 force logging(做 Active Datagurad 时候已经配好)

4. 启用附加日志

alter database add supplemental log data;

alter system switch logfile;

select supplemental_log_data_min from v$database;

5. 启用 enable_goldengate_replication

alter system set enable_goldengate_replication=true;

三.在 ADG 上部署 goldengate 12.2

1. 创建 golden os 用户

2. 创建 ogg 软件安装目录 /goldengate/gg12c

3. 编辑 golden 用户 profile

Vi .bash_profile 添加如下内容:

export ORACLE_BASE=/u01/app/oracle

export ORACLE_HOME=/u01/app/oracle/product/11.2.0/dbhome_1

export ORACLE_SID=uatracdg  –ACTIVE DATAGUARD ORACLE SID

export LD_LIBRARY_PATH=/goldengate/gg12c:$ORACLE_HOME/lib:$ORACLE_HOME/lib32

export OGG_HOME=/goldengate/gg12c

PATH=$PATH:$HOME/bin:$ORACLE_HOME/bin:/goldengate/gg12c:.

export PATH

cd $OGG_HOME

4. 下载 goldengate 12.2 for linux 64bit 版本

最新软件包名 V100692-01.zip

5. 解压安装包

Unzip V100692-01.zip 得到下列文件:

fbo_ggs_Linux_x64_shiphome

OGG-12.2.0.1.1-ReleaseNotes.pdf  

OGG-12.2.0.1-README.txt

6. 编辑静默安装参数文件

cd /goldengate/fbo_ggs_Linux_x64_shiphome/Disk1/response

编辑 response 文件,更改下列参数

INSTALL_OPTION=ORA11g

SOFTWARE_LOCATION=/goldengate/gg12c

START_MANAGER=true

MANAGER_PORT=7801

DATABASE_LOCATION=/u01/app/oracle/product/11.2.0/dbhome_1

INVENTORY_LOCATION=/goldengate/gg12c/oraInventory

UNIX_GROUP_NAME=oinstall

7. 静默安装 OGG

cd /goldengate/fbo_ggs_Linux_x64_shiphome/Disk1

./runInstaller -silent -responseFile /goldengate/fbo_ggs_Linux_x64_shiphome/Disk1/response/oggcore.rsp

8.  添加表的附加日志

因为 ADG 是只读模式,添加附加日志需要更改数据字典,所以此操作需要在 ggsci 命令行中连接主库 RAC 进行

ggsci dblogin userid goldengate@uatrac passowrd

add trandata HADP.OGGT1

add trandata HADP.OGGT2

9.  添加配置 extract 进程

add extract ext01, tranlog, begin yyyy-MM-dd HH:mm:ss

add exttrail ./dirdat/et, extract ext01

edit param ext01

EXTRACT ext01

setenv (NLS_LANG= SIMPLIFIED CHINESE_CHINA.ZHS16GBK)

setenv (ORACLE_SID=uatracdg)

userid goldengate, password golden123

exttrail ./dirdat/et

gettruncates

–dynamicresolution

discardfile ./dirrpt/discardext01.txt, append, megabytes 50

–DBOPTIONS ALLOWUNUSEDCOLUMN

–TRANLOGOPTIONS CONVERTUCS2CLOBS

EOFDELAY 3

getupdatebefores

TRANLOGOPTIONS MINEFROMACTIVEDG –FOR ADG

TABLE HADP.OGGT2;

TABLE HADP.OGGT1;

10.  添加配置 PUMP 进程

add extract pup1, exttrailsource ./dirdat/et

add rmttrail ./dirdat/rt, extract pup1

Edit param pup1

extract pup1

setenv (NLS_LANG= SIMPLIFIED CHINESE_CHINA.ZHS16GBK)

userid goldengate password golden123

rmthost 172.16.49.35, mgrport 7809, TCPBUFSIZE 5000000

rmttrail ./dirdat/rt

DYNAMICRESOLUTION

NUMFILES 3000

ALLOCFILES 200

passthru

TABLE HADP.OGGT2;

TABLE HADP.OGGT1;

四.在 CDH 上部署 goldengate for big data 12.2

1. 创建 golden os 用户

2. 创建 ogg 软件安装目录 /goldengate/gg12c

3. 编辑 golden 用户 profile

export JAVA_HOME=/usr/local/jdk1.7.0_80

PATH=$PATH:$HOME/bin

export PATH

export NLS_LANG=AMERICAN_AMERICA.ZHS16BGK

export PATH=$JAVA_HOME/bin:$PATH:/goldengate/gg12c:/usr/local/apache-maven-3.1.1/bin:.

export LD_LIBRARY_PATH=$JAVA_HOME/jre/lib/amd64/server:/goldengate/gg12c:/goldengate/gg12c/ggjava/resources/ggplugins/hdfs:.

export CLASSPATH=/goldengate/gg12c/ggjava/*:/goldengate/gg12c/dirprm/*:/goldengate/gg12c/lib/*:/etc/hadoop/conf/core-site.xml:/etc/hadoop/conf/hdfs-site.xml:/opt/cloudera/parcels/

CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop-hdfs/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop-hdfs/lib/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop/*:/

opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop/client/*:/goldengate/gg12c/dirprm/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop/lib/*:.

export OGG_HOME=/goldengate/gg12c

4. 下载 ogg for big data

最新软件包 V100447-01.zip

5. 安装 ogg for big data

解压在安装目录即可

6. 创建子目录

Ggsci create subdirs

7. 配置管理进程 MGR

Edit param mgr

PORT 7809

dynamicportlist 7820-7850

8. 添加配置复制进程

将 /goldengate/gg12c/AdapterExamples/big-data/hbase 下文件 copy 到 $OGG_HOME/dirprm 下,

编辑 hbase.props

更改下列参数

gg.handler.hbase.hBaseColumnFamilyName=ID

gg.classpath=/etc/hbase/conf.cloudera.hbase:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hbase/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hbase/lib/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop/client/*:/goldengate/gg12c/dirprm/*:/opt/cloudera/parcels/CDH-5.6.0-1.cdh6.6.0.p0.45/lib/hadoop/lib/*:.

ggsci add replicat rhbase, nodbcheckpoint, exttrail ./dirdat/rt

ggsci Edit param rhbase

REPLICAT rhbase

SOURCEDEFS ./dirsql/hdfs.sql

— Trail file for this example is located in AdapterExamples/trail directory

— Command to add REPLICAT

— add replicat rhbase, exttrail AdapterExamples/trail/tr

setenv (NLS_LANG=AMERICAN_AMERICA.ZHS16GBK)

TARGETDB LIBFILE /goldengate/gg12c/libggjava.so SET property=/goldengate/gg12c/dirprm/hbase.props

REPORTCOUNT EVERY 1 MINUTES, RATE

GROUPTRANSOPS 10000

MAP HADP.OGGT2, TARGET HADP.OGGTEST,

RESOLVECONFLICT(INSERTROWEXISTS, (DEFAULT, OVERWRITE)),

COLMAP (ID=ID, COL1=COL1, COL2=COL2);

MAP HADP.OGGT1, TARGET HADP.OGGTEST,

RESOLVECONFLICT(INSERTROWEXISTS, (DEFAULT, OVERWRITE)),

COLMAP (ID=ID, COLA=COLA, COLB=COLB);

9. 登陆 HBASE 创建测试表

创建 namespace HADP:

hbase shell

create namespace‘HADP’

list_namespace

describe_namespace ‘HADP’

创建表:

create‘HADP:OGGTEST’,’ID’,’COL1’,’COL2’,’COLA’,’COLB’

查看表数据:

scan‘HADP:OGGTEST’

10. 查看 OGG FOR BIG DATA 日志

cd /goldengate/gg12c/dirrpt

more *hbase*.log

感谢你能够认真阅读完这篇文章,希望丸趣 TV 小编分享的“如何使用 OGG 同步 ORACLE ACTIVE DATAGUARD 数据到 CLOUDERA HBASE 测试”这篇文章对大家有帮助,同时也希望大家多多支持丸趣 TV,关注丸趣 TV 行业资讯频道,更多相关知识等着你来学习!

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-07-19发表,共计5527字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)
主站蜘蛛池模板: 四虎在线免费观看视频 | av区无码字幕中文色 | 亚洲一区二区三区在线播放 | 免费精品久久 | 国产女人精品视频国产灰线 | 深夜a级毛片免费无码 | 精品无码人妻一区二区三区 | 国产精品久久久久久亚洲影视 | 久久国产成人午夜aⅴ影院 久久国产成人午夜av影院 | 洗澡被公强奷30分钟视频 | 九九精品热 | 免费一级欧美大片久久网 | 亚洲an日韩专区在线 | 日本一级大毛片a一 | 日韩在线国产精品 | 久久亚洲一区二区三区四区 | 免费观看小视频 | 西西人体44www大胆无码 | 久久精品国产福利国产琪琪 | 日韩一区二区不卡中文字幕 | 国产乱人对白 | 最新91精品老司机在线 | 免费大片黄国产在线观看 | 天堂国产一区二区三区四区不卡 | 国产成人精品自在线拍 | 国产精品视频人人做人人爱 | 欧美性猛交一区二区三区精品 | 久热热热 | 亚洲一区二区三区在线网站 | 七次郎在线视频永久地址 | 欧美两根一起进3p做受视频 | 一级做a级爰片性色毛片视频 | 韩国资源视频一区二区三区 | 久久久久久a亚洲欧洲aⅴ | 亚洲精品入口一区二区在线播放 | 亚洲av日韩精品一区二区三区 | 久碰人澡人澡人澡人澡91 | 最新久久精品 | 各种虐奶头的视频无码 | 老熟女一区二区免费 | 中文成人无字幕乱码精品区 |