日程 - marketplace-res-cbc-cn.obs.myhwclouds.com · 案例| 中国铁路 目标:...

48

Upload: others

Post on 11-Jan-2020

25 views

Category:

Documents


0 download

TRANSCRIPT

日程

• HVR 简介

• HVR技术

•使用场景

•案例

•演示

• Q&A

HVR 简介

> 成立于2000年

> 与多家世界闻名的平

台供应商合作

公司简介

HVR

Cloud

Apache Open Source

Data Warehouse / Data LakeXML Files

Databases

SharePoint

> 客户遍布超过30 国家

成功案例Customer Success Stories

案例| 中泰证券

目标: 交易员需要实时数据来做交易决策

• 关键业务: 支撑核心交易业务

• 异构

• 十几套业务系统分别构建在Oracle, SQL Server, DB2上

• 数据仓库使用DB2

• 虚拟化技术的应用

用户收益

• 构建本地综合性数据仓库

• 济南和上海之间的数据库容灾

• 单一管理监控平台管控十几套系统的数据库复制

Data Warehouse

案例| 中国铁路

目标: 数据库容灾与报表分离

• 关键业务: 铁路调度与管控系统

• 18套SQL Server对应中国18个铁路局

• GIS数据支持

用户收益

• 郑州和株洲之间的数据库容灾

• 灾备系统可以分担生产系统报表查询压力

• 单一管理监控平台管控所有数据库复制

• 方便易用的初始化同步和比较

• 主备系统定期切换郑州数据中心 株洲数据中心

案例| 通用电气集团的数据湖

目标: 跨事业部的综合性数据湖

• 几十个主要的ERP数据源

• SAP on Oracle/DB2i

• Oracle 应用

• 其它行业应用

• 目标系统:Greenplum

• 用户收益

• 在复杂环境下保存高效和灵活性

• MPP目标端上的优异性能表现

• 简便的配置管理和运行更加节约使用成本

其它

运输

发动机

石油和天然气

电力

案例| 汉莎航空综合调度系统(LIDO)目标: 分发航班计划数据

• 关键业务: 航空业的核心系统

• 超过60个航空公司使用汉莎航空综合调度系统LIDO,

其中包括中国南航, 阿联酋航空,英国航空,法国航空, UPS, 荷兰皇家航空, 汉莎航空, 新加坡航空

• 安全: 机密数据不能泄露

• 安全运营超过10年时间

用户收益

• 遍及全球的实时数据复制

• 安全可靠

• 有些航空公司具有复杂的复制规则和数据过滤条件,甚至需要通过级联复制的方式实现

Master Database

Airline Local DB

LIDO SaaS

Airline Local DB

Airline Local DB

Airline Local DB

Airline Local DB

DR Copy

Data Warehouse

案例| 威灵顿实时数据目标: 交易员需要实时数据来做交易决策

• 关键业务: 支撑核心交易业务

• 大数据量

• 源和目标端数据包括了超过10个 Oracle Exadata 11g and 12c RAC

• 业务系统每秒钟会产生超过 100 MB(约8.5TB/天)事务日志;每秒中需要处理超过5万笔事务

用户收益

• 替代原先使用的Shareplex

• HVR能够提供更完善的服务

• 灵活的技术以应对未来的云计算场景,以及减轻企业对oracle的依赖性

Data Warehouse

部分用户

技术特点

HVR 的技术架构

• 方案

• 快速高效的数据复制技术

• 专门优化的网络通讯协议

• “All in One Box”

• 初始化数据同步

• 变化数据捕获

• 数据校验与修复

• 自动监控与报表

点对点复制架构 集中的HUB架构

Hub 架构 –方便管理

DB2

DB3

DB4

DB1

源端 目标端

灵活部署

DB1

DB1

DB3

DB4

源端 目标端

• Hub可以部署在源端服务器,目标端服务器或者单独的服务器上

DB2

DB3

DB4

DB1

HUB 目标端

DB1

DB1

DB3

源端

灵活部署

Topologies单向复制

实时报表系统迁移

双向复制双活系统

高可用性容灾

对等复制多路双活系统

地理分布式系统

数据分发总分系统

数据集中数据仓库/数据湖

级联复制数据集市

HVR的技术优势

• 高效率的资源利用

• 基于事务日志的变化数据捕获技术对源端的影响最小

• 高效的数据压缩技术减少对网络带宽的占用

• 目标数据库直接装载技术降低延迟时间提高性能

• 创新的架构确保没有数据丢失

• 作业失败后自动重试可以最小化复制延迟

• 在线初始化同步确保没有数据丢失

• 易用性与运维自动化降低总体使用成本

• 友好的图形用户界面

• 复制规则可以重用大大提高生产率降低错误发生概率

• 自动监控和运维任务

支持广泛的异构平台间数据复制

Amazon Redshift

Files: Avro, CSV,

HDFS, S3, XML

Salesforce

SaaS

文件系统

Amazon

RDSWindows

Azure

实时数据同步软件---不仅仅复制数据库

20

IaaS and

PaaS

Xml

Amazon

Redshift

Amazon EC2

Hadoop

Ingres

Oracle

(also Exadata)DB2

(LUW and iSeries)

SQL Server

Matrix (ParAccel)

Vector

(Vectorwise)

Teradata

Greenplum/Hawq

PostgreSQL/

Xtremedata

SharePoint

其它

HANA

支持的数据库平台

支持的数据库系统

数据库类型 源端 目标端

Oracle √ √

SQL Server √ √

IBM DB2 (LUW & i) √ √

Actian Ingres √ √

Saleforce √ √

PostgreSQL √ √

Teradata √

HANA √ √

Greenplum √ √

Actian Vector √

Actian Matrix √

Pivotal HawQ √

Miscorsoft Azure √ √

Amazon AWS √ √

* 2017年HVR将支持mysql, mongodb

文件到文件

文件分发

文件到数据库

数据库到文件

数据库到数据库和文件

多种选择

HVR文件复制• 多种配置选项• 支持数据压缩和加密• 支持XML和CSV文件与数据库表之间的转换• 支持文件过滤• 支持FTP协议• 支持Sharepoint

• 支持Hadoop

• 支持AWS S3

FILE 格式• 非结构化数据文件• XML

• CSV

• 自定义格式

支持的平台• 操作系统目录• (S)FTP or FTPS

• SharePoint

• Hadoop

• AWS S3

• 创建并装载目标表

• 用于实时复制的初始化

• 也可以单独使用

• 可以被定义为任务,定时调度执行

异构平台环境下初始化同步

• 非侵入式技术对生产没有影响

• 基于日志捕获技术的实时性非常高

• 支持从过去的某一指定时间开始捕获

• 条件过滤

• 支持触发器捕获技术作为补充

基于数据库事务日志的变化数据捕获

• 避免人为错误

• 在迁移结束前校验数据

• 支持异构

异构平台间数据校验域修复

内置监控与报警

• 实时监控HVR进程

• 自动告警

• 与第三方企业监控平台集成

• 丰富的统计报表

可扩展性

• 复制过程可嵌入用户自定义业务逻辑

HVR使用场景Overview

HVR使用场景

地理分布式系统

高可用性系统

在线系统迁移

实时报表

企业级数据湖/

数据仓库

混合云数据集成

HVR

保障业务连续性利用实时同步并可用的副

本确保关键业务应用连续性

提高效率可以在多对多场景下实现数据的

实时自动化复制提高业务效率

降低风险复制可以保证数据完整性

提升业务洞察力在专门设计和优化的平台

上构建企业实时数据集中的数据仓库/数据

Cloud

Database

Files

HVR 使用场景地理分布式系统

地理分布式系统

• 方案

• 在多个站点之间实现数据捕获和加载

• 高效率使用网络带宽

• 多中心复制实时侦测与仲裁冲突数据

• 数据过滤

• 复制的集中设计, 监控和管理

• 用户收益

• 优化应用性能

• 保障数据随时随地可用

• 满足24x7 业务连续性

HVR 使用场景高可用性

高可用性与容灾

• 方案

• 仅复制提交事务到目标端

• 双活架构确保容灾方案可用性

• 灾备中心平时可以接管部分生产压力

• 用户收益

• 远程容灾没有距离限制

• 可以在不同数据库版本之间复制

• 可以在不同种类的数据库之间复制

• 目标端系统实时可以读写访问

Oracle 11g Oracle 12c

结合Data Guard实现异地容灾

• Solution

• 利用Active Data Guard后备系统做为数据源

• 仅复制提交过的事务数据

• 用户收益

• 容灾距离没有限制

• 结合本地的同步备份与远距离异步复制方案

PRODDR

HVR 使用场景在线系统迁移/升级

在线系统迁移

Oracle 12c Microsoft SQL Server 2016

Oracle 9i Oracle 12c

Solaris 11 Linux 7

Microsoft SQL Server 2016

Microsoft SQL Database

• 方案

• 支持异构平台间的数据库在线初始化同步

• 初始化同步结合实时增量同步确保源端业务不中断的

情况下目标端数据与源端保持一致

• 迁移可回退以应对未知风险

• 数据校验和修复确保数据完整性

• 双活的迁移过程使得业务迁移可以实现分步实现,

并确保在整个过程中数据是一致的

• 用户收益

• 降低甚至消除停机时间

• 完整的解决方案

• 迁移过程自动化监控管理

迁移部署选项

单向 双向提供故障回退能力 双活系统

• 最小化业务停机时间• 目标端可以进行充分测试• 停机时间仅仅是应用切换到

目标系统所需的时间• 系统切换前可以对数据进行

校验

• 最小化业务停机时间• 目标端可以进行充分测试• 迁移风险可控:如果新系统

出现故障,业务可以回退到老系统

• 停机时间仅仅是应用切换到目标系统所需的时间

• 系统切换前可以对数据进行校验

• 最小化业务停机时间• 目标端可以进行充分测试• 业务迁移可以分阶段分步进

行• 冲突解决机制• 无需停机时间• 在线数据校验

HVR 使用场景实时报表系统

实时报表系统

• 方案

• 基于事务日志的变化数据捕获技术当前主流的数据库

平台

• 可以根据报表系统需求过滤数据

• 支持异构平台间复制

• 目标系统结构可以根据需要优化,不会影响生产和复

• 用户收益

• 实时数据满足当前快速决策的需要

• 降低成本,提高效率

Oracle Postgres

IBM DB2 for iSeries

Actian Ingres

HVR 使用场景实时数据仓库/数据湖

实时数据仓库 & 商业智能

• 方案

• 支持异构环境复制

• 对源端没有影响

• 最新的事务数据准实时载入数据仓库

• 可与第三方ETL工具集成

• 用户收益

• 不再需要等待“晚上的批处理”时间窗口进行数据抽

• 不影响生产运营

• 实时数据支撑快速决策制定

• 专门设计优化的报表平台

数据库1

数据库2

数据库3

数据库4

数据仓库

数据集市

报表

实时企业级数据湖

• 方案

• 数据从广泛异构的源平台集中复制到数据湖中

• 高性能并行数据加载

• 支持多种大数据平台

• 支持文件复制

• 用户收益

• 360 度数据视角

• 可伸缩的数据检索

• 低影响高实时性的数据访问

DB1

DB2

DB3

Files

Data Lake Data Warehouse

– 数据实时加载到Hadoop

• 支持HDFS (文件)

• 支持HIVE (SQL)

• 支持HBASE (NoSQL)

• 支持Kafka (消息发布与订阅)

• HVR Agent Plugin API (任何其它目标)

– 保持同步– 低延迟

• 非侵入式、实时、基于事务日志的变化数

据捕获技术

• 高效率的数据压缩更快地传输大量数据

– 大吞吐量

• 事务数据可以逐行装载也可以批量(burst)装

载到大数据平台

数据库

文件

大数据支持

HVR 使用场景混合云数据集成

混合云数据集成– 易于获取

• HVR已经登陆AWS和Azure的应用市场

– 保持同步– 低延迟

• 非侵入式、实时、基于事务日志的变化数

据捕获技术

• 高效率的数据压缩更快地传输大量数据

– 安全

• 网络加密传输

– 低迁移风险

• 将本地数据中心数据复制到云上用于环境

设置和测试

• 将云上的数据复制到本地数据中心以备不

• 云与云之间数据集成消除信息孤岛

Customer Use Cases

Moved Enterprise ERP into a

cross division Data Lake

spanning 100+ sources

Replaced Shareplex for

service, support, functionality

and lower TCO

Cloud data integration and

migration from on-premHigh availability and real-time

reporting on mission-critical

maintenance data.

Data integration for flight

plans for global airlines. Half

the world’s airplanes wouldn’t

fly without it.

Saving customers’ money and

optimizing data availability by

performing zero downtime

migrations with HVR.

Improving system utilization by

enabling Passive Failover

Clusters

Real-time data integration

from diverse databases into an

EDW on Teradata for up-to-date

consolidated data.

总结

HVR提供完整的数据集成解决方案:

• 综合性异构平台支持:安全,高效的数据库/大数据/文件复制

• 内置跨异构平台的数据校验和修复

• 支持异构/同构平台数据初始化同步, 包括对象自动创建和转换

• 支持异构平台的DDL 复制

• 内置图形化的监控系统, 告警和作业调度

• 简洁统一的架构, 一通百通

Questions & Answers