×

ibm大型机价格

ibm大型机价格(大数据与Hadoop之间是什么关系)

admin admin 发表于2022-09-10 08:12:55 浏览131 评论0

抢沙发发表评论

本文目录

大数据与Hadoop之间是什么关系

谢谢邀请!

大数据是一系列技术的统称,经过多年的发展,大数据已经形成了从数据采集、整理、传输、存储、安全、分析、呈现和应用等一系列环节,这些环节涉及到诸多大数据工作岗位,这些工作岗位与物联网、云计算也都有密切的联系。

大数据自身的岗位包括大数据平台研发、大数据应用开发、大数据分析、大数据运维等,不同的工作岗位有不同的任务要求。比如大数据平台研发主要从事大数据基础性的开发任务,解决大数据分布式存储和分布式计算机的系统级问题,另外还需要考虑并发、安全、事务等内容。-ibm大型机价格

Hadoop本身就是大数据平台研发人员的工作成果,Hadoop是目前比较常见的大数据支撑性平台,Hadoop平台提供了分布式存储(HDFS)、分布式计算(MapReduce)、任务调度(YARN)、对象存储(Ozone)和组件支撑服务(Common)。-ibm大型机价格

大数据开发人员可以通过Hadoop提供的系统级服务支持从而帮助企业完成大数据改造,对于开发人员来说,只需要关注于具体的服务实现就可以了,系统级功能已经由Hadoop提供了实现。所以,Hadoop是大数据开发人员的重要基础。-ibm大型机价格

随着Hadoop的不断发展,基于Hadoop的大数据生态越发完善,目前包括Ambari、Avro、Cassandra、Chukwa、HBase、Hive、Mahout、Pig、Spark、Tez、Zookeeper等组件陆续被开发出来,这些组件极大的丰富了Hadoop自身的应用。随着组件的增多,Hadoop自身也越来越重,因此目前很多大数据工程师更愿意使用Spark,因为Spark更轻,速度也更快一些(基于内存)。-ibm大型机价格

由于Hadoop对硬件的要求并不高,所以很多初学者都是从Hadoop开始学习大数据的,目前很多商用大数据平台也是基于Hadoop的。

作者简介:中国科学院大学计算机专业研究生导师,从事IT行业多年,研究方向包括动态软件体系结构、大数据、人工智能相关领域,有多年的一线研发经验。

欢迎关注作者,欢迎咨询计算机相关问题。

IBM最先进的大型机长什么样

大型机长什么样?我看已经有人答复了。实际上大型机不能只看长相,因为从长相只能看到一堆硬件盒子(除了LOGO,其他跟存储系统,小型机等无异),更多的应该从功能接口等全面分析。

首先,90%的核心系统都用大型机,大型机中,IBM占据90%的市场份额,也就是说,IBM在大型机市场占统治地位,还有10%市场被Hitachi等其他厂商分享(具体参考下图)。

其次,大型机区别一般服务器或小型机的特性在于:大机接口,专用OS等。目前最主要的大机接口:ESCON和FICON(IBM在解决并行SCSI传输问题,提出了独有的ESCON和FICON两种接口方法,今天,之所以给大家分享这两个老技术,主要是因为在金融等行业客户数据中心还看到其应用)。 -ibm大型机价格

ESCON (Enterprise Systems Connection)基于光纤介质,传输距离达到3~10 KM。ESCON允许外围设备跨大园区和城域分布。与铜基并行总线相比,ESCON提供更高的速度并使用串行接口通讯。ESCON定向器是中心和外围的连接装置,提供8~16个端口(模式1)或28~60个端口(模式2)。 -ibm大型机价格

FICON (Fiber Connector)借鉴了FC (Fiber Channel)另一种基于光纤的主机信道,它对ESCON进行了修改,并提升了传输速率和距离。将ESCON的半双工传输率提高到了全双工传输。在传输速率上,每条FICON通道最高可相当于8条ESCON通道。 所以,ESCON技术已经逐渐被FICON技术所替代。-ibm大型机价格

ESCON和FICON都是IBM私有的协议接口,任何厂商使用该接口互联都必须经过IBM的严格测试,这在一定程度上限制了ESCON和FICON的推广,这在一定程度上也成了FC诞生的催化剂,目前很多传统、初创存储厂商都不再支持。-ibm大型机价格

目前,ESCON和FICON接口技术主要在IBM大型机(Mainframes)被支持。例如IBM z900/z800主机和9672 G5/G6主机。在其他Mainframes系统中,也有部分支持该接口,如Hitachi Mainframes: GX 8000。 -ibm大型机价格

支持大型机ESCON技术和接口的存储厂商,如下所示(信息以具体存储产品为准):

EMC Symmetrix,DMX和VMAX系列。

Hewlett Packard Enterprise XP Storage系列。

Hitachi数据系统Lightning

IBM Enterprise Storage Server(Shark)

IBM Storage DS8000

Sun StorageTek SVA

支持大型机FICON技术和接口连接的厂商和磁盘存储产品,如下所示(信息以具体存储产品为准):

EMC Symmetrix/DMX和VMAX系列

Hewlett Packard Enterprise XP Storage系列

日立数据系统Lightning

日立数据系统VSP

日立数据系统USP

IBM Enterprise Storage Server(Shark)

IBM Storage DS6000和DS8000

INFINIDAT InfiniBox

StorageTek FlexLine V2Xf/V2X4f SVA

EMC MAS和MDL虚拟磁带库

IBM 3584 UltraScalable磁带库(TS 3500)

IBM TS 7680G ProtecTier重复数据删除网关

IBM虚拟磁带服务器(VTS)

Luminex 大型机虚拟磁带(MVT)和CGX

Oracle StorageTek SL3000和SL8500磁带库

Oracle StorageTek虚拟存储管理器

博科DCX系列

博科M系列(McDATA)

Cisco MDS 9000系列

EMC Connectrix系列(Brocade或Cisco制造)

IBM i操作系统可以运行在Pure Systems,小机Power和中型机是AS400上,IBMI起初在AS/400名为OS/400,之后重命名为I5/OS,接着在Power系统上命名为IBM i。 -ibm大型机价格

这里提到的Pure Systems可以允许四种操作系统(AIX、IBM i、Linux、Windows),五种服务器虚拟化软件(Hyper-V、KVM、PowerVM、VMware、Xen)和支持两种硬件指令架构(Power和x86)。-ibm大型机价格

这里提到的PowerVM具体服务器虚拟化软件为Virtual IO Server (VIOS),他支持两种虚拟化实现,一是Virtual SCSI Target Adapter (vSCSI),另一种是Virtual Fibre Channel Adapter (NPIV) 。-ibm大型机价格

IBM i操作系统的存储对接方式,主要包括接连/交换机连接,VIOS (vSCSI),VIOS (NPIV)和SVC Attach (通过SVC相连)。目前全支持这四种方式的厂商主要是IBM和EMC(高端存储)。因为与IBM i 通信,需开发存储SCSI部分私有页以及修改LUN部分属性,需要支持 IBM i OS 多路径和其他高级特性。-ibm大型机价格

IBM的IBM LinuxONE大型机和中型机IBM i/AS400主要支持FCP接口。IBM LinuxONE和z Systems大型机硬件里面的OS主要是Z/Linux、Z/vm和 Z/OS(如OS390)。-ibm大型机价格

LinuxONE是IBM z Systems的演进,但相比Z要开放一些, Z/OS主要用的协议是FICON协议,Z/Linux和Z/vm主要采用的是FCP协议(FICON接口一般通用,可支持FCP协议)。-ibm大型机价格