×

windows能用hadoop吗

windows能用hadoop吗(hadoopwindows安装)

admin admin 发表于2023-03-27 06:53:09 浏览45 评论0

抢沙发发表评论

本文目录一览:

hadoop可以运行在windows上吗

好像不行,这个是针对Linux系统做的架构。

想在Windows上运行,需在Windows上装Linux虚拟机,部署Hadoop。

windows不能执行hadoop吗为什么非要用linux执行hadoop

windows不能执行hadoop吗为什么非要用linux执行hadoop

hadoop 2.0还是2.20之后有相容windows的版本,然而大部分都是部署在linux上的。记得刚出win版本的那天,我兴冲冲的下载部署了一整天还是遇到各种问题没能部署成功。至今为止还没见到有哪个公司把hadoop生产环境部署在windows上的。-windows能用hadoop吗

为什么hadoop job执行的时候 其他的执行绪不能执行

首先,一个job具体启动多少个map,是由你配置的inputformat来决定的。inputformat在分配任务之前会对输入进行切片。最终启动的map数目,就是切片的结果数目。具体来看 一、如果使用是自定义的inputformat,那么启动多少个map 需要获取mapreduce的执行资讯,比如执行状态,map,reduce的执行进度. hadoop 50030埠提供web ui服务,没找到提供json或者xml的服务方式. 于是,查询hadoop 50030的载入-windows能用hadoop吗

linux为什么不能执行windows程式

首先系统是不一样的。windows系统是避源的,linux 系统是开源的,Linux系统一般是命令列的,而windows 系统是偏向于图形化的。就像苹果手机是不能允许安卓手机的软体的。但是Linux系统在不多的强大。不断的创新,图形化已经做的非常好了,软体也越来越丰富了。在Linux上面执行windows程式变得没有那么困难了--wine。-windows能用hadoop吗

可以尝试使用wine 来执行windows系统。Linux的学习是一个过程,需要不断的去探索。更多的知识建议参考《Linux就该这样学》,加油吧,不断探索Linux的奥秘吧

python执行hadoop用到什么库

# map: 对序列的每个元素进行一个指定的操作 lst = map(lambda x: "%02d" % x, range(10)) lst ['00', '01', '02', '03', '04', '05', '06', '07', '08', '09'] # reduce: 对序列每个元素进行一种“累进”操作 rst = reduce(lambd...-windows能用hadoop吗

怎么检视hadoop能不能执行

看各个节点的程序,是不是都起来了,通过web查各个节点的状态,是不是都正常

一般都是上传 一个档案,看看成不成功

然后执行那个wordcount的,统计单词的数量,如果执行都没有问题,就OK了

windows下的exe为什么在linux下不能执行

linux下需要安装wine来相容windows下的程式。

一. 安装Wine

Wine适应于所有流行的UNIX作业系统,包括Ubuntu、Debian、Red Hat、SUSE、Mandriva、FreeBSD、Solaris和Mac OS X。

在Ubuntu上:

一、通过Unbuntu软体中心安装

1、 开启Applications(应用程式)Ubuntu Sofare Center(Unbuntu软体中心),开启Ubuntu软体中心。

然后点选Edit(编辑)Sofare Sources(软体源)。选择Other Sofare(其他软体)选项卡,点选Add(新增)。然后输入下列apt行:ppa:ubuntu-wine/ppa

2、Allsofares右侧选单中选择“PPA for Ubuntu Wine Team”,然后选择Microsoft Windows Compatibility Layer(Development files) – wine1.3-dev。点选Install(安装)。这会安装最新的Wine软体包,包括开发库。-windows能用hadoop吗

提示:解除安装现有的Wine软体包,以确保最大的相容性。另外,如果想干净安装,可以删除Wine使用者目录,为此可以从主目录中使用命令rm -r -v .wine。

二、通过终端安装

终端输入[如何在Ubuntu14.04中安装和执行Windows应用程式]

sudo add-apt-repository ppa:ubuntu-wine/ppa

sudo apt-get update

apt-get install wine1.7

wine --version

[Wine完全解除安装]

二、安装Wine支援包

现在,需要安装非开源(但免费)的支援包。这包括微软Core Fonts、Visual C++执行时环境等软体包。

安装Cabextract:

需要该软体包来解压缩微软.cab档案。

$ sudo apt-get install cabextract

在Windows上执行Hadoop,配置好java,cygwin,hadoop之后,要怎么做

启动cygwin就可以操作hadoop了。比如start-all.sh、jps、s-all.sh等

游戏的执行和机器的CPU,记忆体,独立显示核心等硬体配置有直接的关系,另外也和系统,驱动,其他软体等也有联络。当前,是否可以玩一个游戏,首先需要检视游戏执行的配置要求和机器的配置要求做一个对比,检视机器的配置是否符合。如果可以满足游戏的最低执行需求,则可以支援。"-windows能用hadoop吗

windows下安装hadoop注意点

在windows下安装Hadoop时遇到如下问题:

1.windows下启动hadoop提示(hadoop version)

 JAVA_HOME is incorrectly set.

原因:目录的dos文件名模式下的缩写,长于8个字符的文件名和文件夹名,都被简化成前面6个有效字符,后面~1,有重名的就 ~2,~3,

解决方法:在java_home的路径里用PROGRA~1 代替 C:\Program Files

例:java_home=C:\PROGRA~1\Java\jdk1.8.0_121

2.windos的 cmd命令里面的call必须定格写。

解决方法:将Hadoop安装目录下的bin目录下的所有的*.cmd文件中的call语句前边的 空格删掉。

为什么hadoop要配windows依赖

因为其是基于windows操作系统设计的。

通过写代码的方式来操作hdfs,虽然hdfs是在linux里面搭建的,通过配置windows环境去连接linux,就可以操作hdfs。整个hadoop工作之时需要依赖windows操作系统的平台。

下载hadoop。建议下载hadoop-3.1.3.tar.gz(大小约322M)或者更低的版本。

如何在windows下安装hadoop

1、安装Cygwin

下载cygwin的setup.exe,双击运行:

选择从Internet安装:

设置安装目录:

设置安装包目录:

设置“Internet Connection”的方式,选择“Direct Connection”:

选择一个下载站点:

“下一步”之后,可能会弹出下图的“Setup Alert”对话框,直接“确定”即可

在“Select Packages”对话框中,必须保证“Net Category”下的“OpenSSL”被安装:

如果还打算在eclipse 上编译Hadoop,则还必须安装“Base Category”下的“sed”:

“Devel Category”下的subversion 建议安装:

下载并安装:

当下载完后,会自动进入到“setup”的对话框:

在上图所示的对话框中,选中“Create icon on Desktop”,以方便直接从桌面上启动

Cygwin,然后点击“完成”按钮。至此,Cgywin 已经安装完成。

2、配置环境变量

需要配置的环境变量包括PATH 和JAVA_HOME:将JDK 的bin 目录、Cygwin 的bin 目录

以及Cygwin 的usr\bin(sbin)目录都添加到PATH 环境变量中;JAVA_HOME 指向JRE 安装目录。

3、windows系统上运行hadoop集群,伪分布式模式安装步骤:

①启动cygwin,解压hadoop安装包。通过cygdrive(位于Cygwin根目录中)可以直接映射到windows下的各个逻辑磁盘分区。例如hadoop安装包放在分区D:\下,则解压的命令为$ tar -zxvf /cygdrive/d/hadoop-0.20.2.tar.gz,解压后可使用ls命令查看,如下图:-windows能用hadoop吗

默认的解压目录为用户根目录,即D:\cygwin\home\lsq(用户帐户)。

②编辑conf/hadoop-env.sh文件,将JAVA_HOME变量设置为java的安装目录。例如java安装在目录C:\Program Files\java\jdk1.6.0_13,如果路径没空格,直接配置即可。存在空格,需将Program Files缩写成Progra_1,如下图:-windows能用hadoop吗

③依次编辑conf目录下的core-site.xml、mapred-site.xml和hdfs-site.xml文件,如下图:

④安装配置SSH

点击桌面上的Cygwin图标,启动Cygwin,执行ssh-host-config命令,然后按下图上的选择输入:

当提示Do you want to use a different name?输入yes,这步是配置安装的sshd服务,以哪个用户登录,默认是cyg_server这个用户,这里就不事先新建cyg_server这个用户,用当前本机的超管本地用户:chenx,后续根据提示,2次输入这个账户的密码-windows能用hadoop吗

出现Host configuration finished. Have fun! 一般安装顺利完成。如下图:

输入命令$ net start sshd,启动SSH,如下图:

注:sshd服务安装完之后,不会默认启动,如果启动报登录失败,不能启动,可在服务属性-Log On窗口手工修改,在前述的过程之中,cygwin不会校验密码是否正确,应该只是校验了2次的输入是否一致,然后再手工启动。不知道为什么,sshd服务如果选择local system的登录方式,后续会有问题,所以sshd服务最好设置成当前的登录用户。-windows能用hadoop吗

⑤配置ssh登录

执行ssh-keygen命令生成密钥文件

输入如下命令:

cd ~/.ssh

ls -l

cat id_rsa.pub authorized_keys

完成上述操作后,执行exit命令先退出Cygwin窗口,如果不执行这一步操作,下面的操作可能会遇到错误。接下来,重新运行Cygwin,执行ssh localhost命令,在第一次执行ssh localhost时,会有“are you sure you want to continue connectionyes/no?”提示,输入yes,然后回车即可。当出现下图提示,即顺利完成该步:-windows能用hadoop吗

⑥hadoop运行

格式化namenode

打开cygwin窗口,输入如下命令:

cd hadoop-0.20.2

mkdir logs

bin/hadoop namenode –format

启动Hadoop

在Cygwin 中,进入hadoop 的bin 目录,

运行./start-all.sh 启动hadoop;

可以执行./hadoop fs -ls /命令,查看hadoop 的根目录;

可以执行jps 查看相关进程;

如下图:(如果显示和下图类似,一般hadoop安装/启动成功)

windows怎么安装hadoop

在windows下安装Eclipse Hadoop插件主要安装编译Eclipse-hadoop插件即可。 1、配置环境变量:把下载好的hadoop-2.5.2解压到D盘的根目录下,然后计算机==》属性==》高级系统设置==》环境变量2、 把hadoop-eclipse-plugin-2.6.0.jar放到eclipse==》plugins目录下面,重启Eclipse,打开Window==》Preferences,能够看到Hadoop Map/Reduce就是插件安装成功,下面指定Hadoop的安装目录即第一步设定的HADOOP_HOME。3、新建Map/Reduce Project工程4、输入工程名称,然后点击Finish按钮可以看到如下图所示,可以看到有新建的工程还有自动生成的DFS Locations,此时点击DFS Locations什么都不会看到,因为还没有配置其相应的HDFS:5、显示Hadoop的Map/Reduce Locations视图,配置Hadoop LocationsWindow==》Show View==》Other,找到Map/Reduce Tools下的Map/Reduce Locations,并点击ok。设置下面几个参数:-windows能用hadoop吗