티스토리 뷰
저번에는 hadoop 1.2.1 버전을 설치 했는데..
2.x.x 버전이 필요 하게 되어서 다시 설치 하였다...
몇가지 다른 점이 있지만 거의 유사 한거 같다.
우선, 다운 받고 압축 풀는 것 까지는 같은데 추가 적으로
여기서 리눅스에서 웹페이지 다운 받으려면 아래와 같이 하면 된다..
wget http://apache.tt.co.kr/hadoop/common/hadoop-2.6.0/hadoop-2.6.0.tar.gz |
권한을 주는 것이 문제가 되었다.. 권한을 가진 유저에 디렉토리에 tar 를 정해서 해야한다...!!!!!!
step1.
쓰기 쉽게 바로 가기를 만든다. 바로 가기 명령어는 ln 이다.
ln -s hadoop-2.6.0 hadoop |
step2.
.bashrc 를 수정한다.
vim bashrc
export HADOOP_HOME=/home/hanseungwan/hadoop export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin |
. .bashrc 로 컴파일
step3.
/home/hanseungwan/hadoop/ect/hadoop 으로 이동
아래 파일 들을 수정한다.
hadoop-env.sh
(JAVA_HOME을 찾아서 수정)
export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd6 |
core-site.xml
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> |
yarn-site.xml
<configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> </configuration> |
mapred-site.xml(없음으로 만들어야 한다.)
<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> |
hdfs-stie.xml
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/home/hanseungwan/hadoop/name</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/home/hanseungwan/hadoop/data</value> </property> </configuration> |
step4.
.bashrc 를 또 수정 하여야 한다.
아래 내용을 추가로
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native export HADOOP_OPTS=“-Djava.library.path=$HADOOP_HOME/lib" |
'BigData' 카테고리의 다른 글
hadoop 명령어 (0) | 2015.01.16 |
---|---|
Fluentd (0) | 2015.01.16 |
우분투에 JAVA 설치 하기. (0) | 2015.01.12 |
Hadoop 설치! (0) | 2015.01.11 |
PuTTY 설치 및 Virtualbox에 설치된 리눅스와 연결 (0) | 2015.01.11 |
- Total
- Today
- Yesterday
- MSA
- GateWayApi
- 퀜트백
- mongodb
- data mining
- TDD
- SpringBoot
- 테스트
- 웹서비스
- Python #FastAPI
- EC2
- kafka
- 켄트 백
- 분산처리
- Python
- nodejs
- data crawling
- fastapi
- 테스트 주도 개발
- AWS
- 테스트주도개발
- 웹개발
- MQ
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |