본문 바로가기

분류 전체보기

(21)
하둡 설정 (data node) sudo mkdir -p /prj/data/hadoop/tmp (하둡 임시 파일 경로, hadoop/conf/core-site.xml에서 hadoop.tmp.dir 경로를 선택할 수 있음)sudo mkdir -p /prj/logs/hadoop (하둡 로그 경로, hadoop/conf/hadoop-env.sh 에서 설정을 바꿀 수 있음)hadoop/conf/hadoop-env.sh 파일에 export HADOOP_LOG_DIR=/prj/logs/hadoop 추가master에서 hadoop/conf/slaves에 추가된 slave 주소 입력master에서 hadoop/conf/hdfs-site.xml에 총 노드 개수 입력 (현재 네임노드 1개, 데이타노드 3개의 구성이므로 4, default 3)경로를 지정..
하둡 설정 (name node) sudo mkdir -p /prj/data/hadoop/tmp (하둡 임시 파일 경로, hadoop/conf/core-site.xml에서 hadoop.tmp.dir 경로를 선택할 수 있음)sudo mkdir -p /prj/logs/hadoop (하둡 로그 경로, hadoop/conf/hadoop-env.sh 에서 설정을 바꿀 수 있음)hadoop/conf/hadoop-env.sh 파일에 export HADOOP_LOG_DIR=/prj/logs/hadoop 추가hadoop/conf/masters에 네임노드서버 주소입력master에서 core-site.xml, hdfs-site.xml, mapred-site.xml 3개의 파일을 수정core-site.xml의 현재 설정 fs.default.name hdfs:..
Mining Algorithm 정리 Top 10C4.5 (a kind of decision tree)http://en.wikipedia.org/wiki/C4.5_algorithmk-MeansSVMApriorihttp://en.wikipedia.org/wiki/Apriori_algorithma kind of association rule : http://en.wikipedia.org/wiki/Association_rule_miningEMPageRankAdaBoosthttp://en.wikipedia.org/wiki/AdaBoostadaptive boosting (http://goo.gl/hViJH), which is a machine learning meta-algorithm for performing supervised learning (..
Thrift Server를 이용하여 PHP로 자바 어플리케이션 사용하기 1. thrift IDL 만들기 thrift server를 만들기 전에 먼저 IDL (Interface Defition Language)을 통해서 어떤 메소드를 서로 어떤 방식으로 통신할 지를 정해주어야 한다. 여기서 thrift에서 생성되는 언어별 네임스페이도 같이 정해줄 수 있다. namespace java com.example.thrift namespace py thrift 위와 같은 코드는 thrift가 생성하는 파일이 자바의 경우 com.example.thrift 로 패키징 되고, 파이썬의 경우 thrift로 패키지가 되어 코드가 생성된다. 문자열은 binary, 일반적인 integer는 i32로 정의한다. struct TNode { 1:binary value, 2:i32 count, 3:i64..
java application에 jetty server embedding하기 자바 어플리케이션을 서버에서 실행하기 위해서는 기존에 톰캣 서버를 이용했었는데, 이는 상당히 많은 세팅을 요하는 부분들이 있어서 요새 많은 곳에서 사용하고 있는 jetty 내장서버를 이용해서 작업을 시도해 보았습니다. 1. 개발 환경 eclipse Indigo (m2 maven plugin 설치) jetty 8.1.0 maven 3.0.3 2. eclipse에 maven project 만들기 (아래는 단계가 아니라 둘 중의 하나를 선택할 수 있습니다.) 2.1. 터미널 mvn archetype:generate -DarchetypeArtifactId=maven-archetype-webapp 2.2. eclipse 3. pom.xml 파일 수정하기 3.1. jetty version 8.1.0.v2012012..