Sparkを最小労力で動かす その1

公開日: : 最終更新日:2016/01/23 クラウド, サーバー, プログラミング, 技術

VirtualBoxでCentosを2つ作ります。

HDDの容量は16GBにしておきます。

virtualboxネットワークの設定をブリッジにしておきます。

bridge

OSはCentos 6.5 minimalを使います。ネットワークの設定は以下から

http://futurismo.biz/archives/1340#i

Cloudera Manager は楽ちん

centos1にcloudera managerをインストールします。
こいつは、SlaveにClouderaのソフトやsparkなどをインストールしてくれる上に、ジョブの管理までしてくれます。

時計を合わせます

yum install ntp
service ntpd start
chkconfig ntpd on

悪さをするファイアウォールを切ります。

service iptables stop
chkconfig iptables off

まず、selinuxを無効にします.

# vi /etc/sysconfig/selinux

SELINUX=disabled

reboot

あとは、cloudera-manager-installer.binを実行する

関連記事

Github EvolutionalComputation で Rosenbrockを実験してみた

https://github.com/yawaip/EvolutionalComputation

記事を読む

Scalaで誤差逆伝播法(バックプロパゲーション)を実装

githubにアップしました。 行列版を実装しました。コード量が断然にすくなくなります。 「

記事を読む

no image

true positive, false positive, ROCカーブがわからなかった

true positive, false positive, false negative, tru

記事を読む

Githubに遺伝的アルゴリズム(Real Coded Genetic Algorithm)のScala実装をアップしました。

私のGithubです。 遺伝的アルゴリズムを用いて実数問題を解くということに、興味を持

記事を読む

no image

水中探索ロボット(水中ドローン)の決定版 OpenROV

以前も記事に書きましたが、私は水中探索カメラに興味があります。 先日、フランス人に釣りのことを

記事を読む

no image

fstabがうまくいかなかった

raspberry pi で radikoを録音しようと思って、まずはNASに接続しなきゃと思ったの

記事を読む

no image

周波数スペクトルの見方と意味がわからなかった

フーリエ変換 ← わかる 周波数スペクトル ← わからん ヤワイは画像処理をすこしかじっ

記事を読む

no image

scala 多重ループ

関数型言語のscalaで多重ループを表現する方法を教えて下さい。 書きかけ

記事を読む

no image

ScalaでSparse Codingの実装を試す

Scala言語でスパースコーディング(Sparse Coding)を実装している人が居たので試してみ

記事を読む

no image

オンライン学習の勉強してみる

クラウド関係を触っているものですから、どうしても気になるわけですね。 学会等でお会いしたことがある

記事を読む

no image
メタニウムMGLとカシータスMGLの飛距離について

メタニウムMGLとカシータスMGLは飛距離については一緒らしいです。

no image
ゾディアス166m-2とクロノス662mbの比較

どうも2ピースロッドが大好きなヤワイです。 同じスペックの竿を2

no image
エリアトラウトで村田基さんの真似を辞めたら釣れるようになった

半年ぶりの更新です。 今年一年は、仕事が忙しくほとんど釣りに行け

上からクロノス、エアエッジ、ブレイゾン、ゾディアス
クロノス 672MHB 使ってみてのレビュー

クロノスロッドはかなりイケてるロッドの気がして、3月に購入してから2回

趣味にエリアフィッシング(ニジマス釣り)をおすすめする7つの理由

休みの日が雨だと何もやることがなくて嫌ですね。昔は雷さえならなければ釣

大好き片倉ダム(笹川湖)~ボート屋紹介~

亀山ダムの釣果情報を出しているページを運営しているものの、なんだかんだ

ピニオンギアのスペースチューニング
アルテグラチューニング

久しぶりの投稿です。 最近、エリアトラウトにどっぷりはまっており

素人がエリアトラウトで人並みに釣ることができるようになるまで

エリアトラウトに始めて2ヶ月が経ちました。完全にハマってます。 技量

王禅寺フィッシュオンへのアクセス1
初エリアトラウトにフィッシュオン王禅寺に行ってきた(公共交通機関でアクセス編)

前回の投稿以降、更新を忘れていたので書きます。 私は車やバイクを

【最安か?】上州屋渋谷の創業祭でジリオン SV TWが10%オフだった

なかなか今年の初バス釣りの予定がたちませんね。 グラフから釣行日

→もっと見る

PAGE TOP ↑