Sparkを最小労力で動かす その1

公開日: : 最終更新日:2016/01/23 クラウド, サーバー, プログラミング, 技術

VirtualBoxでCentosを2つ作ります。

HDDの容量は16GBにしておきます。

virtualboxネットワークの設定をブリッジにしておきます。

bridge

OSはCentos 6.5 minimalを使います。ネットワークの設定は以下から

http://futurismo.biz/archives/1340#i

Cloudera Manager は楽ちん

centos1にcloudera managerをインストールします。
こいつは、SlaveにClouderaのソフトやsparkなどをインストールしてくれる上に、ジョブの管理までしてくれます。

時計を合わせます

yum install ntp
service ntpd start
chkconfig ntpd on

悪さをするファイアウォールを切ります。

service iptables stop
chkconfig iptables off

まず、selinuxを無効にします.

# vi /etc/sysconfig/selinux

SELINUX=disabled

reboot

あとは、cloudera-manager-installer.binを実行する

関連記事

Github EvolutionalComputationにDEのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

Github EvolutionalComputationにjDEのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

Github EvolutionalComputationにwPSOのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

no image

周波数スペクトルの見方と意味がわからなかった

フーリエ変換 ← わかる 周波数スペクトル ← わからん ヤワイは画像処理をすこしかじっ

記事を読む

Scalaで誤差逆伝播法を実装(行列計算版)

githubにアップしました。 前回実装した誤差逆伝播法を行列で実装しました。 breeze-n

記事を読む

Github EvolutionalComputationにCMA-ESのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

亀山ダムのグラフ表示

ソースコードの紛失などの凡ミスを経て、ようやく亀山ダムの釣果情報をグラフで表示できるようにな

記事を読む

no image

オンライン学習の勉強してみる

クラウド関係を触っているものですから、どうしても気になるわけですね。 学会等でお会いしたことがある

記事を読む

GoPro時代の釣り動画のハイライトシーン自動作成を考えてみる。

どうもヤワイです。 昨日、今日とバスマスタークラシックのネット中継を、目をこすりながら見ています。

記事を読む

no image

高滝湖 釣果情報ページの作成に悩む

高滝湖釣果情報ページ(http://www.chuokai-chiba.or.jp/takataki

記事を読む

no image
メタニウムMGLとカシータスMGLの飛距離について

メタニウムMGLとカシータスMGLは飛距離については一緒らしいです。

no image
ゾディアス166m-2とクロノス662mbの比較

どうも2ピースロッドが大好きなヤワイです。 同じスペックの竿を2

no image
エリアトラウトで村田基さんの真似を辞めたら釣れるようになった

半年ぶりの更新です。 今年一年は、仕事が忙しくほとんど釣りに行け

上からクロノス、エアエッジ、ブレイゾン、ゾディアス
クロノス 672MHB 使ってみてのレビュー

クロノスロッドはかなりイケてるロッドの気がして、3月に購入してから2回

趣味にエリアフィッシング(ニジマス釣り)をおすすめする7つの理由

休みの日が雨だと何もやることがなくて嫌ですね。昔は雷さえならなければ釣

大好き片倉ダム(笹川湖)~ボート屋紹介~

亀山ダムの釣果情報を出しているページを運営しているものの、なんだかんだ

ピニオンギアのスペースチューニング
アルテグラチューニング

久しぶりの投稿です。 最近、エリアトラウトにどっぷりはまっており

素人がエリアトラウトで人並みに釣ることができるようになるまで

エリアトラウトに始めて2ヶ月が経ちました。完全にハマってます。 技量

王禅寺フィッシュオンへのアクセス1
初エリアトラウトにフィッシュオン王禅寺に行ってきた(公共交通機関でアクセス編)

前回の投稿以降、更新を忘れていたので書きます。 私は車やバイクを

【最安か?】上州屋渋谷の創業祭でジリオン SV TWが10%オフだった

なかなか今年の初バス釣りの予定がたちませんね。 グラフから釣行日

→もっと見る

PAGE TOP ↑