cloudera managerでhdfsにファイルアップロードする

公開日: : 最終更新日:2016/01/23 クラウド, サーバー, 技術

cloudera managerでhdfsやsparkをインストールすると困ったのは、ファイル操作がよくわからんということ。

結論から言うと、Spark使う前にはhdfs学ばなきゃいけないってことかな。めんどうだ。

HDFS上のSparkで使うデータは、一度HDFS上に上げなきゃ使えない(おそらく)。

なので、解析したいデータ”input.log”があった場合は一度

mv input.log /tmp

//hdfsというユーザがファイルを上げる権利があるので移動して権利を付け替える
chown hdfs:hdfs /tmp/input.log

//ユーザ変更
su hdfs

//hdfs上にディレクトリを作成
hadoop fs -mkdir /user
hadoop fs -mkdir /user/yawai

//hdfs上にファイルをアップロード
hadoop fs -put /tmp/input.log /user/yawai

あー疲れた。
ってかファイルの位置とか全部覚えとかなきゃいけないの?
こういうところをCloudera Managerがやってくれると思っていたわ。

関連記事

no image

Sparkでhdfsに出力 その2

前回のhdfsに出力するはなしの続き hdfsはnamenode(ネームノード)を経由して出力

記事を読む

no image

Scala IDE ( Eclipse )でgithubに接続する

何回やっても忘れてしまって、作業に手間取ってしまうのでメモします。 プロジェクトのところで→[

記事を読む

Github EvolutionalComputationにjDEのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

no image

ScalaでSparse Codingの実装を試す

Scala言語でスパースコーディング(Sparse Coding)を実装している人が居たので試してみ

記事を読む

no image

周波数スペクトルの見方と意味がわからなかった

フーリエ変換 ← わかる 周波数スペクトル ← わからん ヤワイは画像処理をすこしかじっ

記事を読む

no image

ScalaとOpenCV で並列画像処理

ヤワイは画像処理を研究していたことがあります。 また、関数型言語であるScalaはアルゴリズム

記事を読む

Sparkを最小労力で動かす その1

VirtualBoxでCentosを2つ作ります。 HDDの容量は16GBにしておきます。

記事を読む

Github EvolutionalComputation で Rosenbrockを実験してみた

https://github.com/yawaip/EvolutionalComputation

記事を読む

亀山ダムのグラフ表示

ソースコードの紛失などの凡ミスを経て、ようやく亀山ダムの釣果情報をグラフで表示できるようにな

記事を読む

Github EvolutionalComputationにCMA-ESのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

no image
メタニウムMGLとカシータスMGLの飛距離について

メタニウムMGLとカシータスMGLは飛距離については一緒らしいです。

no image
ゾディアス166m-2とクロノス662mbの比較

どうも2ピースロッドが大好きなヤワイです。 同じスペックの竿を2

no image
エリアトラウトで村田基さんの真似を辞めたら釣れるようになった

半年ぶりの更新です。 今年一年は、仕事が忙しくほとんど釣りに行け

上からクロノス、エアエッジ、ブレイゾン、ゾディアス
クロノス 672MHB 使ってみてのレビュー

クロノスロッドはかなりイケてるロッドの気がして、3月に購入してから2回

趣味にエリアフィッシング(ニジマス釣り)をおすすめする7つの理由

休みの日が雨だと何もやることがなくて嫌ですね。昔は雷さえならなければ釣

大好き片倉ダム(笹川湖)~ボート屋紹介~

亀山ダムの釣果情報を出しているページを運営しているものの、なんだかんだ

ピニオンギアのスペースチューニング
アルテグラチューニング

久しぶりの投稿です。 最近、エリアトラウトにどっぷりはまっており

素人がエリアトラウトで人並みに釣ることができるようになるまで

エリアトラウトに始めて2ヶ月が経ちました。完全にハマってます。 技量

王禅寺フィッシュオンへのアクセス1
初エリアトラウトにフィッシュオン王禅寺に行ってきた(公共交通機関でアクセス編)

前回の投稿以降、更新を忘れていたので書きます。 私は車やバイクを

【最安か?】上州屋渋谷の創業祭でジリオン SV TWが10%オフだった

なかなか今年の初バス釣りの予定がたちませんね。 グラフから釣行日

→もっと見る

PAGE TOP ↑