Sparkでhdfsに出力 その1

公開日: : 最終更新日:2016/01/23 クラウド, サーバー, 技術

前の投稿の続き

出力の仕方が困った。ローカルに出してもいいんだけど、ローカルってどこ?わからないことだらけ。

いろいろなサンプルを見ると、hdfs://を指定しているんだけど、使い方わからない。

だけど、とりあえずやってみたらうまくいった。

//hdfsユーザでないと書き込めない。設定変えればよいのかもしれない。
su hdfs

spark-shell

//いろいろメッセージ出て、

scala> val f = sc.textFile("/user/yawai/input.log");
scala> f.saveAsTextFile("/user/yawai/output.log");

//抜けて以下のコマンドを打つと
hadoop fs -lsr /user/yawai/

/user/yawai/output/というディレクトリと内部にいくつかのファイルが。
1個ずつを見ると、期待した内容なのだけど、バラバラという感じ。
やはりなにかいい方法があるのだろうか。

関連記事

no image

Virtual Box quickstart vmでSparkを動かす その1

Cloudera ManagerのVirtual Box Sparkを使ってみたのだけど、 以下の

記事を読む

no image

Sparkでhdfsに出力 その2

前回のhdfsに出力するはなしの続き hdfsはnamenode(ネームノード)を経由して出力

記事を読む

no image

ScalaNLP Breezeでjarファイル化に失敗する場合の対策

エラー ScalaNLPをeclipseで使いたいために、jarファイルにしようと思うのですが、い

記事を読む

no image

cloudera managerでhdfsにファイルアップロードする

cloudera managerでhdfsやsparkをインストールすると困ったのは、ファイル操作が

記事を読む

Github EvolutionalComputation で Rosenbrockを実験してみた

https://github.com/yawaip/EvolutionalComputation

記事を読む

no image

ScalaとOpenCV で並列画像処理

ヤワイは画像処理を研究していたことがあります。 また、関数型言語であるScalaはアルゴリズム

記事を読む

亀山ダムのグラフ表示

ソースコードの紛失などの凡ミスを経て、ようやく亀山ダムの釣果情報をグラフで表示できるようにな

記事を読む

no image

ScalaでSparse Codingの実装を試す

Scala言語でスパースコーディング(Sparse Coding)を実装している人が居たので試してみ

記事を読む

GoPro時代の釣り動画のハイライトシーン自動作成を考えてみる。

どうもヤワイです。 昨日、今日とバスマスタークラシックのネット中継を、目をこすりながら見ています。

記事を読む

Github EvolutionalComputationにDEのScala実装を追加

https://github.com/yawaip/EvolutionalComputation

記事を読む

no image
メタニウムMGLとカシータスMGLの飛距離について

メタニウムMGLとカシータスMGLは飛距離については一緒らしいです。

no image
ゾディアス166m-2とクロノス662mbの比較

どうも2ピースロッドが大好きなヤワイです。 同じスペックの竿を2

no image
エリアトラウトで村田基さんの真似を辞めたら釣れるようになった

半年ぶりの更新です。 今年一年は、仕事が忙しくほとんど釣りに行け

上からクロノス、エアエッジ、ブレイゾン、ゾディアス
クロノス 672MHB 使ってみてのレビュー

クロノスロッドはかなりイケてるロッドの気がして、3月に購入してから2回

趣味にエリアフィッシング(ニジマス釣り)をおすすめする7つの理由

休みの日が雨だと何もやることがなくて嫌ですね。昔は雷さえならなければ釣

大好き片倉ダム(笹川湖)~ボート屋紹介~

亀山ダムの釣果情報を出しているページを運営しているものの、なんだかんだ

ピニオンギアのスペースチューニング
アルテグラチューニング

久しぶりの投稿です。 最近、エリアトラウトにどっぷりはまっており

素人がエリアトラウトで人並みに釣ることができるようになるまで

エリアトラウトに始めて2ヶ月が経ちました。完全にハマってます。 技量

王禅寺フィッシュオンへのアクセス1
初エリアトラウトにフィッシュオン王禅寺に行ってきた(公共交通機関でアクセス編)

前回の投稿以降、更新を忘れていたので書きます。 私は車やバイクを

【最安か?】上州屋渋谷の創業祭でジリオン SV TWが10%オフだった

なかなか今年の初バス釣りの予定がたちませんね。 グラフから釣行日

→もっと見る

PAGE TOP ↑