2020-01-01から1年間の記事一覧

やっさん的Ansible role開発をmolecule使って始めるテンプレ

adventar.org この記事は、上記の6日目の記事です。 ロールを追加する際に、 molecule を使うと非常に便利です。テスト(verify)を書かないにしても、テストドライバーを使ってdockerやvagrantなどの仮想環境にroleを適用してみて途中でエラーになったり、te…

Cloudera Hue をCDHから切り離してDockerで運用出来ないか検討してみる

qiita.com 1日遅れになってしまいましたが、、、 この記事は MicroAd (マイクロアド) Advent Calendar 2020 - Qiita の20日目の記事です。 昨日は dai08srhg - Qiita のEmbulkの話でした。 (´-`).。oO(EmbulkはHiveやHDFS系のプラグインがアップデートある…

所属していないクラスタに対してDispCpやhdfs dfsを使う場合のTips

この記事は Distributed computing (Apache Spark, Hadoop, Kafka, ...) Advent Calendar 2020 の11日目の記事です。 qiita.com クラスタ間でHDFSファイルを移動したいというのは割とよくある話です。 そこでHDFSファイルを大量に移動する際は、DistCpを使う…

お手軽・簡単?!Cloud Storage Connectorを使ってHadoopクラスタからGCS・S3にデータを移動する

qiita.com この記事は MicroAd (マイクロアド) Advent Calendar 2020 - Qiita の3日目の記事です。 昨日は Kotlin大好き? wrongwrong の以下のGitHub ActionsでJava/Kotlin製ライブラリ(ビルドツールはgradle)のCI環境構築する話でした。 qiita.com 3日目…

AWXで複数バージョンのAnsibleを実行出来るようカスタム仮想環境を用意する

前ふり yassan.hatenablog.jp これの続き。 よこちさんに教えてもらったのでやってみた。 カスタムvirtualenvの作成なんですが、インストール時の inventory の custom_venv_dir って設定を有効にすると、コンテナにマウントしてくれるので、コンテナ内に直…

踏み台経由してWebUIにローカルからアクセスするメモ

たまにやりたい時に忘れてて探すのがだるいのでメモ。 あるサーバで稼働しているWebシステムにアクセスする際、 踏み台(jump host、jump server)を経由しなければならない場合のTips。 前提条件 実行イメージ やり方 ~/.ssh/config の設定追加 踏み台経由…

AWXの環境構築をもうちょい良い感じにしたいところ

公式の方法+αくらいで、Docker Composeで稼働するAWXのセットアップ方法をまとめてみた。 qiita.com コンテナのログ見たら、公式そのままだとちらほらエラーが出てたので、色々対策をしてある。 後、AWXって長時間稼働するので、コンテナログが膨大になるの…

Why Should I write good commit messages? ~なんでコミットメッセージが大事なん?~

私は、SVNとかGitとか関係なしに、コミットメッセージは開発していく上でとても大事だと考えています。 昨今は、ソフトウェアエンジニアだけでなく、ITインフラエンジニアもコードを書く時代なのでその重要さはもっと上がっているとすら考えています。 ただ…

Google ChromeからFirefoxに浮気中だけどGoogle Chromeに戻りそうな件

Ubuntu 18.04 LTSを会社と私用で使っているのだけど、ブラウザのタブを大量に開く派閥の人なので、Google Chromeのメモリどか食い問題が深刻。 現在、Firefoxもどうかなぁと、浮気中なのだけど、より戻しそう。。。 私のブラウザの使い方 会社と私用でブック…

ミヨシのUSBタッチパッド( TTP-US01 )を半年使ってみて

www.mco.co.jp こっちの長期利用メモ。 その昔、会社のMacを使っていたがどうしても体が受け付けず、Ubuntu Desktopに戻ったのだけど、その際、Macの体験で最高に良い体験だったのがTrackpadだった。 んで、UbuntuやWindowsマシンでもTrackpad使えないかなぁ…