次のトピックは監視系で行こうとだいぶ前からユーザとして触ったりして気になっていた Prometheus と Grafana で監視を組もうと考えて手を出してみた。
Prometheus本体のインストールと監視対象にNode Exporterの仕込みはそんなに大変じゃないけど、Grafanaでグラフを用意するのがとても面倒だった～
Node Exporterのバージョンがバイナリパッケージでダウンロードしたもの、バージョン違いのUbuntu/Debianでaptでインストールしたもので違っていてmetricsの名前が微妙に違っていてそこに気がつくまでにも少し時間がかかったのと、それによるGrafanaのグラフの定義にまごついたのが面倒だった要因。
先日、とあるサーバで実行していたPythonの環境がなぜだかおかしくなって、ある日を境にPythonを一部に使って動いているスクリプトが正常動作しなくなったんですよ。おかしいなと思って、同様にPythonで動いているaws cliのコマンドを叩いてみると、単に実行しただけなのにStack吐いてエラーになってしまう状況。
何かでPythonの環境が壊れたかと考えてaptで修復しようと考えて、改めてaptでPythonをインストールしようとしても、こんどはaptの中の処理でPythonが動くところでエラーになりaptも正常に動作しない。これ以上環境を変更するような作業をすると、修復できない状況に陥りかねないのと、幸いPythonが絡んでいないコマンド関係は特に問題が起きていないので、該当する処理は別のサーバに移動させたりして当面の問題は回避。
とは行っても壊れたままだと色々問題が起こりかねないので解決の為の調査は継続。
しばらくして、改めて修復しようとaptを実行してみたり、単にPythonを起動してみたりして出てくるエラーメッセージを検索にかけて調べてみると、出てくる記事の1つに光明が。そのエラーメッセージは
EOFError: marshal data too short
というもので、その記事の中には「.pycファイルが原因で、削除すれば解消できる」旨が書かれていました。「そうか実行時の中間キャッシュファイルか！」と言う事でエラーになる状況を（何となく）理解。
というのも上記の環境がおかしくなったサーバで、丁度エラーが出始めたのと同じタイミングに一回ディスクフルの障害をやらかしていて、そのタイミングでPython関連のスクリプトが実行されていたらキャッシュも壊れていてもおかしくはない。ただ、この情報を見るまでは、ディスクフルになったとしても逆にそのタイミングで環境を変更するようなapt update/upgradeは実行していないし、それに準ずるような作業などもしていないのでPythonの実行環境がおかしくなるなんてことは通常は考えられないと調査の線から少し話しておいたんですよ。実行時の中間キャッシュであれば実行のタイミングによっては更新されることもあるだろうし、更新のタイミングでディスクフルになったら変な状態のキャッシュファイルなってしまう事もありそう。
早速.pycフィあるを削除する準備に。確認したところ、このファイルはとりあえず削除しても問題ないらしく、仮に問題のない.pycを消したところでその後実行されるときに再度作られそうなので副作用もキャッシュが消えたことで若干実行に時間がかかるかもしれない程度。そういうわけで、早速サーバ全体で.pycファイルを探して削除！
sudo find / -name *.pyc | sudo xargs -I {} rm {}
で、改めてPythonを空実行してみると、先に出ていたエラーメッセージは出なくなり、別のエラーが・・・。と行っても見慣れたエラーでモジュールが足りないというやつでこれは多分aptを-fつけて実行すれば大丈夫！？な筈。
sudo apt-get -f upgrade
ついでにupgradeもしちゃう勢いで実行すると.pycファイルを消す前は途中でエラーがでて実行できなかった処理が止まる事無く処理完了。
おそるおそる今度はaws cli(awsコマンド)を空実行してみると、何のエラーもでず情報が表示されて正常終了。止めていたPythonを利用するスクリプトも問題でないし、aws cliも使える！ということで回復、一件落着！
いやぁ～、キャッシュって怖いですねｗ
Redmine内蔵のWikiが個人的に一番馴染むという理由で、低コストでWikiを使いたい時にRedmineを使っているのですが、これまで使ってきたRedmineのバージョンが古くて新しくしたいという理由で、Raspbian(Respberry Pi)にRedmineをインストールした時の作業記録です。
だいぶ前にインストールした時は、真面目にインストール手順を調べず、勢いだけでインストールして動かしてしまったので、今回は色々と確認してそれなりに手間はかかるけど色々応用が効きそうな手順を調べてみました。
0.前提＆準備
1.Ruby以外の必要ソフトウェアをインストール
# apt install build-essential git subversion postfix \ libsqlite3-dev apache2 apache2-dev libssl-dev \ libreadline-dev libcurl4-openssl-dev libapr1-dev \ libaprutil1-dev fonts-ipafont-gothic imagemagick \ libmagickwand-dev
2.グループの作成
# groupadd ruby # usermod -a -G ruby your-account
3.rbenvのインストール
# cd /usr/local/ # git clone git://github.com/sstephenson/rbenv.git rbenv # mkdir rbenv/shims rbenv/versions rbenv/plugins # cd rbenv/plugins/ # git clone git://github.com/sstephenson/ruby-build.git ruby-build # cd ruby-build/ # ./install.sh
4.rbenvの設定
# cd /usr/local/ # chgrp -R ruby rbenv # chmod -R g+rwxX rbenv # echo 'export RBENV_ROOT="/usr/local/rbenv"' >> /etc/profile.d/rbenv.sh # echo 'export PATH="/usr/local/rbenv/bin:$PATH"' >> /etc/profile.d/rbenv.sh # echo 'eval "$(rbenv init -)"' >> /etc/profile.d/rbenv.sh # source /etc/profile.d/rbenv.sh # echo $PATH
4.rubyをインストール
# rbenv install --list
# rbenv install -v 2.6.4
# rbenv versions # rbenv global 2.6.4
# rbenv rehash # rbenv versions
# ruby -v
5.Rails(Ruby on Rails)のインストール
# gem install bundler # gem query -ra -n "^rails$"
# mkdir /usr/local/rails_v5.2.3 # cd /usr/local/rails_v5.2.3 # bundle init # echo 'gem "rails", "5.2.3"' >> Gemfile # gem install sqlite3 -v '1.3.11' # bundle install --without development test --path vendor/bundle
6.スワップを増強
#CONF_SWAPFILE=/var/swap #CONF_SWAPSIZE=100 CONF_SWAPFACTOR=3 #CONF_MAXSWAP=2048
7.Passengerのインストール
# cd /usr/local/ # gem install passenger # passenger-install-apache2-module --auto
8.Redmineのインストール
# svn co http://svn.redmine.org/redmine/branches/4.0-stable /var/lib/redmine # vi /var/lib/redmine/config/database.yml # vi /var/lib/redmine/config/configuration.yml # bundle update # bundle exec rake generate_secret_token # RAILS_ENV=production bundle exec rake db:migrate # RAILS_ENV=production REDMINE_LANG=ja bundle exec rake redmine:load_default_data # chown -R www-data:www-data /var/lib/redmine
production: adapter: sqlite3 database: /var/lib/redmine/db/redmine_default encoding: utf8
default:
email_delivery:
delivery_method: :smtp
smtp_settings:
address: 127.0.0.1
port: 25
domain: your.domain
rmagick_font_path: /usr/share/fonts/opentype/ipafont-gothic/ipag.ttf
9.Apacheの設定
# vi /etc/apache2/mods-available/passenger.load # vi /etc/apache2/conf-enabled/passenger.conf # vi /etc/apache2/sites-available/000-default.conf # a2enmod passenger # a2enconf passenger # systemctl restart apache2
LoadModule passenger_module /usr/local/rbenv/versions/2.6.4/lib/ruby/gems/2.6.0/gems/passenger-6.0.4/buildout/apache2/mod_passenger.so
<IfModule mod_passenger.c> PassengerRoot /usr/local/rbenv/versions/2.6.4/lib/ruby/gems/2.6.0/gems/passenger-6.0.4 PassengerDefaultRuby /usr/local/rbenv/versions/2.6.4/bin/ruby PassengerStartTimeout 600 </IfModule>
<VirtualHost *:80>
ServerAdmin webmaster@localhost
DocumentRoot /var/lib/redmine/public
ErrorLog ${APACHE_LOG_DIR}/error.log
CustomLog ${APACHE_LOG_DIR}/access.log combined
<Directory "/var/lib/redmine/public/">
Options FollowSymlinks Includes
AllowOverride All
AddType text/html .html
Require all granted
</Directory>
</VirtualHost>
10.テストアクセス
自宅で動かしているRaspberry PiのOS(Raspbian)がだいぶ古くなったので新しくするべくことにしたのでインストール手順のメモ
0.前提＆準備
# apt install avahi-daemon1.OS(Raspbian)入手
# wget https://downloads.raspberrypi.org/raspbian_lite_latest
# unzip raspbian_lite_latest.zip2.OSイメージをSDカードに書込
# dd if=2019-07-10-raspbian-buster-lite.img of=/dev/sdc bs=81923./bootパーティションにssh起動用にファイル作成
# mount /dev/sdc1 /mnt/temp
# cd /mnt/temp/
# touch ssh
# cd ~
# umount /mnt/temp/4.Raspberri PiにSDカードを差し替えて起動
5.初回起動後の設定の為のSSH接続
$ ssh pi@raspberrypi.local6.Raspbianの更新
$ sudo apt update
$ sudo apt upgrade
$ sudo apt remove nano
$ sudo apt autoremove7.タイムゾーンとロケールの設定更新
$ sudo dpkg-reconfigure tzdata
$ sudo dpkg-reconfigure locales8.ホスト名を変更
$ sudo vi /etc/hostname
$ sudo vi /etc/hosts9.IPアドレスを設定
$ sudo vi /etc/dhcpcd.conf# Example static IP configuration:
#interface eth0
#static ip_address=192.168.0.10/24
#static ip6_address=fd51:42f8:caae:d92e::ff/64
#static routers=192.168.0.1
#static domain_name_servers=192.168.0.1 8.8.8.8 fd51:42f8:caae:d92e::1
# Example static IP configuration:
interface eth0
static ip_address=192.168.1.11/24
static routers=192.168.1.1
static domain_name_servers=192.168.1.110.ユーザ追加
$ sudo useradd -m yourname
$ sudo passwd yourname
$ sudo chsh -s /bin/bash yourname
$ sudo cp /etc/sudoers.d/010_pi-nopasswd /etc/sudoers.d/yourname
$ sudo vi /etc/sudoers.d/yournameyourname ALL=(ALL) NOPASSWD: ALL$ su - baki
$ sudo date11.piユーザの無効化
$ sudo passwd pi
$ sudo chsh -s /usr/sbin/nologin pi12.リブート
忘れないうちにお試し無料期間と言うことで立ち上げたIDCFクラウドのRDBのインスタンスを落としておかないと！調子にのってプライベートでは絶対に立ち上げられないグレードのインスタンスタイプを上げちゃっていたから。
ギリギリまで試そうと始めは考えていたけど、結局常用しているゾーンでは未だに提供が始まっていないからあきらめました。
IDCFクラウドのRDBがリリースされて今日から使えるぞ！
「IDCフロンティア、オールフラッシュの高性能クラウドリレーショナルデータベースを提供」
https://www.idcf.jp/pressrelease/2018/20180531001.html
ということで、ブログのDBを自前で用意したDBサーバから移行させるべく試そうとしたんですが、よくよくみると開始当初の提供ゾーンがブログサーバ群をおいているゾーンはハブられており、順次展開ということになっているものの少なくとも現時点では移行できない・・・。
「IDCフロンティア、「データベース無料おためしキャンペーン」がスタート」
https://www.idcf.jp/pressrelease/2018/20180628001.html
DBインスタンスは7末まで無料だから試してみるのも手か～
ふと先日、インスタンスタイプは一番下のグレードになりますが、Google Compute Engineでサーバが1台無料で使えることに先日気がつきました。というわけで、だいぶ前にGCPを少しかじったときに作ったアカウントがあるので、GCEでインスタンスを立ち上げること決定。
立てたインスタンスを最初は何に使うか考えずに立てたんですが、検討した結果NextCloud使って自分専用プライベートクラウドストレージを用意して使うことにしました。自分専用のクローズドなストレージなんでパフォーマンス的に非力なインスタンスでも最悪我慢すれば良いし！
あと、Google Cloud Storageに興味もあるのでそのベースインスタンスにも使える！
現在とあるファイラーをメインで使っているんですが、結構長いことバージョンが更新されていないので、そろそろ新しいファイラーを探すタイミングなのかな？と考えて調査中。
何度か同じ事を考えて調査しているけれど、「As/R」なるファイラーが大変良さげ。
ただ、自分好みに設定を煮詰めていくのが大変そう。
Debian 9 (stretch) がリリースされて、IDCFクラウドのテンプレートにイメージが登録されたので既存の環境で使っているwheezyをリプレイスするべく、新しいインスタンスをDebian 9で立ち上げてみた。
IDCFクラウドのテンプレートを使ってのインストールなのでブートからストレージに流し込んで、初期設定までは特に作業はなく、メールで通知されたrootのパスワードでログインするところから開始。なんか、一番時間がかかるところはスキップ出来ている感じですね。
rootでログインしたあと、ひとまずやった事リスト
と、こんな事かな。