かまたま日記3

プログラミングメイン、たまに日常

Terraform 0.7.0での変更点

とりあえず、ここ に書いてあることのざっくりメモ

  • 各providerのバイナリファイル(terraform-*)が不要になったので、消す
  • planで結果がmapだった場合foo#ではなくfoo% になった
  • concat()はstringでは動かなくなった、listのみ, stringの結合は${var}-fooみたいなシンタックスを使うこと
  • interpolations内で"をエスケープしなくて良い(したらエラーになる)
  • デフォルトでplanがstateファイルを更新しなくなった
    • in memoryでの更新のみ、実際の更新はrefreshでやる
  • これらはresourceじゃなくてdata sourceにすることを推奨
    • atlas_artifact
    • template_file
    • template_cloudinit_config
    • tls_cert_request
  • list, mapが第一級オブジェクトになった
    • output, moduleにstringに変換しなくても直接渡せる
    • ${list[index]} 的な書き方が出来る
      • が、element() 関数と同じようなモジュラーな挙動はしない(エラーになる)
    • mapの値の上書き方法が変わった
      • map_name.key = value -> map_name = {key = value}

Terraformのcountでvariable以外のinterpolationを使えない

version

Terraform 0.6.16

本文

ドキュメント にも書いてあったのですが、Terraformで複数リソースを一気に定義するときに count という項目を使うのですが、ここでは直接数字を入力するか、 variables で定義した値に対するinterpolationしか使えないようです。

例えばこんな感じで、AWSのsubnetごとに1つEC2インスタンスを作るようなtfファイルを書いた場合

resource "aws_subnet" "foo" {
  count = 2
  cidr_block = "${format("10.1.%d.0/24", count.index)}"
  vpc_id = "aaa"
}

resource "aws_instance" "var" {
  count = "${length(aws_subnet.foo.*.id)}"
  ami = "bbb"
  instance_type = "ccc"
  subnet_id = "${element(aws_subnet.foo.*.id, count.index)}"
}

terraform plan を実行するとエラーになります。

Error configuring: 1 error(s) occurred:

* strconv.ParseInt: parsing "${length(aws_subnet.foo.*.id)}": invalid syntax

上記の場合は単純に2をaws_instanceの方のcountに入れてあげれ良いのですが、ちと難しいのが別の tfstate から値を取ってくるような場合。

resource "terraform_remote_state" "foo" {
  backend = "s3"
  config {
    bucket = "kamatama41-tfstate"
    key = "example.tfstate"
  }
}

resource "aws_instance" "var" {
  count = "${length(split(",", terraform_remote_state.foo.output.subnet_ids))}"
  ami = "bbb"
  instance_type = "ccc"
  subnet_id = "${element(split(",", terraform_remote_state.foo.output.subnet_ids), count.index)}"
}

この場合countを計算することが出来ないし、以下のように単なる数字の2をoutputとして定義してもダメなので、現状完全にお手上げ状態です。。

resource "terraform_remote_state" "foo" {
  backend = "s3"
  config {
    bucket = "kamatama41-tfstate"
    key = "example.tfstate"
  }
}

resource "aws_instance" "var" {
  count = "${terraform_remote_state.foo.output.subnet_cidrs_count}"
  ami = "bbb"
  instance_type = "ccc"
  subnet_id = "${element(split(",", terraform_remote_state.foo.output.subnet_cidrs_count), count.index)}"
}

誰か解決策があったら教えて下さい!

Terraformの関連issue

github.com

GitHubのissueを擬似的に消すためのRubyスクリプト

GitHubのissueは削除することが出来ないので、タイトルと本文とコメントを全部消すことで、擬似的になかったことにします。 (これでもタイトルの変更履歴は残るので、完全に消すことは出来ないわけですが...)

require 'octokit'
require 'highline/import'

Octokit.auto_paginate = true
client = Octokit::Client.new(:access_token => ENV['GITHUB_TOKEN'])

repo = '<repository name>' # e.g. kamatama41/test
title = '<issue title>'

issue = client.issues(repo, state: :closed).find do |i|
  i.title.include? title
end

unless issue
  puts 'Issue is not found.'
  exit
end

confirm = ask("Remove the issue '##{issue.number} #{issue.title}'? [Y/N] ") { |yn| yn.limit = 1, yn.validate = /[yn]/i }
unless confirm.downcase == 'y'
  exit
end

client.update_issue(repo, issue.number, '(deleted)', '') # Rename issue title and body
client.issue_comments(repo, issue.number).each do |comment|
  client.delete_comment(repo, comment.id)
end

Recruit Technologies Open Lab #03 Infrastructure as Code に参加してきた

atnd.org

スピーカーが興味深い方ばかりだったので、参加してきました。

多くの方が Infra as Code の本質はインフラがコード化することで、ソフトウェア領域での知見が適用できるようになって来たと言っていたのが印象的でした。

  • バージョン管理するようになった
  • テストコードが記述可能になった
  • アプリケーションの構成要素のひとつになった
  • 単なる手順化にとどまらずにデザインパターンモデリングなどを適用するなった
  • コンウェイの法則が適用されるようになった
  • 技術的負債になるようになった
  • マイクロサービス化で管理するものを少なくする方向性
  • 人工知能機械学習などの分野で応用される可能性

今まさにterraformやansibleでサーバ構成をコード化しているところなので、負債化しないように意識していきたいですね。

以下勉強会中にとったメモ書き


"Infrastructure as Code" から数年、結果どうなったか (naoyaさん)

  • Infra as code は単なる自動化では無かった。。。!
    • Software で使われてるプラクティスをインフラにも適用する
  • naoyaさんにが思うinfra as code
    • infraのモデリング..! (DDD的な)
    • 負債を無くす、減らす
    • そもそもDockerとかで小さく分割して管理するコード減らす方向性...?

Infrastructure as Code と企業文化 (ryuzeeさん)

Infrastructure as Code のこれまでとこれから (mizzyさん)

運用・監視もコード化する。開発者が監視まで考える方法論 (songmuさん)

  • メトリックを返すエンドポイントがあるとよろし
  • 監視 as Code
    • じつは既に、監視は結構コード化, Plugin化されてる
      • muninとかもそうだった記憶が
    • なのでどんどん書いていこう
    • webhookには夢がある

プロビジョニングツールはMakeで決まりだろ (katzchangさん)

  • Makeはベターshell scriptである 2012
  • Immutable Infrastructureを実際にやってみた 2014
  • Makeは補完が効く
  • エラー処理: non-zeroだったら落ちる
  • 宣言的適用と差分
    • サーバは状態をもつので、冪等性の維持がむずい
  • 手続き型への回帰: 提言
    • サーバの単純化
    • コンテナなどで、破棄可能な感じに(状態が無くなってきた)
    • サーバレス

JenkinsでRubyスクリプトの出力をすぐに出す

問題

JenkinsのJobでRubyスクリプトを呼んだら、処理が終わるまで puts とかの標準出力がJenkinsのコンソールに出ない

対策

標準出力がバッファリングされないようにRuby側に以下の記述を追加する

$stdout.sync = true

Kubernetes meetup #2 に参加してきた

k8sjp.connpass.com

Kubernetes(以下k8s)の勉強会に参加してきました。当日にキャンセル待ちから繰り上がったので僥倖でした。

k8s は以下の動画を見たくらいであまり詳しくないまま参加したので、簡単な機能説明や出来ることなどを説明してもらったのは良かったです。

www.youtube.com

これからの主流になりそうなアーキテクチャでもあるし、deis をプロダクション運用で使っている身としてはもっと深めていかないといけない領域だと感じた次第です。


Kubernetes evolution and extensibility

k8sのオリジナルデベロッパー @thockin さんの k8sのしくみや今後実装される予定の新機能についての説明。最初にゆっくりめに話してくれると言ってたけど途中から完全に忘れてるようで普通のスピードでしたw でも結構聞き取れた気がします。

質問コーナーで @spesnova さんが k8s 自身をマネージするのはどうするのがいいか?という質問をしてて

  1. server provisioning: terraform
  2. binary deployment: ansibleとか
  3. configuration: k8s API

という流れになりそうというのが印象に残りました。

Kubernetes Monitoring by Datadog

@spesnova さんによる Datadog を使った k8s コンテナとクラスタ自身のモニタリングの知見のお話。

Datadogだけじゃなくてコンテナ時代の監視のセオリー的なものも共有してもらって参考になりました*1。 Datadog は自社でも使ってるのでもっと活用していきたいです。

Go Microservices w/ Kubernetes

Google の @IanMLewis さんの k8s の仕組み説明と簡単なアプリのデプロイ実演など。 GO言語のマイクロサービスにマッチしている部分は static binary を作ったら小さい docker image が作れる (scratchイメージでいい) という所が印象的でした。

LTs

kubernetes helm & helmc (@Ladicle さん)

k8s のパッケージマネージャである helm と helmc の違いとかの説明。今は helmc 一択だけど今後は helm*2 に開発を寄せていくのでよしななタイミングで helm に移行するのが良い、とのこと。

Managing manifest files with Spruce (@summerwind さん)

yamlのマージツールで、manifestファイルの管理する話。Rails的にstagingとproduction用の差分yamlを管理して、spruceでマージする運用が良いんじゃないかという内容。

もうひとつのk8s PaaS、Deis workflowの話 (@jacopen さん)

k8s をベースに paas が構築できるミドルウェアの deis-workflow のお話。 deis の基本機能自体ははある程度把握しているのでおさらい的な感じでした。

kubectl explain の結果をブラウザで見れるサービス作りました(仮) (@superbrothers さん)

kubectl explain は resources 構造を知れるけどターミナルでしか知れないので、ブラウザで見れるサービス作ったよというお話。

kubectl-expla.in - Awesome kubectl explain

OpenStack Magnum で Kubernetes をデプロイ (@yuanying さん)

Google Cloud Container相当の仕組みである OpenStack Magnum との比較。


ここまででで時間的に遅くなったので帰宅

*1:この記事とか

*2:今はbeta版