aws-logo

1: 田杉山脈 ★ 2019/08/26(月) 17:54:46.68 ID:CAP_USER
2019年8月23日金曜日の午後に発生したAWS東京リージョンの大規模障害について、AWSは日本語での詳しい報告を公開しました。

報告によると直接の原因は東京リージョンのデータセンターで使用されている冷却制御システムにバグがあったこと。これにより、緊急時の手動操作にも冷却制御システムの一部が反応しないなどでサーバが過熱し、障害に至ったと説明されています。

8月23日午後に約6時間の障害。EC2だけでなくRDSも
報告によると、障害は日本時間2019年8月23日金曜日の昼過ぎに発生。影響範囲は仮想マシンを提供するAmazon EC2とブロックストレージを提供するAmazon EBSのそれぞれ一部。以下、AWSの報告を引用します。

日本時間 2019年8月23日 12:36 より、東京リージョン (AP-NORTHEAST-1) の単一のアベイラビリティゾーンで、オーバーヒートにより一定の割合の EC2 サーバの停止が発生しました。この結果、当該アベイラビリティゾーンの EC2 インスタンスへの影響及び EBS ボリュームのパフォーマンスの劣化が発生しました。

障害の原因は冷却制御システムのバグによってサーバがオーバーヒートしたため。その冷却制御システムは、障害発生から約3時間後の15時21分に復旧します。

冷却制御システムの復旧によってデータセンターの室温が低下し、影響を受けたEC2インスタンスとEBSボリュームの大部分が回復したのは、障害発生から6時間後の18時半頃。一部についてはさらに復旧に時間がかかっています。

日本時間 18:30 までに影響を受けた EC2 インスタンスと EBS ボリュームの大部分は回復しました。少数の EC2 インスタンスと EBS ボリュームは、電源の喪失と過大な熱量の影響を受けたハードウェアホスト上で動作していました。これらのインスタンスとボリュームの復旧には時間がかかり、一部につきましては基盤のハードウェアの障害によりリタイアが必要でした。

マネージドサービスのAmazon RDSも同時に障害
また、今回公開された報告には含まれていませんが、この障害はAmazon RDSにも影響していました。Amazon RDSでは障害発生のタイミングはほぼ同時ながら、解消まで約10時間かかっています。

(続きはこちら)
https://www.publickey1.jp/blog/19/aws23.html

4: 名刺は切らしておりまして 2019/08/26(月) 19:25:13.50 ID:iB2tfw+9
これだけ大規模なのに人がコントロールしてるとは…


6: 名刺は切らしておりまして 2019/08/26(月) 19:47:11.51 ID:eGCKUZOd
まるでMr Robotの世界。
一流のデータサービスは冷却まで自前でプログラムを書いて制御するのかね。

30: 名刺は切らしておりまして 2019/08/26(月) 23:26:12.11 ID:PHwGRv8w
トラブルはどうしようもないとしても、
一ヶ所こけたら、みんなこけるんだね。

34: 名刺は切らしておりまして 2019/08/26(月) 23:50:34.70 ID:HVW9VAFv
フェールセーフに失敗するなんて有り得ない。
それはそもそもはじめからフェールセーフではなかったということ。

45: 名刺は切らしておりまして 2019/08/27(火) 08:53:20.92 ID:pfsiLNY0
これみるとマシンオペレーター常駐するが、プログラムエラーで冷却ファン停止→熱暴走で集団自決(アクシズ押しながらジム自爆)な感じ

2: 名刺は切らしておりまして 2019/08/26(月) 18:10:53.06 ID:MdMjbVb5
シングルAZ障害でRDSに影響でたらアカンやん

9: 名刺は切らしておりまして 2019/08/26(月) 20:13:20.79 ID:96edZYZw
何でマルチリージョンにしないの?バカなの?氏ぬの?

23: 名刺は切らしておりまして 2019/08/26(月) 20:48:14.47 ID:AdFo0ZfW
>>9
予算がねえに決まってんだろ

18: 名刺は切らしておりまして 2019/08/26(月) 20:32:23.47 ID:Xf50K2rt
>この度の事象発生時、異なるアベイラビリティゾーンの EC2 インスタンスや EBS ボリュームへの影響はございませんでした。
>複数のアベイラビリティゾーンでアプリケーションを稼働させていたお客様は、事象発生中も可用性を確保できている状況でした。

なんかMulti-AZにしてれば大丈夫だったみたいな説明をAmazonがしてるけど、
Multi-AZでもサービスに支障きたしてたとこがちらほらあったんでそ?

28: 名刺は切らしておりまして 2019/08/26(月) 21:19:35.08 ID:lF7KnTXV

11: 名刺は切らしておりまして 2019/08/26(月) 20:14:00.52 ID:9iqDCdOp
クラウドを過信すると痛い目を食らうど

16: 名刺は切らしておりまして 2019/08/26(月) 20:26:54.18 ID:nsapGNWm
AWSも簡単に落ちるんだな。。。

12: 名刺は切らしておりまして 2019/08/26(月) 20:16:15.94 ID:BL1+Tlh0
詫び石はよ

19: 名刺は切らしておりまして 2019/08/26(月) 20:34:05.15 ID:W2w00RVJ
あれっ?
大規模火災じゃなかったのか?

29: 名刺は切らしておりまして 2019/08/26(月) 23:15:13.57 ID:LiD9eIo7
>>19
それはリアルアマゾンの深林での話

43: 名刺は切らしておりまして 2019/08/27(火) 01:44:04.93 ID:huPuAFyP
こういうの損害賠償求められないのか?
ドスパラとか土曜の稼ぎ時に全店営業停止とかシャレになんねーほど被害受けてるだろ?

50: 名刺は切らしておりまして 2019/08/27(火) 11:39:14.20 ID:T/0HYfsG
非ITの大手企業の部長みたいな人たちに限って「クラウド」って言葉を過信してる人多いと思う
たぶんよく分かってないけどクラウドって言っとけば今風と思ってる

33: 名刺は切らしておりまして 2019/08/26(月) 23:49:18.00 ID:RG0VRuP7
サービスレベルに関して「クラウド > オンプレ」は幻想

36: 名刺は切らしておりまして 2019/08/26(月) 23:56:26.41 ID:wzVAKSxi
>>33
そうね

だな、信頼性が命でデータセンターや運用スタッフを自前で持つ金融機関ならともかく
普通の企業は自前で持つコストを考えたらクラウドを選ぶよなあ

20: 名刺は切らしておりまして 2019/08/26(月) 20:41:47.16 ID:ar+o/Sa/
サマーウォーズで見た