こんにちは!Koty-Mousa 矢坂幸太郎 です! 今回は、S3の「最小ストレージ期間」についてチェックしましょう! S3の「最小ストレージ期間」 S3には様々なバケットタイプがあります。 東京(ap-northeast-1)リージョンの情報を見てみます。 各バケットタイプの、「最小ストレージ期間」は次の通りです。 ストレージクラス 最低ストレージ期間
本記事は 【Advent Calendar2023】 12日目の記事です。 🎄 11日目 ▶▶ 本記事 ▶▶ 13日目 🎅 今回のテーマについてAWSを使用するシステムで、S3を使わないことなんてない。と言い切れそうなくらいS3は使用されていますよね。低コストで大容量のオブジェクトを保存できるというメリットがまず思い浮かぶと思いますが、それ以外にもアクセス制限を細かくできるといったセキュリティ面の強みも大きな魅力です。 そのセキュリティ設定の1つとしてバケットポリシーがありますが、正しく理解できていますでしょうか?今回はよく遭遇するシナリオパターン5つを想定し、それに即したバケットポリシーの例を紹介していきたいと思います。 なお、バケットポリシーは同じシナリオであっても複数設定パターンが存在し、今回紹介させていただくものが正解というものではありませんので、あらかじめご了承ください。

--exclude オプションと --include オプションの使い方 パターン記号 --exclude オプションと --include オプションの適用ルール それぞれ0回または1回以上指定できる 後に指定するほうが優先する ソースディレクトリに対して評価する --include オプションは --exclude オプションと組み合わせて使う よく使うやつ 参考サイトAWS CLI のaws s3 sync とかaws s3 cp コマンドとかの --exclude オプションと --include オプションの使い方のメモ。aws コマンドのバージョン。 $aws --versionaws-cli/2.1.21Python/3.7.4 Darwin/19.6.0 exe/x86_64 prompt/off --exclude オプションと --include オプショ
これは Livesense Advent Calendar2022 DAY 7 の記事です。 リブセンスインフラエンジニアの中野(etsxxx)です。VPoEをまだやってます。最近カメラ本体を新調して、レンズも買い増ししたい欲求に駆られています。Techな話よりそっちを語れる自信があります。 背景 s3getのご紹介 コンセプトと狙い 使い方 最後にちょっとだけ補足 背景AWSのサービスをちょっとだけ利用したいとき、aws-cliのインストールがだるいって思ったことはないでしょうか?私はあります。Amazon S3に置いているファイルを、古いOS上あるいはコンテナビルド中にダウンロードしたくて、aws-cliをインストール。 このインストール作業。手作業はもちろん、プロビジョニングコードに実装してもだるいのですが・・・ それ以前に、古いOSではOpenSSLが古すぎてhttpsなU

いわさです。Amazon S3 を使っているとバケットを削除したいシーンが出てくると思います。 マネジメントコンソールから削除を行うことが出来ますが S3 バケットではバケット内にファイルが存在している場合は削除することが出来ないので、まず「空にする」機能を使ってバケット内のファイルを削除する必要があります。 今回削除したいバケットの数が多かったのでこのバケットを空にする操作をAWS CLI で行おうとしたのですが、思いの外面倒だったので方法を共有しておきます。 公式ドキュメントではAWS CLI の場合 s3 rm を使うように案内されている まず、S3 バケットを空にする方法は公式ドキュメントでも案内されています。 ここでは以下のようにs3 rmコマンドを使ってファイルを削除する方法が案内されています。 %aws s3 rm s3://hoge1023bucket --recu

ハロウィンは家にこもってゆるゆりを見ていました森永です。 今回はタイトルをどうしようかすごく迷いましたが、困っている方がいらっしゃると思うのでド直球なタイトルにしてみました。 問題の構成 今回の問題の前提は以下の通りです。 CDNにCloudFrontを使用してリバースプロキシとしている ドメインルートexample.comはS3に向ける example.com/blog/*はWordPressを構築したEC2に向ける(ELBを挟んだ場合も同様)WordPress側でblogというスラッグを作成している CloudFrontの設定はこんな感じです。 S3とEC2(もしくはELB)をOrigin登録して、Behaviorで振り分けます。 想定としては、コーポレートブログをS3に置いていて、後になってブログを開設したくなったのでWordPressを使おう!といったものが考えられます。 結構あ

こんにちは佐々木です。以前、『AWSのグローバルIPの空間はインターネットなのか?』と題して、AWSのパブリックIP同士の通信が何故AWSのプライベートネットワークの通信になるのかという話をしました。その中で、PrivateLinkの必要性はどう考えるべきなのかという事に、少しだけ言及しました。今回は、そこをもう少しだけ深ぼって見てみましょう。ユースケースとしても多いであろう、EC2からS3の通信の例でみてみます。tech.nri-net.com EC2からS3へアクセスする4つのルート EC2からS3へアクセスするルートとしては次の4つがあります InternetGateway NATGatewayVPC Endpoint(Gatewayタイプ) PrivateLink(Interfaceタイプ) それぞれの構成と利用に関わる費用をみてみましょう。なお、今回ご紹介するコストは、S

突然S3の画像がすべて削除された 自作のRailsアプリの短歌投稿サイトUtakataをいつものように眺めていたら、一部のユーザーのアイコンが表示されていないことに気づいた。もしやと思ってブラウザのキャッシュをクリアしてみたら、すべてのユーザーのアイコン画像がリンク切れになっていた。 当初はライブラリの問題かと思ったけれど、念の為AWSにログインしてS3のバケットを見てみたら、なんと最近アップロードされた不審なindex.htmlを残してすべての画像ファイルが削除されていた。 明らかに第三者から悪意のある攻撃を受けている事態に頭が真っ白になりそうだったけれど、取り敢えずAWSアカウントのパスワードを変えてからindex.htmlのソースをチェックし、危険性がないことを確認してから開いてみた。猫のキャラクター画像に謎の文字列が羅列され、meow(ニャー、猫の鳴き声)。HTMLファイルのソ

旬の生魚おじさん、都元です。弊社は本日を最終営業日として、これから冬季休業となります。 今年も一年、どうもありがとうございました。というわけで恒例の書き納め三本締め、その1。 だいぶ昔に「AWSにおける静的コンテンツ配信パターンカタログ(アンチパターン含む)」というエントリーでご紹介しましたが、Amazon S3 には静的ウェブサイトホスティングという機能があります。 静的 (つまり、状況に応じて異なるコンテンツを返さない、常に同じコンテンツを返す) ウェブサイトは、特に EC2 などのサーバーを立ち上げずに、S3 の機能を使って実現できます。古くからある機能です。 この機能は、さらにAmazon Route 53 によって ALIAS レコードを設定することにより、独自ドメインによるホスティングも可能です。これも古くからある機能です。 このあたりの詳細はAWS ドキュメントのチュート

普段何気なく利用しているS3ですが、気づかないうちに無駄な利用料金が発生しているかもしれません。このブログを見た事をきっかけに、自動で無駄を消去する設定をすることで安心して利用できるようにしましょう。 はじめに こんばんは、菅野です。 皆さんはAmazon S3 の利用料金って厳密な計算なんてしてないですよね? もちろん私もしてませんし、今後も恐らくしません。 でも、自分では知らないうちに無駄な利用料金が発生してるかもしれないとしたらどうでしょう? 今回のブログではその「無駄」を自動で削減してもらうための設定についてご紹介します。 マルチパートアップロードを知ってますか? S3 は最大5TBまでのオブジェクト(ファイル)を保管できるのですが、保存のため一度に送信できるサイズは5GBという制限があります。 ではどうやって5TBのオブジェクトを保存するのか?というとaws cli や SD

S3 Access Analyzerとは S3 Access Analyzerは本日発表された、S3のアクセスコントロールに問題がないか検知するための新機能です。 Monitor, review, and protectAmazon S3 buckets using Access Analyzer for S3 |AWS StorageBlog Now you can use the new Access Analyzer for S3 to discover, review & remediate unintended permissions for S3 buckets or objects. #reInvent https://t.co/CiR59f9Zp6 pic.twitter.com/nBvrwqnxSN —AWS re:Invent (@AWSreInvent) De

2020年9月30日以降、パス形式での S3API リクエストは受け付けられなくなる、との発表がありましたのでシェアします。 Announcement:Amazon S3 will no longer support path-styleAPIrequests starting September 30th, 2020 2021.01.27 追記 2020年9月23日に以下の追加アナウンスがありました。 ・ユーザーが仮想ホスト形式への移行に必要な時間を確保するための措置として、パス形式の非推奨化は少なくとも 1 年間延期されました。執筆時点において新規バケットについてもパス形式のリクエストは可能ですが、あくまで延期であるため新規に作成されるものについては、仮想ホスト形式を前提にしたほうが良い点は変わらないと思います。 ・また、互換性の理由から仮想ホスト形式においてもドットが含まれる

これまで 「S3 に直接SFTP したい」 という要望はたくさんあったかと思います。しかし、従来は対応していなかったため EC2 に一度アップロードしてから、S3 に持っていくなどの対応が必要でした。 今回、新たにリリースされたAWS Transfer forSFTP によって、直接 S3 にSFTP できるようになりましたので、「だったら、そっちに移行したいなぁ」とお考えの方も少なくないと思いますので、ユーザから透過的に切り替えられるか試してみよう、と思ったのでやってみました。 やりたいこと 今回やりたいことは、図にするとこんな感じです。アクセス先をユーザから透過的にAWS Transfer forSFTP に切り替えて、クライアント側の設定はそのままでアクセスできることを確認します。 前提 移行環境の前提は下記のとおりです。 既存の FTP アクセスはドメイン名を使用してい

2006 年のローンチ以来、Amazon Web Services は、業界をリードするクラウド機能と専門知識を提供し、改善に向けた業界、コミュニティ、生活のトランスフォーメーションに取り組む多くのお客様をサポートしてきました。Amazon の一員として、当社は地球上で最も顧客中心の企業になるよう努めています。当社はお客様の課題から逆算して取り組み、最も広範で奥深い一連の機能を提供することで、お客様が想像できるあらゆるものを構築できるようサポートしています。 スタートアップから大企業、非営利団体、政府・自治体などの公共機関まで、当社のお客様は、運用のモダナイズ、イノベーションの推進、データのセキュリティ確保においてAWS に信頼を寄せています。

Amazon Athenaの料金はスキャンしたデータ量で決まるので、特定のフォルダ以下のファイルサイズの合計をAWS CLIで取得する方法を調べたのですが忘れそうなのでメモしておきます。以下のコマンドでファイル一覧の後にファイル数とサイズの合計が出力されます。 オプションの説明になります。 --human-readable(--humanだけでも可):ファイルサイズに単位をつけて見やすくしてくれるオプション --summarize (--sumだけでも可):合計サイズとオブジェクトの数を表示してくれるオプション --recursive:指定したフォルダの中にフォルダがあった場合にその中のファイルも対象にするオプション バケットごとの使用量やファイル数はCloudWatchで見れるようです。 【新機能】S3のファイル数とバケットサイズがCloudWatchに追加されましたAWS CLIを使

カラム名あり(Hive互換)パーティションは、フォルダ名がキーバリュー形式になっており、例えばyear=YYYY/month=MM/day=DD形式で保存されています。この形式はMSCK REPIRE TABLEを実行するとフォルダを再帰的にスキャンして、パーティションを自動設定できます。 一方、カラム名なしパーティションは、YYYY/MM/DD形式のフォルダの下に自動的に保存されます。 $aws s3 ls s3://mybucket/devio2017-handson/07-elblogs/ --recursive 2017-08-21 12:42:42 11789573 devio2017-handson/07-elblogs/2015/01/01/part-r-00000-ce65fca5-d6c6-40e6-b1f9-190cc4f93814.txt 2017-08-21 12

Amazon Web Services ブログAmazon S3 アップデート – 新しいストレージクラスと、S3 Selectの一般公開AmazonSimple Storage Service (S3) にデータを格納及び取り出しをされているすべての皆様に、二つの大きなニュースがあります。 新機能 S3 One Zone-IA ストレージクラス – この新しいストレージクラスは、現在の Standard-IA ストレージクラスよりも 20% ほど低価格です。地域間での冗長性による、より高い保護レベルを必ずしも必要としないデータを格納する用途に設計されているものです。 S3 Select の 一般公開 – このユニークなデータ取得オプションにより、シンプルなSQL式を使って S3 オブジェクトから一部のデータのみを取得することができ、400% もの性能改善を期待できる可能性がありま
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く