AWS Big DataBlog Genomic Analysis with Hail onAmazonEMR andAmazon Athena UPDATE: Hail version 0.2 (stable) represents over a year of great work by the community. It includes new capabilities, numerous fixes and improved performance. We’ve updated the CloudFormationtemplate in this post to allow you to launch anAmazonEMR cluster with Hail v0.2. Genomics analysis has taken off in recent year

“日本の大企業は米国に比べてITの最先端トレンドにキャッチアップするスピードが遅い”と言われることが多いが、ことAWSクラウドの導入に限っていえば、グローバルでも引けを取らず、むしろ先進的な導入事例も少なくない。特にここ最近は、データアナリティクスのコアとしてRedshiftやAthenaといったAWSのマネージドサービスを積極的に活用するエンタープライズが増えている。本稿では、そうした国内企業の中でも最先端のデータアナリティクス基盤をAWS上に構築する「JAWS-UGビッグデータ支部」の2社、リクルートテクノロジーズとNTTドコモの事例について、7月5日に東京・大崎で開催された「AWS Solution Days 2017 ~AWSDB Day ~」に登壇した両社の発表内容をもとに紹介したい。EMRで“キャパシティプランニングの呪縛”から解放された:リクルートテクノロジーズ “リ

AmazonEMR クラスターで、自動的にノードを追加 (スケールアウト) および終了 (スケールイン) するようポリシーを設定できるようになりました。AmazonEMR はプログラムで Apache Spark や Apache Hive などのアプリケーションをスケールアウトし、追加のノードを利用してパフォーマンスを向上させたり、クラスターのノード数をスケールインして、使用率が低いときにコストを節約したりできます。クラスターは、YARN 使用状況メトリクスを含めて、AmazonEMR で提供されるAmazon CloudWatch メトリクスに基づいてスケールすることができます。AmazonEMR のスケールダウン動作が設定可能になりました。AmazonEMR はリリース 5.1.0 から、タスクの完了にかかわらず、Amazon EC2 請求のインスタンス時間に近づくとク

AWS Big DataBlog Submitting User Applications with spark-submit Francisco Oliveira is a consultant withAWS Professional Services Customers starting their big data journey often ask forguidelines on how to submit user applications to Spark running onAmazonEMR. For example, customers ask forguidelines on how to size memory and compute resources available to their applications and the best reso
AWS Big DataBlogBuilding and Deploying Custom Applications with Apache Bigtop andAmazonEMR When you launch a cluster, AmazonEMR lets you choose applications that will run on your cluster. But what if you want to deploy your own custom application? This post shows you how tobuild a custom application forEMR for Apache Bigtop-based releases 4.x and greater.EMR nodes are based on theAmazon L

AWS NewsBlogAmazonEMR 5.0.0 – Major App Updates,UI Improvements, Better Debugging, and More TheAmazonEMR team has been cranking out new releases at a fast and furious pace! Here’s a quick recap of this year’s launches:EMR 4.7.0 – Updates to Apache Tez, Apache Phoenix, Presto, HBase, and Mahout (June).EMR 4.6.0 – HBase for realtime access to massive datasets (April).EMR 4.5.0 – Updates to
AWS Week in Review – AWS Documentation Updates,Amazon EventBridge is Faster, and More – May 22,2023 Here are yourAWS updates from the previous 7 days. Last week I was in Turin,Italy for CloudConf, a conference I’ve had the pleasure to participate in for the last 10 years.AWS Hero Anahit Pogosova was also there sharing a few serverless tips in front of a full house. Here’s a picture I […] Amaz
1リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く