DEA-C01:AWS Certified Data Engineer - Associate データの取り込みと変換
全18問。各問に解説と選択肢ごとの解説がついています。
- 問1Web サイトのクリックストリームを、秒未満の遅延でリアルタイムに取り込み、複数のコンシューマーアプリケーションがそれ…
- 問2オンプレミスのリレーショナルデータベースから、既存データの移行に加えて、その後の変更(挿入・更新・削除)を継続的に A…
- 問3Amazon S3 のデータレイク上のデータを、クラスターの管理をせずサーバーレスで ETL 処理し、スキーマを扱いな…
- 問4大量の CSV ファイルに対する分析クエリが、スキャン量が多くコストと時間がかかっています。クエリのコストと性能を改善…
- 問5「Glue ジョブ → Lambda → Amazon Redshift へのロード」という依存関係のある複数ステップ…
- 問6既存の Apache Airflow の DAG で定義したデータパイプラインを、インフラ運用の手間をかけずにマネージ…
- 問7取り込み処理を担う AWS Lambda 関数が、トラフィックのスパイク時にスロットリングされ、ほかの重要な関数の同時…
- 問8データパイプラインのインフラ(Lambda・Step Functions・Glue ジョブ・IAM ロールなど)を、複…
- 問9ストリーミングで届くイベントデータを、コンシューマーのコードを書かずに、バッファリングしながらほぼリアルタイムで Am…
- 問10既存の Apache Spark / Hadoop エコシステム(独自ライブラリや細かなクラスター調整を含む)を活用し…
- 問11データパイプラインの完了・失敗を、複数の下流システムへ疎結合に通知しつつ、再処理のためにメッセージをバッファリングでき…
- 問12データパイプラインのコードとインフラ定義の変更を、テストとデプロイを自動化して継続的かつ安全に本番へ届けたいと考えてい…
- 問13既存の Apache Kafka ベースのストリーミング基盤を、Kafka 互換のまま AWS のマネージドサービスへ…
- 問14Salesforce などの SaaS アプリケーションから、データを AWS(S3 や Redshift)へ、コード…
- 問15AWS Glue の ETL ジョブで、S3 に継続的に追加されるデータを定期的に処理する。毎回すでに処理済みのデータ…
- 問16Amazon S3 にある大量のデータを、Amazon Redshift へ最も効率よく(並列で高速に)一括ロードした…
- 問17複数のデータパイプライン(Glue ジョブや Lambda)を、毎日決まった時刻や一定間隔で起動するスケジュール実行を…
- 問18データ取り込み処理が、同じイベント(メッセージ)を再試行などで複数回受け取ることがある。重複して受け取っても最終的な結…