前回はDatabricksの「DatabricksのMLflow」から「Databricksのワークフロー」までの内容について簡単に説明しました。 今回はデータの取り込みと処理について説明します。 14. データの取り込み Databricksでのデータ処理の第一歩は、データの取り込みです。データの ...
DatabricksのStructured Streamingは、Apache Sparkのストリーミング処理をベースに、バッチ処理と同じコードでリアルタイムデータを扱えるのが特徴です。継続的に到着するイベントデータをDataFrameやDatasetとして統一的に処理でき、SQLやSpark APIを活用して集計・変換 ...