1. 데이터 추출 예시
- 예시 : 등록 테이블
| REG_DATE | NAME | ADDRESS |
| 2023-02-24 15:34:35 | 홍길동 | Busan |
| 2023-02-24 19:14:42 | 김태희 | Seoul |
| 2023-02-24 23:52:19 | 조인성 | Daejeon |
-- Daily ETL 처리를 위한 조회 쿼리 (2023/02/25 0시 실행)
-- 증분된 데이터만 추출하기 위한것
SELECT NAME, ADDRESS
FROM TBL_REG
WHERE REG_DATE BETWEEN TIMESTAMP('2023-02-24 00:00:00')
AND TIMESTAMP('2023-02-24 23:59:59')
-- 데이터 관점의 시작일 : 2023-02-24
-- 데이터 관점의 종료일 : 2023-02-25
2. Airflow 날짜 Template 변수
| 이전 배치일(논리적 기준일) | 배치일 | |
| 예시일자 | 2023-02-24 | 2023-02-25 |
| 현재버전 | =data_interval_start =dag_run.logical_date =ds (yyyy-mm-dd 형식) =ts (타임스탬프) |
=data_interval_end |
| 과거버전 (현재 사용x) |
=execution_date | =next_execution_date |
'Data 엔지니어링 > Airflow' 카테고리의 다른 글
| [Airflow] Bash Operator 와 macros (0) | 2025.01.10 |
|---|---|
| [Airflow] Python Operator에서 Jinja 템플릿 사용 (0) | 2025.01.10 |
| [Airflow]Jinja 템플릿 (0) | 2025.01.10 |
| [Airflow] python 오퍼레이터 op_args & op_kwagrs (1) | 2025.01.09 |
| [Airflow] @task 데코레이터 (0) | 2025.01.09 |