林聖倫 Marcus Lin
大數據工程師
淡江大學
畢業
June, 2019
專長
統計分析以及資料處理
More about me
資策會[巨量資料分析]
電話
+886-903-671-355
Email
s09203647@gmail.com
使用ClickHouse來架設資料庫並優化資料讀取效能,透過ClickHouse提供的高效查詢模型,提升資料存取速度和效能。
使用Python Flask框架開發API,將預測模型與前端Dashboard進行串接,實現即時資料預測功能。同時,前端頁面會回傳相關的操作日志資料至資料庫,進行後續分析與處理。
Shell Script,自動化日常流程,資料庫定期更新,無停機重啟程式,保證服務的高可用性和穩定性。
利用Redis作為資料緩存系統,實現高效的資料讀取與回傳。將頻繁存取的資料存儲在Redis中,提升整體系統效能。
設計並實作JWT 驗證機制,保證使用者在註冊、登入及後續操作中的安全性。
使用FastAPI來構建後端API,與前端進行資料互動串接。利用FastAPI的高效能特性,保證系統在高並發情況下仍能保持低延遲並確保數據流順暢和即時性。
設計客戶端登入系統,並透過安全的API與資料庫進行數據交換。
以Fastapi為核心,建立Telegram bot與客戶端進行互動
利用Apache Airflow完成定期抓取資料及匯入資料的功能
利用matplotlib建立分析圖片供Telegram bot調用
完整log記錄程式以利追蹤
容器化以方便部屬及維護(Dockerfile)
心靈雞湯產生器
Github