こんにちは、RAKSUL技術広報の和田です。
2024年11月5日、primeNumber社のみなさまをRAKSULにお招きし、合同勉強会を開催しました。この記事では、その様子をレポートしたいと思います!
発表内容
今回の合同勉強会は、primeNumber社CIO山本さんからの挨拶で幕を開け、各社のメンバーが主に「データエンジニアリング」をテーマにプレゼンテーションを行いました。
プレゼンテーションでは、各社が日々直面する課題と、それに対する技術的な解決策が紹介され、活発な意見交換と知見の共有が行われました。
1.「BI ダッシュボードの DevOps と CI/CD についての取り組みと課題」
改善し続けるBIダッシュボードの運用には、CI/CDの整備が不可欠であり、特に継続的デリバリーを実現するための仕組みが重要だと強調されました。BIツールの選定時には、CI/CD対応を考慮し、QuicksightのようにAWS CLI経由で操作可能なツールを選ぶことで、自動化の余地を大きくすることができるという点にも触れられました。課題は残るものの、データプロダクトのアジリティと品質向上のため、今後もDevOpsを強化していく必要があると語られました。
2.「DatastreamやTROCCOを活用したシステム構築の事例紹介」
データ移行やシステム連携における効率化の取り組みが紹介され、DatastreamやTROCCOを活用することで、データ処理の自動化や連携の最適化が実現した事例が共有されました。これにより、作業の負担軽減とシステム間のスムーズな情報共有が実現したそうです。
3.「データサイエンティストがデータエンジニアリングを学ぶ意味」
データサイエンティストが幅広い業務範囲に対応するためには、データの収集や管理の仕組みを自分で構築できる力が重要であると語られました。また、データエンジニアリングの知識を身につけることで、データから生み出せる価値が増え、効率的な分析やビジネスインパクトの向上が期待できる、という意義が共有されました。
4.「COMETAを用いたデータカタログ整備での学びや苦労話」
データカタログの整備に関する実践的な取り組みが紹介され、COMETAを導入していく中で直面した課題や、得られた学びについて具体的な事例を交えて説明されました。運用面での苦労とともに、改善策や対応方法が共有されました。
5.「ラクスルのデータ基盤の進展とDagsterのTips」
ラクスルのデータ基盤におけるDagsterの運用と開発の進展が紹介されました。運用面では、Dagster+のHybrid Deploymentが安定しており、Dagsterとdbtの連携が効果的で、柔軟なJob構成や便利な機能(リトライ、並列実行制御、Sensor)が役立っていると語られました。開発面では、Dagsterが開発サイクルを加速させる一方、Pythonライブラリに関する課題もあり、Pythonの知識が重要であることが共有されました。
懇親会の様子
発表の後は懇親会を実施し、参加者同士で和気あいあいと交流を深めました。技術に関する話題だけでなく、多様なテーマで盛り上がり、会場は非常に楽しい雰囲気に包まれていました。
おわりに
弊社ではあまり事例がない合同勉強会を実施しましたが、オープンな勉強会とはまた違う濃い時間を過ごすことができました。事業や技術的な内容についてお互いの理解も深まり、引き続き知見の共有・交流を続けていけたら嬉しいと考えています。
今後は、このような勉強会をオープンな場でも開催してまいります。ぜひ、外部の方にもご参加いただきたいと考えていますので、ご興味がある方は、connpassグループのメンバー登録、Xフォローもよろしくお願いします! 次回もお楽しみに!それでは、またお会いしましょう!