Apache Sparkの業務委託案件・フリーランス求人一覧｜ページ3

【リモート併用/データ分析】生命保険向けBSA・システム分析業務

大手生命保険会社向けの業務分析およびシステム分析業務。要件定義からデータモデリング、データフロー設計、開発チームとの連携による仕様策定や成果物のレビューまで幅広く担当いただきます。日英バイリンガルスキルがある方を歓迎し、Hadoop/Spark環境での分析業務も含まれます。 【技術スタック】 ・データベース：Oracle、MS SQL Server、MongoDB ・ビッグデータ基盤：Hadoop、HBase、Spark ・OS：Linux

【Python】【SE】農機具メーカー向けデータ管理基盤運用・保守、開発支援の求人・案件

農機具メーカー向けデータ管理基盤運用・保守、開発支援にご参画していただきます。\n主な業務内容は以下のとおりです。\n・要件整理支援(機能、非機能要件をまとめる業務)\n・開発支援 等\n\n開発環境：Python、DataBricks、Azure、spark\n\n最寄り駅：堺東駅

【基本リモート/小川町/AWS・GCP】ハイブリッドクラウド基盤 データパイプライン開発

AWSとGCPを併用したハイブリッドクラウド基盤におけるデータパイプライン設計・開発を担当します。GlueによるETL処理、S3やLake Formationを活用したデータ管理、BigQueryを用いたDWH環境整備、Terraformによる環境構築の自動化、Airflowによるジョブ管理といった幅広い工程をお任せします。 【技術スタック】 ・開発言語：Python、Go、Java ・データ処理：AWS Glue（PySpark）、BigQuery ・インフラ：AWS、GCP ・IaC：Terraform ・ワークフロー管理：Airflow、MWAA ・データ管理：S3、Lake Formation ・BI：Looker ...

【Go/Scala/AWS/リモート】配信入稿管理システムの設計・開発・運用エンジニア募集

配信入稿管理システムの設計・開発・運用をご担当いただきます。 詳細設計から実装、単体・結合テスト、運用まで一貫して関与いただき、長期での改善・機能拡張を想定しています。 開発は基本リモートで進行し、Mac・GitHubを用いたチーム開発環境です。

【Python/Databricks】金融機関向けDWH開発業務支援

金融機関向けの新DWH構築に伴い、DatabricksとPythonを用いたETL処理開発をご担当いただきます。 主な作業は以下の通りです。 ・新規データ取り込みジョブの追加開発およびテスト（取り込みロジックは既存流用） ・既存データパイプラインの運用・保守対応 設計〜開発〜テストまで一貫して関与いただき、品質確保と安定稼働を担っていただきます。

【Python】【SE】保険会社向けデータサービス基盤構築の求人・案件

保険会社向けデータサービス基盤構築にご参画していただきます。\nAWSを活用したデータサービス基盤の構築の案件となります。\nGlue・Lambda（Python、Spark）を用いてのデータ連携処理の構築をご実施していただきます。

【千代田区/Python】金融機関向けDWH開発業務支援

新規データベース構築に伴い、ETL処理の設計・開発、既存パイプラインの保守運用業務をご担当いただきます。Pythonやdatabricks、SQLを中心に活用し、安定したデータ処理基盤の維持・改善を行います。 【技術スタック】 ・開発言語：Python ・分析基盤：databricks ・DWH：Google BigQuery ・データ処理：Apache Spark（PySpark）

【Python/AWS/Azure/常駐/週5日】金融データ基盤構築 Databricksエンジニア

新データベース構築に際し、データのETL処理にdatabricksを使用するプロジェクトです。databricks及びPythonでの開発業務をご担当いただきます。 ・新規データを取りこむジョブの追加開発・テスト（取り込み処理は既存流用） ・既存パイプラインの保守、運用

【AWS/GCP/Terraform】データ基盤構築（データレイク・DWH・ETL）

AWSとGCPを活用したデータ基盤の構築をご担当いただきます。サービス運用やビジネス分析、出版社支援など多様なデータ活用ニーズに応えるためのスケーラブルな基盤を目指します。 主な担当領域: - データレイク/ETL基盤の整備 ・AWS Glue（Apache Spark）を用いた分散処理・ETL開発 ・S3やLake Formationを活用したデータガバナンス/セキュリティ設計 - BigQueryベースのDWH構築 ・AWS→GCP間のデータ連携フロー最適化 ・BigQueryにおけるデータモデリングとクエリ性能改善 - IaCによるマルチクラウド管理 ・Terraformでの環境差異の制御と自動化 - 運用効率化と品質...

流通向けアプリケーション開発【Java】【日本人限定/一部リモート】

下記ご確認の上、ご応募お願いいたします。 ーーーーーーーーーーーーーーーーーー ・本案件は、日本人限定 ・東京の顧客先に出社可能な方 ・週5日（月〜金）で稼働可能な方 ＊副業、請負案件ではございません。 ーーーーーーーーーーーーーーーーーー ・データ分析基盤構築およびアプリケーション開発(Java、Scala、Spark) ・AWS上でのJavaバックエンド開発 週5日、リモート

【Databricks/PySpark・Scala】商用車ロジスティクス可視化基盤のデータ処理最適化

トラック製造販売メーカー向けに、車両のGPSログを用いたリアルタイム可視化アプリのパフォーマンス最適化を行います。 現状、膨大なGPSデータ解析で処理遅延が発生しており、Databricks（PySpark/Scala）およびAzureデータ基盤を中心に、抜本的なチューニングと改善施策の設計・実装をご担当いただきます。 想定業務: ・Databricks（PySpark, Scala）のパフォーマンス最適化 ・大規模バッチ/ストリーミング処理の実装・改修 ・Azureデータ基盤（ADF/SQL/Functions等）の性能改善 ・保守運用、構成管理、リファクタリング 稼働形態は新川崎駅近辺にて、初月は週3出社、その後は週1...

【Python/機械学習/レコメンド/フルリモート】大規模消費者向けサービスのレコメンド基盤MLエンジニア（リード）

大規模MAUを誇るソーシャル系アプリ/WEBサービスにおいて、レコメンド領域のML基盤構築と改善をリードいただきます。 モデル開発からMLOps、プロダクト適用までを一貫して推進するポジションです。 具体的な担当業務： ・レコメンド向けML基盤（Training/Serving/Monitoring）の設計・構築 ・レコメンド/ランキング/パーソナライズモデルの研究開発 ・技術選定、開発ロードマップ策定および推進 ・特徴量設計、データ前処理、MLOpsの自動化推進 ・リアルタイム推論の最適化とスケール対応 ・技術課題の洗い出しと改善、品質向上施策の推進

【Python/AWS/GCP/常駐/週5日】WEBサービスデータ基盤構築/データエンジニア

データ基盤構築をお任せします。 ・データレイク / ETL 基盤の構築 ・ AWS Glue（Apache Spark）による分散処理・ ETL 開発 ・ S3 / Lake Formation を用いたデータ管理・セキュリティ設計 ・ BigQuery ベースの DWH 環境整備 ・ AWS → GCP 間データ連携パイプラインの最適化 ・ BigQuery によるデータモデリング・クエリ最適化 ・ IaC を軸としたマルチクラウド管理 ・ Terraform による環境差分管理・自動化 ・ 品質管理・運用効率化 ・ Airflow などのワークフロー管理と CI/CD 整備 ・ データ品質テストの自動化

【AWS/GCP/BigQuery/Terraform】データ基盤構築案件

AWS×GCPを活用したデータ基盤の設計・構築を担当いただきます。サービス運用支援、ビジネス分析、出版社支援など、多様なデータ活用ニーズに応えられる基盤を目指します。 主な業務: ・データレイク／ETL基盤の整備 └ AWS Glue（Apache Spark/PySpark）での分散処理およびETL開発 └ S3やLake Formationを用いたデータガバナンス／セキュリティ設計 ・BigQueryベースのDWH環境構築 └ AWS→GCP間のデータ連携フロー最適化 └ BigQueryでのデータモデリング／性能チューニング ・IaCによるマルチクラウド管理 └ Terraformでの環境差異管理と自動化 ・運用効率化...

【AWS/GCP/Terraform】データ基盤構築案件（AWS×GCP）

AWSとGCPを横断したデータ基盤の構築をご担当いただきます。サービス運用、ビジネス分析、出版社支援など多様なデータ活用ニーズに対応できるプラットフォームを目指します。 主な業務内容: ・データレイク/ETL基盤整備 - AWS Glue（Apache Spark/PySpark）による分散処理・ETL開発 - S3やLake Formationを活用したデータガバナンス/セキュリティ設計 ・BigQueryベースのDWH構築 - AWS→GCPのデータ連携フロー最適化 - BigQueryでのデータモデリング、クエリ最適化（パフォーマンス改善） ・IaCによるマルチクラウド管理 - Terraformで環境差異の...

【AWS/GCP/常駐/週5日】WEBサービス向けマルチクラウドデータ基盤構築エンジニア

データ基盤構築を担っていただきます。サービス運用、ビジネス分析、出版社支援など、多岐にわたるデータ活用ニーズに対応できる基盤を目指します。 データレイク / ETL基盤の整備 ・AWS Glue（Apache Spark）を用いた分散処理およびETL開発 ・S3やLake Formationを活用したデータガバナンスおよびセキュリティ設計 BigQueryベースのDWH環境構築 ・AWSからGCPへのデータ連携フローの最適化 ・BigQueryでのデータモデリングおよびクエリのパフォーマンス改善 IaCによるマルチクラウド管理 ・Terraformを用いた環境差異の制御と自動化 運用効率化と品質確保 ・Airflowなどを用い...

【AWS/GCP/BigQuery/Terraform】データ基盤構築エンジニア

AWSとGCPを併用したデータ基盤の設計・構築・運用を担当いただきます。サービス運用やビジネス分析、出版社支援など多様なデータ活用ニーズに対応できる堅牢な基盤を目指します。 主な業務内容: ・データレイク/ETL基盤の整備 └ AWS Glue（Apache Spark/PySpark）を用いた分散処理・ETL開発およびパフォーマンス最適化 └ S3、Lake Formationを活用したデータガバナンス/セキュリティ設計 ・BigQueryベースのDWH構築 └ AWS→GCPのデータ連携フロー最適化 └ BigQueryでのデータモデリング、クエリ最適化（パーティション/クラスタリング） ・IaCによるマルチクラウド管理...

【Python/機械学習/フルリモート】ソーシャルECアプリのレコメンド基盤開発リード

ソーシャルコマースアプリにおけるレコメンド領域のML基盤構築・改善をリードいただきます。 - レコメンド向けML基盤の設計・構築（Training／Serving／Monitoring） - レコメンド／ランキング／パーソナライズなどの機械学習モデルを活用したプロダクト開発 - ロードマップ策定、技術選定、開発推進 - 特徴量設計、前処理、MLOps、実運用と継続的改善 - 実験管理・運用フローの自動化 - リアルタイム推論の性能最適化 - 関連プロダクトの品質改善や技術課題の解消 勤務地はフルリモート（渋谷オフィスあり）、長期参画を予定しています。

【AWS/GCP/データパイプライン】インフラ・データエンジニア募集

AWS（データレイク）とGCP（DWH）を組み合わせたハイブリッドクラウド基盤を拡張中です。 全社で高速にデータ活用を進めるため、AWS Glue や BigQuery を用いたデータパイプラインの設計・実装・運用をお任せします。 主な業務: - データレイク/ETL基盤の構築 - AWS Glue（Apache Spark/PySpark）による分散処理・ETL開発 - S3 / Lake Formation を活用したデータ管理・セキュリティ設計 - BigQuery ベースのDWH整備 - AWS→GCP 間のデータ連携パイプライン最適化 - BigQuery によるデータモデリング/クエリ最適化 - IaC を軸とし...

【Databricks/Tableau/フルリモート】大規模データ基盤の設計・パイプライン構築（Python）

既存のTableau環境にDatabricksを新たに採用し、社内外データを一元管理できる統合データ基盤を構築するプロジェクトです。 主にデータパイプラインの設計・実装、データモデリング、品質担保、運用設計までをご担当いただきます。 リアルタイム処理や高効率なETL/ELTの仕組みづくりにも関与いただく想定です。

Python／設備事業者向けDatabricks/Tableauを用いた統合データ基盤構築、BIシステム開発案件・求人

設備事業を展開するクライアントのDX推進プロジェクトとして、 社内外の膨大なデータを一元的かつ効率的に管理するための統合データ基盤構築に参画いただきます。 現在稼働中のTableau環境に加え、新たに高速かつ柔軟なデータ処理が可能な「Databricks」を導入し、 データレイクとDWH（データウェアハウス）の統合を目指します。 エンジニアの方には、主に以下の業務をお任せします。 ・Databricksを用いたデータ基盤環境の追加構築 ・Python/Sparkを活用した高効率なデータパイプラインの設計および実装 ・周辺データの準備処理（ETL/ELT）およびワークフローの整備 モダンなデータエンジニアリング技...

【基本リモート】データ分析基盤構築案件

案件概要：データ分析基盤構築案件 業務内容： 現状のデータ分析基盤はTalend、RedShiftを用いたアーキテクチャだが 性能限界が見込まれいるため、改善すべき処理や課題の抽出を実施する案件 場所：基本リモート 外国籍：NG

【Java/AWS】メガバンク向けシステム一元化開発

メガバンク向けに、銀行側と信託側システムの一元化を進める大規模プロジェクトです。12月から基本設計、1月から詳細設計、3月以降CD/UT、5月以降ITと工程が進み、C/Oは2027年2月予定の長期案件です。 既存システムの保守・運用を継続しつつ、信託側機能の取り込みによる統合を実施します。弊社体制参画中で、今後PG枠の増員を予定しています。 勤務は水天宮前/人形町駅近辺での常駐、定時は8:50〜17:30です。

【Python/Databricks】銀行向けデータ基盤開発支援

大手銀行向けに、アイリス（社内ツール）上へデータレイクを構築します。 Pythonで大量データの加工処理を実装し、Databricksへ格納・管理します。対象データは約2,000～3,000本を想定しています。 担当は基本設計～テストまでの工程を中心に、メンバーとして参画いただきます。 作業場所は中野での常駐勤務です。

【基本リモート】データ分析基盤構築案件(Talend、RedShift、Apache Sparkなど)

案件概要：データ分析基盤構築案件(Talend、RedShift、Apache Sparkなど) 業務内容： 現状のデータ分析基盤はTalend、RedShiftを用いたアーキテクチャだが 性能限界が見込まれいるため、改善すべき処理や課題の抽出を実施する案件 場所：基本リモート 外国籍：NG

【リモート併用/恵比寿/AWS】DWHシステムのエンハンス開発・保守

AWS環境上に構築されたDWHシステムの機能追加・改修・保守対応を行います。 ETLツール（AWS Glue）やPySparkを用いたバッチ開発、EventBridgeやStep Functionsでのジョブ管理、CloudWatchやDatadogによる監視運用設計を実施します。 またTerraformでのインフラ構築・管理、Gitによるバージョン管理も担当範囲です。 【作業期間】 2025年12月～（長期予定） 【作業時間】 9:30～18:00（昼休憩 12:00～13:00）

【Python/Databricks】銀行向けデータ基盤開発支援

大手銀行で利用しているアイリス（ツール）上にデータレイクを構築し、Pythonでデータ加工処理を実装してDatabricksへ格納します。 対象データは約2,000～3,000本を想定しており、基本設計からテストまで一連の工程を担当いただきます。 役割はメンバー想定で、常駐での参画となります（勤務地：中野）。 契約形態は準委任、商流は元請→上位→当社です。

【Java/Spring/フルリモート】大規模ECサイトの新規開発・保守

大規模な総合ECサイトにおいて、機能追加を含む新規開発および既存機能の保守運用を担当いただきます。 要件定義から設計・実装・テスト・リリース後の運用まで一貫して関わるポジションで、チームをリードしながら品質とスピードの両立を図っていただきます。 主な環境／技術: - 言語: Java、Objective-C、C# - フレームワーク: Spring（Spring Boot想定） - インフラ: 各種クラウド環境（AWS/GCP/Azureのいずれか） - ビッグデータ関連技術: 分散処理/ストリーミング基盤等（例: Hadoop/Spark/Kafka など） 体制: 複数チーム体制のうち、数名規模のサブチームをリードいた...

運動施設向けSaaSにおけるデータ基盤エンジニア（テックリード）

・新データ基盤の設計・構築（AWS／BigQuery／Snowflake等） ・ETL/ELTパイプラインの改善・最適化 ・データモデル設計／マルチテナント対応 ・データガバナンス、セキュリティ設計・運用、コンプライアンス対応 ・全社業務データ／IoTデータ／行動データの統合管理 ・BIツール連携設計 ・データ基盤運用・最適化、チーム技術育成・レビュー ＜工程＞ 要件定義、設計、構築、運用、最適化、技術リード ＜開発環境＞ 言語：Python／Go／Java クラウド：AWS／GCP／Snowflake IaC：Terraform／CloudFormation／CDK DWH：BigQuery／RDB...

【フルリモート/CI/CD】ヘルステック企業での患者向けコンテンツ配信基盤エンジニア

既存プロダクトと連携し、患者向けコンテンツ配信基盤の役割を担うPEHubと呼ばれるプロダクトの開発を担当頂きます。 ・プロダクトマネージャとの仕様策定 ・各種AWSサービスをフル活用したアーキテクチャ設計 ・社内プロダクトや社内サービスとのシステム連携 ・他プロダクトチームとシステム仕様・アーキテクチャのすり合わせ ・設計したシステムの実装と運用 ・各種インフラ運用の自動化、CI/CDの強化

【AWS/Snowflake/Talend/リモート】データエンジニア/DWH・ETL設計構築

六本木を拠点にリモート併用で、DWH/ETL基盤の設計・実装・移行を担当いただきます。 ・データベースおよびDWHのスキーマ設計、レイヤー間（RAW→STG→DW/DM 等）のデータ移行設計と実装 ・顧客との要件整理、課題抽出、ソリューション提案 ・実装したソリューションの技術ドキュメント作成（データフロー、ジョブ設計、運用手順） ・開発〜テスト〜運用保守までの一連の対応 開始時期は10月想定、1名募集です。

【Python/AWS/リモート併用/週5日】製造・メーカー系データエンジニア

大手メーカー向けデータ利活用開発支援 9月～：概要設計（データ整備（性能・運用を踏まえたデータ量・項目整理）、データマート概要設計、Sparkジョブ先行性能測定） 10月～：データ収集・加工プログラム設計・開発・単体テスト、ダッシュボード（PowerBI）設計・開発・単体テスト 12月～：結合テスト支援、他開発支援等

【Python/AWS/ETL】内製開発: 開発チーム(ETL)／リモート併用

顧客内製システムの自動化開発案件です。 現在、人手で実施している障害発生時の切り分けを、各業務フローを一元化し自動化します。ETL/Data Pipeline を中核に、Airflow を用いたワークフロー自動化、サーバレス/マイクロサービスを活用した実装を進めます。 DEV/QA を横断しての支援をお願いする可能性があります。

【リモート併用/恵比寿/Python】クラウドDWHシステム保守・開発案件

ポイント事業者向けDWHシステムの保守・開発業務を担当。 AWS環境上でのETL開発、運用監視、ジョブ管理、CICD構築など幅広い対応が求められます。 PythonやSQLでのデータ処理、運用業務、Gitによるバージョン管理の経験を活かし、効率的なシステム運用を実現していただきます。 Terraformによるパイプライン構築や小規模チームのリード経験があればより高いパフォーマンスが期待されます。 【技術スタック】 ・データベース：Apache Iceberg ・ETLツール：Glue（pyspark） ・ジョブ管理：EventBridge、StepFunctions ・運用監視：CloudWatch、DataDog ・開発言...

【Java/AWS/リモート併用/週5日】製造・メーカー系アプリエンジニア

自動車会社向け、車両データ転送処理のPoC。AWS Lambda + Javaで実装されたデータの転送処理アプリをDatabricks(Sparkのマネージド基盤)上で動くようにマイグレーションし性能検証を実施する

【AWS/サブリーダー】大手通信系インフラ高度化PJTの保守開発・技術フォロー

大手通信企業向けの大規模データ分析基盤において、AWSを中核とした保守開発・高度化をご担当いただきます。 チームでは新サービスの技術検討からインフラ設計、構築、リリースまで一連の工程を広く対応しており、CI/CD、Databricks、チャットボット、コンテナなどの新技術導入・刷新をPOC的に継続しています。 本ポジションは、技術面でのサブリーダーとして、リーダーのカバー範囲外のタスク補完やメンバーのフォローアップ、品質担保を推進していただきます。 ＜主な作業＞ ・AWS環境下でのサーバ構築・システム開発 ・Spark/EMRを用いたデータ分析・抽出 ・データ集計や手動更新、テストデータ導入 ・AWS Lambdaを用いたジョ...

バトル演出デザイナー／Unity・AfterEffects／ゲーム開発

爽快マッチパズルゲームを代表作として、本格王道RPGゲームを中心にゲームの企画・開発を行う会社にて、ゲーム開発におけるバトル演出デザイナー業務をお任せします。 ■□具体的には…□■ ・キャラクター、モンスターの必殺技／魔法演出作成（Unity／Photoshop／AfterEffects／SPARK GEARを使用） ＜こんな方におすすめです！＞ ・スキルアップしたい方 ・ゲーム開発に携わりたい方

【Python/SQL/dbt・Databricks】某企業向け_データ活用基盤移行(ETL開発)

大手企業向けのデータ活用基盤移行プロジェクトにおいて、dbt を用いたETL/ELT開発を担当いただきます。 主なミッションは、既存の Informatica で構築された処理を、Databricks 環境で動作する dbt ベースのデータパイプラインへリプレースすることです。 具体的には、要件整理・変換ロジックの再設計、dbt モデルの実装・テスト、データ品質の担保、運用を見据えたパイプライン整備を行います。Databricks 上での開発経験や PySpark を用いた分散処理の知見がある方は歓迎します。 就業形態は原則リモートですが、状況により都内23区内でのオンサイト対応をお願いする場合があります。

【Python/AWS・ETL/リモート】内製システムの自動化開発（DEVチームリード）

顧客内製システムにおける自動化開発プロジェクトです。 人手で行っている障害発生時の切り分け作業を、業務フローを統合して自動化する仕組みを開発します。DEVチームに所属し、進捗に応じてQA支援を行う場合があります。 ・対象：データパイプライン（ETL）、サーバレス／マイクロサービス基盤、ワークフロー自動化 ・役割：設計〜実装〜テスト〜運用の推進、フレームワーク／ツール／プロセスの選定、チームリード ・出社：基本フルリモートだが、月1回程度 品川出社の可能性あり

【Java/Spring Boot・Angular/フルリモート】建築会社向け会計パッケージの開発・保守

建築会社向けの会計パッケージにおける機能追加開発および保守運用を担当いただきます。 基本設計から結合テスト、リリース後の保守まで一連の工程に参画。フロントはAngularを用いた画面実装、サーバーサイドはJava8/Spring BootでのAPI・バッチ開発が中心です。AWS上の各種マネージドサービスや分散データストア（Aurora/DynamoDB/Cassandra）を活用した設計・チューニングも関わる可能性があります。