Apache Spark × 50万円以上の業務委託案件・フリーランス求人一覧｜ページ3

【AWS/GCP/Terraform】データ基盤構築（データレイク・DWH・ETL）

AWSとGCPを活用したデータ基盤の構築をご担当いただきます。サービス運用やビジネス分析、出版社支援など多様なデータ活用ニーズに応えるためのスケーラブルな基盤を目指します。 主な担当領域: - データレイク/ETL基盤の整備 ・AWS Glue（Apache Spark）を用いた分散処理・ETL開発 ・S3やLake Formationを活用したデータガバナンス/セキュリティ設計 - BigQueryベースのDWH構築 ・AWS→GCP間のデータ連携フロー最適化 ・BigQueryにおけるデータモデリングとクエリ性能改善 - IaCによるマルチクラウド管理 ・Terraformでの環境差異の制御と自動化 - 運用効率化と品質...

流通向けアプリケーション開発【Java】【日本人限定/一部リモート】

下記ご確認の上、ご応募お願いいたします。 ーーーーーーーーーーーーーーーーーー ・本案件は、日本人限定 ・東京の顧客先に出社可能な方 ・週5日（月〜金）で稼働可能な方 ＊副業、請負案件ではございません。 ーーーーーーーーーーーーーーーーーー ・データ分析基盤構築およびアプリケーション開発(Java、Scala、Spark) ・AWS上でのJavaバックエンド開発 週5日、リモート

【Databricks/PySpark・Scala】商用車ロジスティクス可視化基盤のデータ処理最適化

トラック製造販売メーカー向けに、車両のGPSログを用いたリアルタイム可視化アプリのパフォーマンス最適化を行います。 現状、膨大なGPSデータ解析で処理遅延が発生しており、Databricks（PySpark/Scala）およびAzureデータ基盤を中心に、抜本的なチューニングと改善施策の設計・実装をご担当いただきます。 想定業務: ・Databricks（PySpark, Scala）のパフォーマンス最適化 ・大規模バッチ/ストリーミング処理の実装・改修 ・Azureデータ基盤（ADF/SQL/Functions等）の性能改善 ・保守運用、構成管理、リファクタリング 稼働形態は新川崎駅近辺にて、初月は週3出社、その後は週1...

【Python/機械学習/レコメンド/フルリモート】大規模消費者向けサービスのレコメンド基盤MLエンジニア（リード）

大規模MAUを誇るソーシャル系アプリ/WEBサービスにおいて、レコメンド領域のML基盤構築と改善をリードいただきます。 モデル開発からMLOps、プロダクト適用までを一貫して推進するポジションです。 具体的な担当業務： ・レコメンド向けML基盤（Training/Serving/Monitoring）の設計・構築 ・レコメンド/ランキング/パーソナライズモデルの研究開発 ・技術選定、開発ロードマップ策定および推進 ・特徴量設計、データ前処理、MLOpsの自動化推進 ・リアルタイム推論の最適化とスケール対応 ・技術課題の洗い出しと改善、品質向上施策の推進

【Python/AWS/GCP/常駐/週5日】WEBサービスデータ基盤構築/データエンジニア

データ基盤構築をお任せします。 ・データレイク / ETL 基盤の構築 ・ AWS Glue（Apache Spark）による分散処理・ ETL 開発 ・ S3 / Lake Formation を用いたデータ管理・セキュリティ設計 ・ BigQuery ベースの DWH 環境整備 ・ AWS → GCP 間データ連携パイプラインの最適化 ・ BigQuery によるデータモデリング・クエリ最適化 ・ IaC を軸としたマルチクラウド管理 ・ Terraform による環境差分管理・自動化 ・ 品質管理・運用効率化 ・ Airflow などのワークフロー管理と CI/CD 整備 ・ データ品質テストの自動化

【AWS/GCP/BigQuery/Terraform】データ基盤構築案件

AWS×GCPを活用したデータ基盤の設計・構築を担当いただきます。サービス運用支援、ビジネス分析、出版社支援など、多様なデータ活用ニーズに応えられる基盤を目指します。 主な業務: ・データレイク／ETL基盤の整備 └ AWS Glue（Apache Spark/PySpark）での分散処理およびETL開発 └ S3やLake Formationを用いたデータガバナンス／セキュリティ設計 ・BigQueryベースのDWH環境構築 └ AWS→GCP間のデータ連携フロー最適化 └ BigQueryでのデータモデリング／性能チューニング ・IaCによるマルチクラウド管理 └ Terraformでの環境差異管理と自動化 ・運用効率化...

【AWS/GCP/Terraform】データ基盤構築案件（AWS×GCP）

AWSとGCPを横断したデータ基盤の構築をご担当いただきます。サービス運用、ビジネス分析、出版社支援など多様なデータ活用ニーズに対応できるプラットフォームを目指します。 主な業務内容: ・データレイク/ETL基盤整備 - AWS Glue（Apache Spark/PySpark）による分散処理・ETL開発 - S3やLake Formationを活用したデータガバナンス/セキュリティ設計 ・BigQueryベースのDWH構築 - AWS→GCPのデータ連携フロー最適化 - BigQueryでのデータモデリング、クエリ最適化（パフォーマンス改善） ・IaCによるマルチクラウド管理 - Terraformで環境差異の...

【AWS/GCP/常駐/週5日】WEBサービス向けマルチクラウドデータ基盤構築エンジニア

データ基盤構築を担っていただきます。サービス運用、ビジネス分析、出版社支援など、多岐にわたるデータ活用ニーズに対応できる基盤を目指します。 データレイク / ETL基盤の整備 ・AWS Glue（Apache Spark）を用いた分散処理およびETL開発 ・S3やLake Formationを活用したデータガバナンスおよびセキュリティ設計 BigQueryベースのDWH環境構築 ・AWSからGCPへのデータ連携フローの最適化 ・BigQueryでのデータモデリングおよびクエリのパフォーマンス改善 IaCによるマルチクラウド管理 ・Terraformを用いた環境差異の制御と自動化 運用効率化と品質確保 ・Airflowなどを用い...

【AWS/GCP/BigQuery/Terraform】データ基盤構築エンジニア

AWSとGCPを併用したデータ基盤の設計・構築・運用を担当いただきます。サービス運用やビジネス分析、出版社支援など多様なデータ活用ニーズに対応できる堅牢な基盤を目指します。 主な業務内容: ・データレイク/ETL基盤の整備 └ AWS Glue（Apache Spark/PySpark）を用いた分散処理・ETL開発およびパフォーマンス最適化 └ S3、Lake Formationを活用したデータガバナンス/セキュリティ設計 ・BigQueryベースのDWH構築 └ AWS→GCPのデータ連携フロー最適化 └ BigQueryでのデータモデリング、クエリ最適化（パーティション/クラスタリング） ・IaCによるマルチクラウド管理...

【Python/機械学習/フルリモート】ソーシャルECアプリのレコメンド基盤開発リード

ソーシャルコマースアプリにおけるレコメンド領域のML基盤構築・改善をリードいただきます。 - レコメンド向けML基盤の設計・構築（Training／Serving／Monitoring） - レコメンド／ランキング／パーソナライズなどの機械学習モデルを活用したプロダクト開発 - ロードマップ策定、技術選定、開発推進 - 特徴量設計、前処理、MLOps、実運用と継続的改善 - 実験管理・運用フローの自動化 - リアルタイム推論の性能最適化 - 関連プロダクトの品質改善や技術課題の解消 勤務地はフルリモート（渋谷オフィスあり）、長期参画を予定しています。

【AWS/GCP/データパイプライン】インフラ・データエンジニア募集

AWS（データレイク）とGCP（DWH）を組み合わせたハイブリッドクラウド基盤を拡張中です。 全社で高速にデータ活用を進めるため、AWS Glue や BigQuery を用いたデータパイプラインの設計・実装・運用をお任せします。 主な業務: - データレイク/ETL基盤の構築 - AWS Glue（Apache Spark/PySpark）による分散処理・ETL開発 - S3 / Lake Formation を活用したデータ管理・セキュリティ設計 - BigQuery ベースのDWH整備 - AWS→GCP 間のデータ連携パイプライン最適化 - BigQuery によるデータモデリング/クエリ最適化 - IaC を軸とし...

【Databricks/Tableau/フルリモート】大規模データ基盤の設計・パイプライン構築（Python）

既存のTableau環境にDatabricksを新たに採用し、社内外データを一元管理できる統合データ基盤を構築するプロジェクトです。 主にデータパイプラインの設計・実装、データモデリング、品質担保、運用設計までをご担当いただきます。 リアルタイム処理や高効率なETL/ELTの仕組みづくりにも関与いただく想定です。

Python／設備事業者向けDatabricks/Tableauを用いた統合データ基盤構築、BIシステム開発案件・求人

設備事業を展開するクライアントのDX推進プロジェクトとして、 社内外の膨大なデータを一元的かつ効率的に管理するための統合データ基盤構築に参画いただきます。 現在稼働中のTableau環境に加え、新たに高速かつ柔軟なデータ処理が可能な「Databricks」を導入し、 データレイクとDWH（データウェアハウス）の統合を目指します。 エンジニアの方には、主に以下の業務をお任せします。 ・Databricksを用いたデータ基盤環境の追加構築 ・Python/Sparkを活用した高効率なデータパイプラインの設計および実装 ・周辺データの準備処理（ETL/ELT）およびワークフローの整備 モダンなデータエンジニアリング技...

【基本リモート】データ分析基盤構築案件

案件概要：データ分析基盤構築案件 業務内容： 現状のデータ分析基盤はTalend、RedShiftを用いたアーキテクチャだが 性能限界が見込まれいるため、改善すべき処理や課題の抽出を実施する案件 場所：基本リモート 外国籍：NG

【Java/AWS】メガバンク向けシステム一元化開発

メガバンク向けに、銀行側と信託側システムの一元化を進める大規模プロジェクトです。12月から基本設計、1月から詳細設計、3月以降CD/UT、5月以降ITと工程が進み、C/Oは2027年2月予定の長期案件です。 既存システムの保守・運用を継続しつつ、信託側機能の取り込みによる統合を実施します。弊社体制参画中で、今後PG枠の増員を予定しています。 勤務は水天宮前/人形町駅近辺での常駐、定時は8:50〜17:30です。

【Python/Databricks】銀行向けデータ基盤開発支援

大手銀行向けに、アイリス（社内ツール）上へデータレイクを構築します。 Pythonで大量データの加工処理を実装し、Databricksへ格納・管理します。対象データは約2,000～3,000本を想定しています。 担当は基本設計～テストまでの工程を中心に、メンバーとして参画いただきます。 作業場所は中野での常駐勤務です。

【基本リモート】データ分析基盤構築案件(Talend、RedShift、Apache Sparkなど)

案件概要：データ分析基盤構築案件(Talend、RedShift、Apache Sparkなど) 業務内容： 現状のデータ分析基盤はTalend、RedShiftを用いたアーキテクチャだが 性能限界が見込まれいるため、改善すべき処理や課題の抽出を実施する案件 場所：基本リモート 外国籍：NG

【リモート併用/恵比寿/AWS】DWHシステムのエンハンス開発・保守

AWS環境上に構築されたDWHシステムの機能追加・改修・保守対応を行います。 ETLツール（AWS Glue）やPySparkを用いたバッチ開発、EventBridgeやStep Functionsでのジョブ管理、CloudWatchやDatadogによる監視運用設計を実施します。 またTerraformでのインフラ構築・管理、Gitによるバージョン管理も担当範囲です。 【作業期間】 2025年12月～（長期予定） 【作業時間】 9:30～18:00（昼休憩 12:00～13:00）

【Python/Databricks】銀行向けデータ基盤開発支援

大手銀行で利用しているアイリス（ツール）上にデータレイクを構築し、Pythonでデータ加工処理を実装してDatabricksへ格納します。 対象データは約2,000～3,000本を想定しており、基本設計からテストまで一連の工程を担当いただきます。 役割はメンバー想定で、常駐での参画となります（勤務地：中野）。 契約形態は準委任、商流は元請→上位→当社です。

【Java/Spring/フルリモート】大規模ECサイトの新規開発・保守

大規模な総合ECサイトにおいて、機能追加を含む新規開発および既存機能の保守運用を担当いただきます。 要件定義から設計・実装・テスト・リリース後の運用まで一貫して関わるポジションで、チームをリードしながら品質とスピードの両立を図っていただきます。 主な環境／技術: - 言語: Java、Objective-C、C# - フレームワーク: Spring（Spring Boot想定） - インフラ: 各種クラウド環境（AWS/GCP/Azureのいずれか） - ビッグデータ関連技術: 分散処理/ストリーミング基盤等（例: Hadoop/Spark/Kafka など） 体制: 複数チーム体制のうち、数名規模のサブチームをリードいた...

運動施設向けSaaSにおけるデータ基盤エンジニア（テックリード）

・新データ基盤の設計・構築（AWS／BigQuery／Snowflake等） ・ETL/ELTパイプラインの改善・最適化 ・データモデル設計／マルチテナント対応 ・データガバナンス、セキュリティ設計・運用、コンプライアンス対応 ・全社業務データ／IoTデータ／行動データの統合管理 ・BIツール連携設計 ・データ基盤運用・最適化、チーム技術育成・レビュー ＜工程＞ 要件定義、設計、構築、運用、最適化、技術リード ＜開発環境＞ 言語：Python／Go／Java クラウド：AWS／GCP／Snowflake IaC：Terraform／CloudFormation／CDK DWH：BigQuery／RDB...

【フルリモート/CI/CD】ヘルステック企業での患者向けコンテンツ配信基盤エンジニア

既存プロダクトと連携し、患者向けコンテンツ配信基盤の役割を担うPEHubと呼ばれるプロダクトの開発を担当頂きます。 ・プロダクトマネージャとの仕様策定 ・各種AWSサービスをフル活用したアーキテクチャ設計 ・社内プロダクトや社内サービスとのシステム連携 ・他プロダクトチームとシステム仕様・アーキテクチャのすり合わせ ・設計したシステムの実装と運用 ・各種インフラ運用の自動化、CI/CDの強化

【AWS/Snowflake/Talend/リモート】データエンジニア/DWH・ETL設計構築

六本木を拠点にリモート併用で、DWH/ETL基盤の設計・実装・移行を担当いただきます。 ・データベースおよびDWHのスキーマ設計、レイヤー間（RAW→STG→DW/DM 等）のデータ移行設計と実装 ・顧客との要件整理、課題抽出、ソリューション提案 ・実装したソリューションの技術ドキュメント作成（データフロー、ジョブ設計、運用手順） ・開発〜テスト〜運用保守までの一連の対応 開始時期は10月想定、1名募集です。

【Python/AWS/リモート併用/週5日】製造・メーカー系データエンジニア

大手メーカー向けデータ利活用開発支援 9月～：概要設計（データ整備（性能・運用を踏まえたデータ量・項目整理）、データマート概要設計、Sparkジョブ先行性能測定） 10月～：データ収集・加工プログラム設計・開発・単体テスト、ダッシュボード（PowerBI）設計・開発・単体テスト 12月～：結合テスト支援、他開発支援等

【Python/AWS/ETL】内製開発: 開発チーム(ETL)／リモート併用

顧客内製システムの自動化開発案件です。 現在、人手で実施している障害発生時の切り分けを、各業務フローを一元化し自動化します。ETL/Data Pipeline を中核に、Airflow を用いたワークフロー自動化、サーバレス/マイクロサービスを活用した実装を進めます。 DEV/QA を横断しての支援をお願いする可能性があります。

【リモート併用/恵比寿/Python】クラウドDWHシステム保守・開発案件

ポイント事業者向けDWHシステムの保守・開発業務を担当。 AWS環境上でのETL開発、運用監視、ジョブ管理、CICD構築など幅広い対応が求められます。 PythonやSQLでのデータ処理、運用業務、Gitによるバージョン管理の経験を活かし、効率的なシステム運用を実現していただきます。 Terraformによるパイプライン構築や小規模チームのリード経験があればより高いパフォーマンスが期待されます。 【技術スタック】 ・データベース：Apache Iceberg ・ETLツール：Glue（pyspark） ・ジョブ管理：EventBridge、StepFunctions ・運用監視：CloudWatch、DataDog ・開発言...

【Java/AWS/リモート併用/週5日】製造・メーカー系アプリエンジニア

自動車会社向け、車両データ転送処理のPoC。AWS Lambda + Javaで実装されたデータの転送処理アプリをDatabricks(Sparkのマネージド基盤)上で動くようにマイグレーションし性能検証を実施する

【AWS/サブリーダー】大手通信系インフラ高度化PJTの保守開発・技術フォロー

大手通信企業向けの大規模データ分析基盤において、AWSを中核とした保守開発・高度化をご担当いただきます。 チームでは新サービスの技術検討からインフラ設計、構築、リリースまで一連の工程を広く対応しており、CI/CD、Databricks、チャットボット、コンテナなどの新技術導入・刷新をPOC的に継続しています。 本ポジションは、技術面でのサブリーダーとして、リーダーのカバー範囲外のタスク補完やメンバーのフォローアップ、品質担保を推進していただきます。 ＜主な作業＞ ・AWS環境下でのサーバ構築・システム開発 ・Spark/EMRを用いたデータ分析・抽出 ・データ集計や手動更新、テストデータ導入 ・AWS Lambdaを用いたジョ...

バトル演出デザイナー／Unity・AfterEffects／ゲーム開発

爽快マッチパズルゲームを代表作として、本格王道RPGゲームを中心にゲームの企画・開発を行う会社にて、ゲーム開発におけるバトル演出デザイナー業務をお任せします。 ■□具体的には…□■ ・キャラクター、モンスターの必殺技／魔法演出作成（Unity／Photoshop／AfterEffects／SPARK GEARを使用） ＜こんな方におすすめです！＞ ・スキルアップしたい方 ・ゲーム開発に携わりたい方

【Python/SQL/dbt・Databricks】某企業向け_データ活用基盤移行(ETL開発)

大手企業向けのデータ活用基盤移行プロジェクトにおいて、dbt を用いたETL/ELT開発を担当いただきます。 主なミッションは、既存の Informatica で構築された処理を、Databricks 環境で動作する dbt ベースのデータパイプラインへリプレースすることです。 具体的には、要件整理・変換ロジックの再設計、dbt モデルの実装・テスト、データ品質の担保、運用を見据えたパイプライン整備を行います。Databricks 上での開発経験や PySpark を用いた分散処理の知見がある方は歓迎します。 就業形態は原則リモートですが、状況により都内23区内でのオンサイト対応をお願いする場合があります。

【Python/AWS・ETL/リモート】内製システムの自動化開発（DEVチームリード）

顧客内製システムにおける自動化開発プロジェクトです。 人手で行っている障害発生時の切り分け作業を、業務フローを統合して自動化する仕組みを開発します。DEVチームに所属し、進捗に応じてQA支援を行う場合があります。 ・対象：データパイプライン（ETL）、サーバレス／マイクロサービス基盤、ワークフロー自動化 ・役割：設計〜実装〜テスト〜運用の推進、フレームワーク／ツール／プロセスの選定、チームリード ・出社：基本フルリモートだが、月1回程度 品川出社の可能性あり

【Java/Spring Boot・Angular/フルリモート】建築会社向け会計パッケージの開発・保守

建築会社向けの会計パッケージにおける機能追加開発および保守運用を担当いただきます。 基本設計から結合テスト、リリース後の保守まで一連の工程に参画。フロントはAngularを用いた画面実装、サーバーサイドはJava8/Spring BootでのAPI・バッチ開発が中心です。AWS上の各種マネージドサービスや分散データストア（Aurora/DynamoDB/Cassandra）を活用した設計・チューニングも関わる可能性があります。

【PMO/AWS・Databricks】データ分析基盤PMO支援（基本リモート）

大規模なデータ分析基盤およびサーバー更改プロジェクトにおいて、PMOとしてご参画いただきます。 進行管理、課題管理、クライアント/社内向けの各種報告資料作成、品質管理（レビュー）、メンバー育成、ナレッジ集約、並びにクライアント折衝を一貫してご担当いただきます。 AWSやDatabricksを活用した基盤構築・更改案件のPMOとして、中長期で腰を据えて推進いただける方を想定しています。

【Java/リモートあり】官公庁のデータ連携基盤構築に伴う設計・開発

【20代、30代が活躍中！】 ※週5日〜OKの案件です！ ※実務経験1年以上お持ちの方が対象の案件です！ ■概要: 官公庁のデータ連携基盤構築に伴う設計・開発業務になります。 データ連携基盤を活用する業務は、現時点では監査業務になります。 【詳細】 当該省庁が保有している各システムのデータをETLにて連携し、データマート又はデータウェアハウスを構築します。 また、ユーザーが検索する画面(Webアプリ)の構築も行います。 ■必須スキル: ・Azureの構築経験1年以上(ネットワーク等のインフラ構築周り) ・ETLツール等を用いたデータ連携基盤の構築経験 ・サブリーダー経験 ■尚可スキル: ・ガバメントクラウド(行政システム専...

【フルリモート/Python/AWS】製薬業界向けサービスを展開する事業会社でのアプリケーションエンジニア募集

薬局経営を支援する薬局ダッシュボードの画面・機能開発する責務を担っていただきます。 ■開発環境 ・React、Next ・TypeScript ・AWS(Cognito、Amplify、API Gateway、Lambda、RDS、S3) ・Python ・その他(GitHub、Datadog、Google Analytics、GTM、KARTE)

【Python/リモートあり】データ利活用支援案件

【20代、30代が活躍中！】 ※週5日〜OKの案件です！ ※実務経験1年以上お持ちの方が対象の案件です！ ■内容: データ加工や編集プログラム開発、PowerBIダッシュボード開発など大手メーカーのDX案件(SCPチーム)における、データ利活用・可視化対応業務を実施していただきます。 ■必須: ・PowerBIでのダッシュボード構築設計/開発経験(9月参画) ・顧客の要求事項に対するデータ活用・可視化に向けてのデータ加工・編集、データマート、ダッシュボードの具体化検討 ・DB設計および複雑なSQLの経験 ・Pythonを使用したデータ解析・AWS・DB関連の業務参加経験 ・50代前半まで(スキル見合いで+1~2歳は検討しま...

【Azure/リモート併用/週5日】SIer・業務系系データエンジニア

大手企業におけるデータ統合基盤の移行プロジェクトです。 ・DIH（Data Integration Hub）からADF（Azure Data Factory）への移行作業 ・ADF移行方針決定、検証、連携テスト

【Python・PowerBI/品川】データ利活用エンジニア／大手メーカーDX支援

某大手メーカーのDX推進におけるデータ利活用支援を担当します。2025年9月より、性能要件を踏まえたデータ整備やデータマートの概要設計を行い、10月以降は以下の2つの業務に本格的に着手します。1つ目は、AWS Glue上でのSparkジョブ（Python）を用いたデータ収集・加工プログラムの開発、2つ目は、整備されたデータマートを基にしたPowerBIでのダッシュボード開発です。開発後は結合テストや他チームとの連携も含めた活動に参加いただきます

【フルリモート/アーキテクト】Web3.0ベースのデータスペース相互接続

■課題 データスペース間の接続方式（セマンティックウェブ、Web3.0）に基づくアーキテクチャ検討が必要。 初期受注時はスコープアウトしていたがDADC（IPA）要請を受けて対応が必須な状況。 ■概要 データスペース間接続に関する共通コンポーネント開発の全体アーキテクト設計及び実装ができる技術要員の支援 ■ポジション アーキテクト ・基盤となる海外 PF との相互接続機能、トラスト機能などの開発 ・（不要）ビジネス要求定義　※ビジネス化検討は他PJチームにて実施するため ・システムアーキテクチャ設計設計 ・機能要件の詳細化 ・プロトタイプ開発・PoC ■備考 作業場所：リモート 契約期間：2025/08/01

【Python, SQL】大手金融機関様向けDatabricks開発支援(データエンジニアリング領域

Databricks環境におけるバッチの設計、開発、テストをご対応いただきます。 ＜開発環境＞ Python, SQL, Databricks, Apache Spark, AWS Glue, Amazon EMR, AWS, Azure, GCP ＜担当工程＞ 設計~開発~テスト ※※こちらの案件は現在募集を終了しております※※