**About KPI **KPI Digital helps clients reach their business objectives by identifying required capabilities and by providing the proper data and analytics strategy and foundation allowing handling of all data challenges including enterprise-wide AI scaling. We specialize in Data & Analytics from Strategy, Architecture, Governance, Modern D&A Platform, MDM and the entire D&A Value Chain (Data Ingestion, Data Pipelines, Lakehouse, AI Modeling, DO/OR, BI, Deployment and Monitoring.
Data Engineer – Data & Analytics Group **About KPI **KPI Digital helps clients reach their business objectives by identifying required capabilities and by providing the proper data and analytics strategy and foundation allowing handling of all data challenges including enterprise-wide AI scaling. We specialize in Data & Analytics from Strategy, Architecture, Governance, Modern D&A Platform, MDM and the entire D&A Value Chain (Data Ingestion, Data Pipelines, Lakehouse, AI Modeling, DO/OR, BI, Deployment and Monitoring. Performance Management and Digital Experience are two additional practices that complement the D&A practice. In addition, to the Consulting Services, we offer Managed Services, Education and Training. Want to join a winning team? **The Role **We are looking for a Data Engineer that combines Data Engineering, platform architecture and management expertise. The Data Engineer will: Provide consulting services to our customers as the KPI Digital Lead Data Engineer Define and maintain the KPI Digital Modern D&A Platform Architecture. This D&A Platform Architecture must: Support real-time LakeHouse Architecture on Azure, AWS and GCP Data feeds from business applications and sensors, IoT, PLC, Scada Any type of workload from API on Insights, BI, AI ML/DL, NLP, DO/OR, Execution of ML models in real-time, batches, micro-batches or on edge Data Ingestion in batch, micro-batches and streaming Real-time dashboard Respect highest security standards Scalable, elastic and performant Maintain AND Improve Accelerators to speed up the creation of Data Pipelines on major cloud providers Participate and support the AI Pre-Sales activities Build a Data Engineering team to meet the expected customers growth Create Data Engineering content (articles, white papers and so on) Speak in conferences, webinars to promote KPI Digital brand **The Ideal Candidate Is **Goal oriented and possesses strong decision-making and problem-solving skills Able to build a team of diverse talents to meet the customers expectations. This implies being quite involved in the recruiting and the active management of all Data Engineers (coaching, guiding, evaluating, setting objectives, reviews and so on)
Senior Data Engineer – Ingénieur des données at KPI Mining Solutions (Remote) — aijobsearch
Expected to work in close collaboration with the AI Team Lead, the Data Governance Lead and the VP of D&A
A team lead, which means he/she not only assists his/her team, but the candidate is also responsible to bring his/her team to higher level of expertise
Able to devise training programs around the consulting mandates for his/her team to grow
Communicates and explains the plan, templates, approaches to his/her team and other teams so that he/she does not end-up being a bottleneck
Can communicate clearly in both languages (French and English) going technical when appropriate and is able to elevate the vocabulary for less technical folks such as clients, other team members, PM and so on
Excellent written and verbal communication skills for coordinating across teams (French and English)
Ability to discern fundamental and key aspects worth ‘fighting for’ versus the less ‘important’ ones. The ideal candidate is ‘street smart’
Work with our customers’ stakeholders to identify opportunities for leveraging their existing D&A platform toward a modern real-time LakeHouse
Coordinate with different functional teams to implement all D&A assets with proper monitoring
Keep up to date with various modern D&A platform services and trends
**Specific Skills
**Has implemented Lambda Architecture (may also have implemented KAPPA). And could create templates for a team of Data Engineers
Understands and did implement how to move data from Event Hub (or similar) to a raw zone, then an integrated zone and then to a consumption zone with replication to a Serving Layer with database like Synapse, Snowflake, BigQuery or Redshift (micro batches and streaming even in the cold layer)
Has been implementing the main 3 types of slowly changing dimensions in this technology or older ones
Has Data Engineering using DataVault
Has used Delta Lake
Knows how to stream data in the Data Lake using Databricks
Is very solid with Spark (to deal with Big Data situations) and can tune the environment using multiple nodes, is able to partition ‘DB’ and understand replicating the dimensions on multiple nodes
Can optimize the use of Azure resources to optimize costs and usage
Has some Azure administrator and cloud architecture experience
Can define the access rights management solution
Is an adept of CI-CD and can implement Azure DevOps
Can define real-time and batch orchestration
Has used these software (and implemented best practices for their usage): Chef, Jenkins, Terraform, Confluence, GIT, SVN, GitHub, Terraform, BitBucket, Jira
Has the title implied, the candidate is a data engineer meaning he is a full fledge experienced developer very solid in both Python and Spark
Databricks is also a requirement, but if the candidate has all above requirements, the learning curve to absorb Databricks should be easy. Same comments for ADF
Has used noSQL technologies and Azure Data Lake Store (gen 2)
Understand asynchronous architecture using ‘queue mechanisms’ such as Event Hub/Kakfa
Learns and masters new technologies and techniques rapidly and continuously (with proper balance with consulting mandates)
Able to understand rapidly the patterns and directions taken by the D&A Practice Lead
Able to zero-in on ambiguous concepts and made them crystal clear rapidly
Pragmatic (consider constraints) but not to the expense of faulty designs/concepts
He/She must be comfortable working with a wide range of stakeholders and functional teams
Excellent written and verbal communication skills for coordinating across teams
A drive to learn and master new technologies and techniques.
We’re looking for someone with 15 years of ETL/ELT and Data Pipelines experience and 7 years as a solution architect
Minimum of 5 years in Senior Management role
Experience working with data architecture
Experience with ADLS gen 2, S3, Spark, Databricks, Synapse Analytics, Snowflake, PowerBI,
Experience with AWS stack: Kinesis Data/Stream/Firehose, S3, Lake Formation, RedShift, Tableau, …
What will make you successful here?
A desire to be accountable for owning problems from design to implementation
A bias for action and pragmatic solutions
A low ego and humility; an ability to gain trust through effective communication and doing what you say you will do
A talent for operating effectively at various levels of abstraction
An aptness to distill complex, technical topics articulately to a non-technical audience
Adaptability, flexibility, and an ability to navigate ambiguity
**Benefits
**The opportunity to join and grow an ever-expanding professional network of high-profile clients and reputable colleagues.
Permanent, full-time job (40 hours a week)
Flexible schedule
Hybrid (work from home and/or office)
Competitive salary
Attractive group insurance plan
Retirement savings plan
Small company culture
Free use of gym within building
Casual work environment: jeans-friendly!
Ingénieur en chef des données – Groupe des données et des analyses
**À Propos Des IRC
**KPI Digital aide les clients à atteindre leurs objectifs d’affaires en identifiant les capacités requises et en fournissant la bonne stratégie de données et d’analyse et les bases permettant de gérer tous les défis liés aux données, y compris la mise à l’échelle de l’IA à l’échelle de l’entreprise. Nous nous spécialisons dans les données et les analyses de la stratégie, l’architecture, la gouvernance, la plateforme de D et A moderne, des GMD et de l’ensemble de la chaîne de valeur de D et A (ingestion de données, pipelines de données, Lakehouse, modélisation de l’IA, DO/OR, BI, déploiement et surveillance.
La gestion du rendement et l’expérience numérique sont deux pratiques supplémentaires qui complètent la pratique de DA. En plus des services de conseil, nous offrons des services gérés, de l’éducation et la formation. Vous voulez vous joindre à une équipe gagnante?
**Le Rôle
**Nous sommes à la recherche d’un ingénieur principal des données qui combine l’ingénierie des données, l’architecture des plateformes et l’expertise en gestion. L’ingénieur principal des données :
Fournir des services de conseil à nos clients en tant qu’ingénieur responsable des données numériques KPI
Définir Et Tenir à Jour L’architecture De Plateforme D&A Numérique Moderne KPI. Cette Architecture De Plateforme D&A Doit
Prise en charge de l’architecture LakeHouse en temps réel sur Azure, AWS et GCP
Flux de données provenant d’applications et de capteurs commerciaux, IoT, PLC, Scada
Tout type de charge de travail à partir de l’API sur Insights, BI, AI ML/DL, NLP, DO/OR,
Exécution de modèles ML en temps réel, lots, micro-lots ou sur le bord
Ingestion de données en lots, micro-lots et streaming
Tableau de bord en temps réel
Respecter les normes de sécurité les plus élevées
Évolutif, élastique et performant
Maintenir ET améliorer les accélérateurs pour accélérer la création de pipelines de données sur les principaux fournisseurs de services infonuagiques
Participer et soutenir les activités de prévente sur l’intelligence artificielle
Constituer une équipe d’ingénierie des données pour répondre à la croissance attendue des clients
Créer du contenu sur l’ingénierie des données (articles, livres blancs, etc.)
Prendre la parole lors de conférences et de webinaires visant à promouvoir la marque numérique KPI **Le Candidat Idéal Est **Orientation objectifs et solides compétences en matière de prise de décision et de résolution de problèmes Capacité à constituer une équipe de talents diversifiés pour répondre aux attentes des clients. Cela suppose d’être très impliqué dans le recrutement et la gestion active de tous les ingénieurs en données (encadrement, orientation, évaluation, établissement d’objectifs, examens, etc.) Travailler en étroite collaboration avec le responsable de l’équipe IA, le responsable de la gouvernance des données et le vice-président, D&A Un chef d’équipe, ce qui signifie qu’il/elle assiste non seulement son équipe, mais aussi le candidat/la candidate, et qu’il/elle doit amener son équipe à un niveau d’expertise plus élevé Capacité à concevoir des programmes de formation autour des mandats de conseil pour permettre à son équipe de se développer Communiquer et expliquer le plan, les modèles et les approches à son équipe et aux autres équipes afin qu’il ne devienne pas un goulot d’étranglement Capacité à communiquer clairement dans les deux langues (français et anglais) et à devenir technique, le cas échéant, et capacité à améliorer le vocabulaire pour les personnes moins techniques, comme les clients, les autres membres de l’équipe, les gestionnaires de projet et ainsi de suite Excellentes compétences de communication écrite et verbale pour la coordination entre les équipes (français et anglais) Capacité de discerner les aspects fondamentaux et clés pour lesquels il faut « se battre » par rapport aux aspects moins « important» ones. Le candidat idéal est « intelligent dans la rue ». Collaborer avec les parties prenantes de nos clients pour identifier les opportunités de mise à profit de leur plate-forme D&A existante vers un LakeHouse en temps réel moderne Collaborer avec les différentes équipes fonctionnelles afin de mettre en œuvre l’ensemble des actifs D&A avec un suivi approprié Se tenir au courant des différents services et tendances des plateformes D&A modernes L’occasion de rejoindre et de développer un réseau professionnel en constante expansion de clients de premier plan et de collègues réputés. Emploi permanent à temps plein (40 heures par semaine) Horaire flexible Hybride (travail à domicile ou au bureau) Salaire concurrentiel Assurance collective attrayante Plan d’épargne-retraite Culture des petites entreprises Utilisation gratuite du gymnase dans l’immeuble Environnement de travail décontracté : sans jeans!