Formation Spark & Kafka

Inscrivez-vous



Inscrivez-vous à la formation Spark et Kafka

>

Formation Spark et Kafka- En Distanciel


La formation Spark et Kafka d'ITAB ACADEMY est conçue pour vous fournir les connaissances et les compétences nécessaires pour devenir un développeur Spark et Kafka à succès.

Cette formation vous permet d'apprendre comment Spark permet le traitement des données en mémoire et s'exécute beaucoup plus rapidement que Hadoop MapReduce. Vous découvrirez également les RDD, Spark SQL pour le traitement structuré, les différentes API proposées par Spark telles que Spark Streaming, Spark MLlib.

Pour la partie Kafka, cette formation englobe les concepts fondamentaux (tels que Kafka Cluster et Kafka API) de Kafka et couvre les sujets avancés (tels que Kafka Connect, les flux Kafka, l'intégration de Kafka avec Hadoop, Storm et Spark) vous permettant ainsi d'acquérir une expertise dans Apache Kafka.

2 480 790 HT ( Net de taxe car « exonérée de TVA — Art. 261.4.4 a du CGI »)Ajouter au panier


Attestation de la formation :

  • Attestation de réussite « Spark Developer » (*)

Session en distanciel :

  • Dates (**) :
    Session 1 : 03-04,10-11 Juillet 2021
    Session 2 : 25-26 Septembre, 02-03 Octobre 2021
  • Nombre de jours : 4 jours ( 7H/J)
  • Horaire :  9h00-12h30 13h30-17h00
  • Paris : +33.(0)1.82.88.30.68

(*) Ces Attestations sont délivrées suite à des examens dispensés par ITAB ACADEMY.

(**) Dates prévisionnelles : Ces dates seront confirmées dans l'Email de convocation au plus tard 5 jours avant le début de la formation.


S'inscrire à la formation.

Ce module de 4 jours couvre Apache Kafka, Apache Spark et l'écosystème Spark, qui comprend Spark RDD, Spark SQL et Spark Streaming. Dans ce module nous allons:

  • Comprendre comment céer un cluster Spark dans le cloud (azure ou aws).
  • Comprendre pourquoi nous avons besoin de Spark.
  • Comprendre les composants de Spark et ses catégories.
  • Comprendre l'architecture de Spark.
  • Comprendre la différence entre les api de spark: RDD, dataframes et datasets et comment les utiliser dans Scala et / ou python.
  • Identifier et s’approprier les bibliothèques de l’écosystème Spark pour chaque cas d’usage.
  • Maitriser le Spark SQL.
  • Connaitre les principes de base du Spark Streaming Dstream et Spark Structured Streaming.
  • Faire des labs pour maîtriser les librairies de Spark: Spark RDD, Spark SQL, Dataframes, Datasets, Datasources, Spark dstream et Spark Structured Streaming.
  • Comprendre les bases de Kafka et ses composants tels que: messages, schémas, rubriques, partitions, producteurs, consommateurs, broker et clusters.
  • Simuler un flux ou streaming entre Kafka et Spark Structured Streaming.

Ingénieur et consultant BIG DATA, le formateur a un doctorat en informatique de l’ENSIAS en partenariat avec l’université de Quebec. Il a plus de 12 ans d’expérience dans le domaine professionnel, ainsi il était consultant et chef de projet dans une grande multinationale. Notre formateur possède plusieurs certifications en BIG DATA et SPARK. Il a aussi animé plusieurs formation BIG DATA et Machine Learning pour des grands comptes tel que: Orange, Altran, PhoneGroup, Avito, Xhub, Lydec…

Description de la formation

La formation Itab Academy Spark et Kafka est conçue pour faire de vous un praticien certifié Big Data en vous fournissant une formation pratique riche sur l'écosystème Spark. Cette formation de certification de développeur Spark est un tremplin vers votre parcours Big Data et vous aurez l'opportunité de travailler sur divers projets Big Data. Au même temps, la partie Spark est conçu pour vous fournir les connaissances et les compétences nécessaires pour devenir un développeur Big Data et Spark. Cette formation vous aidera à passer les certifications big data professionnels type : Cloudera, Databricks, IBM, Hortonworks et MapR.


Vous apprendrez comment Spark permet le traitement des données en mémoire et s'exécute beaucoup plus rapidement que Hadoop MapReduce. Vous découvrirez également les RDD, Spark SQL pour le traitement structuré, les différentes API proposées par Spark telles que Spark Streaming. Ce cours fait partie du parcours de carrière d'un développeur Big Data. Il englobera également les concepts fondamentaux tels que la capture de données à l'aide de Flume, le chargement de données à l'aide de Sqoop, un système de messagerie comme Kafka, etc.


La formation Spark et Kafka a pour objectifs:

  • Apprendre les notions de bases de python et scala.
  • Comprendre comment créer un cluster Spark dans le cloud.
  • Assimiler les fondamentaux de l'architecture Spark.
  • Utiliser les Dataframes et Datasets via Spark SQL.
  • Connaitre les principes de base des systèmes de traitement distribués: Spark Dstream, Spark Structured Streaming et Kafka.
  • Méthodes mobilisées:

    Les apprenants se connecteront à une classe virtuelle animée par un formateur. Le cours étant interactif, des échanges entre le formateur et les apprenants auront lieux selon les séquences établies dans le programme de formation. Afin de concrétiser la théorie, le formateur mettra en place des travaux pratiques individuels et des étude de cas concrets.


  • Moyens pédagogiques :

    • Plateforme Zoom (vidéo et partage d’écran)
    • Documents de supports de formation projetés (Diaporama PowerPoint )
    • Mise à disposition en ligne de documents supports (ZOOM et Google Classroom)
    • Vidéo animées et schéma explicatifs
    • Accès à un environnement interactif pour réaliser les travaux pratiques
    • Accès en illimité à la plateforme Google Classroom pour les supports de cours

  • Modalités d'évaluations:

    Un questionnaire d'évaluation des acquis vous sera dispensé au début et en fin de formation afin de mesurer votre niveau et votre progression. De plus, un questionnaire de satisfaction à chaud (en fin de la formation) puis à froid (2 mois après la formation).

Nos formations sont accessibles selon les modalités suivantes:


  1. Inter-entreprises: groupes de stagiaires provenant de différentes entreprises
  2. Intra-entreprise: groupes de stagiaire de la même entreprise

Plusieurs modes de financement vous permettent d’accéder à nos formations en tant que salarié via votre entreprise ou en tant que particulier. Nos conseillers sont à votre disposition à fin de vous expliquer les différents options.
Nous nous engageons à répondre à vos demandes d'informations et à vous adresser un devis sous 5 jours ouvrés.
De votre côté :

  • vous devez vous assurer de nous envoyer le devis signé dans les plus bref délais.
  • ou
  • un paiement d'un acompte de 25% du prix de la formation HT(*) à payer sur ce site dans la boutique en ligne

L’annulation d’une séance de formation de votre part est possible, à condition de le faire au moins 10 jours calendaires avant la date prévisionnelle de la formation (Passé ce délai seul le report est possible).
(*) Net de taxe car « exonérée de TVA — Art. 261.4.4 a du CGI »

Le marché de l'analyse Big Data est en croissance à travers le monde et ce modèle de croissance forte se traduit par une excellente opportunité pour tous les professionnels de l'informatique. Les responsables du recrutement recherchent des professionnels certifiés Big Data Hadoop et Spark. Notre formation qui prépare à la certification Big Data et Hadoop et Spark vous aide à saisir cette opportunité et à accélérer votre carrière. Notre cours Big Data Hadoop et Spark peut être suivi par des professionnels comme par des novices. Il est le mieux adapté pour:


  • Passionnés de Big Data
  • Développeurs logiciels, chefs de projet
  • Architectes logiciels
  • Consultant BI
  • Ingénieurs de données
  • Data Analyst
  • Data scientist
  • DBA et professionnels de la base de données
  • Ingénieurs en informatique
  • Diplômés cherchant à construire une carrière dans le domaine du Big Data

Il n'y a pas de prérequis pour la formation Spark et Kafka. Cependant, une connaissance préalable de la programmation, SQL et linux sera utile mais n'est pas obligatoire. De plus, pour parfaire vos compétences, Itab Academy propose le cours gratuit "python et Scala" à suivre à votre rythme lorsque vous vous inscrivez au Mini master BIG DATA.

Nos formations peuvent être accessibles aux personnes en situation de handicap. Chaque situation étant unique, nous vous demandons de préciser à l’inscription votre besoin en termes d'aménagement. Nous pourrons ainsi confirmer l’ensemble des possibilités d’accueil et vous permettre de suivre la formation dans les meilleures conditions . Pour toutes informations complémentaires, nous vous prions de contacter : notre référent handicap :
Mr Abdelmonir BOUAZZAOUI

  • Email : Abdelmonir@itabacademy.fr
  • Téléphone +33620606642
    ou
    Notre partenaire AGEFIPH(*) Ile-de-France :
  • M. Bastian GIESBERGER : b-giesberger@agefiph.asso.fr
  • M. M’Ballo SECK : m-seck@agefiph.asso.fr site internet www.agefiph.fr
  • Téléphone: +33608111009
  • Email : rhf-idf@agefiph.asso.fr
    Le centre de ressources numériques : https://rhf-agefiph.defi-metiers.fr
    (*)L’AGEFIPH est une association de gestion du fonds pour l'insertion des personnes handicapées.

  • Le Big Data est l'un des domaines les plus rapides et les plus prometteurs, compte tenu de toutes les technologies disponibles sur le marché informatique aujourd'hui. Afin de profiter de ces opportunités, vous avez besoin d'une formation structurée avec le dernier programme d'études conformément aux exigences actuelles du secteur et aux meilleures pratiques.


    Spark est l'un des outils les plus en croissance et les plus utilisés pour le Big Data & Analytics. Il a été adopté par plusieurs entreprises appartenant à divers domaines à travers le monde et offre donc des opportunités de carrière prometteuses.

    La formation à la certification Big Data Hadoop et Spark vous aidera à devenir un expert du Big Data. Il perfectionnera vos compétences en vous offrant des connaissances complètes sur le framework Hadoop et aussi Spark. Pendant le cours Big Data & Hadoop, vous serez formé par nos instructeurs pour:


    • Maîtrisez les concepts de HDFS (Hadoop Distributed File System), YARN (Yet Another Resource Negotiator) et comprenez comment travailler avec le stockage Hadoop
    • Comprendre l'architecture Hadoop 1.x, Hadoop 2.x et Hadoop 3.x
    • Comprendre le framework MapReduce
    • Mettre en œuvre une solution à l'aide de MapReduce
    • Apprenez les techniques d'ingestion de données à l'aide de Sqoop et Flume
    • Effectuer des opérations ETL et des analyses de données à l'aide de Pig and Hive
    • Implémentation du partitionnement et de l'indexation dans Hive
    • Comprendre HBase, c'est-à-dire une base de données NoSQL dans Hadoop, l'architecture et les mécanismes HBase
    • Planifier des tâches avec Oozie
    • Comprendre Apache Spark et son écosystème
    • Apprenez à utiliser RDD dans Apache Spark
    • Travailler sur un projet d'analyse Big Data avec Spark
    • Travailler sur un cluster Hadoop en temps réel
    • Ecrire des programmes Scala pour créer une application Spark
    • Comprendre Spark et son écosystème
    • Implémenter des opérations Spark sur Spark Shell Implémenter des applications Spark sur YARN (Hadoop)
    • Ecrire des applications Spark à l'aide des concepts Spark RDD
    • Executer des requêtes SQL à l'aide de Spark SQL
    • Expliquer Kafka et ses composants
    • Intégrer Kafka avec des systèmes de streaming en temps réel comme Spark Streaming
    • Utiliser Kafka pour produire et consommer des messages
    • Créer un processus d'application Spark Streaming
    • Implémentez différentes sources de données en streaming

    Comme vous le savez, de nos jours, de nombreuses organisations manifestent de l'intérêt pour le Big Data et adoptent Hadoop et Spark dans le cadre de leur stratégie de solution, la demande d'emplois dans le Big Data et Spark augmente rapidement. Il est donc grand temps de poursuivre votre carrière dans le domaine du Big Data et de l'analyse avec notre formation qui prépare à la certification Hadoop et Spark avec Python et Scala.

    Programme détaillé de la formation Spark et Kafka

    Python & Scala

    • 1. Révision PYTHON
    • 2. Révision SCALA

    Spark

    • 1. SPARK Introduction
    • 2. Why we need SPARK?
    • 3. What is SPARK?
    • 4. SPARK COMPONENTS
    • 5. SPARK COMPONENTS CATEGORIES
    • 6. SPARK Architecture
    • 7. What is an RDD?
    • 8. RDD features
    • 9. RDD sources
    • 10. RDD Workflow & DAG
    • 11. How to create an RDD?
    • 12. Transformations
    • 13. Actions
    • 14. Persistence
    • 15. RDD limitations
    • 16. Will Spark replace MapReduce?
    • 17. LAB SPARK : Creating a SPARK application in SCALA

    SPARK SQL

    • 1. Qu'est-ce que SPARK SQL?
    • 2. Architecture de SPARK SQL
    • 3. Histoire des RDDs, DATAFRAMES et DATASETS
    • 4. Nouvelle API SPARK 2.0
    • 5. RDD (rappel)
    • 6. DATAFRAMES
    • 7. DATASETS
    • 8. SPARK SQL LAB1 : Creating dataframes & Datasets using SPARK .2.4 in scala or python
    • 9. SPARK SQL LAB2 : SPARK DATASOURCES in scala or python
    • 10. Spark SQL LAB3 : Analyzing flight delays in scala or python
    • 11. SPARK SQL LAB4 : Analyzing soccer games file between 1872 and 2019 in scala or python

    Spark Streaming and Kafka

    • 1. Qu’est ce que SPARK STREAMING?
    • 2. Comment fonctionne SPARK STREAMING?
    • 3. Principes de base du SPARK Streaming
    • 4. Streaming Context
    • 5. DStream
    • 6. Caching
    • 7. Accumulators
    • 8. Broadcast Variables
    • 9. Checkpoints
    • 10. SPARK DSTREAM LAB : Streaming data from a PY file in Scala
    • 11. SPARK STRUCTURED STREAMING
    • 12. What is the difference between Spark Structured Streaming and DStreams?
    • 13. Programming model
    • 14. SSS – Example
    • 15. Handling Event-time and Late Data
    • 16. SPARK SSS LAB : SPARK - Structured Streaming using Python or SCALA DataFrames API
    • 17. APACHE KAFKA
    • 18. LAB1: Spark Structured Streaming and KAFKA
    • 19. LAB2: Confluent installation
    • 20. LAB KAFKA: Integrating SPARK SSS with Apache KAFKA.

    Date de création: 21/12/2020 | Date de la dernière modification: 16/02/2022

    4
    Jours de formation
    28
    Heures de formation

    A l'issue de cette formation, un certificat attestant votre participation vous sera transmis.
    pmp  29-07

    Pour certaines formations un certificat vous sera remis si vous réussissez l'examen.
    (voir les certifications disponibles pour cette formation)
    Entreprises
    janvier 18, 2021

    Opérateurs de compétences (OPCO)

    Particuliers
    janvier 18, 2021

    Compte personnel de formation (CPF)

    Ce que nos clients disent de nous

    Moulay Youssef Smaili
    Moulay Youssef Smaili
    30. Novembre, 2019.
    Ayant suivi la formation Big data & Machine learning durant la dernière session (octobre-novemvre 2019), je tiens à remercier les formateurs Dr Abdoullah et Dr Amine pour la qualité de la formation, leur pédagogie et leur gentillesse. Je vous souhaite une très bonne continuation et à très bientôt inchallah. Youssef.
    AK I
    AK I
    20. Octobre, 2019.
    Any big data course in itself is interesting, but thanks to a well designed organization of the material, the hands-on labs and moderators able to deliver knowledge and expertise in a shareable mode instead of a I-give/you-take mode, made it excellent. The staff was professionally great in doing exactly what it is suppose to do and with a genuine smile. I thank you for a job well done.
    Benjamin Ekia
    Benjamin Ekia
    20. Octobre, 2019.
    ITAB Academy centre avec des formateurs au point sur les différentes formations mon expérience au sein de cette établissement était très riche.
    alfousseyni.keita.@yahoo.com Keita
    alfousseyni.keita.@yahoo.com Keita
    20. Octobre, 2019.
    Tout d'abord, je dois avouer que le local est très propice pour l'apprentissage. J'ai fait la formation big data et Machine Learning et je dois avouer que le formateur est très compétant et il sait de quoi il parle et cela est largement suffisant.

    Quelques références

    2 480 790 HT ( Net de taxe car « exonérée de TVA — Art. 261.4.4 a du CGI »)Ajouter au panier