Garage Education
Garage Education
  • Видео 142
  • Просмотров 423 977
# 6 - MS Fabric Demo
----------------------------------------------------------------------------------------------------------------------
- About Garage Education: gability.com/en/#about
This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or individual.
Resources:
Fabric:
- Microsoft Fabric concepts - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/enterprise/licenses)
- Domains - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/governance/domains)
- Roles in workspaces in Microsoft Fabric - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/get...
Просмотров: 210

Видео

# 5 - E2E Analysis with MS Fabric
Просмотров 1632 месяца назад
0:00 - Fabric Intro 28:40 - Fabric concepts & governance - About Garage Education: gability.com/en/#about This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or individual. Follow us: Twitter: garageeducation Facebook: facebo...
# 4 - E2E analytics cont. | Azure Data Explorer
Просмотров 1552 месяца назад
0:00 - How to position Azure Data Explorer. 14:00 - What is unique about ADX 25:10 - Walkthrough ADX documentations Resources: Azure Data Explorer Documentation: - What is Azure Data Explorer? - Azure Data Explorer | (learn.microsoft.com/en-us/azure/data-explorer/data-explorer-overview) - Azure Data Explorer data ingestion overview - Azure Data Explorer | (learn.microsoft.com/en-us/azure/data-e...
# 3 - End-to-End analytics on Microsoft Azure
Просмотров 2062 месяца назад
0:00 - Lambda Vs. Kappa architectures 17:30 - Different flavors and services 29:15 - Azure Event Hub 33:33 - Azure Stream Analytics - About Garage Education: gability.com/en/#about This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or i...
# 2 - Data Platforms missing | Stream processing
Просмотров 4002 месяца назад
0:00 - Data platform - building blocks 7:23 - Why real-time analytics 13:47 - Messaging Systems 20:07 - Event Stream Processing 38:35 - Apache Kafka 45:10 - Apache Flink 1:25:45 - Conclusion Resources: Flink Playlist: (Intros) - Introduction to Stateful Stream Processing with Apache Flink • Robert Metzger • GOTO 2019 (ruclips.net/video/DkNeyCW-eH0/видео.html) - Streaming Concepts & Introduction...
# 1 - Data Platforms Evolutions | Historical Context
Просмотров 9832 месяца назад
0:00 - Data Warehouses 22:45 - Data Lakes 34:52 - Apache Parquet 48:10 - Delta Lake 53:00 - Data Mesh 1:10:15 - Centralized Vs Decentralized
Ch.04-27: Demo: Repartition Vs. Coalesce
Просмотров 8475 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! 📌 Objectives: - Explain in detail the difference between repartition and coalesce in Spark RDD APIs. - Analyze the Spark source code implementation for repartition and coalesce to understand their differences. - Demonstrate practical examples of how to us...
Ch.04-26: Demo: Spark RDD APIs
Просмотров 5845 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! 📌 Objectives: - Demonstrate the use of Spark RDD APIs, including map, flatMap, filter, reduce, groupBy, groupByKey, and reduceByKey for data transformation, extraction, organization, and reduction. - Learn to apply various operations for efficient data pr...
Ch.04-10: Demo: Running Spark on Databricks
Просмотров 7915 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate the process of running Spark on Databricks. - Understand the benefits of using Databricks for Spark workloads. - Explore practical examples of Spark applications running on Databr...
Ch.04-25: Demo: Joining RDDs
Просмотров 5085 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate the process of joining RDDs in Spark. - Understand the different types of joins supported by Spark. - Explore practical examples of join operations and their performance considera...
Ch.04-24: Demo: GroupByKey Vs. ReduceByKey
Просмотров 4025 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Compare the GroupByKey and ReduceByKey operations in Spark. - Understand the use cases and performance implications of each operation. - Explore practical examples of grouping and reducing da...
Ch.04-23: Demo: RDD Text Manipulation
Просмотров 3915 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate text manipulation using RDDs in Spark. - Understand the common text processing operations in Spark. - Explore practical examples of RDD transformations for text manipulation. 🔗 Co...
Ch.04-22: Demo: Immutability In Spark
Просмотров 3795 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate the concept of immutability in Spark. - Understand how Spark ensures immutability in its data structures. - Explore practical examples of immutable operations in Spark. 🔗 Course L...
Ch.04-21: Transformations Narrow Vs Wide
Просмотров 4395 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Learn about the two types of Spark transformations: narrow and wide. - Understand the characteristics and benefits of narrow transformations. - Explore the implications and performance consid...
Ch.04-20: Spark Operations
Просмотров 5235 месяцев назад
Ch.04-20: Spark Operations
Ch.04-19: Spark Data Partitioning
Просмотров 4755 месяцев назад
Ch.04-19: Spark Data Partitioning
Ch.04-18: Spark Executors
Просмотров 3895 месяцев назад
Ch.04-18: Spark Executors
Ch.04-17: Spark Execution Mode
Просмотров 4815 месяцев назад
Ch.04-17: Spark Execution Mode
Ch.04-16: Spark Cluster Manager
Просмотров 4795 месяцев назад
Ch.04-16: Spark Cluster Manager
Ch.04-15: Spark Session
Просмотров 5625 месяцев назад
Ch.04-15: Spark Session
Ch.04-14: Spark Driver
Просмотров 6175 месяцев назад
Ch.04-14: Spark Driver
Ch.04-13: Spark Applications
Просмотров 7115 месяцев назад
Ch.04-13: Spark Applications
Ch.04-12: Spark Characteristics
Просмотров 7725 месяцев назад
Ch.04-12: Spark Characteristics
Ch.04-11: From Map Reduce To Spark
Просмотров 8165 месяцев назад
Ch.04-11: From Map Reduce To Spark
Ch.04-09: Demo: Running Spark on Windows
Просмотров 6225 месяцев назад
Ch.04-09: Demo: Running Spark on Windows
Ch.04-08: Demo: Running Spark on MacOS
Просмотров 4035 месяцев назад
Ch.04-08: Demo: Running Spark on MacOS
Ch.04-07: Demo: Running Spark on Linux Ubuntu
Просмотров 6875 месяцев назад
Ch.04-07: Demo: Running Spark on Linux Ubuntu
Ch.04-06: Running Spark
Просмотров 7815 месяцев назад
Ch.04-06: Running Spark
Ch.04-05: Spark In The Data Platforms
Просмотров 8955 месяцев назад
Ch.04-05: Spark In The Data Platforms
Ch.04-04: About Databricks
Просмотров 1 тыс.5 месяцев назад
Ch.04-04: About Databricks

Комментарии

  • @mohamedwado8363
    @mohamedwado8363 3 часа назад

    جزاك الله الفردوس 💚

  • @moeeljawad5361
    @moeeljawad5361 7 часов назад

    Hello thanks for this presentation @YoussefMrini, I have two questions, the first is simple about what is the difference between data skipping and partition pruning? i felt you are talking about the same concept, which would allow the table to exactly go for a certain partition when certain filters are applied in the query. Second question, i am facing a problem with one of the tables in a Fabric lakehouse, where the tables has hundreds of billions of rows. The table was created initially by pyspark, it was also populated by pyspark code, it is very fast when queried using pyspark, however, when i try to query the table using the sql endpoint of the lakehouse, my query never completes execution, as if the partition pruning is not happening. any general ideas what can be happening?

  • @AbdelrahmanMamdouhDE
    @AbdelrahmanMamdouhDE День назад

    جزاكم الله خيرا ونفع بنا وبكم❤

  • @memo.a937
    @memo.a937 День назад

    عندي انترفيو في امازون بعد اسبوع و الفيديو جه في وقته 😁

  • @MohamedFahmy-ci1sm
    @MohamedFahmy-ci1sm 2 дня назад

  • @oweleyes6030
    @oweleyes6030 12 дней назад

    شكرا شكرا 🤗 على هذا المجهود الرائع والعظيم شكرا لا اعلم كيف أشكركم بجد انا حقا اقدر هذا المجهود الكبير 😊😊

  • @daif8384
    @daif8384 12 дней назад

    انا حاليا ف CH.3 HADOOP DFS انا مشتغلتش JAVA قبل كده وقررت اني اشوف الفيديوهات بتاعت ال MAP-REDUCE علشان خاطر افهم الفكرة و ال CONCEPTS الرئيسيه بس الكود مش مركز معاه اوي بفهمه بس لكن مش بطبق هل دا صح ؟؟ خصوصا اني هبدأ SPARK بعدها وناوي ان شاء الله اذاكرها و اطبق عليها ك كود كمان لاني اشتغلت PY , SQL قبل كده كتير

  • @ahmedelbarky1423
    @ahmedelbarky1423 15 дней назад

    ربنا يباركلك والله يا هندسه 😅❤

  • @Ahmadistallking
    @Ahmadistallking 15 дней назад

    انا عندي مشكلة مع الslides, هى clustered جدا فيها كلام كتير, الأمثلة مش ابسط حاجة بعد تلت ساعة باتوه. دا مش اول كورس Data engineering ليا ومش اول كورس database, بس فعلا انا باتوه في وسط دا

  • @ahmedtamawe1881
    @ahmedtamawe1881 19 дней назад

    types of measurement مش المفروض ؟ Additive. Semi-Additive. Non-Additive. Textual. Derived. Factless.

  • @mostafatarek5088
    @mostafatarek5088 23 дня назад

    شكرا علي المجهود. why not just use the Year/Month as a key in the mapper, and Temp as a value. partitioning is default, group comparator is disabled. i think that will return the same results. صح ولا انا فاهم غلط ؟

  • @mazenmohamed8940
    @mazenmohamed8940 25 дней назад

    هو الكورس كدة خلص ولا لسة؟ ولو لسة فممكن الكورس يخلص امتى؟

  • @mazenmohamed8940
    @mazenmohamed8940 25 дней назад

    ممكن لو سمحت حضرتك تنزل السلايدات اللي بتشرح منها وطلب تاني ياريت لو يتم عمل google classroom تاني لان الموجود حاليا full وجزاكم الله خير الجزاء

  • @mazenmohamed8940
    @mazenmohamed8940 25 дней назад

    ممكن لو سمحت حضرتك تنزل السلايدات اللي بتشرح منها وطلب تاني ياريت لو يتم عمل google classroom تاني لان الموجود حاليا full وجزاكم الله خير الجزاء

  • @eboysewage7649
    @eboysewage7649 26 дней назад

    استاذي الفاضل, هل الرود ماب دي مازالت مستمره ابدا فيها في 2024؟ وهل كودزيلا او الزيرو في شرح بايثون كويسين ولا محتاج ادور على حاجه تخص بايثون في الداتا انجينير في كذا كونتنت بيبقا مكتوب python for data engineering

  • @EhabMohamed-z8i
    @EhabMohamed-z8i 27 дней назад

    ❤❤

  • @akramkhalil1411
    @akramkhalil1411 Месяц назад

    very impressive ya Mostafa, please keep going...

  • @esayednabil8843
    @esayednabil8843 Месяц назад

    السلام عليكم اولا جزاك الله خيرا على هذه السلسله انا شفت الفيديوهات الى فاتت كلها تقريبا وما شاء الله كانت جميله ومفهومه بس للاسف الفيديو ده حاسس ان الدنيا مش وضحه خالص يا ريت اعادت الشرح بطريقه مختلفه لهذا الموضوع لان بدايه الفيديو اصلا مفمتهش يعني ايه cluster mode, client mode, and local mode ولما كملت الفيديو ما فهمتش بردو وطبعا ممكن تكون المشكله عندي انا مش فى الشرح وشكرا

  • @Mhmod48
    @Mhmod48 Месяц назад

    شكرا جزيلا على الشرح الرائع ياريت تكملوا السلسلة بشرح أكثر ل Fabric 🙏❤

  • @Mhmod48
    @Mhmod48 Месяц назад

    شكرا ليكم حلقة رائعة كالعادة ❤❤

  • @MostafaMahmoud-kr8xk
    @MostafaMahmoud-kr8xk 2 месяца назад

    اولا جزاك الله خير على المحتوى الجميل ولا اروع هل slides متاحة

  • @شيماءالملاح-ع3ب
    @شيماءالملاح-ع3ب 2 месяца назад

    حضرتك الفيديو حلو جدا فعلا بس ينقصه المثال , انا حاولت اذاكر من اكتر من مصدر منهم مصادر كويسة جدا مفيش افضل من شرحك اللهم بارك بس لو فيه امثلة بجداول يا ريت

  • @شيماءالملاح-ع3ب
    @شيماءالملاح-ع3ب 2 месяца назад

    اضطريت ارجع للكورس تاني بعد ما قررت اشوف فيديو مشابه للقناه ومع انه اخد وقت اكبر في الشرح الا انه مكنش ملم بكل التفاصيل اللي حضرتك بتقولها , جزيت خيرا والله يجعله عمل صالح يا رب

  • @nassergamal3401
    @nassergamal3401 2 месяца назад

    الصوت في مشكله

  • @muhammadgad2131
    @muhammadgad2131 2 месяца назад

    جزاك الله خيرا، حلقة جميلة جدا جدا بس لو ممكن نعمل فيديو كامل نتكلم فيه بالتفصيل عن ال Data Lakehouse وال Architecture بتاعتها بالتفصيل اكتر عشان برضو لسا مش واضحة اوي

  • @omar.g202
    @omar.g202 2 месяца назад

    بدايه الكورس ده فين لو سمحت ؟؟

  • @khaledabunada3506
    @khaledabunada3506 2 месяца назад

    يعطيكم العافية وشكرا على المجهود ياريت لو كون فيه Demo يكون واقعي أكثر ويتم ربط Demo بشرح النظري الي صار وأفضل يكون Demo على أكثر من شغلة مش بس Real time

    • @GarageEducation
      @GarageEducation 2 месяца назад

      ان شاء الله شغالين عليه

  • @omarnasr474
    @omarnasr474 2 месяца назад

    اولا جزاك الله عنا كل خير يا هندسه , معلش بس بطلب منك ترفع ال lecture notes مش لاقيها في اللينك

    • @GarageEducation
      @GarageEducation 2 месяца назад

      خليني أشوف اللينك حاضر

  • @MostafaMansour-ui7zq
    @MostafaMansour-ui7zq 2 месяца назад

    ربنا يباركلك يا بشمهندس يارب

  • @MostafaMansour-ui7zq
    @MostafaMansour-ui7zq 2 месяца назад

    بارك الله فى حضرتك يارب

  • @MostafaMansour-ui7zq
    @MostafaMansour-ui7zq 2 месяца назад

    الاوبشن بتاع ازاى نختار tool موجود فانهى play list

  • @MostafaMansour-ui7zq
    @MostafaMansour-ui7zq 2 месяца назад

    ربنا يباركلك يابشمهندس يارب

  • @ahmedasaaddarwishmohamed4829
    @ahmedasaaddarwishmohamed4829 2 месяца назад

    انا عندي سؤال يا بشمهندس في حتة ال dimension table size في المثال المذكور بتاع 3 col وكل واحد فيهم له 3 values مش المفروض ال combinations المختلفة تكون 3x 3 x 3 =27 مش 9

  • @khaledabunada3506
    @khaledabunada3506 2 месяца назад

    يعطيك العافية معني الكلامك انو انا لو استخدمت ADX ممكن استغني عن استخدم Azure Event Hub Azure Stream Analytics AND Kafka Flink ولا هوة كل واحد بعمل اشئ مختلف يعني لو بدي Real time استخدم Azure Event Hub Azure Stream Analytics OR Kafka Flink لو بدي Near Real time استخدم ADX

  • @khaledabunada3506
    @khaledabunada3506 2 месяца назад

    النودز تقدر تكاش ميهماش 🤣🤣🤣

  • @khaledabunada3506
    @khaledabunada3506 2 месяца назад

    شكرا على المجهود 🌹 الرجاء وضع السلايد والمصارد في الوصف وشكرا👍

    • @GarageEducation
      @GarageEducation 2 месяца назад

      شغالين عليها ان شاء الله

  • @abdelrhmanosama887
    @abdelrhmanosama887 2 месяца назад

    طيب لو انا شغال علي hdfs كده كده الداتا متقسمه blocks ليه spark ميشغلش ال Executors علي ال blocks علي طول بدل حوار ال partitions

  • @khaledabunada3506
    @khaledabunada3506 2 месяца назад

    شكرا على المجهود 🙏 ممكن السلايد والمصادر

  • @MostafaMansour-ui7zq
    @MostafaMansour-ui7zq 2 месяца назад

    جزاك الله كل الخير شكرا على السيشن الجميله دى بجد ربنا يباركلك يارب ويجهلع فميزان حسناتك ويرزقك الفردوس الاعلى من الجنه ممكن حضرتك تفهمنا الفرق بين iceberg ,hudi,delta

  • @يوسفامبيوهعليزايد
    @يوسفامبيوهعليزايد 2 месяца назад

    جزاك الله خيرا يا بشمهندس مصطفي علي مجهوداتك

  • @hassanelsakndry1279
    @hassanelsakndry1279 2 месяца назад

    ماشاء الله جميل جدا ربنا يجعله في ميزان حسناتكم

  • @HajarAbdElMoniem-qi6bg
    @HajarAbdElMoniem-qi6bg 2 месяца назад

    بشمهندس السلام عليكم، أنا برا المجال تماما كنت اداب انجلش و هقدم على منحة الiti و محتاجين اكون عارفة big data، ممكن نصيحة، و هل الكورس هيفيدني؟ حاليا بذاكر داتابيز و الحمدلله ماشية فيها و الانجلش عندي كويس الحمدلله بس محتاجة نصيحة قبل بداية الكورس عشان انا حاسة ان ال audience اللي قولت عليهم مش مبتدئين، لو فيه كورس المفروض اخده قبله مثلا ؟ اخر حاجة بحاول ادخل لجوجل كلاس روم بس بيقولي full

  • @AhmedAkramSerag
    @AhmedAkramSerag 3 месяца назад

    هو لو عايز اعمل query هنا لازم اعمل join ل ال3 لو عايز اجيب الweight مثلا صح؟

  • @maiatef8988
    @maiatef8988 3 месяца назад

    جزاكم الله خير فيديو مفيد والشرح سهل ♥️ ممكن بس البريزنتيشن اللي بشمهندس كريم بيشرح منها؟

  • @MohamedFahmy-ci1sm
    @MohamedFahmy-ci1sm 3 месяца назад

    💌

  • @mariumosama
    @mariumosama 3 месяца назад

    هو الصوت مش شغال صح ؟

  • @AhmedRashad9999
    @AhmedRashad9999 3 месяца назад

    ال classroom بقي Full معرفتش أدخل يا بشمهندس

  • @mohamedatef143
    @mohamedatef143 3 месяца назад

    ي بشمهندس الرود ماب دي تنفع حاليا ولا لاء وجزاك الله خيرا ❤️❤️

  • @abderrahim9519
    @abderrahim9519 3 месяца назад

    Thank you!

  • @abdelrhmanosama887
    @abdelrhmanosama887 3 месяца назад

    ليه حضرتك بتشرح علي rdd مش dataframes

    • @GarageEducation
      @GarageEducation 3 месяца назад

      الجزء التاني بنتكلم فيه عن ال Structured APIs (Dataset & Dataframe) هيطلع قريب ان شاء الله

    • @abdelrhmanosama887
      @abdelrhmanosama887 3 месяца назад

      @@GarageEducation طيب لو هعمل بروجكتس وكده استخدم ايه اسرع لاني مش عارف

    • @GarageEducation
      @GarageEducation 3 месяца назад

      @abdelrhmanosama887 Dataframes

    • @abdelrhmanosama887
      @abdelrhmanosama887 3 месяца назад

      @@GarageEducation شكرا جدا لحضرتك❤️❤️