- Видео 142
- Просмотров 423 977
Garage Education
Великобритания
Добавлен 17 ноя 2019
Garage Education is a nonprofit organization; its vision is to empower science and engineering communities. We aim to bring knowledge, inspiration, and innovation to everyone and teach others to become successful. All our work is open source, and available for free, sharing is permitted, with the mention to the channel as the reference.
All Garage Education work is licensed under GPL-3.0 terms and conditions.
-----------------------------------------------------------
Follow us
-------------------
Twitter: garageeducation
Facebook: GarageEducationCourses/
RUclips: ruclips.net/user/GarageEducation
Website: gability.com/
All Garage Education work is licensed under GPL-3.0 terms and conditions.
-----------------------------------------------------------
Follow us
-------------------
Twitter: garageeducation
Facebook: GarageEducationCourses/
RUclips: ruclips.net/user/GarageEducation
Website: gability.com/
# 6 - MS Fabric Demo
----------------------------------------------------------------------------------------------------------------------
- About Garage Education: gability.com/en/#about
This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or individual.
Resources:
Fabric:
- Microsoft Fabric concepts - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/enterprise/licenses)
- Domains - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/governance/domains)
- Roles in workspaces in Microsoft Fabric - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/get...
- About Garage Education: gability.com/en/#about
This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or individual.
Resources:
Fabric:
- Microsoft Fabric concepts - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/enterprise/licenses)
- Domains - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/governance/domains)
- Roles in workspaces in Microsoft Fabric - Microsoft Fabric | (learn.microsoft.com/en-us/fabric/get...
Просмотров: 210
Видео
# 5 - E2E Analysis with MS Fabric
Просмотров 1632 месяца назад
0:00 - Fabric Intro 28:40 - Fabric concepts & governance - About Garage Education: gability.com/en/#about This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or individual. Follow us: Twitter: garageeducation Facebook: facebo...
# 4 - E2E analytics cont. | Azure Data Explorer
Просмотров 1552 месяца назад
0:00 - How to position Azure Data Explorer. 14:00 - What is unique about ADX 25:10 - Walkthrough ADX documentations Resources: Azure Data Explorer Documentation: - What is Azure Data Explorer? - Azure Data Explorer | (learn.microsoft.com/en-us/azure/data-explorer/data-explorer-overview) - Azure Data Explorer data ingestion overview - Azure Data Explorer | (learn.microsoft.com/en-us/azure/data-e...
# 3 - End-to-End analytics on Microsoft Azure
Просмотров 2062 месяца назад
0:00 - Lambda Vs. Kappa architectures 17:30 - Different flavors and services 29:15 - Azure Event Hub 33:33 - Azure Stream Analytics - About Garage Education: gability.com/en/#about This disclaimer informs the audience that the views, thoughts, and opinions presented in the video belong solely to the author and not necessarily to the author's employer, organization, committee or other group or i...
# 2 - Data Platforms missing | Stream processing
Просмотров 4002 месяца назад
0:00 - Data platform - building blocks 7:23 - Why real-time analytics 13:47 - Messaging Systems 20:07 - Event Stream Processing 38:35 - Apache Kafka 45:10 - Apache Flink 1:25:45 - Conclusion Resources: Flink Playlist: (Intros) - Introduction to Stateful Stream Processing with Apache Flink • Robert Metzger • GOTO 2019 (ruclips.net/video/DkNeyCW-eH0/видео.html) - Streaming Concepts & Introduction...
# 1 - Data Platforms Evolutions | Historical Context
Просмотров 9832 месяца назад
0:00 - Data Warehouses 22:45 - Data Lakes 34:52 - Apache Parquet 48:10 - Delta Lake 53:00 - Data Mesh 1:10:15 - Centralized Vs Decentralized
Ch.04-27: Demo: Repartition Vs. Coalesce
Просмотров 8475 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! 📌 Objectives: - Explain in detail the difference between repartition and coalesce in Spark RDD APIs. - Analyze the Spark source code implementation for repartition and coalesce to understand their differences. - Demonstrate practical examples of how to us...
Ch.04-26: Demo: Spark RDD APIs
Просмотров 5845 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! 📌 Objectives: - Demonstrate the use of Spark RDD APIs, including map, flatMap, filter, reduce, groupBy, groupByKey, and reduceByKey for data transformation, extraction, organization, and reduction. - Learn to apply various operations for efficient data pr...
Ch.04-10: Demo: Running Spark on Databricks
Просмотров 7915 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate the process of running Spark on Databricks. - Understand the benefits of using Databricks for Spark workloads. - Explore practical examples of Spark applications running on Databr...
Ch.04-25: Demo: Joining RDDs
Просмотров 5085 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate the process of joining RDDs in Spark. - Understand the different types of joins supported by Spark. - Explore practical examples of join operations and their performance considera...
Ch.04-24: Demo: GroupByKey Vs. ReduceByKey
Просмотров 4025 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Compare the GroupByKey and ReduceByKey operations in Spark. - Understand the use cases and performance implications of each operation. - Explore practical examples of grouping and reducing da...
Ch.04-23: Demo: RDD Text Manipulation
Просмотров 3915 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate text manipulation using RDDs in Spark. - Understand the common text processing operations in Spark. - Explore practical examples of RDD transformations for text manipulation. 🔗 Co...
Ch.04-22: Demo: Immutability In Spark
Просмотров 3795 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Demonstrate the concept of immutability in Spark. - Understand how Spark ensures immutability in its data structures. - Explore practical examples of immutable operations in Spark. 🔗 Course L...
Ch.04-21: Transformations Narrow Vs Wide
Просмотров 4395 месяцев назад
#BigData #Spark #بالعربي #DataEngineering Big Data Engineering in Depth with Apache Spark Welcome to our comprehensive guide on Apache Spark! In this episode, we cover the following topics: 📌 Objectives: - Learn about the two types of Spark transformations: narrow and wide. - Understand the characteristics and benefits of narrow transformations. - Explore the implications and performance consid...
Ch.04-09: Demo: Running Spark on Windows
Просмотров 6225 месяцев назад
Ch.04-09: Demo: Running Spark on Windows
Ch.04-08: Demo: Running Spark on MacOS
Просмотров 4035 месяцев назад
Ch.04-08: Demo: Running Spark on MacOS
Ch.04-07: Demo: Running Spark on Linux Ubuntu
Просмотров 6875 месяцев назад
Ch.04-07: Demo: Running Spark on Linux Ubuntu
Ch.04-05: Spark In The Data Platforms
Просмотров 8955 месяцев назад
Ch.04-05: Spark In The Data Platforms
جزاك الله الفردوس 💚
Hello thanks for this presentation @YoussefMrini, I have two questions, the first is simple about what is the difference between data skipping and partition pruning? i felt you are talking about the same concept, which would allow the table to exactly go for a certain partition when certain filters are applied in the query. Second question, i am facing a problem with one of the tables in a Fabric lakehouse, where the tables has hundreds of billions of rows. The table was created initially by pyspark, it was also populated by pyspark code, it is very fast when queried using pyspark, however, when i try to query the table using the sql endpoint of the lakehouse, my query never completes execution, as if the partition pruning is not happening. any general ideas what can be happening?
جزاكم الله خيرا ونفع بنا وبكم❤
عندي انترفيو في امازون بعد اسبوع و الفيديو جه في وقته 😁
بالتوفيق ان شاء الله
❤
شكرا شكرا 🤗 على هذا المجهود الرائع والعظيم شكرا لا اعلم كيف أشكركم بجد انا حقا اقدر هذا المجهود الكبير 😊😊
انا حاليا ف CH.3 HADOOP DFS انا مشتغلتش JAVA قبل كده وقررت اني اشوف الفيديوهات بتاعت ال MAP-REDUCE علشان خاطر افهم الفكرة و ال CONCEPTS الرئيسيه بس الكود مش مركز معاه اوي بفهمه بس لكن مش بطبق هل دا صح ؟؟ خصوصا اني هبدأ SPARK بعدها وناوي ان شاء الله اذاكرها و اطبق عليها ك كود كمان لاني اشتغلت PY , SQL قبل كده كتير
ربنا يباركلك والله يا هندسه 😅❤
انا عندي مشكلة مع الslides, هى clustered جدا فيها كلام كتير, الأمثلة مش ابسط حاجة بعد تلت ساعة باتوه. دا مش اول كورس Data engineering ليا ومش اول كورس database, بس فعلا انا باتوه في وسط دا
types of measurement مش المفروض ؟ Additive. Semi-Additive. Non-Additive. Textual. Derived. Factless.
شكرا علي المجهود. why not just use the Year/Month as a key in the mapper, and Temp as a value. partitioning is default, group comparator is disabled. i think that will return the same results. صح ولا انا فاهم غلط ؟
هو الكورس كدة خلص ولا لسة؟ ولو لسة فممكن الكورس يخلص امتى؟
ممكن لو سمحت حضرتك تنزل السلايدات اللي بتشرح منها وطلب تاني ياريت لو يتم عمل google classroom تاني لان الموجود حاليا full وجزاكم الله خير الجزاء
ممكن لو سمحت حضرتك تنزل السلايدات اللي بتشرح منها وطلب تاني ياريت لو يتم عمل google classroom تاني لان الموجود حاليا full وجزاكم الله خير الجزاء
استاذي الفاضل, هل الرود ماب دي مازالت مستمره ابدا فيها في 2024؟ وهل كودزيلا او الزيرو في شرح بايثون كويسين ولا محتاج ادور على حاجه تخص بايثون في الداتا انجينير في كذا كونتنت بيبقا مكتوب python for data engineering
❤❤
very impressive ya Mostafa, please keep going...
السلام عليكم اولا جزاك الله خيرا على هذه السلسله انا شفت الفيديوهات الى فاتت كلها تقريبا وما شاء الله كانت جميله ومفهومه بس للاسف الفيديو ده حاسس ان الدنيا مش وضحه خالص يا ريت اعادت الشرح بطريقه مختلفه لهذا الموضوع لان بدايه الفيديو اصلا مفمتهش يعني ايه cluster mode, client mode, and local mode ولما كملت الفيديو ما فهمتش بردو وطبعا ممكن تكون المشكله عندي انا مش فى الشرح وشكرا
شكرا جزيلا على الشرح الرائع ياريت تكملوا السلسلة بشرح أكثر ل Fabric 🙏❤
شكرا ليكم حلقة رائعة كالعادة ❤❤
اولا جزاك الله خير على المحتوى الجميل ولا اروع هل slides متاحة
حضرتك الفيديو حلو جدا فعلا بس ينقصه المثال , انا حاولت اذاكر من اكتر من مصدر منهم مصادر كويسة جدا مفيش افضل من شرحك اللهم بارك بس لو فيه امثلة بجداول يا ريت
اضطريت ارجع للكورس تاني بعد ما قررت اشوف فيديو مشابه للقناه ومع انه اخد وقت اكبر في الشرح الا انه مكنش ملم بكل التفاصيل اللي حضرتك بتقولها , جزيت خيرا والله يجعله عمل صالح يا رب
الصوت في مشكله
جزاك الله خيرا، حلقة جميلة جدا جدا بس لو ممكن نعمل فيديو كامل نتكلم فيه بالتفصيل عن ال Data Lakehouse وال Architecture بتاعتها بالتفصيل اكتر عشان برضو لسا مش واضحة اوي
بدايه الكورس ده فين لو سمحت ؟؟
يعطيكم العافية وشكرا على المجهود ياريت لو كون فيه Demo يكون واقعي أكثر ويتم ربط Demo بشرح النظري الي صار وأفضل يكون Demo على أكثر من شغلة مش بس Real time
ان شاء الله شغالين عليه
اولا جزاك الله عنا كل خير يا هندسه , معلش بس بطلب منك ترفع ال lecture notes مش لاقيها في اللينك
خليني أشوف اللينك حاضر
ربنا يباركلك يا بشمهندس يارب
بارك الله فى حضرتك يارب
الاوبشن بتاع ازاى نختار tool موجود فانهى play list
ربنا يباركلك يابشمهندس يارب
انا عندي سؤال يا بشمهندس في حتة ال dimension table size في المثال المذكور بتاع 3 col وكل واحد فيهم له 3 values مش المفروض ال combinations المختلفة تكون 3x 3 x 3 =27 مش 9
يعطيك العافية معني الكلامك انو انا لو استخدمت ADX ممكن استغني عن استخدم Azure Event Hub Azure Stream Analytics AND Kafka Flink ولا هوة كل واحد بعمل اشئ مختلف يعني لو بدي Real time استخدم Azure Event Hub Azure Stream Analytics OR Kafka Flink لو بدي Near Real time استخدم ADX
النودز تقدر تكاش ميهماش 🤣🤣🤣
شكرا على المجهود 🌹 الرجاء وضع السلايد والمصارد في الوصف وشكرا👍
شغالين عليها ان شاء الله
طيب لو انا شغال علي hdfs كده كده الداتا متقسمه blocks ليه spark ميشغلش ال Executors علي ال blocks علي طول بدل حوار ال partitions
شكرا على المجهود 🙏 ممكن السلايد والمصادر
جزاك الله كل الخير شكرا على السيشن الجميله دى بجد ربنا يباركلك يارب ويجهلع فميزان حسناتك ويرزقك الفردوس الاعلى من الجنه ممكن حضرتك تفهمنا الفرق بين iceberg ,hudi,delta
جزاك الله خيرا يا بشمهندس مصطفي علي مجهوداتك
ولك بالمثل
ماشاء الله جميل جدا ربنا يجعله في ميزان حسناتكم
بشمهندس السلام عليكم، أنا برا المجال تماما كنت اداب انجلش و هقدم على منحة الiti و محتاجين اكون عارفة big data، ممكن نصيحة، و هل الكورس هيفيدني؟ حاليا بذاكر داتابيز و الحمدلله ماشية فيها و الانجلش عندي كويس الحمدلله بس محتاجة نصيحة قبل بداية الكورس عشان انا حاسة ان ال audience اللي قولت عليهم مش مبتدئين، لو فيه كورس المفروض اخده قبله مثلا ؟ اخر حاجة بحاول ادخل لجوجل كلاس روم بس بيقولي full
هو لو عايز اعمل query هنا لازم اعمل join ل ال3 لو عايز اجيب الweight مثلا صح؟
جزاكم الله خير فيديو مفيد والشرح سهل ♥️ ممكن بس البريزنتيشن اللي بشمهندس كريم بيشرح منها؟
💌
هو الصوت مش شغال صح ؟
ال classroom بقي Full معرفتش أدخل يا بشمهندس
ي بشمهندس الرود ماب دي تنفع حاليا ولا لاء وجزاك الله خيرا ❤️❤️
Thank you!
Welcome!
ليه حضرتك بتشرح علي rdd مش dataframes
الجزء التاني بنتكلم فيه عن ال Structured APIs (Dataset & Dataframe) هيطلع قريب ان شاء الله
@@GarageEducation طيب لو هعمل بروجكتس وكده استخدم ايه اسرع لاني مش عارف
@abdelrhmanosama887 Dataframes
@@GarageEducation شكرا جدا لحضرتك❤️❤️