مهندسی داده و رایانش ابری
2.6K subscribers
506 photos
28 videos
76 files
431 links
دنیای مهندسی داده و رایانش ابری با طعم
Amazon Web Services

🟢 About us:
https://www.m-fozouni.ir/
🔵 Instagram:
https://www.instagram.com/elmedade
🔴 Youtube:
https://youtube.com/c/ElmeDade
🟤 مشاوره با دکتر فزونی
https://www.m-fozouni.ir/consult
Download Telegram
🔴 لینکدین برای من یا خیلی از شماها نوتیف می‌فرسته که بیایید از سرویس پریمیوم استفاده کنید. ولی می‌ریم اکانت بسازیم، درها کاملن بسته است. اگر دوست داشتید و موافق بودید برید تو لینک زیر و لایک کنید. حسش هم نبود که هِچ‌چ‌چ‌چ
.
https://www.linkedin.com/posts/fozouni_dear-respected-friends-in-linkedin-first-activity-7161334958811193346-oYtt
.
@elmedadeir
بزودی یک کارگاه رو هماهنگ خواهم کرد که جین-جورج پرین خودش بیاد و از اسپارک، این عزیز دل ما، برامون صحبت کنه. فرصت بسیارررر خوبی هست پای منبر این آدم‌ها نشستن و اینکه شخصن ازشون سوال بپرسیم، بصورت لایو

#spark

@elmedadeir
🚀 چهارمین دوره‌ی آموزشی «مهندسی داده»

📆 شروع: ۱۵ فروردین‌ماه ۱۴۰۳

🗣 مدرس: دکتر محمد فزونی

🧭 تعداد جلسات و ساعت دوره: 30 جلسه 37 ساعت

💻 نحوه برگزاری: ترکیبی: ویدیوهای ضبط شده و جلسات آنلاین

💰 هزینه ثبت‌نام: 3/450/000 تومان

📕 سرفصل‌ها:
Linux, HDFS, Docker, Java, Git, Postgresql, Airflow, Kafka, Spark, Kubernetes

🎡 تفاوت این دوره با سه دوره‌ی گذشته: عمیق‌تر شدن در سرفصل‌های کار با کافکا و اسپارک

🛒 لینک ثبت‌نام و توضیحات مدرس بصورت ویدیویی:

▶️ https://www.m-fozouni.ir/de4
.
#data_engineering
.
@elmedadeir
🔴 تا حد امکان در لینکدین، بَج (badge) یا نشان
Open to work
رو برای خودتون نزارید. بدلایل زیر

1- اثربخشی بسیار بسیار کمی داره
2- سو استفاده‌های زیادی اخیرن اعلام شده

🟢 اگر خواستید این آیتم رو روشن کنید برای خودتون، طوری تنظیم کنید که فقط کارفرماها ببینند.

بهترین کار اینه که با توجه به تخصص خودتون، چندتا اعلان برای شغل تنظیم کنید و به محض دریافت ایمیل، برید و اپلای کنید. نیازی به بَج اصلن نیست

نکته؛ به هیچ وجه در لینکدین پست‌های غیرمرتبط با تخصص‌تون رو لایک نکنید. کارفرماها وقتی که تصمیم‌شون برای بکارگیری افراد جدی بشه، پروفایل‌ها رو شخم می‌زنند و کوچکترین حرکت غیرحرفه‌ای مساوی است با رد شدن. کمی که تجربیات بیشتر شد، اونوقت میشه ناز کرد برای این جماعت کارفرما

🍷 به امید روزهای باحال و گرررررم برای ایرونی‌ها
.
#Linkedin
.
@elmedadeir
🔴 جهت آشنایی با مهارت‌های مورد تقاضا در دنیای مهندسی داده.

🟢 در صورت تمایل می‌تونید رزومه‌تون رو برای ایشان در لینکدین ارسال کنید.
.
@elmedadeir
عیب‌یابی یا
Troubleshooting
یعنی
Trouble
یا همون مشکلات رو شووووت کنیم برن دنبال کارشون 😉. اینجوری این واژه بهتر رو ذهن می‌موند.
.
@elmedadeir


🚀 دومین دوره‌ی آموزشی «مهندسی داده با AWS»

(در این دوره تنها مباحث رایانش ابری که در دنیای مهندسی داده مورد استفاده قرار می‌گیرد، تدریس خواهد شد)

📆 شروع: 30 فروردین‌ماه ۱۴۰۳

🗣 مدرس: دکتر محمد فزونی

🧭 تعداد جلسات و ساعت دوره: 15 جلسه 20 ساعت

💻 نحوه برگزاری: ترکیبی: ویدیوهای ضبط شده و جلسات آنلاین

💰 هزینه ثبت‌نام: 2/499/000 تومان

🎁 کد تخفیف 20 درصدی ثبت‌نام زودهنگام: aws2
(کد فوق مبلغ 500/000 از هزینه دوره را کاهش خواهد داد و تنها برای 15 نفر قابل استفاده می‌باشد)

📕 سرفصل‌ها:
IAM, Lambda, Kinesis, MSK, DMS, Redshift, Step Function, Spark, AWS Glue and Glue Studio

🛒 لینک ثبت‌نام و توضیحات اضافی در خصوص دوره:

▶️ https://www.m-fozouni.ir/aws2
.
تهیه اکانت آمازون به عهده‌ خود شرکت کنندگان است
#aws
#cloud_computing
.
@elmedadeir
🛑 اگر مهندسی داده بخواد یک مهمونی بگیره، کیا رو دعوت میکنه؟


👸🏻 Apache Spark - the chief guest, the one everyone's excited to see

👩🏻‍🚀 Scala - Spark's right hand, always there to support and help out

🥷🏻 Python - the friendly guest who makes things easy and fun for everyone

🕵🏻‍♀️ PySpark - Python's partner in crime, they work together to help Spark and trying to kick Scala asap

👩🏻‍🎤 SQL - the organizer of the party, making sure everything is neat and tidy with the data

🤶🏻 MapReduce - the elder person of the family who cleared the way for Spark, offering valuable insights

👩🏻‍🏭 HDFS - the reliable friend who stores and manages all the data for the party

🤹🏻‍♀️ Apache Airflow - the party planner, orchestrating and scheduling all the activities smoothly

💁🏻‍♀️ AWS - the helpful host providing the venue and resources for the party

🤦🏻‍♀️ Azure - the cloud angel who is telling if Data Engineering would have asked him..he could have hosted this event at a lower cost than AWS


Might send invitations via email:

🏌🏻‍♀️ Apache Kafka - the quiet but clever guest who always surprises with great ideas

🤺 Apache Flink - the lively friend who brings energy and excitement to the party


Wouldn't mind them joining, but won't actively invite:

🤾🏻‍♀️ Apache Hive - the supportive buddy who chips in now and then

🏃🏻‍♀️ Apache HBase - the dependable friend who keeps precious memories safe

🤸🏻‍♀️ Apache Cassandra - the cool and relaxed guest who adds a unique vibe to the gathering

▶️ Reference of this post
.
@elmedadeir
مهندسی داده و رایانش ابری
🛑 اگر مهندسی داده بخواد یک مهمونی بگیره، کیا رو دعوت میکنه؟ 👸🏻 Apache Spark - the chief guest, the one everyone's excited to see 👩🏻‍🚀 Scala - Spark's right hand, always there to support and help out 🥷🏻 Python - the friendly guest who makes things easy…
🛑 واقعن آپاچی اسپارک یکی از خفن‌ترین ابزارها در دنیای مهندسی داده است. خیلی‌ها اعتقاد دارند که ما می‌تونیم به اسپارک بگیم یک «سیستم عامل» یا همون
Operating System

با اسپارک می‌تونیم کارهای زیر رو انجام بدهیم:

- تحلیل داده با SQL
- یادگیری ماشین
- پردازش استریم
.
@elmedadeir
خدائیش اینهمه کتاب خوب، دوره‌های خفن، جی‌پی‌تی دست به سینه نشسته که پاسخ سوالات‌مون رو بده، حیف هست که تخصصی کار نکنیم و دانش عمیقی روی موضوعاتِ خوب و بروز پیدا نکنیم.

هوش مصنوعی به هیچ وجه نمی‌تونه جای متخصصین رو بگیره. و صد البته جای همه‌چیز‌دانان رو خواهد گرفت.
.
@elmedadeir
🟢 اگر خواستید برای تعطیلات سال نو، کتابی رو چاپ کنید و بخونید، این آقای رجبی کارشون خوب هست و بنظرم قیمتشون هم منطقیه. با ایشون ارتباط بگیرید، فایل پی.دی.اف. رو بفرستید. کتاب با پست براتون ارسال خواهد شد.

🔴 نکته: این پست تبلیغاتی نیست، فقط معرفی یک فرد مورد اعتماد با خدمات خوب است. خودتون هم قبلش برید جاهای دیگه قیمت بگیرید.
.
@elmedadeir
✔️ لیستی از کتاب‌هایی که داخل کانال قرار دادیم. این کتاب‌ها در حوزه‌های علم داده، مهندسی داده و رایانش ابری قرار دارند.

https://t.me/elmedadeir/1229
🛑 Data Engineering with AWS- 2nd Edition

https://t.me/elmedadeir/1217
🛑 Data Preprocessing with Python

https://t.me/elmedadeir/1202
🛑 GNN in action

https://t.me/elmedadeir/1152
🛑 AWS for Solutions Architects

https://t.me/elmedadeir/1082
🛑 Kafka in Action

https://t.me/elmedadeir/1024
🛑 Data Engineering with Python

https://t.me/elmedadeir/1018
🛑 Introducing MLOps

https://t.me/elmedadeir/892
🛑 Fluent Python

https://t.me/elmedadeir/885
🛑 Machine Learning

https://t.me/elmedadeir/855
🛑 Fundamentals oF data Engineering

https://t.me/elmedadeir/994
🛑 Kubernetes Up and Running

https://t.me/elmedadeir/1256
🛑 Driving Data Quality with Data Contracts

https://t.me/elmedadeir/865
🛑 Common Data Sense for Professionals


نکته:
1- کتاب دانلود کردن مهم نیست. فقط کتابی رو تهیه کنید که قصد دارید بخونید.
2- اینها فقط بخشی از کتبی هستند که داخل کانال گذاشتیم. بگردید کلی کتاب دیگر هم وجود دارد.
3- پرینت گرفتن کتاب بنظر من شانس خوندن و تمام کردن کتاب رو بالاتر می‌برد. پس یک یا دو عنوان رو بخرید یا چاپ کنید برای خودتون.
4- برای یادگرفتن هم عجله نکنید. آروم ولی پیوسته حرکت کنید.
.
@elmedadeir
کتاب فوق‌العاده کاربردی برای علاقمندان به
مهندسی داده و معماری دیتا؛

🟢 Driving Data Quality with Data Contracts

🟢 Publisher: Packt

🟢 Year: 2023

🟢 Author: Andrew Jones

🟢 Download Book
.
@elmedadeir
Forwarded from مهندسی داده و رایانش ابری (Elmedade Support)
🚀 چهارمین دوره‌ی آموزشی «مهندسی داده»

📆 شروع: ۱۵ فروردین‌ماه ۱۴۰۳

🗣 مدرس: دکتر محمد فزونی

🧭 تعداد جلسات و ساعت دوره: 30 جلسه 37 ساعت

💻 نحوه برگزاری: ترکیبی: ویدیوهای ضبط شده و جلسات آنلاین

💰 هزینه ثبت‌نام: 3/450/000 تومان

🎁 کد تخفیف 20 درصدی ثبت‌نام زودهنگام: de4
(کد فوق مبلغ 690/000 از هزینه دوره را کاهش خواهد داد و تنها برای 15 نفر قابل استفاده می‌باشد)

📕 سرفصل‌ها:
Linux, HDFS, Docker, Java, Git, Postgresql, Airflow, Kafka, Spark, Kubernetes

🎡 تفاوت این دوره با سه دوره‌ی گذشته: عمیق‌تر شدن در سرفصل‌های کار با کافکا و اسپارک

🛒 لینک ثبت‌نام و توضیحات مدرس بصورت ویدیویی:

▶️ https://www.m-fozouni.ir/de4
.
#data_engineering
.
@elmedadeir
لیستی از مقالاتی که در حوزه‌های علم داده، رایانش ابری (کلاد-Cloud) و مهندسی داده در وبسایت و به زبان فارسی منتشر شده است. قطعن مطالعه‌ی این مقالات شما را با بخش بسیار زیادی از جنبه‌های این علوم آشنا می‌گرداند.

— علم داده یا مهندسی داده؟ کدام را انتخاب کنم؟

— لیستی از بهترین دوره‌های رایگان مهندسی داده

دسترسی به پنل ابری آمازون (AWS) بدون داشتن کردیت کارت

— رایانش ابری چیست و چگونه و از کجا یادگیری آنرا شروع کنیم؟

— چهار روش برای عبور از تحریم‌های داکر

— برترین تکنولوژی‌های مهندسی داده که باید در 2023 یاد بگیریم

— چگونه در شش ماه علم داده را یاد بگیریم در حالی که کارمند مشغول به کار هستیم؟

— مهندسی داده چیست؟ همراه با معرفی کورس و کتاب

— صفر تا صد سرورهای ابری و کاربرد آن در پروژه‌های علم داده

— چگونه مسیر شغلی خود را در هوش مصنوعی بیابید و بسازید!

— تیپ شخصیتی خود را قبل از ورود به محیط‌های کار در حوزه‌ی تک بشناسید

— چگونه دقت مدل یادگیری ماشین خودتان را افزایش دهید؟

— برای افزایش عملکرد، سرعت‌تان را کاهش دهید

— پایتون چیست و چه کاربردی دارد؟

— متخصصین علم داده حکم طلا را دارند اگر

— چک لیست‌هایی در خصوص انجام پروژه‌های علم داده

— خاص‌ترین کتاب علم داده همراه با دانلود رایگان

— آنالیز مصرف انرژی در مدارس با استفاده از یادگیری ماشین

— 4 دلیلی که باید از گوگل کولب استفاده کنیم

— مسیر تبدیل شدن به یک دانشمند داده

— دانلود کتاب‌های علم داده بصورت سطح‌بندی شده

— معرفی ده کتابی عالی در حوزه‌ی علم داده

— پروژه‌ی تجزیه و تحلیل داده‌ها با پایتون

— معرفی یک کتاب خوب برای ورود به دنیای علم داده

— همه دروغ می‌گویند! یک اثر متفاوت نسبت به بشر از دیدگاه علم داده

— ده درس از رساله‌ی علم داده؛ مصاحبه با 25 دیتاساینتیست

— آیا علم داده بزودی اشباع خواهد شد؟

— چگونه وارد حوزه‌ی علم داده شویم؟

— آموزش رایگان علم داده یا دیتاساینس

— معرفی و دانلود رایگان دوره‌های علم داده از یودمی و کورسرا

اینها تنها بخشی از نوشتارهای ما بود که در طول این سال‌ها، تقدیمِ نگاه زیبای شما کردیم. امیدواریم که مفید واقع شده باشد. در نهایت وبلاگ مجموعه برای مطالعه‌ی سایر مقالات را نیز خدمت شما ارسال می‌کنیم:
https://www.m-fozouni.ir/blog/
.
پی‌نوشت:
1- لیست کتاب‌هایی که بنده خوانده‌ام را اینجا ببینید (کتاب‌های عمومی و تخصصی).
2- اگر علاقمند هستید یک دوره‌ی متنی و بسیار ابتدایی از علم داده را دنبال کنید، دوره‌ی رایگان «علم داده به زبان ساده» برای شماست.
.
@elmedadeir
اگر تونستید ابرآروان رو ببخشید، تو سایت‌شون اکانت بسازید و بعد گزینه‌ی «دیتابیس ابری» که در حال حاضر کاملن رایگان و در حالت بتا هست رو امتحان کنید. از لحاظ آموزشی خیلی خوب هست، بخصوص برای علاقمندان مهندسی داده.

با دیتابیس
MySQL
می‌تونیم یک کلاستر بسازیم و دوتا نود استندبای برای بالابردن دسترس‌پذیری بهش اضافه کنیم. طراحی دیتابیس‌های ابری برای تسک‌های بزرگ محیط‌های پروداکشن، فوق‌العاده مهم هست. اگر علاقمند بودید از لینک زیر اقدام کنید
.
https://www.arvancloud.ir/fa
.
نکته: کلاستر در این حالت فقط هفت روز می‌مونه و بعد اتوماتیک پاک می‌شود.

پی‌نوشت:
۱- نود استندبای که کپی کل دیتابیس داخلش هست، کارش اینه که اگر نود اصلی ما به هر دلیلی از کار افتاد، در عرض چند ده ثانیه روشن می‌شه و پاسخگوی درخواست‌ کاربرها می‌شود.
۲- دیتابیس‌های ابری خوبی‌شون اینه که تمام کارهای نگهداری، آپدیت و ... رو آروان یا کلادپرووایدر انجام می‌ده و تیم دیتا فقط متمرکز می‌شن روی کار اصلی خودشون.
.
@elmedadeir
خطاهایی که ما در پنل ابری آمازون از داخل ایران می‌گیریم، در نوع خودش کم‌نظیر هست واقعن.

من از طریق یک پروکسی سرور به اکانتم وصل میشم. در برخی از مواقع با نت گوشی و گاهن با وایرلس. امروز با وایرلس تنظیمات پروکسی سرور رو انجام دادم و وصل شدم به اکانت و بدون مشکل کار می‌کردم. کمی زمان گذشت تا اینکه نوبت آپلود یک فایل زیپ به یک تابع لَمدا رسید.

آپلود لغو شد و خطای عجیبی داد. کلیت خطا این بود که «مرورگر بمن اجازه آپلود نمی‌ده و فایروالش دسترسی به این سرویس رو بسته». گفتم «چی‌ی‌ی‌ی‌ی 🤯». البته می‌خواستم بگم «وات د ...» ولی فهمیدم ماه رمضون هست و گناه داره 😉😂 منم که مومن 😎.

چون چنین لگدپراکنی‌هایی برام جدید نبود، نتم رو تغییر دادم و مجدد لاگین کردم. دیگه خبری از اون خطای مریخی نبود.

خلاصه بخشی از کار رو خدمت‌گذاران وطنی بستند، بخشی رو‌ هم کُفار اَمریکایی. ولی هر دو طرف باید بدونند که «زهی خیال باطل ...».

نتیجه: بخش زیادی از خطاهایی که از داخل ایران می‌گیریم، هیچ وقت گزارش و ثبت نشده و نمی‌شه. سخت نگیرید و فقط نت‌تون رو عوض کنید.
.
#aws
#cloud_computing
.
@elmedadeir