<

عصر هدوپ

آشنایی با Big Data و کار با Hadoop

عصر هدوپ

آشنایی با Big Data و کار با Hadoop

عصر هدوپ
بایگانی

۲ مطلب در بهمن ۱۳۹۳ ثبت شده است

هرچند در مطلب قبلی به منظور جلوگیری از Data Loss از راهکار ترکیب دو مکانیزم تکثیر فراداده (Metadata) مربوط به namenode روی چندین فایل سیستم و secondary namenode استفاده شد، اما مبحث "در دسترس بودن" (High-Availability) فایل سیستم بصورت کامل پوشش داده نشده است. namenode همچنان یک نقطه پر ریسک محسوب می شود، درصورتیکه این نود به هردلیلی از مدار خارج شود، تمامی client ها از جمله Job های MapReduce دیگر قادر به ادامه تعامل و پردازش نخواهند بود، زیرا namenode به عنوان اصلی ترین منبع فراداده و نگاشت بین بلاک و فایل می باشد. در این مواقع هدوپ دیگر قادر به ارائه سرویس نخواهد بود تا زمانیکه namenode جدید وارد کار شود.

۲ نظر موافقین ۰ مخالفین ۰ ۲۸ بهمن ۹۳ ، ۰۸:۱۲
مهدی شهیدی صادقی

یک کلاستر HDFS دارای دو نوع نود می باشد که بر اساس یک الگوی master-worker طراحی شده اند: یک namenode  به عنوان master  و تعدادی datanode  به عنوان namenode .worker وظیفه مدیریت فضای عملیاتی فایل سیستم را برعهده دارد. این موجود از درخت فایل سیستم و فراداده (Metadata) تمامی فایل ها و پوشه های موجود روی درخت را نگهداری می نماید. اطلاعات همواره در قالب دو فایل روی دیسک محلی نگهداری می شود: namespace image و edit log. همچنین namenode تمامی datanode هایی که بلاک های مربوط به یک فایل روی آنها قرار گرفته را می شناسد، بنابراین نیازی به نگهداری موقعیت بلاک ها ندارد زیرا هنگام بارگذاری سیستم اطلاعات مورد نیاز در مورد آنها را از طریق datanode های مربوطه استخراج می نماید.

۱ نظر موافقین ۱ مخالفین ۰ ۱۵ بهمن ۹۳ ، ۱۱:۰۳
مهدی شهیدی صادقی