نظرات (3)

استیون لوید Watkin ، جمعه، 4th دسامبر 2009 11:37 PM

معرفی

من در یک شرکت کار می کنند که در آن ما برای اجرای بسیاری از مشاغل دسته پردازش میلیون ها پرونده داده را در هر روز و من شده فکر کردن به تازگی در مورد تمام ماشین هایی که در اطراف هر روز نشسته انجام هیچ چیزی برای چند ساعت. آیا آن را نمی شود خوب است اگر ما می تواند این دستگاه قدرت پردازش سیستم خود را برای تقویت استفاده کنید؟ در این مجموعه ای از مقالات من قصد دارم در مزایای بالقوه به کارگیری دفتر شبکه با استفاده از محیط های مجازی.

در قسمت 2 که در مشاغل سرور را اجرا خواهد کرد نگاه، و چگونه شغل باید به پیکربندی به منظور دستیابی به بیشترین مقدار پردازش در حالی که تضمین میکند که هر کار بدون شکست پردازش.

راه اندازی کارگر خود را - یا سرور لنگی

گام بعدی در این فرآیند این است که کارگران مجازی خود را راه اندازی. برای این کار من قصد دارم به استفاده از نصب و راه اندازی لینوکس با استفاده از مجازی. من قصد دارم به بانک اطلاعات MySQL را نصب و پی اچ پی بر روی سرور، نیز به عنوان شل (nux ​​لی متر ySQL و P HP) Server (ممکن است من را ساخته اند که نام بالا) شناخته می شود.

• نصب مجازی بر روی دستگاه خود ویندوز (به دنبال لینک)
• دانلود و نصب لینوکس (نسخه 5.3) در درون یک ماشین مجازی ایجاد شده

هیچ نقطه وجود دارد من به این قصد احتمالا 1000، از آموزش های بزرگ خارج وجود دارد (خوب، در اینجا: ایجاد و ماشین مجازی لینوکس Managing زیر مجازی ). نکته مهم توجه داشته باشید گمان می کنم این است که من به نام ماشین مجازی من GridMachine.

تا آنجا که به عنوان انتخاب های من از مجازی سازی مشتری و سیستم عامل است که هیچ دلیل قانع کننده ای بزرگ برای هر انتخاب وجود دارد. مجازی چیزی بر روی دستگاه خانه من و استفاده از سه سیستم عامل های بزرگ است. انتخاب لینوکس به عنوان سیستم عامل خود را خوب پایدار و من از آن استفاده کنید را بر روی سرور وب خود را. من اعتقاد زیادی در ابزار های مناسب برای این کار (اگر چه من استفاده از 'استفاده از سریعترین و ساده ترین برای شما ذهنیت در اینجا)، بنابراین اگر سیستم عامل X را اجرا می کند کد خود را سریعتر و موثرتر استفاده کنید که به جای :)

مهم مطمئن شوید که ماشین مجازی خود را با استفاده از DHCP، در غیر این صورت برای هر ماشین مجازی جدید که نیاز به توان به پیکربندی به صورت جداگانه است که چیزی است که ما نمی want.By با استفاده از DHCP ما نیازی به پیکربندی تنظیمات شبکه به صورت جداگانه برای ماشین آلات کارگر، DHCP به دست خارج از IP ها برای شما. بنابراین شما می توانید ماشین مجازی خود را در مورد اداره بدون هیچ گونه نگرانی در مورد تنظیم هر یک (در این مقیاس پذیری را بهبود می بخشد و دولت کارگران را کاهش می دهد) کپی کنید.

روند شما باید برای رسیدن به هدف خواهد بود که یک ماشین فیزیکی نصب مجازی برای به دست آوردن، و پس از آن تا حد زیادی تصویر مجازی خود را راه اندازی نموده وسپس بدون دیگری. ممکن است عاقلانه برای نصب همه کارگران خود را بر روی یک زیرشبکه متفاوت به طوری که شما حداقل می توانید ببینید که چگونه بسیاری از دستگاه در حال اجرا هستند. شما همچنین می خواهیم به راه اندازی ماشین آلات خود را در اجاره نامه اجاره نامه طولانی یا نامحدود DHCP نیاز دارند.

چگونه برای اجرای شغل کارگر

این منطقه جالب است و شما با چندین روش معتبر برای پردازش شغل کارگر وجود دارد. در اینجا من فقط دو بارز ترین مورد بحث:

• دائمی در حال اجرا اسکریپت: اسکریپت، یک اسکریپت پوسته، یا یک اسکریپت PHP است یک بار بر روی کارگر اعدام اجرا می شود و به عنوان بخشی از یک حلقه بی نهایت است. من این روش را به عنوان یکی از سقوط اسکریپت با تخفیف و به طور بالقوه کارگران خود را به اجرا بدون نوعی از مداخله را متوقف خواهد کرد.
• cron را اعدام اسکریپت بر اساس هر دقیقه X cron امکان لگد کردن یک تماس به اسکریپت خود را به چیز رفتن. بدون چک کردن این می تواند منجر به کپی های زیادی از بسیاری از کارگران خود را در حال اجرا اسکریپت شود.

تصمیم من این بود با cron که لگد کردن یک اسکریپت پوسته، هر minutes. 10 اسکریپت پوسته من در انجام وظایف زیر است:

1. لیست پروسه و grep استفاده برای پی اچ پی '. اگر یافت نشد و سپس ادامه.
2. تماس با کد کار خود را، در مورد من این خواهد بود که اساس PHP چیزی
3. اسکریپت کارگر کامل اجرای آن
4. آماده برای رفتن دوباره در تماس بعدی مناسب

اسکریپت bash به نظر می رسد چیزی شبیه به زیر:

  #! / بن / شل
 اگر ص تبر | grep استفاده-V grep استفاده | grep استفاده پی اچ پی / توسعه تمدن / تهی
 سپس
     اکو "کار در حال حاضر پردازش، خروجی"
 دیگر
     اکو "کار در حال اجرا نیست، شروع به
     پی اچ پی yourJobProcessingScript.php
 فی 

توجه: اکو هستند تقریبا به طور کامل بی معنی است، اما ممکن است فرد بعدی که می آید همراه را امتحان کنید و ویرایش آنها شده اند، کمک می کند.

که نتیجه مجموعه ای متشکل از کارگران ماشین مجازی، سریع، ساده و آسان برای کپی کردن هر قطعه از سخت افزار است که دریافت کرده است. "هوش و ذکاوت از سیستم شبکه در واقع در سیستم عامل مشاهده نمی باشد. همه با کد ایجاد شده برای شغل فرایند، پیکربندی شغل، و مطمئن شوید که این کار را اجرا می کند که مناسب (یعنی وقتی که میزبان غیر فعال است ).

راه اندازی ویندوز به مقداردهی اولیه کارگران

وظیفه اول این است که کار از دستور مورد نیاز برای اجرای ماشین مجازی را از خط فرمان ویندوز. اگر شما مجازی در محل پیش فرض نصب شده و شما به نام کارگر GridMachine و سپس دستور مورد نیاز برای بارگذاری کارگر است:

  "C: \ برنامه فایلها \ یکشنبه \ مجازی \ VBoxManage.exe" startvm GridMachine 

با این حال برای اجرای اسکریپت در یک "بی سر" دولت ما نیاز به استفاده از:

  "C: \ فایلها برنامه \ یکشنبه \ مجازی \ VBoxHeadless.exe" startvm GridMachine - vrdp = خاموش 

این ماشین مجازی را بدون رابط کاربری گرافیکی شروع شده و اجازه می دهد آن را به صرفه جویی در حالت آرامی. آرگومان دوم خاموش RDP پس از آن درگیری با RDP ویندوز نیست و یا شما یک پیام در مورد گوش دادن بر روی پورت 3389 به من بدهید. نام ماشین مجازی و کوچکی حروف حساس است.

بعد، ما نیاز به تنظیم پنجره ها تا به توپ زدن VM کارگر ما پس از آن که دستگاه غیر فعال شده است. برای انجام این کار (بر روی ویندوز XP) شما باید شروع به رفتن -> همه برنامه ها -> لوازم جانبی -> ابزارهای سیستم -> وظایف برنامه ریزی شده به شرح زیر است:

کلیک کنید و بعد بر روی گزینه "اضافه کردن وظیفه برنامه ریزی به دنبال یافتن کتابها از طریق برنامه های سفارشی برای اضافه کردن. حرکت به اسکریپت VBoxManage شما و OK را کلیک کنید. برنامه کار خود را برای هر یک از گزینه های (ما این کار را در یک دقیقه را تغییر دهید) و ادامه. پس از پرش صفحه بعد ویندوز شما که می خواهید برای اجرای این کار، من می خواهم یا مدیر و یا ایجاد یک کاربر ممتاز جدید نشان می دهد. به خاطر داشته باشید ما نمی خواهیم با حساب کارکنان استاندارد بر روی ماشین تداخل در هر نقطه. کلیک کنید و بعد چک کنید نمایش گزینه های پیشرفته برای این کار است.

اضافه کردن به انتهای کادر اجرا رشته ما startvm GridMachine و اطمینان حاصل شود که اجرا تنها به سیستم وارد شده باشد در سمت چپ unticked. ارسال یک وظیفه برنامه را بعد و تغییر برنامه کشویی گزینه 'غیر فعال'، مقدار زمانی که شما می خواهم دستگاه را به وقت تلف کردن، قبل از رفتن به تب بعدی را انتخاب کنید.

در نهایت گزینه که بیان متوقف کردن این کار در صورتی که قبلا در حال اجرا مقدار X از زمان، untick اما تیک گزینه ای را برای متوقف کردن این کار در صورتی که دستگاه دیگر بیکار نیست.

که در آن برای راه اندازی میزبان ویندوز!

خلاصه

در این قسمت ما باید راه اندازی یک ماشین مجازی به عنوان یک کارگر، و همچنین به عنوان راهی که در آن ما تماس بگیرید و اجرای اسکریپت های پردازش کار ما (برای خودم یک اسکریپت پی اچ پی). از اینجا ما در مورد چگونگی راه اندازی نسخه ما از پنجره به راه اندازی ماشین مجازی را در حالت بی سر زمانی که کامپیوتر بیکار می شود، و صرفه جویی در دولت خود را هنگامی که کاربر رزومه استفاده از دستگاه نگاه کنید. امیدوارم در این مرحله شما با دیدن سادگی آن است به راه اندازی چنین سیستمی و خارش به برخی از آزمایش های خود را رفتن!

دفعه بعد

در قسمت 4 به دنبال استفاده از ابزار برای اطمینان حاصل شود که شما آخرین نسخه از کد ها و منابع داده به طوری که نتایج به دست آمده همیشه به روز با آخرین اطلاعات مربوط به کسب و کار و منطق.

نظرات (1)

استیون لوید Watkin ، جمعه، 4th دسامبر 2009 11:23 PM

معرفی

من در یک شرکت کار می کنند که در آن ما برای اجرای بسیاری از مشاغل دسته پردازش میلیون ها پرونده داده را در هر روز و من شده فکر کردن به تازگی در مورد تمام ماشین هایی که در اطراف هر روز نشسته انجام هیچ چیزی برای چند ساعت. آیا آن را نمی شود خوب است اگر ما می تواند این دستگاه قدرت پردازش سیستم خود را برای تقویت استفاده کنید؟ در این مجموعه ای از مقالات من قصد دارم در مزایای بالقوه به کارگیری دفتر شبکه با استفاده از محیط های مجازی.

به عنوان یک پی اچ پی توسعهدهنده من قصد دارم به استفاده از ابزار است که استفاده کنم یعنی هر روز، لینوکس، خروجی زیر ، PHP، مجازی و خرابکاری (SVN). با این حال من امیدوارم که این راهنما به زبان های دیگر و فن آوری وفق دهند به همان اندازه خوب است.

راه حل من ارائه خواهد شد بسیار آزادانه در نوع پردازش می خواهم باید برای دستیابی به هر حال این ممکن است درست باشد را از طریق کل مقاله من برای سادگی چیزهایی را تغییر دهید، و یا به تولید سناریوهای جالب تر استفاده از است.

این محیط مجازی بر روی ماشین ویندوز اجرا شود، از آنجایی که این است آنچه اکثر ادارات اجرا شود. پردازش که ماشین های اداری نباید دخالت با کارکنان با استفاده از آن ماشین آلات، باید هیچ تعمیر و نگهداری را در ماشین، نیاز می شود و به سادگی گسترش پذیر را به ماشینهای جدید را به عنوان تبدیل شدن آنها در دسترس است. همچنین، ماشین های مجازی جدید باید نیاز به هرگونه تنظیمات اضافی را نه به عنوان این تا حد زیادی کاهش می دهد مقیاس پذیری و سهولت که در سیستم شبکه می تواند تمدید شود.

چرا استقرار دفتر محاسبات گرید؟

در مرحله اول شما ممکن است فکر کردن، به همین دلیل نه تنها استفاده از منابع ابر محاسبات را به عنوان پلت فرم EC2 آمازون ؟ خوب به دلایل مختلف، می تواند به عنوان مثال:

• شما اطلاعات خاصی را به محیط زیست ابر محاسبات واگذار کنند
• شما می توانید اطلاعات خاصی را به یک ابر رایانه محیط زیست قرار داده نه به دلایل قانونی (داده به عنوان مثال خروج از کشور)، به طور بالقوه به دلایل قانونی، به عنوان مثال سوابق بیمه خدمات درمانی.
• شما می خواهید برای حفظ واحد های پردازش خود را ببندید و کنترل کامل بر روی سخت افزار بیش از حد
• شما بودجه پروژه برای اجرای موارد ابر
• دفتر خود را در اتصال به اینترنت ندارد و به همین دلیل به استفاده از آن امکان پذیر نیست یک منبع ابر
• شما مثل باران، ابرها باران نشان می دهد، بنابراین شما را به خوبی دور

من مطمئن هستم که این لیست می تواند ادامه دهد، اما من فکر می کنم که به اندازه کافی در حال حاضر است.

مزایای استفاده از دفتر محاسبات گرید

خوب، اجازه می دهد که انجام برخی از ریاضی (و در سبک فیزیک واقعی به شما اجازه می دهد تا برخی از فرضیات فراگیر). تصور کن تو می تونی بشی که سرور پردازش فربه بزرگ در حال اجرا 100 شغل ها در روز. در محل کار شما باید 50 ماشین که 16 ساعت در روز هستند بیکار، هر یک از این دستگاه 10٪ به عنوان قدرتمند به عنوان سرور پردازش خود را فربه است. (تمام نتایج در اینجا گرد به دست کم گرفتن افزایش عملکرد).

بنابراین، 1 دستگاه * قدرت 10٪ * 2/3 بار = 0.067 یعنی 1 دسکتاپ پردازش در زمان بیکار می تواند 6 شغل پر در هر روز پردازش.

اگر شما در حال حاضر بر این مقیاس طول می کشد 15 رومیزی بیکار را برای پردازش به عنوان شغل بسیاری در روز به عنوان سرور پردازش اصلی خود را می کند.

بنابراین در دفتر تظاهر خود را از 50 دستگاه ما می تواند از 1 سرور بالا، قدرت پردازش ما به 4 سرور پردازش کامل را افزایش می دهد، و یا ما را می توان پردازش 400 شغل ها در روز به جای آن از 100.

توجه، برای هیچ سرمایه گذاری در سخت افزار جدید شرکت خود را به تازگی افزایش ظرفیت پردازش دسته ای خود 4 بار! به طور بالقوه شما قصد استفاده از قدرت خود را افزایش دهد، اما از بسیاری از محیط های دفتر من به ماشین آلات شده است به طور کلی در یک شبه را ترک کرد به هر حال، به طوری که شما می توانید از این به عنوان یک ابتکار سبز را ببینید.

مزایای دیگر نیز معنی است که سرمایه گذاری در جدید (یا به روز رسانی) با سرویس دهنده پردازش می تواند با تاخیر اگر ماشین های اداری خود را کافی است و به عنوان قدرت از ماشین های اداری خود را به شما در بهبود شبکه دفتر خود را قوی تر می شود به طور خودکار.

فن آوری

آنچه شما نیاز دارید؟ (و یا به درستی آنچه که من استفاده کرده اید):

• ماشین های اداری بیکار (در مورد من یدکی لپ تاپ های قدیمی ویندوز XP)
• مجازی (یا یکی دیگر از نرم افزار مجازی سازی مشتری)
• ماشین مجازی با پی اچ پی، خروجی زیر running در حال اجرا قطع سیستم عامل، من خواستار این سرویس دهنده ها شل من!
• شغل برای اجرا
• سرور های شغلی (می تواند یکی دیگر از ماشین مجازی در جایی)

شغل نمونه

انواع شغل ها طراحی شده است که این سیستم برای اجرا به شرح زیر است:

• سیستم دریافت لیستی از داده ها که بر اساس آن ما نیاز به تطبیق و بازگشت به نتایج
• مطابق شامل چک کردن / جستجوی منابع داده مختلف (نسبتا ثابت)
• نمایش نتایج: از منابع داده ها ممکن است اعتبار بیشتر، نیاز به ادغام، چک کردن از منابع اطلاعات اضافی در پاسخ به نتایج
• داده ها با پرونده تطبیق بازگشته است، به طور کامل اعتبار و پردازش
• هر رکورد درون یک شغل مستقل از بقیه است

بنابراین اساسا ما به دنبال اجرای کارهایی که نیاز به ترکیبی از متغیر های پایگاه داده و برخی از خرد تعداد، یک سناریوی نسبتا معمولی در محیط کسب و کار است.

راه حل های گرید برای پردازش شغل ها از این نوع تنها به نفع نیست. در واقع، هر فرایند است که می تواند به واحدهای مستقل تقسیم شده می توان به صورت موازی اجرا شود. ویکیپدیا برای مثال و اطلاعات بیشتر: محاسبات شبکه است، اما زن و شوهر از نمونه های معروف SETI @ خانه و BIONC . چارچوب برای اجرای شبکه های رایانه ای وجود دارد، و این به خوبی به ارزش نگاه کردن به.

چه خواهد شد ما دست یابید؟

در پایان این مقاله، من امیدوارم که نشان می دهد که استقرار دفتر شبکه نیاز نمی شود بسیار گران قیمت و یا وقت گیر است. من قصد دارم به بحث:

• راه اندازی سیستم های کنترل، کار تنظیمات کار
• ایجاد یک ماشین پردازش مناسب مجازی
• چگونه به راه اندازی سیستم بر روی یک ماشین ویندوز
• اطمینان از شما با استفاده از کد و داده ها
• استقرار و محک
• با نگاه به آینده

من ساختمان (خوب من ساخته شده است، سپس این را نوشتهاید) برنامه به عنوان مثال برای آزمایش مفاهیم بر روی یک ماشین محلی با استفاده از ویندوز ایکس پی و من 'GridMachine ماشین مجازی. کار من سرور کنترل ماشین اصلی اجرا می شود که فدورا 11 خواهد بود .

این است که به هیچ وجه به معنای نشان دادن یک سیستم به طور کامل کار قوی، خود را به معنای بیشتری از تظاهرات و بحث در مورد نشان می دهد که این چیزها را می توان در یک فضای منطقی زمان کوتاه و با هزینه کمی به دست آورد. لطفا در صورت تمایل به هر گونه نظر، اصلاح و یا بهبود و من بهترین من برای حفظ این مقاله به روز شده برای مطابقت.

دفعه بعد

در قسمت 2 به دنبال کار کنترل سیستم و نگاه به شغل باید توان به پیکربندی به منظور دستیابی به بیشترین مقدار پردازش در حالی که تضمین میکند که هر کار بدون شکست پردازش.

نظرات (1)

استیون لوید Watkin ، جمعه، 4th دسامبر 2009 11:23 PM

معرفی

من در یک شرکت کار می کنند که در آن ما برای اجرای بسیاری از مشاغل دسته پردازش میلیون ها پرونده داده را در هر روز و من شده فکر کردن به تازگی در مورد تمام ماشین هایی که در اطراف هر روز نشسته انجام هیچ چیزی برای چند ساعت. آیا آن را نمی شود خوب است اگر ما می تواند این دستگاه قدرت پردازش سیستم خود را برای تقویت استفاده کنید؟ در این مجموعه ای از مقالات من قصد دارم در مزایای بالقوه به کارگیری دفتر شبکه با استفاده از محیط های مجازی.

در قسمت 1 خودم رو دادم به کلی از سیستم و فن آوری خواهد شد با استفاده از و همچنین برخی از دلایل بالقوه مورد بحث به همین دلیل شما می توانید برای ایجاد شبکه دفتر.

کنترل های شغلی

اگر قصد دارید شغل در حال اجرا می شود و سپس شما نیاز به رفتن به برخی از راه را برای مدیریت آنها. کار سیستم خود را کنترل کنید (بر روی سرور کار خود) باید به خوبی فکر حتی قبل از اقدام به اجرای شبکه دفتر. پس در ابتدا، وظایف برای کنترل یک سیستم کار:

• دست از شغل بر درخواست از کارگران
• بگویید کارگران چه نوع از مشاغل به اجرا
• مشاغل آهنگ
• اطمینان حاصل شود که کار فقط یک بار اجرا می شوند
• ارائه داده های کار به کارگران، و یا حداقل به آنها بگویید که آن را دریافت کنید

این سیستم همچنین نیاز به توسعه، یک راه حل که با این نسخهها کار در حال حاضر تنها در یک مورد ممکن است توسعه یافته برای اجرای انواع مختلفی از مشاغل به عنوان کسب و کار ارزش در راه حل های شبکه را می بیند. به عنوان مثال، شغل ممکن است اولویت های به دست آوردن، بیش از یک نوع کار ممکن است وجود داشته باشد (به عنوان مثال چندین پایگاه های کد)، در نهایت شما حتی ممکن است دستگاه های چند کارگر های مختلف که برای هر نوع کار بهینه شده است (هر چند که "کارگر عمومی حرکت به دور از اجرا ایده). همیشه سعی کنید در مورد آینده فکر می کنم زمانی که در حال توسعه سیستم، یک چشم انداز کوتاه مدت می تواند به سرخوردگی دراز مدت و افزایش زمان توسعه منجر شود.

سرور های شغلی

ما قصد داریم نیاز به جایی برای کنترل شغل خود را از این باید تنها سیستم در شبکه خود را که دارای منابع یاب ثابت، این باشد که یک آدرس IP، نام میزبان، آدرس (با استفاده از DNS داخلی)، و غیره به دلیل این است که کارگران باید بدانند که به کجا نگاه کنند برای مشاغل، کارگران نیاز به پیدا کردن کار سیستم های کنترل (و نه کار سیستم کنترل کارگران).

سرور کار خود واقعا یک کار پیچیده (به هر حال در یک سیستم اصلی)، به آن نیاز دارد برای ذخیره لیستی از مشاغل، دست مشاغل، دریافت نتایج، و سپس آنها را ذخیره برای بازیابی بعدی. این قطعات (دست مشاغل 'مانند) چگونه تعریف می شوند را می توان بسیار ساده است. بعدها ما می توانیم سیستم مدیریت برای اضافه کردن، ویرایش، حذف، تعلیق شغل، اما این است که فراتر از این تمرین به گسترش است.

بدون هیچ دلیل آنچه پس از آن که شغل خود را از سرور می تواند یک ماشین مجازی در حال اجرا در سرور پردازش اصلی خود را ارائه منابع بیش از حد بسیاری از آن را تخلیه نمی وجود دارد. سرور کار با این حال نیاز به در دسترس بودن بالا، اگر آن را در عصر روز جمعه در حال رفتن به از دست دادن کل تعطیلات آخر هفته از پردازش پایین می رود، به طور بالقوه از چند هفته به ارزش زمان پردازش (در مقایسه با زمانی که به سرور پردازش اصلی خود را به تنهایی هزینه شما) است. شما ممکن است بخواهید به در نظر قرار دادن سرور کار خود را بر روی محیط زیست بار متعادل برای در دسترس بودن بالا.

راه اندازی پایه

راه اندازی اولیه برای سرور کار ما را از آنچه من خواستار یکی از سرور لنگی من (که شده است nux لی متر ySql و و P HP) تشکیل شده است. کد در حال اجرا بر روی کارگران the در واقع از کار چه شغل می تواند اجرا شود آن را از طریق برقراری ارتباط با پایگاه داده سیستم کنترل کار. بعدها در ما می تواند یک وب سرویس و در واقع دست کارهای به جای داشتن کارگران انجام کار سخت خود، ایجاد، اما در حال حاضر با استفاده از اصل KISS (نگه داشتن آن ساده، احمق!) ادامه خواهیم داد .

بنابراین، به شما اجازه می دهد تا 3 خروجی زیر جداول برای مقابله با شغل. از این خواهد شد: مشاغل `،` jobRecords `، و` jobResults `.

در اینجا من با استفاده از SQL دوستان یک جایگزین عالی کمی به phpMyAdmin به فقط به خاطر اینکه راحت تر آن را در لینوکس نصب کنید (برای دیگران می بینیم: 10 بزرگ جایگزین به phpMyAdmin به )

این جدول شامل 5 فیلد ساده،

• ID: شناسایی منحصر به فرد کار
• نام: میتونه مرجع مشتری، یا هر تعداد از شناسه های دیگر
• وضعیت: شما باید بدانید که در آن کار است، به عنوان مثال
  • 0: شروع نشده
  • 1: برداشت
  • 2: پایان یافته
• started_by: چه کسی شروع به انجام این کار؟ این به طور کامل ضروری نیست اما خوب است به. من می خواهم کارگران ردیابی آدرس IP خود را در شبکه خود را نشان می دهد
• started_at: هنگامی که کارگر کار را شروع کردی؟ با پیگیری کارهایی که در درون مقدار X از زمان به اتمام می دانیم که ما باید انتخاب کنید تا این کار یک بار دیگر و شروع به پردازش توسط یکی دیگر از کارگران است. کارگران می توانند پردازش / توقف offline برای هر تعداد از دلایل، قطع برق، سقوط، از دست دادن شبکه، و غیره

از آن آسان است که چگونه این جدول می تواند با چند زمینه اضافی اجازه می دهد تا برای ردیابی آمار، پایان ستون زمان که برای دیدن چه مدت این کار انجام گرفت، برای مقابله با بسیاری از کارگران را برداشت کار تمدید (بدیهی است که این نیاز به تمایل 1)، اولویت شغلی، لیست می توانید بر روی بروید. در سناریو کار پیچیده تر از آن خواهد بود امکان مشخص کردن کارگر چه مقدار حافظه، دسترسی به (و بنابراین تنها استفاده از کارگران مناسب)، و یا حتی چه نوع کارگر خواهد بود لازم است.

اجازه می دهد که اضافه کردن چند شغل به عنوان مثال:

جدول بعد دوباره به درک بسیار ساده است، این سوابق کار ما است. آنها توسط یک ستون jobs_id `به میز شغل اصلی مرتبط است. را تشکیل می دهند از این جدول بسیار بستگی دارد داده هایی را که شما نیاز دارید که برای عرضه به کارگران خود، اجازه می دهد تا ایجاد یک مثال بسیار ساده است که ما باید چهار ستون:

• شناسه (شماره): ID رکورد
• نام و نام خانوادگی: نام شخص
• آدرس ایمیل: آدرس سرگذشت
• jobs_id: ID کار است که این رکورد مربوط به

جدول سوم و نهایی متشکل از یک جدول نتایج، آن را به همان اندازه ای را تشکیل می دهند به عنوان جدول سوابق ما، و علاوه بر این برخی از ستون ها می تواند بخشی از جدول سوابق:

• job_record_id: لینک نتیجه را در میز کار
• نتیجه: داده ها منجر

و ... که همه شما را برای کنترل کار نیاز دارند. (البته در سطح بسیار ابتدایی) در مورد من، من به یکی دیگر از جدول که در آن اطلاعات من برای پردازش واقع شده بود اشاره کرد، اما این به راحتی می تواند یک فایل، پارامترهایی را برای اجرای کد شبیه سازی، آن را نام ببرید.

انتخاب یک کار

همانطور که قبلا، کارگران مدیریت کار ما را برای ما در حال حاضر انجام دهد، بنابراین همه ما باید واقعا انجام داد این است که پیدا کردن یک شغل است که نیاز به پردازش و دریافت اطلاعات است. چگونه این را انجام دهید؟ خوب معیار انتخاب شغل ما و انتخاب کنید و برای کار، در SQL من به شرح زیر است:

1. هر شغل هستند که به عنوان کامل اما از کارگر ما مشخص شده و تنظیم مجدد آنها (جایگزین ME__ __ با شناسه و آسان خواهد بود آدرس IP):

    تکمیلی: شغل: مجموعه وضعیت `= 0 WHERE` وضعیت `= 1 و` started_by `= __ ME__. 

2. با استفاده از معیارهای انتخاب کار ما، یک شغل را انتخاب کنید و به سیستم کنترل است که این کارگر در حال برخورد با آن:

     تکمیلی: شغل: مجموعه: وضعیت `= 1،` started_by `= __ ME__: started_at` = کن () WHERE `وضعیت` = 0 OR
    (`وضعیت` = 1 و `started_at`> DATE_SUB (NOW ()، فاصله X ساعت)) ORDER BY `ID` ASC؛ 

   با گرفتن شغل هایی که در نتیجه مقدار X از شما اطمینان می دهیم که همه کارها در صورت کارگر توفنده و یا رفتن AWOL را اجرا بازگشته است.

3. بعد از جزئیات مربوط به شغل و به دنبال آن پرونده خود گرفتن:

     SELECT * FROM `شغل` WHERE `started_by` = __ ME__ LIMIT 1؛
    SELECT * `job_records` WHERE `ID` = __ JOBID__. 

پس از اتمام کار ما قرار دادن پرونده در نتیجه ما و علامت کار خود به عنوان کامل. به خاطر داشته باشید به عنوان شغل می تواند تعلیق / در هر زمان اجازه می دهد برای برخی از نیرومندی به خط خود را از سر گرفته است. این ممکن است که این کار را متوقف کند نیمی از راه را از طریق به روز رسانی سیستم های کنترل کار، چک کردن تعداد رکورد در یک شغل و تعداد نتایج: از بازگشت به کار کنترل سیستم ذخیره می باشد عاقلانه حرکت است.

علاوه بر این، در حالی که این نشان می دهد چگونه شغل را می توان از قاب SQL پرس و جو است که شما واقعا باید به انتخاب مدیریت چکیده کنترل کار خود را به طوری که اگر شما تصمیم به تبدیل به با استفاده از یک سرویس وب، فایل سیستم مبتنی بر XML ، و یا هر نوع دیگر تعدادی از سیستم های کد بالا آن تاثیر نمی گذارد.

پیکربندی های شغلی

جنبه بعدی در نظر گرفتن اندازه و پیکربندی کار می باشد. با بازی با تنظیمات کار ما می توانیم تعادل عالی بین سرعت، تکرار فرایند، و قابلیت اطمینان را بزنند. نگاهی به چند سناریو OFA:

1. شغل 1 روز در هر اجرا کنید: این به این معنی است که کارگران خود را به 15 روز نیاز دارند برای پردازش هر کار (به یاد داشته باشید 10 درصد از قدرت برای 2/3rds از زمان). این است که به وضوح عاقلانه پیکربندی، اندازه شغل خود را از راه بیش از حد بزرگ است! این امر حداقل دو برابر این زمان را برای کار پردازش را باید کارگر اولیه AWOL (انتخاب کنید تا به آن است که در نتیجه به اضافه زمان بازفرآوری برنگشته است). در ایده آل شما می خواهم حداقل یک شغل به راحتی در پایان هر دوره طولانی بیکار پاک، که شما در حفظ شغل تیک تاک در طول و در بدترین حالت کار می کنند دو روز به روند باید اول از دست رفته است.
2. شغل را 1 دقیقه اجرا: این به این معنی است که کارگران خود را حدود 15 دقیقه برای اجرای هر کار است. در حالیکه این ممکن است در ابتدا به نظر می رسد ایده آل، پردازش کار اضافی به دست آورید در زمان ناهار، پرش به قهوه، جلسات، و غیره این سناریو فشار بر مناطق دیگر از سیستم شما و معرفی مشکلات خاص خود را دارد. به عنوان مثال، ابتدا راه اندازی / پردازش نسبت خود را هم در حال رفتن به سمت راست پایین، کارایی سیستم و در نتیجه از دست دادن. شبکه شما در حال رفتن به اطلاعات به طور مداوم جریان کار به کارکنان های مختلف کارگران خسته کننده که دونگ روز خود را به کار روز. شما نیز فشار بیشتری را بر روی سرور پردازش کار که آن را تا مقدار زیادی و تعداد زیادی از تکه های کوچکی از کار را به صورت منظم به غذا. در نهایت، در این وضعیت اگر سرور کار خود را به پایین می رود شما قصد ایجاد دوباره وارد سیستم شوید عظیمی از کار ناتمام در حالی که شغل های بزرگتر می تواند در ادامه پردازش خوش غافل که سرور کار تجربه مشکلات.

در واقع هیچ تنظیمات ایده آل یکی برای راه اندازی شبکه شما وجود خواهد داشت، بسیار بستگی به منابع در دسترس، نوع شغل، چرخش شغلی مورد نیاز زمان، قابلیت های شبکه، و غیره. با این حال برخی از دستورالعمل ها خواهد بود:

• شغل اندازه به طوری که هر کارگر می تواند از طریق حداقل شغل 3-4 در یک دوره 15 ساعت (به احتمال زیاد طولانی ترین مدت زمان بیکار)
• بازی با حجم کار به طوری که زمان راه اندازی می شود نسبتا ناچیز در مقایسه با زمان پردازش (با در نظر گرفتن بالاتر از نقطه).
• اگر یک کار در دو مقدار زمان (شاید کمتر) شما انتظار آن را برای تکمیل کامل نیست فرض کنیم که از دست رفته خود را AWOL و شروع به پردازش آن را با دیگر کارگران است. این به این معنی است که شما ممکن است مجبور به صبر تا سه برابر طول طبیعی یک کار برای تکمیل (و احتمالا دیگر اگر این کار پس از آن با شکست مواجه). شما ممکن است بخواهید این زمان را کاهش دهد، اما مراقب باشید آن را کاهش دهد بیش از حد ممکن است شما شروع به تکثیر وظایف پردازش را به صورت منظم.
• شغل باید مستقل از الزامات خارج تا آنجا که ممکن است. سرور شغل، به عنوان مثال، تنها باید در آغاز و پایان هر کار تماس گرفته شود.
• شبکه خود را اشباع نمی کند، این دو اثر منفی داشته باشد، کارکنان در طول روز شما را پیدا خواهد کرد با استفاده از شبکه های خسته کننده و مشکلات ممکن است با اتصال به شبکه زمان بندی مشکل است که تنها بدتر خواهد شد که شبکه خود را در مقیاس شما تجربه.
• اطمینان از شغل می توانید بر روی کارگران خود را اجرا کنید. اگر شغل می شوند بیش از حد حافظه شدید یا شغل های فضای دیسک فشرده شروع به سقط و تنها چیزی که شما متوجه خواهید شد این افت در تعداد شغل پردازش با هیچ دلیل واقعی همین دلیل است.

نمایش نتایج: از ارائه یک کار

در هنگام ارائه نتایج حاصل از یک کار مهم است که برای بررسی که نتایج دیگری کارگر نشده است را مشاهده کنید، به خصوص اگر کارگر فعلی نهفته است برای برخی از زمان بوده است.

هنگامی که نتایج به دست آمده مشاهده کنید اطمینان حاصل شود که تعدادی از نتایج با شماره پرونده در این کار است.

همانطور که قبلا، و نه می تواند بیش از تاکید کرد، ایجاد تحمل خطا را در کار بازیابی و تسلیم نتایج. کارگران می توانند (و به احتمال زیاد خواهد شد) را به حالت به حالت تعلیق در ناخوشایند ترین بار و این نیاز به catered برای. همچنین یک بار دیگر چکیده دور ارسال نمائید نتایج کمک خواهد کرد که تهیه کردن برای تغییرات آینده به سیستم کنترل کار خود را بسیار ساده تر برای مقابله با.

خلاصه

در این section ما در نگاه چه کار کنترل سرور نیاز به انجام و چگونه می توانید یک سیستم بسیار ابتدایی راه اندازی شده است. ما در مورد چگونگی بدست آوردن کار از سیستم های کنترل و بهترین شغل ما را از دفتر شبکه سیستم خود را به پیکربندی. برای به پایان رساندن، از یک پاراگراف یا دو در ارسال نتایج به سرور کنترل کار ارائه شده است.

• یک سرور کنترل شغل مدیریت شغل و تضمین می کند که تمام واحدهای کار تکمیل شده
• چکیده کار خود را انتخاب کنید / نتایج تسلیم ما می توانیم تکنولوژی سرور کنترل بدون مشکلات زیادی را تغییر دهید
• پیکربندی شغل خود را به اطمینان حاصل شود که آنها به سرعت و کارآمد بدون فشار بیش از حد بر روی زیرساخت های شبکه خود اجرا و تکثیر وظایف پردازش را به صورت منظم.
• اطمینان حاصل شود که شما برای ساختن checking تحمل خطا و خطا را به روال خود را، کارگران می توانند تعلیق و از سرگیری و ناخوشایند ترین بار. به یاد داشته باشید برای بررسی نتایج به دست آمده در حال حاضر توسط یکی دیگر از کارگران مشاهده کنید.

دفعه بعد

در بخش 3 خواهیم ماشین پردازش مجازی و ایجاد و راه اندازی ماشین آلات پنجره های ما برای تبدیل شدن به زمان کارگران بیکار.

نظرات (3)

استیون لوید Watkin ، جمعه، 4th دسامبر 2009 11:03 PM

معرفی

من در یک شرکت کار می کنند که در آن ما برای اجرای بسیاری از مشاغل دسته پردازش میلیون ها پرونده داده را در هر روز و من شده فکر کردن به تازگی در مورد تمام ماشین هایی که در اطراف هر روز نشسته انجام هیچ چیزی برای چند ساعت. آیا آن را نمی شود خوب است اگر ما می تواند این دستگاه قدرت پردازش سیستم خود را برای تقویت استفاده کنید؟ در این مجموعه ای از مقالات من قصد دارم در مزایای بالقوه به کارگیری دفتر شبکه با استفاده از محیط های مجازی.

در قسمت 4 با استفاده از ابزار برای اطمینان حاصل شود که ما در حال اجرا است آخرین نسخه از کد ها و منابع داده به طوری که نتایج به دست آمده همیشه به روز با آخرین اطلاعات مربوط به کسب و کار و منطق به نظر می رسید.

پیش از استقرار

قبل از استقرار سیستم شبکه شما اگر یک چیز شما انجام دهد و یک چیز وجود دارد به تنهایی آن را معیار سیستم فعلی شما! مهم نیست که همکاران در مورد چه مقدار کار اضافی سیستم شما کاری میخواهید انجام دهید مگر اینکه شما باید اعداد به عقب تا این که حداقل تضمین های خود را به شما بگویم هیچ چیز نیست. بنابراین،

• تعداد رکورد چگونه می تواند شما را پردازش در حال حاضر؟ پستها در طول روز؟ در ساعت؟
• چه مدت طول آن به طور معمول به نوبه خود کار کنند؟
• چقدر ظرفیت بیشتر دارید؟

پرسش های اضافی وجود دارد:

• اگر سرور پردازش خود (و یا یکی از سرورهای پردازش) پایین می رود چگونه خواهد بود بر توانایی های خود را، شما را فلج خواهد شد؟
• مزایا و امید / انتظار از یک سیستم شبکه؟
• ماشین های اداری خود را قادر به در حال اجرا شغل؟
• آیا شما (و یا می تواند به شما شغل تبدیل می شود) به wrok در این سبک در حال اجرا؟

آخرین نکته مهم است که به وقت خود را بر روی هر گونه تغییر عمده مانند این است. به روز رسانی کد پردازش خود را به کار با استفاده از روش جدید، معیار است. احتمالا راه اندازی سرور پردازش خود را به یک ماشین مجازی برای اجرا، پس از تمام سرور پردازش خواهد بود یکی دیگر از کارگران (فقط یکی از بسیار قدرتمند نسبتا). اجازه فرآیند جدید برای حل و فصل شود.

گسترش

پیشنهاد من این خواهد بود به دفتر 1 آخر هفته پاپ به انجام نصب و راه اندازی. این کار را درست قبل از تعطیلات دو هفته و ترک بنابراین فقیر اختتامیه جشنواره صنعت چاپ برای مقابله با پیامدهای ... شاید نه ...

استقرار سیستمی شبیه به این نیاز است آهسته باشد. با وجود این که نسبتا ساده است به راه اندازی این سیستم به زیرساخت های دفتر کل خود را (و دیجیتال) تاثیر می گذارد. در مرحله اول، از حافظه جمع کردن چند دستگاه در یک زمان، نظارت بر ترافیک شبکه، چگونه میزبان کارگر بر اساس یک روز به روز انجام دهد. شما ممکن است نیاز به تنظیمات کار خود را در واکنش به یافته های خود را تغییر دهد.

هنگامی که سیستم با یک دستگاه چند (اجازه می دهد که می گویند 10 درصد از ماشین های اداری، به عنوان مثال 5) نگه داشتن نظارت بر ترافیک شبکه و ماشین میزبان معیار performance. بعدی دوباره مستقر شده است، شما هم اکنون می باید پردازش شود شغل 33٪ بیشتر از معیار اول شما. بررسی اینطور است، یا که شما حداقل در این ballpark. اگر نه، به بررسی آنچه در جریان است، قبل از رفتن بر روی. تکرار این چرخه تا زمانی که شما با خوشحالی تمام ماشین های اداری بدون کشتن عملکرد دستگاه فردی یا آسیاب شبکه خود را به یک وقفه در حال اجرا است.

در تمام زمانها را تعیین معیار، حتی بعد از تمام اعزام ساخته می شوند. بررسی چگونگی به روز رسانی کد جدید بر سرعت سیستم شما، بررسی کنید که تمامی کارگران در گزارش و پردازش شغل. به آهستگی (به آرامی) افزایش پیکربندی شغل خود را برای دریافت بهترین ها را از کارگران و شبکه شما.

را متوقف کنید!

اگر شما می خواهید برای جلوگیری از کارگران خود را از در حال اجرا در برخی از زمان؟ آنها در خارج وجود دارد در حال اجرا، بازسازی و تلاش خود را به پردازش داده ها را مثل حشرات گرسنه. پاسخ ممکن است به نظر می رسد آشکار است، اما ارزش خود را با اضافه کردن تنها در مورد نادیده گرفته آن. به سادگی پردازش اسکریپت خود را با یک خروجی (0) ویرایش کنید و یا می میرند () و یا برخی از بیانیه های دیگر را به کشتن کار پردازش. دلیل مهم که چرا ما همیشه از آن تلاش برای به روز رسانی به آخرین اسکریپت پردازش قبل از هر اجرا!

سیستم های تظاهرات

به منظور نوشتن این مجموعه مقالات کوتاه من ایجاد یک شبکه بسیار کوچک نشان می دهد که فن آوری ها و روش ها است. من خواندن بسیاری از مقالات، آموزش، و با استفاده از ابزار های مختلف برای راه اندازی و نظارت بر چه می گذرد. به هیچ وجه به من بیرون رفته و اشباع شده اداره کل با حمل و نقل و نه من تا به حال دسترسی به کارکنان به طور منظم PC اعضای چگونه عملکرد میزبان تحت تاثیر قرار شد.

سیستم تظاهرات بسیار فروتن بود در واقع. من استفاده از دسکتاپ به طور منظم به عنوان یک سرور کنترل کار. در این خروجی سرور نصب کرده بود که به عنوان یک استاد در تکرار، نصب پی اچ پی ، و SVN مرتبط با آپاچی (برای دسترسی از طریق VM کارگر).

من سپس دستگاه کارگر لینوکس را بر روی 6 ساله لپ تاپ ویندوز XP بر روی مجازی ایجاد شده است. وظایف برنامه ریزی شده راه اندازی من به عنوان پس از کپی کردن VM را بر روی دستگاه مشخص شده و بهش ادامه بدم.

ماشین مجازی با پی اچ پی، براندازی، و خروجی زیر راه اندازی شد. شاخه ای به نام "کارگر از کار کنترل مخزن سرور را بررسی و آن را به روز می تواند با استفاده از SVN به روز رسانی کرد. بعد من خروجی زیر راه اندازی را به عنوان برده و بررسی می شود که تکرار داده ها به MySQL در سرور کنترل شغلی پایین به VM کارگر. بعد از این همه اسکریپت bash و برنامه cron را راه اندازی کنم.

اسکریپت پردازش من اساسا در امتداد خط (چیزهای بسیار ساده) رفت:

• خوانده شده در زمینه نام
• تعدادی از نام های مشابه در یک جدول از منبع داده ها در VM برگزار شد شمارش
• تعدادی از نام های شمارش به عنوان فوق از تقسیم نام با فاصله (یعنی اسم اول، وسط، نام خانوادگی)
• مکرر این روند 1000 بار

هر کار در زمان حدود 20 دقیقه را اجرا کنند. در یک نقطه تهیه چندین کپی از VM کارگر را بر روی لپ تاپ ویندوز باز و تماشا شغل توسط هر یک از آدرس های IP کارگر چک. در این مرحله من هم تایید کرد که تکرار به طور خودکار دوباره راه اندازی.

خروج از لپ تاپ در یک کارگر شروع به پردازش شغل از سرور کنترل کار منجر به بیکار. هنگامی که از سرگیری استفاده از لپ تاپ از یک تأخیر در حدود 30-60 ثانیه وجود داشت، این است که یک مقدار عادلانه از زمان و کارکنان باید آگاه باشند که ممکن است دستگاه خود برای مدت کوتاهی مکث در هنگام بازگشت به دستگاه است. جدیدتر ماشین آلات ممکن است توقف این طولانی ندارد. سود از مقدار پردازش شده توسط این دستگاه ها در طول دوره های بیکار انجام می تر که سنگین تر بودن از اعضای هیات نیاز به یک دوره کوتاه مدت (مثلا 1 دقیقه) صبر کنید پس از رسیدن به ماشین های خود را از صبح (اغلب دیگر صبر کنید که این برای یک مدافع ویندوز به روز رسانی را به محل) آنها را از این امر آگاه ساخته شد (زمان مفید برای گرفتن یک قهوه صبح).

در مجموع احساس می کنم اعتماد به نفس که من فن آوری است که می تواند مورد استفاده برای ایجاد چنین سیستمی را نشان داده اند. من نشان داده اند که مانند یک سیستم کار می کند در یک مقیاس کوچک (بسیار) و با بیشتر آزمایش می تواند کوچک استفاده از منابع از ماشین های اداری است. اگر من به نقطه انجام این کار من خواهد بود بسیار علاقه مند به دانستن / وقتی شخص دیگری می کند.

نتیجه گیری / ارزیابی

قدم بعدی واضح خواهد بود که به عنوان مثال دنیای واقعی در واقع دریافت و شروع به استقرار یک سیستم مانند این که در یک محیط دفتر و ببینید چه اتفاقی می افتد. درخواست یک کسب و کار برای ارتکاب به این شرکت دنباله دنباله دار به اثبات تکنولوژی و اثربخشی ممکن است کمی مشکل باشد. گرید / محاسبات توزیع شده، بسیار محبوب است برخی محافل است و برخی از برنامه های بزرگ (BIONC، SETI @ صفحه اصلی، تاشو صفحه، و غیره). من، با این حال، پیدا کردن یک مقیاس کوچکتر و سیستم ساده و مثل این در جستجوی من است که می تواند در یک محیط دفتر نورد.

ایجاد یک سیستم اساسا رایگان با استفاده از نرم افزار اغلب منبع باز و ابزار موجود را تقریبا در هر دفتر. فن آوری های اساسا نشان داده شد و نشان می دهد برای انجام کار و به عنوان انتظار می رود. امیدوارم من نشان می دهد که با کار زیاد نیست و با نصب بسیار ساده شما می توانید به دفتر شبکه سیستم محاسبات قدرتمند، ارزان، و مقیاس پذیر است که همه در همان زمان استقرار.

هنگامی که یک سیستم می باشد و در حال اجرا وجود دارد تقریبا هیچ پایان دادن به میزان سفارشی سازی و بهبود شما می توانید. آمار به عنوان مثال / محک زنی به راحتی می تواند نشان دادن ارزش چنین سیستم هر روز اضافه می شود. دستگاه های جدید می توانند به سرعت و به راحتی به آن اضافه شود، و هنگامی که با ارتقاء به سخت افزار موجود در ورود به تقویت قدرت پردازش خود را.

من امیدوارم که شما از خواندن این سری مقالات لذت و غذا برای اندیشه در حال اجرا دفتر شبکه سیستم را به شما داده شده است. راه حل ارائه شده در اینجا لزوما در همه شرایط کار نمی کند اما باید سازگار باشند اجازه می دهد تا شما را به اطلاعات پردازش خود را با استفاده از راه حل خود را انجام.

لطفا در صورت تمایل به هر گونه نظر، اصلاح و یا بهبود و من بهترین من برای حفظ این مقاله به روز شده برای مطابقت.