paint-brush
কিভাবে লগ থেকে সর্বোচ্চ মান বের করতে হয়দ্বারা@alvinslee
1,524 পড়া
1,524 পড়া

কিভাবে লগ থেকে সর্বোচ্চ মান বের করতে হয়

দ্বারা Alvin Lee9m2023/08/25
Read on Terminal Reader
Read this story w/o Javascript

অতিদীর্ঘ; পড়তে

আমরা দেখব কিভাবে লগ ডিজাইন করা যায়, বড় সিস্টেমে লগিং করার চ্যালেঞ্জ এবং সমাধান এবং কিভাবে লগ-ভিত্তিক মেট্রিক্স এবং দীর্ঘমেয়াদী ধরে রাখার বিষয়ে চিন্তা করা যায়।
featured image - কিভাবে লগ থেকে সর্বোচ্চ মান বের করতে হয়
Alvin Lee HackerNoon profile picture

লগিং যুক্তিযুক্তভাবে আপনার পর্যবেক্ষণযোগ্যতা সমাধানের সবচেয়ে গুরুত্বপূর্ণ উপাদান। লগগুলি সিস্টেম আচরণ সম্পর্কে মৌলিক এবং সমৃদ্ধ তথ্য প্রদান করে। একটি আদর্শ বিশ্বে, আপনি লগিং সম্পর্কে সমস্ত সিদ্ধান্ত নেবেন এবং আপনার সমগ্র সিস্টেম জুড়ে একটি সামঞ্জস্যপূর্ণ পদ্ধতি প্রয়োগ করবেন।


যাইহোক, বাস্তব জগতে, আপনি লিগ্যাসি সফ্টওয়্যারের সাথে কাজ করতে পারেন বা বিভিন্ন প্রোগ্রামিং ভাষা, ফ্রেমওয়ার্ক এবং ওপেন-সোর্স প্যাকেজগুলির সাথে কাজ করতে পারেন, প্রতিটির নিজস্ব ফর্ম্যাট এবং লগিংয়ের জন্য কাঠামো রয়েছে৷


আপনার সিস্টেম জুড়ে লগ ফর্ম্যাটে এই ধরনের বৈচিত্র্যের সাথে, আপনার সমস্ত লগ থেকে সর্বাধিক মূল্য বের করার জন্য আপনি কী পদক্ষেপ নিতে পারেন? যে আমরা এই পোস্টে কভার করব কি.


আমরা দেখব কিভাবে লগ ডিজাইন করা যায়, বড় সিস্টেমে লগিং করার চ্যালেঞ্জ এবং সমাধান এবং কিভাবে লগ-ভিত্তিক মেট্রিক্স এবং দীর্ঘমেয়াদী ধরে রাখার বিষয়ে চিন্তা করা যায়।


আসুন লগ লেভেল এবং ফরম্যাটগুলির দিকে নজর দিয়ে ডুব দেওয়া যাক।

লগিং ডিজাইন

লগ ডিজাইনে অনেক বিবেচ্য বিষয় আছে, কিন্তু দুটি সবচেয়ে গুরুত্বপূর্ণ দিক হল লগ লেভেলের ব্যবহার এবং স্ট্রাকচার্ড বা আনস্ট্রাকচার্ড লগ ফরম্যাট ব্যবহার করা।

লগ লেভেল

লগ স্তরগুলি তাদের তীব্রতার উপর ভিত্তি করে লগ বার্তাগুলিকে শ্রেণিবদ্ধ করতে ব্যবহৃত হয়। লগিং ফ্রেমওয়ার্ক বা সিস্টেমের উপর নির্ভর করে ব্যবহৃত নির্দিষ্ট লগ লেভেল পরিবর্তিত হতে পারে। যাইহোক, সাধারণত ব্যবহৃত লগ লেভেলের মধ্যে রয়েছে (বার্বোসিটির ক্রমানুসারে, সর্বোচ্চ থেকে সর্বনিম্ন):


  • ট্রেস : একটি বিস্তৃত রেকর্ড পুনর্গঠনের জন্য এবং রাষ্ট্রের যেকোনো পরিবর্তনের জন্য অ্যাকাউন্টিং করার জন্য সিস্টেমের প্রতিটি পদক্ষেপ ক্যাপচার করে।


  • ডিবাগ : ডিবাগিং উদ্দেশ্যে বিস্তারিত তথ্য ক্যাপচার করে। এই বার্তাগুলি সাধারণত শুধুমাত্র বিকাশের সময় প্রাসঙ্গিক এবং উত্পাদন পরিবেশে সক্ষম করা উচিত নয়।


  • INFO : সিস্টেমের কার্য সম্পাদনে গুরুত্বপূর্ণ ইভেন্ট বা মাইলফলকগুলি জানাতে সিস্টেমের অপারেশন সম্পর্কে সাধারণ তথ্য সরবরাহ করে।


  • সতর্কতা : সম্ভাব্য সমস্যা বা পরিস্থিতি নির্দেশ করে যার জন্য মনোযোগের প্রয়োজন হতে পারে। এই বার্তাগুলি সমালোচনামূলক নয় তবে প্রয়োজনে নোট করা এবং তদন্ত করা উচিত।


  • ত্রুটি : সিস্টেমটি কার্যকর করার সময় ঘটে যাওয়া ত্রুটিগুলি নির্দেশ করে৷ এই বার্তাগুলি সাধারণত এমন সমস্যাগুলিকে হাইলাইট করে যেগুলির সমাধান করা প্রয়োজন এবং সিস্টেমের কার্যকারিতাকে প্রভাবিত করতে পারে৷


উপযুক্ত স্তরে লগিং সিস্টেমের আচরণ বুঝতে, সমস্যাগুলি সনাক্ত করতে এবং সমস্যাগুলি কার্যকরভাবে সমাধান করতে সহায়তা করে।


যখন আপনার তৈরি করা সিস্টেমের উপাদানগুলির কথা আসে, তখন আমরা সুপারিশ করি যে আপনি দরকারী লগ স্তরগুলির সেট সংজ্ঞায়িত করার জন্য কিছু সময় ব্যয় করুন৷ প্রতিটি লগ স্তরে বার্তাগুলিতে কী ধরণের তথ্য অন্তর্ভুক্ত করা উচিত তা বুঝুন এবং লগ স্তরগুলি ধারাবাহিকভাবে ব্যবহার করুন৷


পরে, আমরা তৃতীয় পক্ষের অ্যাপ্লিকেশনগুলির সাথে কীভাবে মোকাবিলা করব তা নিয়ে আলোচনা করব, যেখানে লগ লেভেলের উপর আপনার কোন নিয়ন্ত্রণ নেই৷ আমরা সেই লিগ্যাসি অ্যাপ্লিকেশানগুলিও দেখব যেগুলি আপনি নিয়ন্ত্রণ করেন কিন্তু স্ট্যান্ডার্ড লগ লেভেলে স্থানান্তরিত করার জন্য খুবই বিস্তৃত৷

স্ট্রাকচার্ড বনাম আনস্ট্রাকচার্ড লগ

কাঠামোবদ্ধ লগগুলিতে এন্ট্রিগুলির একটি সু-সংজ্ঞায়িত বিন্যাস থাকে, সাধারণত কী-মান জোড়া বা JSON অবজেক্ট হিসাবে। এটি সামঞ্জস্যপূর্ণ এবং মেশিন-পঠনযোগ্য লগ এন্ট্রিগুলির জন্য অনুমতি দেয়, এটি প্রোগ্রামগতভাবে লগ ডেটা পার্স এবং বিশ্লেষণ করা সহজ করে তোলে।


স্ট্রাকচার্ড লগিং অ্যাডভান্সড লগ ক্যোয়ারী এবং বিশ্লেষণকে সক্ষম করে, এটিকে বৃহৎ-স্কেল সিস্টেমে বিশেষভাবে উপযোগী করে তোলে।


অন্যদিকে, অসংগঠিত (ফ্রি-ফর্ম) লগিং পূর্বনির্ধারিত কাঠামো ছাড়াই আরও মানব-পাঠযোগ্য বিন্যাসে বার্তাগুলিকে ক্যাপচার করে। এই পদ্ধতিটি বিকাশকারীদের আরও স্বাভাবিকভাবে এবং নমনীয়ভাবে বার্তাগুলি লগ করার অনুমতি দেয়।


যাইহোক, ফলিত লগগুলি থেকে প্রোগ্রামগতভাবে নির্দিষ্ট তথ্য বের করা খুব চ্যালেঞ্জিং হতে পারে।


কাঠামোবদ্ধ এবং অসংগঠিত লগগুলির মধ্যে নির্বাচন করা আপনার নির্দিষ্ট চাহিদা এবং আপনার সিস্টেমের প্রয়োজনীয়তা এবং সীমাবদ্ধতার উপর নির্ভর করে। আপনি যদি লগ বিশ্লেষণ সরঞ্জামগুলির সাথে উন্নত লগ বিশ্লেষণ বা একীকরণের প্রয়োজন অনুমান করেন তবে কাঠামোগত লগগুলি উল্লেখযোগ্য সুবিধা প্রদান করতে পারে।


যাইহোক, যদি আপনার প্রয়োজন হয় সরলতা এবং পঠনযোগ্যতা, তাহলে অসংগঠিত লগগুলি যথেষ্ট হতে পারে।


কিছু ক্ষেত্রে, একটি হাইব্রিড পদ্ধতিও ব্যবহার করা যেতে পারে, যেখানে আপনি গুরুত্বপূর্ণ ইভেন্টগুলির জন্য কাঠামোবদ্ধ লগ এবং আরও সাধারণ বার্তাগুলির জন্য অসংগঠিত লগ ব্যবহার করেন।


বৃহৎ-স্কেল সিস্টেমের জন্য, সম্ভব হলে আপনার কাঠামোবদ্ধ লগিংয়ের দিকে ঝুঁকতে হবে তবে মনে রাখবেন যে এটি আপনার পরিকল্পনায় অন্য মাত্রা যোগ করে। কাঠামোবদ্ধ লগ বার্তাগুলির জন্য প্রত্যাশা হল যে একই ক্ষেত্রগুলির সেটগুলি সিস্টেমের উপাদানগুলিতে ধারাবাহিকভাবে ব্যবহার করা হবে। এর জন্য প্রয়োজন হবে কৌশলগত পরিকল্পনা।

লগিং চ্যালেঞ্জ

একাধিক উপাদান সমন্বিত সিস্টেমের সাথে, প্রতিটি উপাদানের লগগুলি পরিচালনা করার জন্য সম্ভবত নিজস্ব মডেল থাকবে। আসুন এটি নিয়ে আসা চ্যালেঞ্জগুলি পর্যালোচনা করি।

ভিন্ন গন্তব্য

উপাদানগুলি বিভিন্ন গন্তব্যে লগ করবে — ফাইল, সিস্টেম লগ, stdout বা stderr। বিতরণ করা সিস্টেমে, কার্যকর ব্যবহারের জন্য এই বিক্ষিপ্ত লগ সংগ্রহ করা কষ্টকর।


এর জন্য, লগ সংগ্রহের জন্য আপনার একটি বৈচিত্র্যময় পদ্ধতির প্রয়োজন হবে, যেমন সুমো লজিক থেকে ইনস্টল করা সংগ্রাহক এবং হোস্ট করা সংগ্রাহক ব্যবহার করা।

বিভিন্ন ফরম্যাট

কিছু উপাদান অসংগঠিত, ফ্রি-ফর্ম লগিং ব্যবহার করবে, বিশেষ করে কোনো বিন্যাস অনুসরণ করবে না। ইতিমধ্যে, কাঠামোবদ্ধ লগগুলি আরও সংগঠিত হতে পারে, তবে কাঠামোগত লগ সহ উপাদানগুলি সম্পূর্ণ ভিন্ন ক্ষেত্রগুলির সেট নিয়োগ করতে পারে।


লগ এবং ফরম্যাটের বৈচিত্র্য থেকে আপনি যে তথ্য পান তা একত্রিত করার জন্য সঠিক সরঞ্জামের প্রয়োজন।

অসঙ্গত লগ স্তর

আপনার সিস্টেমের উপাদানগুলি লগ স্তরের বিভিন্ন পরিসর ব্যবহার করতে পারে। এমনকি যদি আপনি সমস্ত লগ বার্তাগুলিকে কেন্দ্রীভূত লগিং সিস্টেমে একীভূত করেন (যেমন আপনার উচিত), আপনাকে সমস্ত লগ স্তরের মিলনের সাথে মোকাবিলা করতে হবে।


একটি চ্যালেঞ্জ যা দেখা দেয় তা হল যখন বিভিন্ন লগ স্তরের সাথে একই আচরণ করা উচিত। উদাহরণস্বরূপ, একটি কম্পোনেন্টে ERROR অন্য কম্পোনেন্টে CRITICAL এর মতই হতে পারে, যার জন্য তাৎক্ষণিক বৃদ্ধির প্রয়োজন।


আপনি বিপরীত চ্যালেঞ্জের মুখোমুখি হন যখন বিভিন্ন উপাদানে একই লগ লেভেল মানে ভিন্ন জিনিস। উদাহরণস্বরূপ, একটি উপাদানে INFO বার্তাগুলি সিস্টেমের অবস্থা বোঝার জন্য প্রয়োজনীয় হতে পারে, অন্য উপাদানে সেগুলি খুব বেশি শব্দযুক্ত হতে পারে।

লগ স্টোরেজ খরচ

বৃহৎ ডিস্ট্রিবিউটেড সিস্টেমে প্রচুর লগ জমা হয়। এই লগগুলি সংগ্রহ করা এবং সংরক্ষণ করা সস্তা নয়। ক্লাউডে লগ-সম্পর্কিত খরচ সিস্টেমের মোট খরচের একটি উল্লেখযোগ্য অংশ তৈরি করতে পারে।

এই চ্যালেঞ্জ মোকাবেলা

যদিও বৃহৎ, বিতরণ করা সিস্টেমে লগ ইন করার চ্যালেঞ্জগুলি তাৎপর্যপূর্ণ, নিম্নলিখিত কিছু অনুশীলনের মাধ্যমে সমাধান পাওয়া যেতে পারে।

আপনার লগ একত্রিত করুন

আপনি যখন একটি বিতরণ সিস্টেম চালান, তখন আপনার একটি কেন্দ্রীভূত লগিং সমাধান ব্যবহার করা উচিত। আপনি যখন আপনার সিস্টেমের প্রতিটি মেশিনে লগ সংগ্রহ এজেন্ট চালান, এই সংগ্রাহকরা সমস্ত লগ আপনার কেন্দ্রীয় পর্যবেক্ষণ প্ল্যাটফর্মে পাঠাবে।


সুমো লজিক, যা সবসময় লগ ম্যানেজমেন্ট এবং অ্যানালিটিক্সের উপর ফোকাস করে, যখন লগ অ্যাগ্রিগেশনের কথা আসে তখন ক্লাসে সেরা।

একটি ইউনিফাইড ফরম্যাটের দিকে যান

আপনি যদি অ্যানালিটিক্স এবং অ্যাপ্লিকেশান এবং উপাদানগুলি জুড়ে সমস্যা সমাধানের জন্য লগ ডেটা পারস্পরিক সম্পর্ক করতে চান তবে বিভিন্ন ফর্ম্যাটে লগগুলির সাথে ডিল করা একটি বড় সমস্যা৷ একটি সমাধান হল বিভিন্ন লগকে ইউনিফাইড ফরম্যাটে রূপান্তর করা।


এই কাজের জন্য প্রচেষ্টার মাত্রা বেশি হতে পারে, তাই পর্যায়ক্রমে এটি করার কথা বিবেচনা করুন, আপনার সবচেয়ে প্রয়োজনীয় উপাদানগুলি দিয়ে শুরু করে এবং নিচের পথে কাজ করুন।

আপনার অ্যাপ্লিকেশন জুড়ে একটি লগিং স্ট্যান্ডার্ড স্থাপন করুন

আপনার নিজের অ্যাপ্লিকেশনের জন্য, একটি স্ট্যান্ডার্ড লগিং পদ্ধতি প্রতিষ্ঠা করার জন্য কাজ করুন যা লগ স্তরগুলির একটি অভিন্ন সেট, একটি একক কাঠামোবদ্ধ লগ বিন্যাস এবং সামঞ্জস্যপূর্ণ শব্দার্থবিদ্যা গ্রহণ করে।


যদি আপনারও উত্তরাধিকারী অ্যাপ্লিকেশন থাকে, তাহলে আপনার মান মেনে চলার জন্য তাদের স্থানান্তরিত করার সাথে সম্পর্কিত ঝুঁকি এবং খরচের মাত্রা মূল্যায়ন করুন।


যদি একটি স্থানান্তর সম্ভব না হয়, তাহলে আপনার উত্তরাধিকারী অ্যাপ্লিকেশনগুলিকে আপনি তৃতীয়-পক্ষের অ্যাপ্লিকেশনগুলির মতো ব্যবহার করুন৷

তৃতীয় পক্ষের উৎস থেকে লগ সমৃদ্ধ করুন

তৃতীয় পক্ষের উত্স থেকে লগ সমৃদ্ধ করার জন্য বহিরাগত সিস্টেম বা পরিষেবাগুলি থেকে প্রাসঙ্গিক তথ্য সহ লগ ডেটা উন্নত করা জড়িত৷ এটি লগ ইভেন্টগুলির একটি ভাল বোঝার নিয়ে আসে, সমস্যা সমাধান, বিশ্লেষণ এবং পর্যবেক্ষণ কার্যক্রমে সহায়তা করে।


আপনার লগগুলিকে সমৃদ্ধ করতে, আপনি লগ ইভেন্টগুলির (যেমন ব্যবহারকারীর তথ্য, গ্রাহকের বিবরণ, বা সিস্টেম মেট্রিক্স) সম্পর্কিত পরিপূরক ডেটা আনতে বহিরাগত সিস্টেমগুলিকে (যেমন API বা বার্তা সারি) সংহত করতে পারেন৷

লগ ভলিউম, ফ্রিকোয়েন্সি এবং ধারণ পরিচালনা করুন

লগ ভলিউম, ফ্রিকোয়েন্সি এবং ধারণ যত্ন সহকারে পরিচালনা করা দক্ষ লগ পরিচালনা এবং সঞ্চয়স্থানের জন্য অত্যন্ত গুরুত্বপূর্ণ।


  • ভলিউম : উৎপন্ন লগ ভলিউম নিরীক্ষণ আপনাকে সম্পদ খরচ এবং কর্মক্ষমতা প্রভাব নিয়ন্ত্রণ করতে সাহায্য করে।


  • ফ্রিকোয়েন্সি : ইভেন্টের সমালোচনা এবং পর্যবেক্ষণের পছন্দসই স্তরের উপর ভিত্তি করে কত ঘন ঘন লগ করতে হবে তা নির্ধারণ করুন।


  • ধারণ : সম্মতি প্রয়োজনীয়তা, কর্মক্ষম প্রয়োজন এবং উপলব্ধ স্টোরেজের জন্য উপযুক্ত একটি লগ ধারণ নীতি সংজ্ঞায়িত করুন।


  • ঘূর্ণন : কার্যকরভাবে লগ ফাইলের আকারগুলি পরিচালনা করতে পর্যায়ক্রমে পুরানো লগ ফাইলগুলি সংরক্ষণাগারভুক্ত করুন বা পরিষ্কার করুন৷


  • কম্প্রেশন : স্টোরেজ প্রয়োজনীয়তা কমাতে লগ ফাইল কম্প্রেস করুন।

লগ-ভিত্তিক মেট্রিক্স

লগ ডেটা বিশ্লেষণ থেকে প্রাপ্ত মেট্রিকগুলি সিস্টেমের আচরণ এবং কর্মক্ষমতা সম্পর্কে অন্তর্দৃষ্টি প্রদান করতে পারে। কাজের লগ-ভিত্তিক মেট্রিক্সের সুবিধা এবং চ্যালেঞ্জ রয়েছে।

সুবিধা

  • দানাদার অন্তর্দৃষ্টি : লগ-ভিত্তিক মেট্রিকগুলি সিস্টেম ইভেন্টগুলিতে বিশদ এবং দানাদার অন্তর্দৃষ্টি প্রদান করে, যা আপনাকে প্যাটার্ন, অসঙ্গতি এবং সম্ভাব্য সমস্যাগুলি সনাক্ত করতে দেয়।


  • ব্যাপক পর্যবেক্ষণ : লগ-ভিত্তিক মেট্রিক্স ব্যবহার করে, আপনি আপনার সিস্টেমকে ব্যাপকভাবে নিরীক্ষণ করতে পারেন, প্রাপ্যতা, কর্মক্ষমতা এবং ব্যবহারকারীর অভিজ্ঞতা সম্পর্কিত সমালোচনামূলক মেট্রিকগুলিতে দৃশ্যমানতা অর্জন করতে পারেন।


  • ঐতিহাসিক বিশ্লেষণ : লগ-ভিত্তিক মেট্রিক্স ঐতিহাসিক তথ্য প্রদান করে যা ট্রেন্ড বিশ্লেষণ, ক্ষমতা পরিকল্পনা এবং কর্মক্ষমতা অপ্টিমাইজেশানের জন্য ব্যবহার করা যেতে পারে। সময়ের সাথে লগ প্রবণতা পরীক্ষা করে, আপনি দক্ষতা এবং মাপযোগ্যতা উন্নত করতে ডেটা-চালিত সিদ্ধান্ত নিতে পারেন।


  • নমনীয়তা এবং কাস্টমাইজেশন : আপনার প্রয়োজনের জন্য সবচেয়ে অর্থবহ ইভেন্ট এবং ডেটা পয়েন্টগুলিতে ফোকাস করে আপনি আপনার অ্যাপ্লিকেশন বা সিস্টেমের জন্য লগ-ভিত্তিক মেট্রিক্সের আপনার নিষ্কাশনকে উপযোগী করতে পারেন।

চ্যালেঞ্জ

  • অর্থপূর্ণ মেট্রিক্স সংজ্ঞায়িত করা : কারণ আপনার সমস্ত উপাদান জুড়ে আপনার কাছে উপলব্ধ মেট্রিক্সের সেটটি অবিশ্বাস্যভাবে বিস্তৃত—এবং সেগুলিকে ক্যাপচার করা অর্থপূর্ণ নয়—লগগুলি থেকে কোন মেট্রিকগুলি ক্যাপচার এবং বের করতে হবে তা সনাক্ত করা একটি জটিল কাজ হতে পারে৷


    এই শনাক্তকরণের জন্য সিস্টেমের আচরণের গভীর বোধগম্যতা এবং আপনার ব্যবসায়িক উদ্দেশ্যগুলির সাথে ঘনিষ্ঠ সারিবদ্ধতা প্রয়োজন।


  • ডেটা নিষ্কাশন এবং পার্সিং : দরকারী মেট্রিক্স বের করতে লগ পার্স করার জন্য বিশেষ সরঞ্জাম বা কাস্টম পার্সারের প্রয়োজন হতে পারে। এটি বিশেষভাবে সত্য যদি লগগুলি অসংগঠিত হয় বা এক উপাদান থেকে পরবর্তীতে অসঙ্গতভাবে বিন্যাসিত হয়।


    এটি সেট আপ করা সময়সাপেক্ষ হতে পারে এবং লগ ফরম্যাট পরিবর্তন বা নতুন লগ উত্স আবির্ভূত হওয়ার সাথে সাথে রক্ষণাবেক্ষণের প্রয়োজন হতে পারে৷


  • রিয়েল-টাইম বিশ্লেষণের প্রয়োজন : লগ-ভিত্তিক মেট্রিক্স প্রক্রিয়াকরণে বিলম্বের ফলে সেকেলে বা অপ্রাসঙ্গিক মেট্রিক হতে পারে। বেশিরভাগ পরিস্থিতিতে, আপনার এমন একটি প্ল্যাটফর্মের প্রয়োজন হবে যা কার্যকরভাবে লগ-ভিত্তিক মেট্রিকগুলিকে লিভারেজ করার জন্য ইনকামিং ডেটার দ্রুত, রিয়েল-টাইম প্রক্রিয়াকরণ করতে পারে।


  • পারফরম্যান্সের প্রভাব : ক্রমাগতভাবে ক্যাপচার করা উপাদান প্রোফাইলিং মেট্রিক্স সিস্টেম সংস্থানগুলিতে অতিরিক্ত চাপ সৃষ্টি করে। পর্যাপ্ত লগ-ভিত্তিক মেট্রিক্স ক্যাপচার করা এবং পর্যাপ্ত সিস্টেম কর্মক্ষমতা বজায় রাখার মধ্যে আপনাকে একটি ভাল ভারসাম্য খুঁজে বের করতে হবে।


  • ডেটা গোলমাল এবং অপ্রাসঙ্গিকতা : লগ ডেটাতে প্রায়ই প্রচুর শব্দ এবং অপ্রাসঙ্গিক তথ্য থাকে, অর্থপূর্ণ মেট্রিক্সের দিকে অবদান রাখে না। প্রাসঙ্গিক ইভেন্টগুলিতে ডেটা সংগ্রহে ফোকাস করার জন্য যত্ন সহকারে লগ ফিল্টারিং এবং স্বাভাবিককরণ প্রয়োজন।

দীর্ঘমেয়াদী লগ ধারণ

আপনি একটি কেন্দ্রীভূত সিস্টেমে লগ একত্রিতকরণের দিকে অগ্রসর হওয়ার পরে, আপনাকে এখনও দীর্ঘমেয়াদী লগ ধরে রাখার নীতিগুলি বিবেচনা করতে হবে। আসুন এই এলাকার জন্য সমালোচনামূলক প্রশ্নগুলি কভার করি।

কতক্ষণ আপনি প্রায় লগ রাখা উচিত?

আপনার কতক্ষণ লগ রাখা উচিত তা বিভিন্ন কারণের উপর নির্ভর করে, যার মধ্যে রয়েছে:


  • লগের ধরন : কিছু লগ (যেমন অ্যাক্সেস লগ) অল্প সময়ের পরে মুছে ফেলা যেতে পারে। অন্যান্য লগগুলি (যেমন ত্রুটির লগগুলি) সমস্যা সমাধানের জন্য প্রয়োজন হলে সেগুলিকে দীর্ঘ সময়ের জন্য রাখতে হবে।


  • নিয়ন্ত্রক প্রয়োজনীয়তা : স্বাস্থ্যসেবা এবং অর্থের মতো শিল্পগুলির এমন নিয়ম রয়েছে যার জন্য সংস্থাগুলিকে একটি নির্দিষ্ট সময়ের জন্য, কখনও কখনও এমনকি কয়েক বছরের জন্য লগ রাখতে হয়৷


  • কোম্পানির নীতি : আপনার কোম্পানির এমন নীতি থাকতে পারে যেগুলি কতক্ষণ লগ রাখা উচিত তা নির্দেশ করে৷


  • লগের আকার : আপনার লগগুলি যদি বড় হয়, তাহলে আপনাকে সেগুলি ঘোরাতে হবে বা আরও ঘন ঘন মুছে ফেলতে হবে৷


  • স্টোরেজ খরচ : আপনি যেখানেই আপনার লগ-অন-প্রিমিস বা ক্লাউড-এ সঞ্চয় করুন না কেন-আপনাকে স্টোরেজ খরচের ফ্যাক্টর করতে হবে।

আপনি কিভাবে পুরোনো লগের বিস্তারিত এবং খরচের মাত্রা কমাতে পারেন?

পুরানো লগ মুছে ফেলা, অবশ্যই, আপনার স্টোরেজ খরচ কমানোর সবচেয়ে সহজ উপায়। যাইহোক, এটি কিছুটা ভারী হতে পারে, এবং আপনি কখনও কখনও চারপাশে পুরানো লগ থেকে তথ্য রাখতে চাইতে পারেন।


আপনি যখন পুরানো লগ থেকে তথ্য রাখতে চান, কিন্তু খরচ-দক্ষ হতে চান, তখন এই ব্যবস্থাগুলির মধ্যে কয়েকটি গ্রহণ করার কথা বিবেচনা করুন:


  • ডাউনস্যাম্পলিং লগ : অনেকগুলি পুনরাবৃত্ত লগ স্টেটমেন্ট তৈরি করে এমন উপাদানগুলির ক্ষেত্রে, আপনি শুধুমাত্র বিবৃতিগুলির একটি উপসেট গ্রহণ করতে পারেন (উদাহরণস্বরূপ, প্রতি 10টির মধ্যে 1টি)।


  • লগ ছাঁটাই : বড় বার্তা সহ লগগুলির জন্য, আপনি কিছু ক্ষেত্র বাতিল করতে পারেন। উদাহরণস্বরূপ, যদি একটি ত্রুটি লগে একটি ত্রুটি কোড এবং একটি ত্রুটির বিবরণ থাকে, তবে শুধুমাত্র ত্রুটি কোডটি রেখে আপনার প্রয়োজনীয় সমস্ত তথ্য থাকতে পারে৷


  • সংকোচন এবং সংরক্ষণাগার : আপনি পুরানো লগগুলিকে সংকুচিত করতে পারেন এবং সেগুলিকে সস্তা এবং কম অ্যাক্সেসযোগ্য স্টোরেজে (বিশেষ করে ক্লাউডে) নিয়ে যেতে পারেন৷ নিয়ন্ত্রক সম্মতির প্রয়োজনীয়তা পূরণের জন্য আপনাকে বছরের পর বছর সংরক্ষণ করতে হবে এমন লগগুলির জন্য এটি একটি দুর্দান্ত সমাধান।

উপসংহার

এই প্রবন্ধে, আমরা বড়-স্কেল সিস্টেমে লগিং করার মাধ্যমে কীভাবে সর্বাধিক সুবিধা পেতে পারি তা দেখেছি।


যদিও এই সিস্টেমগুলিতে লগিং করা চ্যালেঞ্জগুলির একটি অনন্য সেট উপস্থাপন করে, আমরা এই চ্যালেঞ্জগুলির সম্ভাব্য সমাধানগুলি দেখেছি, যেমন লগ একত্রীকরণ, লগগুলিকে একটি ইউনিফাইড ফর্ম্যাটে রূপান্তর করা এবং তৃতীয় পক্ষের উত্স থেকে ডেটা দিয়ে লগগুলিকে সমৃদ্ধ করা৷


লগিং পর্যবেক্ষণযোগ্যতার একটি গুরুত্বপূর্ণ অংশ। এই নিবন্ধে বর্ণিত অনুশীলনগুলি অনুসরণ করে, আপনি নিশ্চিত করতে পারেন যে আপনার লগগুলি কার্যকরভাবে পরিচালিত হয়েছে, আপনাকে সমস্যাগুলি সমাধান করতে, সমস্যাগুলি সনাক্ত করতে এবং আপনার সিস্টেমের আচরণ সম্পর্কে অন্তর্দৃষ্টি অর্জন করতে সক্ষম করে৷


এবং আপনি আপনার লগিং খরচ উপে রেখে এটি করতে পারেন।


এছাড়াও এখানে প্রকাশিত