দায়িত্বশীল এআই গভর্নেন্সের জন্য কৌশল

AI এর ব্যাপক গ্রহণের জন্য এর ব্যবহার পরিচালনা, পরিচালনা এবং সুরক্ষিত করার জন্য পদ্ধতিগত গার্ডেলের প্রয়োজন হয়।

সাম্প্রতিক সময়ে, বিশ্ব ডিজিটাল ল্যান্ডস্কেপের প্রতিটি দিক জুড়ে কৃত্রিম বুদ্ধিমত্তার ব্যবহারে উল্লেখযোগ্য বৃদ্ধি প্রত্যক্ষ করেছে। স্বয়ংক্রিয় প্রক্রিয়াকরণ থেকে উন্নত অ্যালগরিদম পর্যন্ত, কৃত্রিম বুদ্ধিমত্তা ধীরে ধীরে আমাদের দৈনন্দিন জীবন এবং ব্যবসায়িক ক্রিয়াকলাপের একটি অবিচ্ছেদ্য অংশ হয়ে উঠছে। বিভিন্ন শিল্প ও খাতে কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির ব্যবহার অভূতপূর্ব মাত্রায় এবং দ্রুতগতিতে বৃদ্ধি পাচ্ছে। এর ফলে সমাজে গভীর প্রভাব পড়েছে, সেইসাথে ব্যক্তিদের মূল অধিকারের জন্য বিপদ ও ঝুঁকি রয়েছে।

কৃত্রিম বুদ্ধিমত্তা কি?

কৃত্রিম বুদ্ধিমত্তা (AI) হল একটি বিস্তৃত ক্ষেত্র যা বিভিন্ন মেশিন লার্নিং, যুক্তিবিদ্যা, এবং জ্ঞান-ভিত্তিক কৌশল এবং সিস্টেম তৈরি করার পদ্ধতিগুলিকে অন্তর্ভুক্ত করে যা সাধারণত মানুষের দ্বারা সম্পাদিত কাজগুলি সম্পাদন করতে পারে বা মানুষের জ্ঞানীয় ক্ষমতার প্রয়োজন হয়। এর মধ্যে প্রাকৃতিক ভাষা প্রক্রিয়াকরণ, চিত্র স্বীকৃতি, সমস্যা সমাধান এবং সিদ্ধান্ত নেওয়ার মতো কাজগুলি অন্তর্ভুক্ত রয়েছে। ইউরোপীয় ইউনিয়নের এআই অ্যাক্ট এবং এআই রিস্ক ম্যানেজমেন্টের উপর ওইসিডি রিপোর্ট অনুসারে, একটি এআই সিস্টেম হল একটি মেশিন-ভিত্তিক সিস্টেম যা স্পষ্ট বা অন্তর্নিহিত উদ্দেশ্যগুলির জন্য, ইনপুট থেকে অনুমান করে যে এটি কীভাবে আউটপুট তৈরি করতে হয় যেমন ভবিষ্যদ্বাণী, বিষয়বস্তু, সুপারিশ, বা সিদ্ধান্ত যা শারীরিক বা ভার্চুয়াল পরিবেশকে প্রভাবিত করতে পারে।

দুটি বিস্তৃত শ্রেণীবিভাগ আছে:

• বৈষম্যমূলক AI - শুধুমাত্র ডেটা শ্রেণীবিভাগ করতে পারে। উদাহরণ: লজিস্টিক রিগ্রেশন, k-নিকটবর্তী প্রতিবেশী, সমর্থন ভেক্টর মেশিন, এবং গ্রেডিয়েন্ট-বুস্টেড ডিসিশন ট্রি। নিউরাল আর্কিটেকচার যেমন কনভোলিউশনাল নিউরাল নেটওয়ার্ক (সিএনএন) এবং লং শর্ট-টার্ম মেমরি (এলএসটিএম) ইউনিটগুলি প্রায়শই খুব দীর্ঘ এবং বিভিন্ন দৈর্ঘ্যের ইনপুটগুলির জন্য যুক্তিসঙ্গত আকারের বৈষম্যমূলক মডেল তৈরি করতে ব্যবহৃত হয়।
• জেনারেটিভ এআই - যে বিষয়বস্তুর উপর প্রশিক্ষণ দেওয়া হয় তার অনুরূপ নতুন সামগ্রী তৈরি করা। উদাহরণ: জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক (GAN), ডিফিউশন মডেল এবং অটোরিগ্রেসিভ মডেল।

GAN হল মেশিন-লার্নিং ফ্রেমওয়ার্ক যা দুটি নিউরাল নেটওয়ার্ক, একটি জেনারেটর এবং একটি ডিসক্রিমিনেটর নিয়ে গঠিত। জেনারেটর একটি লক্ষ্য বিন্যাসে খাওয়ানো এলোমেলো গোলমাল আকৃতির দ্বারা ডেটা তৈরি করে। জেনারেটর একা তাদের আউটপুট গুণমান মূল্যায়ন করতে পারে না. এখানেই বৈষম্যকারী মডেলটি আসে। বৈষম্যকারীর লক্ষ্য জেনারেটর দ্বারা উত্পন্ন আসল ডেটা এবং জাল ডেটার মধ্যে পার্থক্য করা। দুটিকে একই সাথে প্রশিক্ষিত করা হয়, বৈষম্যকারীকে বাস্তব এবং জেনারেটরের ডেটা আলাদা করার জন্য প্রশিক্ষণ দেওয়া হয় এবং জেনারেটর ক্রমবর্ধমান বাস্তবসম্মত ডেটা তৈরি করে বৈষম্যকারীকে বিভ্রান্ত করার জন্য প্রশিক্ষিত। প্রশিক্ষণের অগ্রগতির সাথে সাথে, প্রতিটি মডেল তার কার্যে ক্রমশ উন্নত হয়ে ওঠে যার ফলে জেনারেটর বাস্তবসম্মত চেহারার সামগ্রী তৈরি করতে সক্ষম হয়। GAN-এর চ্যালেঞ্জ হল তাদের প্রশিক্ষণ দেওয়া। উদাহরণ স্বরূপ, GAN গুলি প্রশিক্ষণে মডেলের পতনের মধ্য দিয়ে যেতে পারে, যেখানে জেনারেটর শুধুমাত্র বৈষম্যকারীকে বিভ্রান্ত করার জন্য পর্যাপ্ত ছোট ধরনের নমুনা তৈরি করতে শেখে কিন্তু কার্যকর হওয়ার জন্য যথেষ্ট নয়। এখানেই ডিফিউশন মডেলটি আসে। সংক্ষেপে, ডিফিউশন মডেলগুলিকে এর নয়েজ-ফিল্ড সংস্করণগুলি থেকে প্রশিক্ষণ ডেটা পুনরুদ্ধার করার জন্য প্রশিক্ষিত করা হয়। প্রশিক্ষণের পরে, প্রসারণ একটি বিশুদ্ধ শব্দ ইনপুট থেকে সম্পূর্ণ নতুন চিত্রগুলি ধারণা করতে পারে। এটি পুনরাবৃত্তভাবে একটি ধীরে ধীরে ডিনোইসিং প্রক্রিয়ার মাধ্যমে একটি চিত্র তৈরি করে।

এর পরে, অটোরিগ্রেসিভ মডেলগুলি পরিসংখ্যানে নিহিত। এটি পূর্ববর্তী উপাদানগুলির উপর শর্তযুক্ত একটি ক্রমানুসারে পরবর্তী উপাদানের সম্ভাব্যতার মডেলিং করে ডেটার ক্রম তৈরি করে। পরবর্তী উপাদানটি তারপরে এই বন্টন থেকে এলোমেলোভাবে নির্বাচন করা হয়, একটি "তাপমাত্রা" প্যারামিটার ব্যবহার করে ফলাফলগুলিকে আরও নির্ধারক বা আরও এলোমেলো হতে পারে এবং প্রক্রিয়াটি পুনরাবৃত্তি হয়৷ অটোরিগ্রেসিভ মডেলগুলির জন্য জনপ্রিয় নিউরাল নেটওয়ার্ক উপাদানগুলির মধ্যে রয়েছে LSTM এবং ট্রান্সফরমার (যা নিউরাল নেটওয়ার্কগুলিকে পাঠ্য প্রশিক্ষণ ডেটার খুব বড় পরিমাণে প্যাটার্ন শিখতে দেয়)। এটিতে খাওয়ানো একটি ক্রম সম্পূর্ণ করার পরিবর্তে, আমরা অটোরিগ্রেসিভ মডেলগুলিতে একটি প্রান্তিককরণ পর্যায় যুক্ত করি। এখানে, মডেলকে অতিরিক্তভাবে প্রশিক্ষণ দেওয়া হয় মানুষের প্রতিক্রিয়ার উপর ভিত্তি করে অন্যদের থেকে নির্দিষ্ট ইনপুট-আউটপুট জোড়া পছন্দ করার জন্য। যেমন, এলএলএম সারিবদ্ধকরণে, মডেলগুলিকে সফলভাবে শিখিয়েছে কীভাবে প্রশ্ন এবং আদেশের উত্তর দিতে হয় (শক্তিবৃদ্ধি শেখার)।

AI এর মূল সুবিধা

• দক্ষতার জন্য অটোমেশন - পুনরাবৃত্তিমূলক কাজগুলিকে স্বয়ংক্রিয় করুন, যার ফলে উত্পাদনশীলতা এবং কার্যকারিতা বৃদ্ধি পায়;
• ডেটা-চালিত অন্তর্দৃষ্টি - বৃহৎ ডেটাসেটগুলি থেকে মূল্যবান অন্তর্দৃষ্টি বের করে, ডেটা-চালিত সিদ্ধান্ত গ্রহণের মাধ্যমে ব্যবসাগুলিকে একটি প্রতিযোগিতামূলক প্রান্ত প্রদান করে;
• সৃজনশীল সমস্যা সমাধান - উদ্ভাবনী সমাধান এবং ধারণা তৈরি করুন, এমনকি যখন অস্পষ্ট বা অসম্পূর্ণ নির্দেশাবলী প্রদান করা হয়, সমস্যা সমাধান এবং সৃজনশীলতা বৃদ্ধি করে;
• বিষয়বস্তু তৈরি - দ্রুত এবং একটি বৃহৎ পরিসরে উচ্চ-মানের সামগ্রী তৈরি করুন, সামগ্রী বিপণন, বিজ্ঞাপন এবং গ্রাহকের অংশগ্রহণকে উপকৃত করুন;
• স্বায়ত্তশাসিত সিদ্ধান্ত গ্রহণ - স্বায়ত্তশাসিত সিদ্ধান্ত গ্রহণের স্তরগুলি সক্ষম করে যা AI এর পূর্ববর্তী প্রজন্মের সাথে সম্ভব ছিল না।

জেনারেটিভ এআই-এ ডেটার গুরুত্ব

জেনারেটিভ এআই মডেল, বিশেষ করে লার্জ ল্যাঙ্গুয়েজ মডেল (এলএলএম) তৈরিতে ডেটা কেন্দ্রীয় ভূমিকা পালন করে। এই মডেলগুলি প্রশিক্ষণ এবং পরিমার্জনের জন্য প্রচুর পরিমাণে ডেটার উপর নির্ভর করে। উদাহরণ স্বরূপ, OpenAI-এর ChatGPT একটি বিস্তৃত ডেটাসেটের উপর প্রশিক্ষিত ছিল যার মধ্যে ইন্টারনেট থেকে সংগৃহীত 45 টেরাবাইটের বেশি পাঠ্য ডেটা রয়েছে, যার মধ্যে ডিজিটালাইজড বই এবং উইকিপিডিয়া এন্ট্রি রয়েছে। যাইহোক, জেনারেটিভ AI-তে ডেটা সংগ্রহের ব্যাপক প্রয়োজনীয়তা উল্লেখযোগ্য উদ্বেগ তৈরি করতে পারে, যার মধ্যে অসাবধানতাবশত সংগ্রহ এবং ব্যক্তিদের সম্মতি ছাড়া ব্যক্তিগত ডেটা ব্যবহার করা সহ। Google AI গবেষকরাও স্বীকার করেছেন যে এই ডেটাসেটগুলি, প্রায়শই বড় এবং বিভিন্ন জায়গা থেকে উৎসারিত হয়, এতে সংবেদনশীল ব্যক্তিগত তথ্য থাকতে পারে, এমনকি যদি সর্বজনীনভাবে উপলব্ধ ডেটা থেকে প্রাপ্ত হয়।

তথ্য সংগ্রহের জন্য বিস্তৃতভাবে দুটি সাধারণ উত্স রয়েছে:

• সর্বজনীনভাবে অ্যাক্সেসযোগ্য ডেটা - ওয়েব স্ক্র্যাপিং ডেটা সংগ্রহের জন্য ব্যবহৃত সবচেয়ে সাধারণ পদ্ধতি। এতে সর্বজনীনভাবে অ্যাক্সেসযোগ্য ওয়েব পৃষ্ঠাগুলি থেকে প্রচুর পরিমাণে তথ্য আহরণ করা জড়িত। এই ডেটা তারপর প্রশিক্ষণের উদ্দেশ্যে ব্যবহার করা হয় বা বিক্রয়ের জন্য পুনরায় ব্যবহার করা যেতে পারে বা অন্যান্য AI বিকাশকারীদের জন্য বিনামূল্যে উপলব্ধ করা যেতে পারে। ওয়েব স্ক্র্যাপিংয়ের মাধ্যমে প্রাপ্ত ডেটাতে প্রায়ই Facebook, Twitter, LinkedIn, Venmo এবং অন্যান্য ওয়েবসাইটের মতো সামাজিক মিডিয়া প্ল্যাটফর্মগুলিতে ব্যবহারকারীদের দ্বারা ভাগ করা ব্যক্তিগত তথ্য অন্তর্ভুক্ত থাকে। যদিও ব্যক্তিরা বিভিন্ন কারণে এই জাতীয় প্ল্যাটফর্মে ব্যক্তিগত তথ্য পোস্ট করতে পারে, যেমন সম্ভাব্য নিয়োগকর্তার সাথে সংযোগ স্থাপন করা বা নতুন বন্ধু তৈরি করা, তারা সাধারণত তাদের ডেটা জেনারেটিভ এআই মডেলের প্রশিক্ষণের জন্য ব্যবহার করতে চান না।

  
  

• ব্যবহারকারীর ডেটা - ব্যবহারকারীদের দ্বারা শেয়ার করা ডেটা, যেমন চ্যাটবট, তথ্য বিষয়ের জ্ঞান বা সম্মতি ছাড়াই প্রশিক্ষণের জন্য ব্যবহার করা যেতে পারে। উদাহরণস্বরূপ, স্বাস্থ্যসেবা পরামর্শ, থেরাপি, আর্থিক পরিষেবা এবং অন্যান্য পরিষেবা প্রদানকারী চ্যাটবটগুলির সাথে যোগাযোগকারী ব্যবহারকারীরা সংবেদনশীল ব্যক্তিগত তথ্য প্রকাশ করতে পারে। যদিও এই ধরনের চ্যাটবটগুলি পরিষেবার শর্তাদি প্রদান করতে পারে যে উল্লেখ করে যে ব্যবহারকারীর ডেটা "পরিষেবা বিকাশ এবং উন্নত করতে" ব্যবহার করা যেতে পারে, সমালোচকরা যুক্তি দিতে পারেন যে জেনারেটিভ এআই মডেলগুলি ব্যবহারকারীদের কাছ থেকে ইতিবাচক সম্মতি নেওয়া উচিত বা এর সংগ্রহ, ব্যবহার এবং ধরে রাখার বিষয়ে স্পষ্ট প্রকাশ প্রদান করা উচিত। ব্যবহারকারী তথ্য.

অনেক সংস্থা তাদের অফারগুলিকে উন্নত করতে তাদের পণ্য বা পরিষেবাগুলিতে জেনারেটিভ এআই মডেলগুলিও এম্বেড করেছে। এই ধরনের ইন্টিগ্রেশন, কিছু ক্ষেত্রে, এই মডেলগুলির প্রশিক্ষণ এবং সূক্ষ্ম টিউনিংয়ের জন্য ভোক্তাদের ব্যক্তিগত ডেটা সহ ডেটার উত্স হিসাবেও কাজ করতে পারে।

সম্ভাব্য হুমকির মধ্যে রয়েছে:

• ব্যক্তি এবং সমাজের অননুমোদিত গণ নজরদারি
• ব্যক্তির ব্যক্তিগত তথ্যের অপ্রত্যাশিত এবং অনিচ্ছাকৃত লঙ্ঘন
• বিভিন্ন উদ্দেশ্যে ব্যাপক আকারে ব্যক্তিগত ডেটা ম্যানিপুলেশন
• ব্যক্তিদের বিশ্বাসযোগ্য এবং কারসাজিমূলক গভীর নকলের প্রজন্ম
• আইনি ও সামাজিকভাবে গুরুত্বপূর্ণ ফলাফলে সাংস্কৃতিক পক্ষপাত, বর্ণবাদ, এবং কুসংস্কারের প্রভাবগুলিকে মুখোশ করার সময় প্রসারিত করা
• উদ্দেশ্য সীমাবদ্ধতা, স্টোরেজ সীমাবদ্ধতা এবং ডেটা মিনিমাইজেশনের ডেটা সুরক্ষা নীতির লঙ্ঘন
• ব্যক্তি এবং সামাজিক পক্ষপাতের নির্দিষ্ট গোষ্ঠীর বিরুদ্ধে বৈষম্য
• বিভ্রান্তি এবং বাস্তবসম্মতভাবে ভুল তথ্য উপস্থাপন
• মেধা সম্পত্তি এবং কপিরাইট লঙ্ঘন

এআই গভর্নেন্স

আমরা যখন জেনারেটিভ এআই প্রযুক্তির দ্বারা প্রবলভাবে প্রভাবিত একটি যুগে প্রবেশ করি, তখন কৃত্রিম বুদ্ধিমত্তার পরিচালনা এমন ব্যবসার জন্য একটি ক্রমবর্ধমান গুরুত্বপূর্ণ অগ্রাধিকার হয়ে ওঠে যারা আইনি এবং নৈতিক প্রয়োজনীয়তা পূরণের সময় ডেটা এবং এআই-এর নিরাপদ ব্যবহার সক্ষম করতে চায়। 2023 সালের অক্টোবরে, কৃত্রিম বুদ্ধিমত্তার "নিরাপদ, সুরক্ষিত এবং বিশ্বস্ত" ব্যবহার মার্কিন যুক্তরাষ্ট্রের বিডেন-হ্যারিস প্রশাসনের একটি নির্বাহী আদেশের নিশ্চয়তা দেয়, যা বিশ্বের প্রথম ব্যাপক AI আইন EU-এর AI আইনের সাথে ঘনিষ্ঠভাবে অনুসরণ করে। বই উপর আইন. অন্যান্য দেশ, যেমন চীন, যুক্তরাজ্য, এবং কানাডা এবং এমনকি মার্কিন যুক্তরাষ্ট্রের বেশ কয়েকটি রাজ্য AI-তে নিরাপত্তা, নিরাপত্তা এবং স্বচ্ছতার গুরুত্ব তুলে ধরে আইনের প্রস্তাব বা আইন প্রণয়ন করে বালিতে তাদের নিজস্ব লাইন আঁকিয়েছে।

প্রোডাক্ট ম্যানেজার এবং সাধারণভাবে এন্টারপ্রাইজ লিডারদের তাদের ব্যবসায়িক অনুশীলনে AI অন্তর্ভুক্ত করার সময় এই নিরাপদ AI ব্যবহারের মানসিকতা গ্রহণ করতে হবে। কার্যকরী এআই গভর্নেন্স নিয়ন্ত্রণ এবং তত্ত্বাবধান প্রদান করে, নিশ্চিত করে যে ব্যবসাগুলি তাদের AI পরিষেবাগুলিকে দায়িত্বশীল, নৈতিকভাবে, এবং নথিভুক্ত, দক্ষ এবং প্রদর্শনযোগ্য পদ্ধতিতে অভ্যন্তরীণ নীতি এবং বাহ্যিক প্রবিধান উভয়ের সাথে সম্মতিতে বিকাশ ও পরিচালনা করে। এটি এন্টারপ্রাইজগুলিকে বিশ্বাস বজায় রাখতে এবং জবাবদিহিতা যোগ করতে সক্ষম করবে।

এআই গভর্নেন্স বলতে কাঠামো, নিয়ম, মান, আইনি প্রয়োজনীয়তা, নীতি এবং সর্বোত্তম অনুশীলনের আরোপকে বোঝায় যা কৃত্রিম বুদ্ধিমত্তার ব্যবহার পরিচালনা, পরিচালনা এবং নিরীক্ষণ করে। এটি আইনি এবং নৈতিক প্রয়োজনীয়তা পূরণের জন্য AI কার্যক্রম পরিচালনা, পরিচালনা এবং পর্যবেক্ষণ জড়িত। নৈতিক ফ্রন্টে, গ্রাহকদের আস্থা তৈরি এবং বজায় রাখার জন্য ব্যবসাগুলিকে তাদের এআই মডেলগুলিতে উচ্চ স্তরের স্বচ্ছতা, সুরক্ষা এবং সুরক্ষা নিশ্চিত করার উপর দৃষ্টি নিবদ্ধ করতে হবে। আইনি ফ্রন্টে, এন্টারপ্রাইজগুলিকে অবশ্যই আইনি প্রয়োজনীয়তা মেনে চলতে হবে এবং নিয়ন্ত্রকদের সন্তুষ্ট করতে হবে বা যথেষ্ট আর্থিক জরিমানা এবং ক্ষতিগ্রস্ত ব্র্যান্ডের খ্যাতি ঝুঁকিপূর্ণ করতে হবে।

ম্যাককিনসি গবেষণা অনুমান করে যে জেনারেটিভ এআই বার্ষিক মূল্যে $2.6 ট্রিলিয়ন থেকে $4.4 ট্রিলিয়নের মধ্যে অবদান রাখতে পারে। যাইহোক, এই সম্ভাবনা উপলব্ধি করার জন্য, সংস্থাগুলিকে অবশ্যই AI এমনভাবে প্রয়োগ করতে হবে যা স্বচ্ছ, নিরাপদ এবং বিশ্বস্ত। প্রকৃতপক্ষে, গার্টনার পরামর্শ দেন যে সংস্থাগুলি সফলভাবে নিরাপদ এবং বিশ্বস্ত AI চালু করে তাদের AI গ্রহণ এবং ব্যবসায়িক লক্ষ্য অর্জনে 50% বৃদ্ধি দেখতে পারে।

এন্টারপ্রাইজে এআই গভর্নেন্সের মূল চালক

এর মধ্যে নিম্নলিখিতগুলি অন্তর্ভুক্ত রয়েছে:

• উদ্ভাবন - এআই গভর্নেন্স একটি কাঠামোগত, তবুও নমনীয়, কাঠামো প্রদান করে যা দায়িত্বশীল উদ্ভাবনকে উৎসাহিত করে।
• দক্ষতা - AI উন্নয়ন এবং স্থাপনার মানসম্মতকরণ এবং অপ্টিমাইজ করে, AI গভর্ন্যান্স এন্টারপ্রাইজগুলিকে খরচ কমিয়ে দ্রুত এআই পণ্য বাজারে আনতে সক্ষম করে।
• সম্মতি - এআই গভর্ন্যান্স এআই সমাধান এবং সিদ্ধান্ত গ্রহণকে শিল্পের বিধিবিধান এবং বিশ্বব্যাপী আইনি মানদণ্ডের সাথে সারিবদ্ধ করে। এটি নিশ্চিত করে যে AI অনুশীলনগুলি আইনি প্রয়োজনীয়তা পূরণ করে, ব্যবসার জন্য আইনি ঝুঁকি হ্রাস করে এবং এর নিয়ন্ত্রক সম্মতি আরও বাড়িয়ে তোলে।
• ট্রাস্ট - এআই গভর্নেন্স বিশ্বস্ত এবং স্বচ্ছ এআই সিস্টেম তৈরির উপর দৃষ্টি নিবদ্ধ করে। এই অভ্যাসটি গ্রাহকের অধিকার এবং সন্তুষ্টি বজায় রাখার পাশাপাশি প্রতিষ্ঠানের ব্র্যান্ড মান রক্ষা করার জন্য অত্যন্ত গুরুত্বপূর্ণ। বিশ্বস্ত AI নিয়ন্ত্রক পদক্ষেপের ঝুঁকি হ্রাস করার সাথে সাথে গ্রাহকের আস্থা এবং বিশ্বস্ততা বাড়ায়।

গার্টনার দ্বারা বিকশিত একটি AI গভর্নেন্স ফ্রেমওয়ার্কের উদাহরণ হল AI TRISM - AI ট্রাস্ট, ঝুঁকি এবং নিরাপত্তা ব্যবস্থাপনা কাঠামো যা AI ব্যবহারে ডেটা গোপনীয়তা আইনের সাথে ঝুঁকি প্রশমন এবং সারিবদ্ধকরণের উপর দৃষ্টি নিবদ্ধ করে। এটির চারটি স্তম্ভ রয়েছে, 1) ব্যাখ্যাযোগ্যতা এবং মডেল পর্যবেক্ষণ - স্বচ্ছতা এবং নির্ভরযোগ্যতা নিশ্চিত করতে। 2) মডেল ক্রিয়াকলাপ - তাদের জীবনচক্র জুড়ে AI মডেলগুলি পরিচালনার জন্য প্রক্রিয়া এবং সিস্টেমগুলি বিকাশের সাথে জড়িত। 3) AI অ্যাপ্লিকেশন নিরাপত্তা - সাইবার হুমকির বিরুদ্ধে মডেলগুলিকে সুরক্ষিত এবং সুরক্ষিত রাখতে। 4) মডেল গোপনীয়তা - গোপনীয়তা আইন (ডেটা উদ্দেশ্য/স্টোরেজ সীমাবদ্ধতা, ডেটা মিনিমাইজেশন/সুরক্ষা নীতি) অনুযায়ী ডেটা প্রবাহ পরিচালনা করে AI মডেলগুলিকে প্রশিক্ষণ বা পরীক্ষা করার জন্য ব্যবহৃত ডেটা রক্ষা করতে। সামগ্রিকভাবে, TRiSM হল AI মডেলের নির্ভরযোগ্যতা, বিশ্বস্ততা, নিরাপত্তা এবং গোপনীয়তা বাড়ানোর একটি পদ্ধতি।

উন্নত এআই গভর্নেন্সের জন্য পদক্ষেপ নিতে হবে

• AI সিস্টেমে বর্ধিত দৃশ্যমানতা - AI মডেলগুলি আবিষ্কার করুন এবং ক্যাটালগ করুন। এখানে উদ্দেশ্য হল পাবলিক ক্লাউড, ব্যক্তিগত পরিবেশ এবং তৃতীয় পক্ষের অ্যাপে ব্যবহৃত সমস্ত AI মডেলের বিশদ শনাক্ত এবং রেকর্ড করার মাধ্যমে ব্যবসাগুলিকে তাদের AI ব্যবহারের একটি সম্পূর্ণ এবং ব্যাপক ওভারভিউ দেওয়া। এটি মডেলের উদ্দেশ্য, প্রশিক্ষণের ডেটা, আর্কিটেকচার, ইনপুট, আউটপুট এবং অনথিভুক্ত বা অনুমোদনহীন AI মডেল সহ মিথস্ক্রিয়াগুলিকে কভার করে। এই তথ্যের একটি কেন্দ্রীভূত ক্যাটালগ তৈরি করা স্বচ্ছতা, শাসন এবং AI এর কার্যকর ব্যবহারকে উন্নত করে, আরও ভাল সিদ্ধান্ত এবং ঝুঁকি ব্যবস্থাপনাকে সমর্থন করে। AI অ্যাপ্লিকেশনগুলির সম্পূর্ণ পরিসর প্রকাশ করার জন্য এবং সংস্থার মধ্যে অপারেশনাল সাইলোগুলি ভেঙে দেওয়ার জন্য এটি অপরিহার্য।

  
  

• ব্যাপক ঝুঁকি মূল্যায়ন - ঝুঁকি মূল্যায়ন করুন এবং এআই মডেলগুলিকে শ্রেণীবদ্ধ করুন। এখানে লক্ষ্য হল প্রাক-উন্নয়ন এবং উন্নয়ন পর্যায়ে তাদের AI সিস্টেমের ঝুঁকিগুলি মূল্যায়ন করা এবং ঝুঁকি প্রশমনের পদক্ষেপগুলি বাস্তবায়ন করা। এতে মডেল কার্ডের সুবিধা জড়িত যা এআই মডেলের জন্য পূর্বনির্ধারিত ঝুঁকি মূল্যায়নের প্রস্তাব দেয়, যার মধ্যে মডেলের বর্ণনা, উদ্দেশ্যমূলক ব্যবহার, সীমাবদ্ধতা এবং নৈতিক বিবেচনা রয়েছে। এই ঝুঁকি রেটিংগুলি বিষাক্ততা, দূষিততা, পক্ষপাত, কপিরাইট বিবেচনা, হ্যালুসিনেশন ঝুঁকি এবং এমনকি শক্তি খরচ এবং অনুমান রানটাইমের ক্ষেত্রে মডেল দক্ষতার মতো দিকগুলিকে কভার করে বিস্তৃত বিবরণ প্রদান করে। এই রেটিংগুলির উপর ভিত্তি করে সংস্থাগুলি সিদ্ধান্ত নিতে পারে যে কোন মডেলগুলি স্থাপন এবং ব্যবহারের জন্য অনুমোদন দিতে হবে, কোন মডেলগুলিকে ব্লক করতে হবে এবং কোন মডেলগুলি ব্যবহারের আগে অতিরিক্ত পাহারারেল প্রয়োজন৷

  
  

• স্বচ্ছ ডেটা অনুশীলন - AI প্রবাহে ডেটা মানচিত্র এবং নিরীক্ষণ। প্রশিক্ষণ, টিউনিং এবং অনুমানের জন্য ডেটা AI সিস্টেমে প্রবাহিত হয় এবং আউটপুট হিসাবে AI সিস্টেমগুলি থেকে ডেটা প্রবাহিত হয়। এটি ব্যবসাগুলিকে তাদের AI মডেল এবং AI সিস্টেমগুলির আশেপাশে সম্পূর্ণ প্রসঙ্গ উন্মোচন করতে দেয়৷ এটি হল মানচিত্র AI মডেল এবং সিস্টেমগুলি সম্পর্কিত ডেটা উত্স এবং সিস্টেম, ডেটা প্রক্রিয়াকরণ, SaaS অ্যাপ্লিকেশন, সম্ভাব্য ঝুঁকি এবং সম্মতির বাধ্যবাধকতা। এই ব্যাপক ম্যাপিং গোপনীয়তা, সম্মতি, নিরাপত্তা এবং ডেটা দলগুলিকে নির্ভরতা শনাক্ত করতে, ব্যর্থতার সম্ভাব্য পয়েন্টগুলি চিহ্নিত করতে এবং এআই গভর্ন্যান্স প্রতিক্রিয়াশীল না হয়ে সক্রিয় তা নিশ্চিত করতে সক্ষম করে।

  
  

• দৃঢ় নিরাপত্তা নিয়ন্ত্রণ - AI নিয়ন্ত্রণে ডেটা প্রয়োগ করুন। এটি এআই মডেলের মধ্যে রাখা এবং উত্পন্ন উভয় ডেটার নিরাপত্তা এবং গোপনীয়তার জন্য কঠোর নিয়ন্ত্রণ স্থাপনের অনুমতি দেয়। এই ধরনের নিয়ন্ত্রণগুলির মধ্যে যথাক্রমে নিরাপত্তা কাঠামো এবং গোপনীয়তা আইন দ্বারা বাধ্যতামূলক ডেটা নিরাপত্তা এবং গোপনীয়তা নিয়ন্ত্রণ অন্তর্ভুক্ত। উদাহরণস্বরূপ, ডেটাসেট থেকে শনাক্তযোগ্য মানগুলি সরানোর জন্য রিডাকশন বা বেনামীকরণ কৌশল প্রয়োগ করা যেতে পারে। এটি এন্টারপ্রাইজ ডেটা নীতি এবং ব্যবহারকারীর এনটাইটেলমেন্টের সাথে সারিবদ্ধ করে AI মডেলগুলিতে ডেটার নিরাপদ ইনজেশন নিশ্চিত করে। যদি সংবেদনশীল ডেটা এলএলএম মডেলগুলিতে তার পথ খুঁজে পায় তবে এটি অত্যন্ত কঠিন হয়ে পড়ে। একইভাবে, যদি এন্টারপ্রাইজ ডেটা ভেক্টর আকারে রূপান্তরিত হয়, তবে এটি সুরক্ষিত করা আরও চ্যালেঞ্জিং হয়ে ওঠে। ডেটা জেনারেশন এবং আউটপুট দিক থেকে, এআই মিথস্ক্রিয়াকে সুরক্ষিত করার জন্য বাহ্যিক আক্রমণ, দূষিত অভ্যন্তরীণ ব্যবহার এবং ভুল কনফিগারেশনের বিরুদ্ধে সতর্কতা প্রয়োজন। এআই সহকারী, বট এবং এজেন্টদের সাথে সুরক্ষিত কথোপকথন নিশ্চিত করতে, ক্ষতিকারক প্রম্পট, পুনরুদ্ধার এবং প্রতিক্রিয়া ফিল্টার করতে এলএলএম ফায়ারওয়াল স্থাপন করা উচিত। এই ফায়ারওয়ালগুলিকে LLM-এর জন্য OWASP শীর্ষ 10 এবং NIST AI RMF ফ্রেমওয়ার্কগুলিতে প্রম্পট ইনজেকশন আক্রমণ এবং ডেটা এক্সফিল্ট্রেশন আক্রমণ সহ হাইলাইট করা বিভিন্ন দুর্বলতার বিরুদ্ধে রক্ষা করতে সক্ষম হওয়া উচিত।

  
  

• নিয়ন্ত্রক কাঠামোর সাথে পরিশ্রমী সম্মতি - প্রবিধানগুলি মেনে চলা। AI সিস্টেমগুলি ব্যবহার করা ব্যবসাগুলিকে অবশ্যই AI-নির্দিষ্ট প্রবিধান এবং মানগুলির পাশাপাশি ডেটা গোপনীয়তার বাধ্যবাধকতাগুলি মেনে চলতে হবে যা AI ব্যবহারের সাথে সম্পর্কিত৷ এই চাহিদাপূর্ণ কমপ্লায়েন্স প্রক্রিয়াটিকে প্রবাহিত করতে, ব্যবসাগুলি AI-এর জন্য তৈরি ব্যাপক কমপ্লায়েন্স অটোমেশনের সুবিধা নিতে পারে। এই ধরনের একটি সিস্টেম NIST AI RMF এবং EU AI আইন সহ অন্যান্য বিশ্বব্যাপী AI প্রবিধান এবং কাঠামোর একটি বিস্তৃত ক্যাটালগ অফার করে। এটি এর কাঠামোর মধ্যে স্বতন্ত্র AI প্রকল্পগুলি তৈরি করতে সহায়তা করে যা ব্যবহারকারীদের প্রতিটি প্রকল্পের জন্য প্রয়োজনীয় নিয়ন্ত্রণগুলি সনাক্ত করতে এবং প্রয়োগ করতে সক্ষম করে। এই প্রক্রিয়ার মধ্যে স্বয়ংক্রিয় চেক এবং মূল্যায়ন উভয়ই অন্তর্ভুক্ত রয়েছে যার জন্য স্টেকহোল্ডারদের কাছ থেকে ইনপুট প্রয়োজন যাতে সম্মতি নিশ্চিত করার জন্য সামগ্রিক পদ্ধতির ব্যবস্থা করা হয়।

এআই গভর্নেন্স বাস্তবায়নের সুবিধা

এআই গভর্নেন্স সফলভাবে বাস্তবায়নকারী উদ্যোগগুলি অর্জন করবে

ক) তাদের অনুমোদিত এবং অনুমোদনহীন এআই সিস্টেমে সম্পূর্ণ স্বচ্ছতা

খ) এআই ঝুঁকির স্পষ্ট দৃশ্যমানতা

গ) এআই এবং ডেটা ম্যাপিং

ঘ) শক্তিশালী স্বয়ংক্রিয় AI + ডেটা নিয়ন্ত্রণ

e) বিশ্বব্যাপী এআই প্রবিধানের সাথে সম্মতি।

সামগ্রিকভাবে, আমাদের AI এর নিরাপদ ব্যবহার নিশ্চিত করতে হবে। নিরাপত্তাকে অগ্রাধিকার দিলে তাৎক্ষণিক স্বল্পমেয়াদে ব্যবসায়িক মুনাফা কিছুটা কম হতে পারে, মাঝারি এবং দীর্ঘমেয়াদী সুবিধাগুলি যথেষ্ট।