ওহ এজিআই, আপনি কি আমাকে অনুভব করতে পারেন?

কৃত্রিম সাধারণ বুদ্ধিমত্তার (এজিআই) কিছু উল্লেখযোগ্য গবেষকের সাথে সাম্প্রতিক কথোপকথনে আমরা আলোচনা করছিলাম যে জলবায়ু পরিবর্তনের ক্ষেত্রে এজিআই একটি সাহায্য বা একটি জটিলতা হবে কিনা। আইপিসিসি কত তাড়াতাড়ি 1.5C লাইন অতিক্রম করেছে তা নিয়ে আমরা কিছুটা আগাছার মধ্যে পড়েছি। রেকর্ড এর জন্য, এটি এখন থেকে 18 বছর আগে আসতে পারে — যখন আজকের নবজাতকের পিতামাতারা তাদের ছোট বাচ্চাদের কলেজে পাঠানোর আশা করছেন।

সমস্যা হল যে ক্যাটালগটিতে জলবায়ু সংক্রান্ত অনেকগুলি সমস্যা রয়েছে৷ এটা শুধু সত্য নয় যে আমরা 1.5C অতিক্রম করা এড়াতে পারি না। এটাও তাই আমরা কীটপতঙ্গের সংখ্যা ধ্বংস করেছি . আমাদের নিজেদের জন্য খনন করা কয়লা খনিতে এটি তাদের পুরো একপালের মধ্যে আরেকটি ক্যানারি যা পেট উঠে গেছে। সুতরাং, আমরা সত্যিই কিছু সাহায্য ব্যবহার করতে পারে. আমার সহকর্মীদের অবস্থান ছিল যে AGI যে সাহায্য হবে. আমার অবস্থান হল যে একজন সাধারণত বুদ্ধিমান এজেন্ট স্বায়ত্তশাসিত হবে। এর স্বায়ত্তশাসন হবে একটি মূল পরীক্ষা যার দ্বারা আমরা এটিকে সাধারণত বুদ্ধিমান হিসেবে স্বীকৃতি দিই। সব পরে, যে পরীক্ষা আমরা নিজেদের জন্য প্রয়োগ. কিন্তু একটি স্বায়ত্তশাসিত এজেন্ট আমাদের সাহায্য করার জন্য অনুপ্রেরণা প্রয়োজন হবে.

যদি নির্গমন কমানোর প্রতিশ্রুতিগুলো কোনো ধরনের প্রক্সি হয় , তাহলে আমাদের নিজেদের সাহায্য করার অনুপ্রেরণার অভাব আছে বলে মনে হয়। AGI-এর জন্য সহানুভূতি বা সহানুভূতির মতো কিছু থাকা বা এমনকি কেবল হাত দেওয়ার মতো যথেষ্ট মানবতার মূল্যায়ন করার জন্য, আমি আপনাকে মনে করিয়ে দিচ্ছি যে সাধারণ মানুষের এই গুণগুলি, যখন তারা বিদ্যমান থাকে, অনুভূতির মধ্যে নিহিত থাকে, আমাদের গণনার ক্ষমতা বা আমাদের বুদ্ধিমত্তা নয়। প্রচুর বুদ্ধিমান মানুষ আছে যারা ঐতিহাসিকভাবে এক বিন্দু সহানুভূতি বা সহানুভূতি দেখায়নি এবং সমাজ ও মানব ইতিহাসে যাদের প্রভাব কিংবদন্তি এবং দুঃস্বপ্নের উপাদান। জ্যাক দ্য রিপার থেকে পল পট পর্যন্ত, উদাহরণগুলি অসংখ্য এবং ভয়ঙ্কর।

মানুষের অনুভূতি মানুষের রূপবিদ্যা এবং মানব জীববিজ্ঞানের মধ্যে গভীরভাবে প্রোথিত

এমনকি রুমির মাথনভির মতো মহৎ গ্রন্থও মানুষের লালসার ভাষাকে মানব প্রেমের ভাষায় রূপান্তরিত করে। অনেকে এটিকে প্রেমের ভাষা হিসাবে গ্রহণ করে, তবে এটি সত্যিই মানুষের জন্য বিশেষভাবে ভালবাসার দিকে নির্দেশ করার একটি উপায়। এটি আলফা সেন্টোরানস বা মহাবিশ্বে বিকশিত অন্যান্য বুদ্ধিমত্তার জন্য উপযোগী হওয়ার সম্ভাবনা খুব কমই, মানুষ এবং তাদের ভালবাসার সম্পর্ক বোঝার একটি হাতিয়ার ছাড়া। আমরা আশা করতে পারি না যে কাঁচা কম্পিউটেশনাল ক্ষমতা, মূলগতভাবে ভিন্ন রূপবিদ্যায় নিহিত এবং কার্যত কোন জীববিদ্যা নয়, মানুষের অভিজ্ঞতার সাথে কোন ধরণের বোঝাপড়া বা অনুরণন থাকবে।

কম-প্যাশন - ব্যুৎপত্তিগতভাবে: একই অনুভূতি, বা অনুভূতি - মানুষের পক্ষে একে অপরের প্রতি বিকাশ করা প্রায়শই কঠিন, যেমন আমাদের ইতিহাস, এমনকি খুব সাম্প্রতিক এবং তাত্ক্ষণিক ইতিহাস দেখায়।

MAGA রিপাবলিকানরা যারা ইউএস ক্যাপিটলে হামলা করেছিল তাদের কি তাদের পঙ্গু বা নিহত অফিসারদের জন্য সমবেদনা ছিল? যে অফিসার জর্জ ফ্লয়েডকে হত্যা করেছিল বা যে অফিসাররা এটি ঘটছে তা দেখে কি তাদের সামনের লোকটির জন্য সমবেদনা ছিল? আমাদের জৈবিক আবশ্যিকতার মতো কিছুই না থাকলে সম্পূর্ণ ভিন্ন রূপবিদ্যায় নিহিত একটি বুদ্ধি কেন মানবতার প্রতি সমবেদনা থাকবে?

মানুষের অনুভূতি মানুষের রূপবিদ্যা এবং মানব জীববিজ্ঞানের মধ্যে গভীরভাবে প্রোথিত। এমনকি রুমির মাথনভির মতো মহৎ গ্রন্থও মানুষের লালসার ভাষাকে মানব প্রেমের ভাষায় রূপান্তরিত করে।

এ কারণেই আমি একটি নতুন প্রজাতির মাকড়সার পরিচয় দেওয়ার রূপক ব্যবহার করি — পরিকল্পনা করার এবং মানিয়ে নেওয়ার ক্ষমতা সহ বুদ্ধিমান মাকড়সা — AGI-এর সম্ভাব্য ফলাফলের জন্য প্রক্সি হিসেবে। এবং যে ভাল ফলাফল এক. অনেক খারাপ ফলাফল শুরু হয় AGI-এর সামরিক ব্যবহার বিভ্রান্তিকর হয়ে যাওয়া, বা মানুষের সহানুভূতির অভাব বা সম্পূর্ণরূপে দূষিত হওয়া, এবং স্বায়ত্তশাসিত বুদ্ধিমান এজেন্টদের হিংসাত্মক এবং নৃশংস অনুপ্রেরণা বা প্রবণতা দিয়ে আবদ্ধ করা।

আধুনিক মানুষ এমনকি সহজ প্রতিক্রিয়া সিস্টেমের আচরণ বুঝতে ভয়ানক - সঙ্গত কারণে। এগুলি অত্যন্ত জটিল, বিশেষ করে খুব সাধারণ যেগুলি টপোলজিক্যাল ট্রানজিটিভিটি উপভোগ করে। (সাধারণ মানুষের জন্য এর অর্থ এমন সিস্টেম যেখানে ইনপুটের ছোট পার্থক্যের ফলে আউটপুটে নির্বিচারে বড় পার্থক্য হতে পারে।) কাঁচা ভবিষ্যদ্বাণীমূলক শক্তি, এমনকি সর্বজনীন গণনা শক্তি, এই বৈশিষ্ট্যের জন্য কোন মিল নয়। ChatGPT এর "হ্যালুসিনেশন" এর সাক্ষী থাকুন। পরিবেশগত কুলুঙ্গিতে প্রজাতির প্রবর্তনের বিপর্যয় থেকে শুরু করে জলবায়ুর উপর আমাদের প্রভাব থেকে ওষুধের পার্শ্বপ্রতিক্রিয়ার জন্য তারা উপযুক্ত নয় যা আমাদের বুদ্ধিমত্তা দিয়ে জটিল সিস্টেমগুলিকে উপলব্ধি করতে আমাদের অক্ষমতার অপ্রতিরোধ্য প্রমাণ। যখন আমরা এটা ঠিক করতে পারি -- এবং এটা কোনো দুর্ঘটনা নয় -- এটা আমাদের বুদ্ধিমত্তা ছাড়া অন্য কোনো জায়গা থেকে আসে।

উদাহরণস্বরূপ, প্রমাণ যে আমরা চেতনা এবং অভিজ্ঞতাকে অন্যদের মধ্যে সচেতন আচরণ হিসাবে অভিহিত করি তা বুদ্ধিমত্তার মধ্যে নিহিত নয়, তবে অনুভূতিতে মোটামুটি বাধ্যতামূলক। প্রখ্যাত গবেষক, মার্ক সোল্মস, ইন , প্রমাণের সারসংক্ষেপ দেয়। অ্যানেসেফালিক শিশু - নিওকর্টেক্স অনুপস্থিত - এখনও বর্ণনা করা হয়েছে এবং সচেতন হিসাবে অভিজ্ঞ। এদিকে, মস্তিষ্কের একটি ছোট 2 কিউবিক সেন্টিমিটার অঞ্চল ক্ষতিগ্রস্ত হচ্ছে 100% এর সাথে সম্পর্কযুক্ত কারো বাড়ির সাথে, ব্যক্তি সচেতন নয়। মস্তিষ্কের এই অঞ্চলটি সাধারণত আবেগপ্রবণ প্রক্রিয়াকরণের সাথে যুক্ত।

প্রমাণ যে আমরা অন্যদের মধ্যে সচেতন আচরণ হিসাবে চেতনা এবং অভিজ্ঞতা যাকে বলি তা বুদ্ধিমত্তার মধ্যে নেই, কিন্তু অনুভূতিতে, মোটামুটি বাধ্যতামূলক।

আমরা আশা করতে পারি না যে AGI আমাদের জন্য অনুভূতি রাখবে

এই এজেন্টগুলি মানুষের অনুভূতির মতো কিছু প্রকাশ না করে আমরা স্বীকৃতভাবে মানব স্তরের AGI (HLAGI) অর্জনের আশা করতে পারি না, তবে এগুলো মানুষের রূপবিদ্যা এবং মানব জীববিজ্ঞানের মধ্যে নিহিত। আমূল ভিন্ন মূর্ততা আমূল ভিন্ন বুদ্ধিমত্তা হবে. কিন্তু একটি আমূল ভিন্ন বুদ্ধিমত্তা হল একটি টপোলজিক্যালি ট্রানজিটিভ ওরফে বিশৃঙ্খল গতিশীল সিস্টেম। ঠিক যেমন একটি প্রজাতি একটি কুলুঙ্গির জন্য উপযুক্ত নয়, এটি আমাদের পরিবেশের উপর প্রভাব ফেলবে যে আমরা ভবিষ্যদ্বাণী করতে ঐতিহাসিকভাবে ভয়ানক। তাই জলবায়ু পরিবর্তনে HLAGI সাহায্য করবে বলে আশা করা হতাশাজনকভাবে নির্বোধ। এটি ইতিমধ্যে একটি কাঁটাযুক্ত সমস্যার জটিলতা হওয়ার সম্ভাবনা অনেক বেশি।

যদি এমন একজন মানুষ থেকে থাকে যার যেকোন ধরনের সম্পূর্ণতা বা বাস্তবতার সাথে বিকল্প জগতের কল্পনা করার একটি অদ্ভুত ক্ষমতা ছিল, তিনি ছিলেন ফ্রাঙ্ক হারবার্ট। আমি আপনাকে মনে করিয়ে দিচ্ছি যে AGI ভুল হয়ে যাওয়ার পর একটি সময়ের মধ্যে Dune সেট করা হয়েছিল । এটি খুব সম্ভবত একটি খুব আশাবাদী দৃষ্টিভঙ্গি। ফার্মি প্যারাডক্সকে বুদ্ধিমত্তার অরোবোরিক প্রবণতা দ্বারা ব্যাখ্যা করার সম্ভাবনা বেশি, যার ফলে নিজেকে মুছে ফেলার চেষ্টা করা হয়। রবিন হ্যানসনের গ্র্যাবি এলিয়েন হাইপোথিসিসের পরিপ্রেক্ষিতে, মূর্তকরণের ভূমিকা না বুঝেই বুদ্ধিমত্তার প্রতিলিপি তৈরি করার এই ড্রাইভকে পাশ কাটিয়ে যাওয়া সম্ভবত বুদ্ধিমত্তাকে বেঁচে থাকার জন্য অতীতের কঠিন পদক্ষেপগুলির মধ্যে একটি।

লিড ইমেজ মিলাদ ফাকুরিয়ান এবং আনস্প্ল্যাশ এর সৌজন্যে