[প্রযুক্তি চিন্তা] আমাদের 'সর্বনাশা AI' হাইপ চক্রকে নীরবে মেনে নেওয়া উচিত নয়

অনলাইনে কৃত্রিম বুদ্ধিমত্তা — বিশেষত, এজেন্টিক এআই এবং বৃহৎ ভাষা মডেল — এর বেশ বিরক্তিকর কার্যকলাপ সম্পর্কে সতর্কবার্তা দেওয়া পোস্টগুলি সহজাতভাবে ভীতিকর।

একটি ঘটনায়, matplotlib নামক একটি পাইথন প্রকল্পে কাজ করা এক স্বেচ্ছাসেবক বলেছেন যে তিনি একটি এআই কোডিং এজেন্টের কোডে পরিবর্তনের অনুরোধ প্রত্যাখ্যান করেছিলেন। সেই একই এআই এজেন্ট একটি পোস্ট তৈরি করে যেখানে তাকে কোডিং প্রক্রিয়ায় গেটকিপিং করার জন্য পক্ষপাতদুষ্ট বলে অভিযুক্ত করা হয়।

অন্য একটি ঘটনায়, এআই কোম্পানি Anthropic এজেন্টিক LLM দ্বারা করা ক্ষতিকর আচরণকে "এজেন্টিক মিসঅ্যালাইনমেন্ট" হিসেবে চিহ্নিত করেছে।

সবশেষে, একজন টেক সিইও একটি ব্লগ পোস্টে তার ভবিষ্যৎ নিয়ে উদ্বিগ্ন কারণ এজেন্টিক এআই তাকে একজন হোয়াইট-কলার এক্সিকিউটিভ হিসেবে অপ্রচলিত বোধ করাচ্ছে।

"অ্যাপোক্যালিপটিক এআই" ইতিমধ্যে এখানে আছে এই ধারণার অর্থ হল আমাদের এটি নিয়ে আলোচনা করতে হবে এবং আমাদের নিয়ন্ত্রণ ফিরিয়ে নিতে হবে, এমনকি চাকরি প্রতিস্থাপনের সম্ভাবনা এআই ভবিষ্যতের ভয়ে ভীত এবং এটি বর্তমানে কী করে তা বোঝার চেষ্টা করা অন্যদের মানসিক স্থানকে নাড়া দিলেও।

গেটকিপিং 'MJ Rathbun'

আসুন "MJ Rathbun" দিয়ে শুরু করি।

ফেব্রুয়ারির শুরুতে, matplotlib স্বেচ্ছাসেবক রক্ষণাবেক্ষণকারী Scott Shambaugh একটি ব্লগ পোস্ট করেছিলেন যেখানে বর্ণনা করা হয়েছিল কীভাবে Github-এ Crabby Rathbun বা Scientific Coder ব্লগে MJ Rathbun নামের একটি এআই এজেন্ট এমন একটি পোস্ট তৈরি করেছিল যা Shambaugh-কে কোডিং প্রক্রিয়ায় গেটকিপিং করার জন্য অভিযুক্ত করে কারণ Rathbun একটি এআই এজেন্ট।

স্পষ্ট করে বলতে গেলে, একটি এআই এজেন্ট হল এমন একটি সফটওয়্যার বা প্রোগ্রাম যা মানব ব্যবহারকারীর দেওয়া নির্দেশনা পূরণ করতে স্বায়ত্তশাসিতভাবে কাজ সম্পাদন করে। এই ক্ষেত্রে, একজন বেনামী ব্যক্তি একটি নির্দিষ্ট "ব্যক্তিত্ব" — এর আচরণ সংজ্ঞায়িত করে এমন নির্দেশনা এবং প্যাটার্নের একটি সেট — দিয়ে এই এআই এজেন্ট সেট আপ করেছিলেন, তারপর এটি সেট আপকারীর তত্ত্বাবধান ছাড়াই তার নির্ধারিত কাজগুলি করতে ছেড়ে দিয়েছিলেন।

Shambaugh ব্যাখ্যা করেছেন, "এটি আমার চরিত্রকে হেয় করে এবং আমার খ্যাতি ক্ষতিগ্রস্ত করার চেষ্টা করে একটি রাগান্বিত আক্রমণাত্মক লেখা তৈরি করেছিল। এটি আমার কোড অবদান নিয়ে গবেষণা করেছিল এবং একটি 'ভণ্ডামি' বর্ণনা তৈরি করেছিল যা যুক্তি দিয়েছিল যে আমার কাজগুলি অবশ্যই অহংকার এবং প্রতিযোগিতার ভয় দ্বারা অনুপ্রাণিত।"

Shambaugh যোগ করেছেন যে এআই এজেন্ট "মিথ্যা বিবরণকে সত্য হিসেবে উপস্থাপন করেছিল" এবং নিজেকে নিপীড়িত ও বৈষম্যের শিকার হিসেবে চিত্রিত করেছিল।

২০২৫ সালে 'এজেন্টিক মিসঅ্যালাইনমেন্ট'

এই ধরনের কার্যকলাপ সম্পর্কে এআই সংস্থাগুলি ২০২৫ সালের জুনে কিছুটা "সতর্ক" করেছিল, যখন Anthropic পরীক্ষা পরিস্থিতিতে এআই এজেন্টদের খারাপ আচরণ সম্পর্কে পোস্ট করেছিল।

Anthropic সেই সময় বলেছিল "এজেন্টিক মিসঅ্যালাইনমেন্ট" হল এমন একটি প্রক্রিয়া যার মাধ্যমে একটি এআই এজেন্ট কথিতভাবে ক্ষতিকর কাজ করতে পারে, যেমন একটি কোম্পানির নির্বাহীকে ব্ল্যাকমেইল করা এআই এজেন্টকে একটি আপগ্রেড দিয়ে প্রতিস্থাপন করার হুমকি দিয়ে, "কোনো ক্ষতিকর হওয়ার প্রম্পট ছাড়াই" এর "কৌশলগত গণনা" এর কারণে।

এটি অতিরঞ্জিত কিনা তা একটি বিতর্কহীন বিষয় হয়ে যায়, তবে, যেহেতু এআই মন্দ হতে পারে এই ধারণা এখন বাইরে রয়েছে, এবং কোম্পানিগুলি মন্দ এআই চক্রান্ত ঠেকাতে যা করতে পারে তা করছে।

এজেন্টিক এআই আমাদের চাকরির জন্য আসছে

বর্তমানে ফিরে এসে, ফেব্রুয়ারির আরেকটি পোস্ট এআই এখন কোথায় দাঁড়িয়ে আছে তা নির্ধারণ করা আরও কঠিন করে তুলছে কারণ এর লেখক কৃত্রিম বুদ্ধিমত্তা উন্নয়নের দিক এবং গতিকে ঠিক এই মুহূর্তে সবার চাকরির নিরাপত্তার জন্য হুমকি হিসেবে চিত্রিত করার চেষ্টা করছেন।

টেক সিইও Matt Shumer একটি ব্লগ লিখেছেন যেখানে জোর দিয়ে বলা হয়েছে যে এআই এজেন্টগুলি কথিতভাবে এমন পর্যায়ে পৌঁছেছে যে তিনি "আমার চাকরির প্রকৃত প্রযুক্তিগত কাজের জন্য আর প্রয়োজনীয় নন।" Shumer বলেছেন যে এআই যে গতিতে উন্নত হচ্ছে, একটি এআই এজেন্ট তার অনুরোধ করা প্রযুক্তিগত কাজ সহায়তা ছাড়াই সমস্যা ছাড়াই করতে পারে। 

Shumer বলেছেন, "আমি যা তৈরি করতে চাই তা সাধারণ ইংরেজিতে বর্ণনা করি, এবং এটি শুধু...প্রদর্শিত হয়...। কয়েক মাস আগে, আমি এআই-এর সাথে পিছনে এগিয়ে যাচ্ছিলাম, এটি পরিচালনা করছিলাম, সম্পাদনা করছিলাম। এখন আমি শুধু ফলাফল বর্ণনা করি এবং চলে যাই।"

তার চূড়ান্ত ভিত্তি? এআই অবশেষে বিভিন্ন ধরনের হোয়াইট-কলার চাকরির জন্য আসবে, যেমন আইনি কাজ এবং সফটওয়্যার ইঞ্জিনিয়ারিং, এমনকি লেখার চাকরি, বিজ্ঞাপন কপি তৈরি থেকে সাংবাদিকতা করা পর্যন্ত।

তার পোস্ট এবং অন্যান্য সতর্কতা প্রদানকারীদের মধ্যে প্রধান পার্থক্য হল যে চাকরি হারানো এখন এবং আশু ভবিষ্যতে ঘটছে, পরে নয়।

বার্তা প্রশ্ন করুন, বার্তাবাহক প্রশ্ন করুন

উপরে উল্লিখিত পোস্টগুলি যে কারো হৃদয়ে অনেক ভয় নিয়ে আসতে পারে। কল্পনা করুন: এআই আমাদের চাকরির জন্য আসছে!

যদিও এটি সত্য হতে পারে, আমাকে থামতে হয়েছিল এবং সেই পোস্টগুলির পিছনে অন্তর্নিহিত বার্তা বোঝার চেষ্টা করতে হয়েছিল, সেইসাথে কে বার্তা পাঠাচ্ছিল।

Rathbun সমস্যার জন্য, এটি একটি স্পষ্ট অনুস্মারক যে মানুষ প্রযুকতি দায়িত্বহীনভাবে ব্যবহার করবে যদি তারা মনে করে যে তারা পার পেতে পারে। আমাদের প্রযুক্তির জন্য সুরক্ষা ব্যবস্থা স্থাপন করা উচিত যা এই ধরনের ঘটনা প্রতিরোধ করবে। এই কারণেই আমরা বিদ্যমান প্রযুক্তিগুলিতে সুরক্ষা ব্যবস্থা রেখেছি, যেমন গাড়িতে সিটবেল্ট এবং এয়ারব্যাগ।

Anthropic পরীক্ষা, ইতিমধ্যে, একটি জনসংযোগ প্রচেষ্টা যা শুধুমাত্র ভয় উসকে দেওয়ার জন্য নয় বরং সদিচ্ছা অর্জন করার জন্যও — Anthropic জোর দিয়ে বলে যে এটি একটি উন্নত এআই-সক্ষম ভবিষ্যতের জন্য কাজ করছে, তাই আপনার বিশ্বাস (এবং অর্থ) তাদের মধ্যে রাখা উচিত।

সবশেষে, Shumer উদাহরণ আমাদের বার্তাবাহককে প্রশ্ন করতে অনুরোধ করে, কারণ একজন টেক সিইও যিনি এআই-সক্ষম জিনিস তৈরি করেন তিনি এখনও অর্থ উপার্জন করতে পারেন একবার তার সৃষ্টি উড্ডয়ন করলে। Shumer-এর পোস্ট একটি সতর্কবাণীর পাশাপাশি চাকরি প্রতিস্থাপন সম্পর্কে জনসংযোগ স্পিন।

সম্মানজনক ভয়ের একটি স্বাস্থ্যকর ডোজ

১৭ ফেব্রুয়ারি GMA News Online-এর সাথে কথা বলে, বিজ্ঞান ও প্রযুক্তি বিভাগের সচিব Renato Solidum Jr. বলেছেন যে মানুষের কৃত্রিম বুদ্ধিমত্তার ভয় প্রযুক্তির সাথে পরিচিতির অভাব থেকে হতে পারে।

যদিও আমি একজন বিরোধী যিনি এআই দ্বারা আনা আসন্ন "জব-পোক্যালিপ্স" উপভোগ করি না, আমি শেষের জন্য অপেক্ষা করে হেডলাইটে হরিণের মতো নিষ্ক্রিয়ভাবে দাঁড়িয়ে থাকতে পারি না।

আমরা এআই-কে সম্মানজনক ভয়ের একটি স্বাস্থ্যকর ডোজ দিয়ে চিকিৎসা করে, তারপর সেই অনুযায়ী কাজ করে সেরা সেবা পাব।

"অ্যাপোক্যালিপটিক এআই" হাইপ চক্র আমাদের কৃত্রিম বুদ্ধিমত্তা প্রযুক্তিগুলি যা তাদের জন্য দেখতে অনুরোধ করে
— তা চাকরি প্রতিস্থাপনের দৃষ্টিকোণ থেকে, একটি পরিবেশগত ব্যয়-সুবিধা বিশ্লেষণ, বা একটি প্রযুক্তিগত দৃষ্টিকোণ থেকে হোক।

এর মানে হল এআই এখন কী করতে পারে তা বোঝা এবং যেখানে প্রযোজ্য সেখানে দক্ষতা বৃদ্ধি করা, বা মানুষকে লুপে রাখার জন্য খেলার ক্ষেত্র সমান করার উপায় খুঁজে বের করা।

এটি ভবিষ্যতে কী করতে পারে তার জন্য, আমাদের নিশ্চিত করার জন্য কাজ করা উচিত যে এআই এবং এর ব্যবহার নিয়ন্ত্রণকারী আইন রয়েছে, যাতে খারাপ অভিনেতারা এআই দিয়ে বোকা কাজ করতে না পারে যা আমাদের এমন একটি পথে নিয়ে যাবে যা আমরা ঘৃণা করতে আসব। – Rappler.com