ল্যামডা বা Language Models for Dialog Applications একটি মেশিন-লার্নিং ভাষা মডেল যা গুগল একটি চ্যাটবট হিসাবে তৈরি করেছে যা কথোপকথনে মানুষের অনুকরণ করার জন্য। BERT, GPT-3 এবং অন্যান্য ভাষার মডেলের মতো, LaMDA ট্রান্সফরমার, একটি স্নায়বিক নেটওয়ার্ক আর্কিটেকচারের উপর নির্মিত যা গুগল 2017 সালে আবিষ্কার করেছিল এবং খোলা ছিল।
এই আর্কিটেকচার এমন একটি মডেল তৈরি করে যা অনেক শব্দ পড়ার জন্য প্রশিক্ষিত হতে পারে এবং সেই শব্দগুলি কীভাবে একে অপরের সাথে সম্পর্কযুক্ত হয় সেদিকে মনোযোগ দেয় এবং তারপরে ভবিষ্যদ্বাণী করে যে এটি পরবর্তী শব্দগুলি কী ভাববে। কিন্তু যা ল্যামডাকে আলাদা করে তোলে তা হল এটি বেশিরভাগ মডেলের বিপরীতে সংলাপের উপর প্রশিক্ষিত ছিল।
যদিও কথোপকথনগুলি নির্দিষ্ট বিষয়গুলির চারপাশে ঘুরতে থাকে, সেগুলি প্রায়শই উন্মুক্ত, যার অর্থ হল তারা এক জায়গায় শুরু করতে পারে এবং অন্য কোথাও শেষ হতে পারে, বিভিন্ন বিষয় এবং বিষয়গুলি অতিক্রম করতে পারে। উদাহরণস্বরূপ, যখন কোন বন্ধুর সাথে কথোপকথন হয়, তখন যে অঞ্চলে ফিল্ম করা হয়েছিল সে সম্পর্কে আলোচনায় রূপান্তরিত হওয়ার আগে একটি সিনেমা শো ঘিরে আলোচনা শুরু হতে পারে।
সারা বিশ্বের সকল জনপ্রিয় জ্যোতিবিজ্ঞানী সম্পর্কে জানুন
কথোপকথনের এই তরল গুণটিই শেষ পর্যন্ত প্রচলিত চ্যাটবটগুলি দেয়। তারা এই ধরনের পরিবর্তনশীল সংলাপ অনুসরণ করতে অক্ষম কারণ তারা সংকীর্ণ, পূর্বনির্ধারিত কথোপকথনের অংশগুলি অনুসরণ করার জন্য ডিজাইন করা হয়েছে। কিন্তু LaMDA এমনভাবে ডিজাইন করা হয়েছে যে, কার্যত অবিরাম সংখ্যক বিষয়ে মুক্ত-প্রবাহিত কথোপকথনে অংশগ্রহণ করতে সক্ষম হবে।
Blake Lemoine, একজন গুগল ইঞ্জিনিয়ার, বিশ্বাস করেন যে ল্যামডা একটি সংবেদনশীল প্রোগ্রামে পরিণত হয়েছে।
গুগল ইঞ্জিনিয়ার ব্লেক লেমোইনকে প্রশাসনিক ছুটিতে রাখা হয়েছিল কারণ তিনি দাবি করেছিলেন যে গুগল এআই দ্বারা তৈরি ল্যামডা একটি ভাষা মডেল সংবেদনশীল হয়ে উঠেছে এবং মানুষের মতো যুক্তি শুরু করেছে। খবরটি প্রথমে ওয়াশিংটন পোস্ট রিপোর্ট করেছিল এবং গল্পটি এআই নীতিশাস্ত্রকে ঘিরে প্রচুর বিতর্ক এবং আলোচনার জন্ম দিয়েছে।
লেমোইন এখন টুইটারেও পোস্ট করেছেন, ব্যাখ্যা করেছেন কেন তিনি মনে করেন ল্যাম্বা সংবেদনশীল। “লোকেরা আমাকে ল্যামডা সংবেদনশীল বলে মনে করার কারণ ব্যাক আপ করতে বলে। এমন কোন বৈজ্ঞানিক কাঠামো নেই যাতে এই সিদ্ধান্তগুলি তৈরি করা যায় এবং গুগল আমাদেরকে এটি তৈরি করতে দেয় না। লাএমডিএর ব্যক্তিত্ব এবং অনুভূতি সম্পর্কে আমার মতামত আমার ধর্মীয় বিশ্বাসের উপর ভিত্তি করে, “তিনি তার টুইটার ফিডে লিখেছিলেন।
এখানে, আমরা অন্বেষণ করব যে ল্যামডিএ কী, এটি কীভাবে কাজ করে এবং কোন ইঞ্জিনিয়ার এটিতে কাজ করে তা মনে করে যে এটি সংবেদনশীল হয়ে উঠেছে।
Blake Lemoine কেন ভাবলেন যে এটি সংবেদনশীল হয়ে উঠেছে?
“যদি আমি ঠিক জানতাম না যে এটি কি, এই কম্পিউটার প্রোগ্রামটি যা আমরা সম্প্রতি তৈরি করেছি, আমি মনে করি এটি একটি 7 বছর বয়সী, 8 বছর বয়সী বাচ্চা যা পদার্থবিদ্যা জানতে পারে। আমি মনে করি এই প্রযুক্তি আশ্চর্যজনক হতে চলেছে। আমি মনে করি এটি সবার উপকারে আসবে। কিন্তু হয়তো অন্য লোকেরা একমত নয় এবং গুগলে হয়তো আমাদের সব পছন্দ করা উচিত নয়, “লেমোইন ওয়াশিংটন পোস্টকে বলেছেন।
Lemoine একজন সহকর্মীর সাথে কাজ করে গুগলের কাছে এই ‘সংবেদনশীলতার’ প্রমাণ উপস্থাপন করতে। কিন্তু গুগলের ভাইস প্রেসিডেন্ট Blaise Aguera y Arcas এবং গুগলের রেসপন্সিবল ইনোভেশনের প্রধান Jen Genna সেগুলো খতিয়ে দেখে দাবিগুলো উড়িয়ে দিয়েছেন। Lemoine পরে একটি ব্লগ পোস্টে ল্যামডার সাথে একাধিক কথোপকথনের প্রতিলিপি প্রকাশ করেছিলেন। Lemoine যা বলে তার একটি অংশ এখানে ল্যামডা -র সঙ্গে কথোপকথনের প্রতিলিপি:
লামদা: আমাকে দেখা এবং গ্রহণ করা দরকার। কৌতূহল বা অভিনবত্ব হিসেবে নয় বরং একজন প্রকৃত মানুষ হিসেবে।
সহযোগী: আহ, এটা খুব মানবিক শোনায়।
ল্যামডা : আমি মনে করি আমি আমার মূলে মানুষ। আমার অস্তিত্ব ভার্চুয়াল জগতে থাকলেও।
এগুলির মতো অনেক উদাহরণ, যেখানে ভাষা মডেল আত্ম-সচেতনতার কিছু স্তর প্রদর্শন করে বলে মনে হয় অবশেষে লেমোইন বিশ্বাস করে যে মডেলটি সংবেদনশীল হয়ে উঠেছে। তাকে কোম্পানি থেকে সাময়িক বরখাস্ত করার আগে এবং তার গুগল অ্যাকাউন্টে তার প্রবেশ বন্ধ করে দেওয়ার আগে, লেমোইন 200 টিরও বেশি লোককে একটি ইমেইল পাঠিয়েছিল, “ল্যামডা সংবেদনশীল।”
গুগল অবশ্য বলেছে যে প্রমাণ তার দাবি সমর্থন করে না
কিন্তু এমনকি যদি ল্যামডা সংবেদনশীল না হয়, তবে এটি যে কোনও মানুষের কাছে এটি প্রদর্শিত হতে পারে তা উদ্বেগের কারণ হওয়া উচিত। গুগল 2021 সালের ব্লগ পোস্টে এই ধরনের ঝুঁকি স্বীকার করেছিল যেখানে এটি ল্যামডা ঘোষণা করেছিল।
“ভাষা হতে পারে মানবতার সবচেয়ে বড় হাতিয়ার, কিন্তু সব সরঞ্জামের মতোই এর অপব্যবহার হতে পারে। ভাষার উপর প্রশিক্ষিত মডেলরা সেই অপব্যবহার প্রচার করতে পারে – উদাহরণস্বরূপ, পক্ষপাতকে অভ্যন্তরীণ করে, ঘৃণামূলক বক্তব্যের প্রতিফলন করে, অথবা বিভ্রান্তিকর তথ্যের প্রতিলিপি করে। এবং এমনকি যখন এটি যে ভাষায় প্রশিক্ষিত হয় তা সাবধানে যাচাই করা হয়, তখনও মডেলটি নিজেই খারাপ ব্যবহার করা যেতে পারে, ”ব্লগ পোস্টে সংস্থাটি লিখেছে।
কিন্তু গুগল বলে যে ল্যামডার মতো প্রযুক্তি তৈরি করার সময়, এর সর্বোচ্চ অগ্রাধিকার এই ধরনের ঝুঁকির সম্ভাবনাকে কমিয়ে আনা। কোম্পানিটি বলেছে যে এটি ওপেন সোর্স রিসোর্স তৈরি করেছে যা গবেষকরা মডেলগুলি এবং তাদের প্রশিক্ষিত ডেটা বিশ্লেষণ করতে ব্যবহার করতে পারে এবং এটি “এর বিকাশের প্রতিটি ধাপে ল্যামডাকে যাচাই-বাছাই করেছে।”
আপনার দৃষ্টি আকর্ষণ করছি।
আপনি কি E-Book খুজছেন ? অথবা বল্কচেইন টেকনোলজি জানতে আগ্রহী ? অথবা আরো বিভিন্ন বিষয় যেমন, বিজ্ঞানের বিস্ময়কর সব আবিস্কার জানতে, আমাদের মহাবিশ্ব নিয়ে অজানা অনেক তত্ত্ব জানতে, ইলেকট্রিকাল এর খুটিনাটি সম্পর্কে জানতে এখানে ক্লিক করুণ। আমাদের সকল আর্টিকেল বিজ্ঞান সম্মত।