কোনো নিয়োগ সফটওয়্যার আপনার জীবনবৃত্তান্তকে কম নম্বর দিল। শিক্ষার্থীর আগের ফল দেখে একটি ব্যবস্থা ধরে নিল, সে কঠিন বিষয়ে ভালো করবে না। ঋণের আবেদন প্রত্যাখ্যাত হলো, কিন্তু সিদ্ধান্তের স্পষ্ট কারণ জানানো হলো না। এসব ফলের পেছনে AI থাকলে অনেকেই ধরে নেন, সিদ্ধান্তটি নিশ্চয়ই মানুষের পক্ষপাত থেকে মুক্ত।
এই ধারণা ঠিক নয়। AI bias বা এআই পক্ষপাত তৈরি হতে পারে পুরোনো ও অসম ডাটা, ভুল লক্ষ্য নির্ধারণ, প্রতিনিধিত্বহীন নমুনা, কারিগরি সীমাবদ্ধতা এবং AI-এর ফলের প্রতি মানুষের অতিরিক্ত আস্থা থেকে। ফলে চাকরি, শিক্ষা, ঋণ, স্বাস্থ্যসেবা বা দৈনন্দিন ডিজিটাল সেবায় নির্দিষ্ট ব্যক্তি ও গোষ্ঠী ধারাবাহিকভাবে অসুবিধায় পড়তে পারে।
মূল নীতিটি তাই সহজ: AI-এর স্কোর বা সুপারিশ সিদ্ধান্তের একটি উপাদান হতে পারে, চূড়ান্ত সত্য নয়। উচ্চ প্রভাবের সিদ্ধান্তে ফল যাচাই, ব্যাখ্যা চাওয়া এবং সিদ্ধান্ত বদলাতে সক্ষম মানব পর্যালোচনা থাকা জরুরি।
AI bias বলতে কী বোঝায়
AI bias হলো এমন একটি অবস্থা, যেখানে কোনো AI বা অ্যালগরিদমিক ব্যবস্থা নির্দিষ্ট ব্যক্তি বা গোষ্ঠীর ক্ষেত্রে ধারাবাহিকভাবে অসম, কম নির্ভুল বা অন্যায্য ফল তৈরি করে।
পক্ষপাত সব সময় প্রশিক্ষণের ডাটা থেকেই শুরু হয় না। যুক্তরাষ্ট্রের National Institute of Standards and Technology বা NIST তিনটি বড় উৎস চিহ্নিত করেছে:
- ব্যবস্থাগত পক্ষপাত: সমাজ, প্রতিষ্ঠান, আইন, রীতি বা পুরোনো প্রক্রিয়ায় থাকা অসাম্য ডাটা ও সিদ্ধান্তে ঢুকে পড়ে।
- কম্পিউটেশনাল ও পরিসংখ্যানগত পক্ষপাত: ভুল নমুনা, দুর্বল পরিমাপ, প্রতিনিধিত্বের ঘাটতি বা মডেলের সীমাবদ্ধতা থেকে তৈরি হয়।
- মানবিক চিন্তার পক্ষপাত: নির্মাতা, পরিচালনাকারী বা সিদ্ধান্ত গ্রহণকারী AI-এর ফলকে কীভাবে বোঝেন ও ব্যবহার করেন, সেখান থেকে আসে।
এ ধরনের পক্ষপাতের জন্য ইচ্ছাকৃত বৈষম্যমূলক মনোভাব থাকা আবশ্যক নয়। নির্মাতারা নিরপেক্ষ ফল চাইলেও ভুল ডাটা, দুর্বল মাপকাঠি বা ব্যবহারের অসঙ্গতি থেকে ক্ষতিকর সিদ্ধান্ত তৈরি হতে পারে। NIST-এর বিশ্লেষণ তাই AI bias-কে শুধু ডাটার সমস্যা হিসেবে না দেখে পুরো ব্যবস্থা ও ব্যবহারপ্রক্রিয়ার সমস্যা হিসেবে বিবেচনা করে।
AI কীভাবে ডাটা থেকে প্যাটার্ন শেখে, তা বুঝতে “কৃত্রিম বুদ্ধিমত্তা (AI) কী এবং কীভাবে কাজ করে?” এবং “মেশিন লার্নিং ও ডিপ লার্নিংয়ের মৌলিক পার্থক্য” নিবন্ধ দুটি প্রাসঙ্গিক অভ্যন্তরীণ লিংক হিসেবে যুক্ত করা যেতে পারে।
পক্ষপাত কীভাবে অ্যালগরিদমে ঢোকে
কোনো মডেলের কোডে সরাসরি লিঙ্গ, ধর্ম বা জাতিগত পরিচয় উল্লেখ না থাকলেও তার ফল পক্ষপাতপূর্ণ হতে পারে।
| পক্ষপাতের উৎস | কী ঘটতে পারে | সহজ উদাহরণ |
| অতীতের ডাটা | পুরোনো বৈষম্যকে সফলতার প্যাটার্ন হিসেবে শেখা | একটি পদে আগে পুরুষ বেশি নিয়োগ পেলে পুরুষদের জীবনবৃত্তান্তে বেশি দেখা বৈশিষ্ট্য গুরুত্ব পাওয়া |
| অসম প্রতিনিধিত্ব | কোনো গোষ্ঠীর নমুনা কম থাকায় ভুল বেড়ে যাওয়া | নির্দিষ্ট ভাষা বা ব্যবহারকারী গোষ্ঠীতে দুর্বল ফল |
| ভুল লক্ষ্য | আসল প্রয়োজনের বদলে সহজে মাপা যায় এমন বিষয়কে লক্ষ্য ধরা | রোগের তীব্রতার বদলে চিকিৎসা ব্যয় দিয়ে প্রয়োজন অনুমান |
| পরোক্ষ সংকেত | সংবেদনশীল পরিচয়ের বিকল্প সূচক ব্যবহার করা | পোস্টকোড, বিদ্যালয়, নাম বা ভাষা থেকে সামাজিক অবস্থার ধারণা নেওয়া |
| প্রতিক্রিয়ার চক্র | আগের সিদ্ধান্ত নতুন ডাটাকেও প্রভাবিত করা | কম সুযোগ পাওয়া গোষ্ঠীর পরবর্তী ফল দুর্বল হয়ে আবার কম সুযোগের যুক্তি হওয়া |
ভুল লক্ষ্য নির্ধারণের একটি গুরুত্বপূর্ণ উদাহরণ ২০১৯ সালে Science সাময়িকীতে প্রকাশিত গবেষণায় পাওয়া যায়। গবেষকেরা একটি বহুল ব্যবহৃত স্বাস্থ্যসেবা ব্যবস্থাপনা অ্যালগরিদমে উল্লেখযোগ্য জাতিগত পক্ষপাত শনাক্ত করেন।
অ্যালগরিদমটি রোগীর স্বাস্থ্যগত প্রয়োজন সরাসরি অনুমান না করে ভবিষ্যৎ চিকিৎসা ব্যয়কে তার বিকল্প সূচক হিসেবে ব্যবহার করছিল। একই স্কোর পাওয়া কৃষ্ণাঙ্গ রোগীরা শ্বেতাঙ্গ রোগীদের তুলনায় বেশি অসুস্থ ছিলেন। কারণ, ঐতিহাসিকভাবে কৃষ্ণাঙ্গ রোগীদের চিকিৎসায় কম অর্থ ব্যয় হয়েছিল। গবেষণাটি দেখায়, জাতিগত পরিচয় সরাসরি ইনপুট না হলেও ভুল proxy বা বিকল্প সূচক থেকে পক্ষপাত তৈরি হতে পারে।
চাকরিতে AI bias কীভাবে সুযোগ সীমিত করে
নিয়োগ ও কর্মী ব্যবস্থাপনায় সফটওয়্যার এখন জীবনবৃত্তান্ত বাছাই, অনলাইন পরীক্ষা, প্রার্থীর তালিকা তৈরি, কর্মদক্ষতা পর্যবেক্ষণ, প্রশিক্ষণ, পদোন্নতি ও বেতনের সুপারিশে ব্যবহৃত হতে পারে।
সমস্যা হলো, আগের নিয়োগের ইতিহাসকে সফলতার মানদণ্ড ধরে নিলে মডেল প্রতিষ্ঠানের পুরোনো বৈষম্যও শিখে ফেলতে পারে। যে গোষ্ঠী আগে কম সুযোগ পেয়েছে, তাকে ভবিষ্যতেও কম উপযুক্ত হিসেবে দেখানোর ঝুঁকি তখন বাড়ে।
Amazon-এর পরীক্ষামূলক নিয়োগ টুলের শিক্ষা
Reuters-এর ২০১৮ সালের অনুসন্ধান অনুযায়ী, Amazon ২০১৪ সাল থেকে প্রার্থীদের জীবনবৃত্তান্ত পর্যালোচনার জন্য একটি পরীক্ষামূলক মেশিন লার্নিং ব্যবস্থা তৈরি করছিল। মডেলগুলো প্রায় ১০ বছরের আবেদনপত্রের প্যাটার্ন থেকে শিখেছিল। ওই আবেদনগুলোর বড় অংশ এসেছিল পুরুষ প্রার্থীদের কাছ থেকে।
২০১৫ সালের মধ্যে কোম্পানি বুঝতে পারে, প্রযুক্তিগত পদের প্রার্থীদের ক্ষেত্রে ব্যবস্থা লিঙ্গনিরপেক্ষভাবে স্কোর দিচ্ছিল না। “Women’s” শব্দ থাকা জীবনবৃত্তান্তে নেতিবাচক ওজন দেওয়া হচ্ছিল। নারীদের দুটি কলেজের স্নাতকদেরও কম মূল্যায়ন করেছিল টুলটি।
নির্দিষ্ট শব্দ বাদ দিয়ে সমস্যা ঠিক করার চেষ্টা হলেও অন্য বৈষম্যমূলক প্যাটার্ন থেকে যাওয়ার আশঙ্কা ছিল। পরে প্রকল্পটি বন্ধ করা হয়। তবে এটিকে Amazon-এর স্বতন্ত্র বা চূড়ান্ত নিয়োগ ব্যবস্থা বলা ঠিক হবে না। কোম্পানি জানিয়েছিল, টুলটি নিয়োগকারীদের আনুষ্ঠানিক প্রার্থী মূল্যায়নে ব্যবহৃত হয়নি। Reuters-এর সূত্রগুলো বলেছিল, নিয়োগকারীরা এর সুপারিশ দেখতেন, কিন্তু শুধু ওই র্যাঙ্কিংয়ের ওপর নির্ভর করতেন না। তাই এটি কার্যকর নিয়োগ ব্যবস্থার চেয়ে পরীক্ষামূলক টুলের ব্যর্থতার উদাহরণ হিসেবে বেশি যথাযথ।
প্রতিবন্ধী প্রার্থীর ক্ষেত্রে বাড়তি ঝুঁকি
কম্পিউটারভিত্তিক পরীক্ষা, জীবনবৃত্তান্ত স্কোরিং বা অন্য স্বয়ংক্রিয় মূল্যায়ন কোনো প্রতিবন্ধী প্রার্থীকে এমন কারণে বাদ দিতে পারে, যা কাজটির অপরিহার্য দক্ষতার সঙ্গে সম্পর্কিত নয়।
যুক্তরাষ্ট্রের Department of Justice ও Equal Employment Opportunity Commission সতর্ক করেছে, নিয়োগে ব্যবহৃত AI ব্যবস্থা যথাযথ সুরক্ষা ছাড়া প্রয়োগ করলে প্রতিবন্ধী আবেদনকারীরা অন্যায্যভাবে বাদ পড়তে পারেন। নিয়োগকর্তাকে প্রয়োজনীয় সহায়তা বা বিকল্প মূল্যায়নের পথ রাখতে হবে এবং টুলটি বিভিন্ন ধরনের প্রতিবন্ধকতায় কী প্রভাব ফেলছে, তা পরীক্ষা করতে হবে।
এই নির্দেশনা যুক্তরাষ্ট্রের Americans with Disabilities Act-এর ভিত্তিতে তৈরি। বাংলাদেশ, ভারত বা অন্য দেশে আইনি বাধ্যবাধকতা আলাদা হতে পারে। তবে কাজের সঙ্গে সম্পর্কহীন কোনো বৈশিষ্ট্য দিয়ে প্রার্থী বাদ পড়ছে কি না, সেই প্রশ্ন সব অঞ্চলেই প্রাসঙ্গিক।
HR বিভাগের কী যাচাই করা উচিত
কোনো AI recruitment tool কেনার আগে শুধু সামগ্রিক accuracy বা বিক্রেতার বিপণন দাবি দেখা যথেষ্ট নয়। প্রতিষ্ঠানের জানতে হবে:
- পরীক্ষাটি সংশ্লিষ্ট কাজের প্রয়োজনীয় দক্ষতাই মাপছে কি না;
- বিভিন্ন গোষ্ঠীতে নির্বাচনের হার ও ভুলের হার পরীক্ষা করা হয়েছে কি না;
- স্থানীয় নাম, ভাষা ও শিক্ষাপ্রতিষ্ঠানের তথ্য ঠিকভাবে সামলাতে পারে কি না;
- প্রতিবন্ধী প্রার্থীর জন্য বিকল্প মূল্যায়নের ব্যবস্থা আছে কি না;
- প্রার্থী সিদ্ধান্তের ব্যাখ্যা বা মানব পুনর্মূল্যায়ন চাইতে পারেন কি না;
- বিক্রেতা পরীক্ষার পদ্ধতি ও সীমাবদ্ধতা প্রকাশ করছে কি না;
- নিয়োগকারী প্রয়োজনে AI-এর সুপারিশ বাতিল করতে পারেন কি না।
গোষ্ঠীভিত্তিক পরীক্ষার ফল, আপিলের ব্যবস্থা এবং মানব পর্যালোচনার ক্ষমতা না জেনে কোনো নিয়োগ টুল ব্যবহার করা ঝুঁকিপূর্ণ। “ভবিষ্যতের কর্মসংস্থানে এআই-এর প্রভাব” নিবন্ধটি এখানে প্রাসঙ্গিক অভ্যন্তরীণ লিংক হিসেবে যুক্ত করা যেতে পারে।
শিক্ষায় অ্যালগরিদমিক পক্ষপাত
শিক্ষায় AI ভর্তি, উত্তর মূল্যায়ন, শেখার ঘাটতি শনাক্ত, কোর্সের সুপারিশ, পরীক্ষার নজরদারি এবং ঝরে পড়ার ঝুঁকি অনুমানে ব্যবহৃত হতে পারে।
U.S. Department of Education-এর ২০২৩ সালের প্রতিবেদনে বলা হয়েছে, প্যাটার্ন শনাক্ত ও সিদ্ধান্ত স্বয়ংক্রিয় করার প্রক্রিয়াতেই পক্ষপাত ও অন্যায্যতা তৈরি হতে পারে। এ কারণে শিক্ষাপ্রতিষ্ঠানকে শুধু টুলের প্রযুক্তিগত সক্ষমতা নয়, তার ব্যবহারনীতি এবং সিদ্ধান্তের প্রভাবও পরীক্ষা করতে হবে। প্রতিবেদনটি শিক্ষায় AI ব্যবহারের ওপর কার্যকর শাসন ও নজরদারির প্রয়োজন তুলে ধরে।
আগের ফল ভবিষ্যতের সীমা হয়ে উঠতে পারে
ধরা যাক, কোনো ব্যবস্থা শিক্ষার্থীর আগের নম্বর, উপস্থিতি, বিদ্যালয় ও এলাকার তথ্য দেখে উন্নত গণিত কোর্সের সুপারিশ করছে। একটি অঞ্চলে শিক্ষক, প্রযুক্তি বা শেখার উপকরণ কম থাকায় শিক্ষার্থীদের আগের ফল দুর্বল হলে মডেল সেই অসাম্যকে ভবিষ্যৎ সক্ষমতার প্রমাণ ধরে নিতে পারে।
ফলে কম শিক্ষার্থী উন্নত কোর্সে ঢোকে। তাদের পরবর্তী সুযোগ ও ফলও সীমিত হয়। পরে সেই ফল নতুন প্রশিক্ষণ ডাটায় যুক্ত হয়ে আগের সিদ্ধান্তকে আরও শক্তিশালী করতে পারে। এভাবেই একটি feedback loop বা প্রতিক্রিয়ার চক্র তৈরি হয়।
বাংলায় ভালো ফলের নিশ্চয়তা নেই
NIST-এর ২০২৪ সালের Generative AI Profile-এ বলা হয়েছে, প্রতিনিধিত্বহীন প্রশিক্ষণ ডাটা থেকে বিভিন্ন উপগোষ্ঠী ও ভাষায় কর্মদক্ষতার পার্থক্য তৈরি হতে পারে। এর ফল হতে পারে বৈষম্য, ভুল ধারণা বা নির্দিষ্ট ভাষার ব্যবহারকারীদের জন্য নিম্নমানের সেবা।
ইংরেজিতে ভালো ফল দেওয়া একটি ব্যবস্থা বাংলাতেও একই মান বজায় রাখবে, এমন ধরে নেওয়া ঠিক নয়। বাংলা, বাংলা-ইংরেজি মিশ্র লেখা, স্থানীয় উদাহরণ বা আঞ্চলিক শব্দে তৈরি উত্তর মূল্যায়নের আগে সংশ্লিষ্ট ব্যবহারকারীদের ডাটায় পরীক্ষা প্রয়োজন। NIST-এর নথি ভাষা ও উপগোষ্ঠীভেদে ফলের পার্থক্যকে গুরুত্বপূর্ণ ঝুঁকি হিসেবে চিহ্নিত করেছে।
শিক্ষাপ্রতিষ্ঠানের ন্যূনতম সুরক্ষা
উচ্চ প্রভাবের সিদ্ধান্তে একটি AI score-কে একমাত্র ভিত্তি করা উচিত নয়। শিক্ষক মূল্যায়ন, শিক্ষার্থীর কাজ, শেখার সুযোগ, ভাষাগত প্রেক্ষাপট এবং প্রয়োজনীয় সহায়তা একসঙ্গে বিবেচনা করা দরকার।
শিক্ষার্থী ও অভিভাবককে অন্তত জানাতে হবে:
- কোন কাজে AI ব্যবহৃত হচ্ছে;
- কী ধরনের তথ্য সংগ্রহ করা হচ্ছে;
- ফলটি পরামর্শ, নাকি সরাসরি সিদ্ধান্ত;
- ভুল তথ্য কীভাবে সংশোধন করা যাবে;
- আপিল বা পুনর্মূল্যায়ন কে করবেন;
- AI-এর সুপারিশ বাতিল করার ক্ষমতা কার হাতে আছে।
শিক্ষকের সামনে শুধু অনুমোদনের একটি বোতাম থাকলেই সেটিকে অর্থপূর্ণ মানব নজরদারি বলা যায় না। সিদ্ধান্ত বোঝা, প্রশ্ন করা এবং প্রয়োজন হলে বদলানোর সুযোগও থাকতে হবে।
দৈনন্দিন সেবায় পক্ষপাতের প্রভাব
AI bias শুধু চাকরি ও শিক্ষায় সীমাবদ্ধ নয়। পরিচয় শনাক্তকরণ, ঋণ, বিজ্ঞাপন, কনটেন্ট সুপারিশ এবং বিভিন্ন ডিজিটাল সেবায় এর প্রভাব দেখা যেতে পারে।
মুখ শনাক্তকরণে অসম ভুলের হার
NIST-এর ২০১৯ সালের পরীক্ষায় ৯৯টি নির্মাতার ১৮৯টি অ্যালগরিদম মূল্যায়ন করা হয়েছিল। অধিকাংশ পরীক্ষিত অ্যালগরিদমে বয়স, লিঙ্গ এবং জাতিগত বা ভৌগোলিক গোষ্ঠীভেদে ভুলের পার্থক্য পাওয়া যায়। তবে সব অ্যালগরিদমের ফল এক ছিল না; বেশি নির্ভুল কয়েকটি ব্যবস্থায় পার্থক্য তুলনামূলক কম ছিল।
এ ফলকে সব বর্তমান মুখ শনাক্তকরণ প্রযুক্তির স্থায়ী বৈশিষ্ট্য হিসেবে দেখা উচিত নয়। এটি ২০১৯ সালে জমা দেওয়া নির্দিষ্ট অ্যালগরিদম ও নির্দিষ্ট ডাটাসেটের পরীক্ষা। তবু গবেষণাটি একটি গুরুত্বপূর্ণ সীমাবদ্ধতা দেখায়: শুধু সামগ্রিক accuracy প্রকাশ করলে গোষ্ঠীভিত্তিক ঝুঁকি বোঝা যায় না।
এক-থেকে-অনেক পরিচয় অনুসন্ধানে ভুল মিল তদন্ত, আটক বা অন্য গুরুতর পরিণতির ঝুঁকি তৈরি করতে পারে। একই error ফোন আনলক করার ক্ষেত্রে বিরক্তিকর হলেও আইনশৃঙ্খলা বা পরিচয় যাচাইয়ের ক্ষেত্রে তার ক্ষতি অনেক বেশি। NIST-এর মূল্যায়ন তাই ফলের পাশাপাশি ব্যবহারের ক্ষেত্রও বিবেচনার প্রয়োজন দেখায়।
ঋণের সিদ্ধান্তে নির্দিষ্ট কারণ প্রয়োজন
যুক্তরাষ্ট্রে Equal Credit Opportunity Act ও Regulation B-এর অধীনে ঋণদাতাকে আবেদন প্রত্যাখ্যান বা অন্য প্রতিকূল সিদ্ধান্তের প্রধান কারণ জানাতে হয়। Consumer Financial Protection Bureau বা CFPB স্পষ্ট করেছে, জটিল বা black-box মডেল ব্যবহার করলেও এ বাধ্যবাধকতা এড়ানো যায় না।
২০২৩ সালের অতিরিক্ত নির্দেশনায় CFPB জানায়, নমুনা ফরম থেকে কাছাকাছি কোনো কারণ বেছে নেওয়া যথেষ্ট নয়। গ্রাহককে জানানো কারণটি বাস্তবে ব্যবহৃত কারণের সঙ্গে মিলতে হবে। এই বিধান যুক্তরাষ্ট্রের জন্য প্রযোজ্য। অন্য দেশে গ্রাহকের অধিকার স্থানীয় আইন, ব্যাংকিং নীতি ও ডাটা সুরক্ষা বিধির ওপর নির্ভর করবে।
সুযোগ দেখানোর আগেই সীমা তৈরি হতে পারে
কোন চাকরি, কোর্স, বাসস্থান বা আর্থিক পণ্য কার সামনে দেখানো হবে, তাও সুযোগের বণ্টন বদলে দেয়। ব্যবস্থা অতীতের ক্লিক বা আচরণকে স্থায়ী আগ্রহ হিসেবে ধরলে ব্যবহারকারী এমন সুযোগ দেখতেই নাও পারেন, যা তার জন্য উপযোগী।
এ ধরনের পক্ষপাত শনাক্ত করা কঠিন। একজন ব্যবহারকারী সাধারণত জানেন না অন্য ব্যক্তিদের সামনে কী বিজ্ঞাপন, সুপারিশ বা সুযোগ দেখানো হয়েছে। এখানে AI সরাসরি কোনো আবেদন প্রত্যাখ্যান করছে না; সুযোগটি দেখানোর আগেই তার পরিধি ছোট করে দিচ্ছে।
সামগ্রিক accuracy কেন যথেষ্ট নয়
একটি ব্যবস্থা মোট হিসাবে ভালো ফল করলেও নির্দিষ্ট গোষ্ঠীতে তার ভুল অনেক বেশি হতে পারে। তাই শুধু গড় accuracy দেখে সিদ্ধান্ত নেওয়া উচিত নয়।
পরীক্ষায় আলাদাভাবে দেখতে হবে:
- false positive বা ভুলভাবে মিল, যোগ্যতা বা ঝুঁকি শনাক্ত করা;
- false negative বা প্রয়োজনীয় ব্যক্তি ও ঘটনাকে শনাক্ত না করা;
- ভাষা, বয়স, লিঙ্গ, অঞ্চল ও প্রাসঙ্গিক গোষ্ঠীভেদে ভুলের পার্থক্য;
- পরীক্ষাগারের তুলনায় বাস্তব ব্যবহারে ফল খারাপ হচ্ছে কি না;
- ভুলের ক্ষতি সব গোষ্ঠীর জন্য সমান কি না।
ন্যায্যতারও একটিমাত্র সর্বজনীন মাপকাঠি নেই। কোনো মডেলে নির্বাচনের হার সমান হতে পারে, কিন্তু ভুলের ধরন অসম থেকে যেতে পারে। আবার পরিসংখ্যানগত ফল কাছাকাছি হলেও একটি ব্যবস্থা প্রতিবন্ধী ব্যবহারকারীর জন্য অপ্রবেশযোগ্য হতে পারে।
NIST-এর AI Risk Management Framework বলছে, fairness-এর ধারণা সংস্কৃতি, ব্যবহারক্ষেত্র ও ক্ষতির ধরন অনুযায়ী বদলাতে পারে। ক্ষতিকর পক্ষপাত কমে গেলেই একটি ব্যবস্থা স্বয়ংক্রিয়ভাবে ন্যায্য হয়ে যায় না।
Human-in-the-loop থাকলেই ঝুঁকি শেষ হয় না
Human-in-the-loop বলতে AI-এর ফলের সঙ্গে মানুষের বিচার যুক্ত রাখাকে বোঝায়। কিন্তু একজন কর্মকর্তা যদি AI-এর প্রতিটি সুপারিশ প্রায় স্বয়ংক্রিয়ভাবে অনুমোদন করেন, তবে মানুষের উপস্থিতি বাস্তব সুরক্ষা দেয় না।
এটি automation bias-এর ঝুঁকি। অর্থাৎ স্বয়ংক্রিয় ব্যবস্থার ফলকে অতিরিক্ত নির্ভরযোগ্য ধরে নিয়ে মানুষ নিজের বিচার, বিরোধী তথ্য বা ব্যতিক্রম উপেক্ষা করতে পারেন।
কার্যকর মানব পর্যালোচকের থাকতে হবে:
- সিদ্ধান্ত বদলানোর বাস্তব ক্ষমতা;
- পর্যাপ্ত সময় ও প্রশিক্ষণ;
- মডেল কী মাপে এবং কী মাপে না, তার ধারণা;
- বাড়তি প্রমাণ দেখার সুযোগ;
- AI-এর সঙ্গে দ্বিমত করার স্বাধীনতা;
- পরিবর্তিত সিদ্ধান্তের কারণ নথিবদ্ধ করার ব্যবস্থা।
যুক্তরাজ্যের Information Commissioner’s Office মানব পর্যালোচকের জ্ঞান, কর্তৃত্ব ও স্বাধীনতা, নিয়মিত bias testing, override log এবং প্রয়োজন হলে manual fallback রাখার পরামর্শ দিয়েছে।
তবে ৩১ জুলাই, ২০২৬-এ সংশ্লিষ্ট নির্দেশনার পৃষ্ঠায় উল্লেখ ছিল, Data (Use and Access) Act-এর পরিবর্তনের কারণে নির্দেশনাটি পর্যালোচনাধীন এবং বদলাতে পারে। তাই এটি ব্যবহারিক সুশাসনের নির্দেশনা হিসেবে উপযোগী হলেও যুক্তরাজ্যের বর্তমান আইনের পূর্ণাঙ্গ সারাংশ হিসেবে ব্যবহার করা উচিত নয়।
একটি প্রতিষ্ঠান কীভাবে ঝুঁকি কমাতে পারে
AI bias একবার পরীক্ষা করে স্থায়ীভাবে সমাধান করা যায় না। ডাটা, ব্যবহারকারী, নীতি ও বাস্তব পরিবেশ বদলালে মডেলের ফলও বদলাতে পারে। NIST-এর AI Risk Management Framework তাই পুরো AI lifecycle জুড়ে ঝুঁকি ব্যবস্থাপনার কথা বলে।
প্রথম প্রশ্ন হওয়া উচিত—এ কাজে AI সত্যিই প্রয়োজন কি না। সহজ নিয়ম বা দক্ষ মানুষের মূল্যায়ন কম ঝুঁকিতে একই কাজ করতে পারলে জটিল মডেল ব্যবহার সব সময় যুক্তিসংগত নয়।
ব্যবহারের আগে প্রতিষ্ঠানকে যাচাই করতে হবে:
১. ভুল হলে কার ক্ষতি সবচেয়ে বেশি হবে;
২. প্রশিক্ষণ ও পরীক্ষার ডাটা বাস্তব ব্যবহারকারীদের প্রতিনিধিত্ব করে কি না;
৩. মডেলটি আসল লক্ষ্য মাপছে, নাকি দুর্বল proxy;
৪. প্রাসঙ্গিক গোষ্ঠীভিত্তিক ফল ও ভুল পরীক্ষা করা হয়েছে কি না;
৫. বিক্রেতা সীমাবদ্ধতা ও পরিচিত ঝুঁকি জানিয়েছে কি না;
৬. ক্ষতিগ্রস্ত ব্যক্তি ব্যাখ্যা, সংশোধন ও আপিলের সুযোগ পাবেন কি না;
৭. গুরুতর সমস্যা হলে ব্যবস্থা বন্ধ বা manual process-এ ফেরার পরিকল্পনা আছে কি না।
ব্যবহার শুরুর পরও পর্যবেক্ষণ থামানো যাবে না। কোনো বিভাগ, ভাষা, অঞ্চল বা গোষ্ঠী অস্বাভাবিক হারে বাদ পড়ছে কি না, তা নিয়মিত পরীক্ষা করতে হবে। নতুন সংস্করণ, ডাটা বা ব্যবহারের উদ্দেশ্য বদলালে পুনর্মূল্যায়ন প্রয়োজন।
সংবেদনশীল ব্যক্তিগত তথ্য সংগ্রহের ক্ষেত্রে সংশ্লিষ্ট দেশের গোপনীয়তা ও ডাটা সুরক্ষা আইন মেনে চলতে হবে। পক্ষপাত পরীক্ষা করার নামে প্রয়োজনের অতিরিক্ত তথ্য সংগ্রহ করাও গ্রহণযোগ্য নয়।
UNESCO-এর ২০২১ সালের Recommendation on the Ethics of Artificial Intelligence মানবাধিকার, ন্যায্যতা, স্বচ্ছতা, জবাবদিহি ও মানব নজরদারিকে দায়িত্বশীল AI ব্যবহারের নীতির মধ্যে রেখেছে। এটি আন্তর্জাতিক নীতিগত মানদণ্ড, বাধ্যতামূলক বৈশ্বিক আইন নয়।
AI-এর সিদ্ধান্তে ক্ষতিগ্রস্ত মনে হলে কী করবেন
চাকরি, ভর্তি, ঋণ বা অন্য গুরুত্বপূর্ণ সিদ্ধান্তে অ্যালগরিদম ব্যবহারের সন্দেহ হলে সিদ্ধান্তসংক্রান্ত ইমেইল, স্কোর, বিজ্ঞপ্তি এবং জমা দেওয়া তথ্য সংরক্ষণ করুন।
প্রতিষ্ঠানের কাছে নির্দিষ্টভাবে জানতে চাইতে পারেন:
- সিদ্ধান্তটি সম্পূর্ণ স্বয়ংক্রিয় ছিল কি না;
- কোন তথ্য বা মাপকাঠি সবচেয়ে বেশি প্রভাব ফেলেছে;
- ভুল তথ্য সংশোধনের পথ কী;
- একজন মানুষ পুনর্মূল্যায়ন করতে পারবেন কি না;
- প্রতিবন্ধকতা বা প্রযুক্তিগত সমস্যার জন্য বিকল্প প্রক্রিয়া আছে কি না;
- আনুষ্ঠানিক অভিযোগ বা আপিল কোথায় করতে হবে।
ব্যাখ্যা না পাওয়া মানেই সিদ্ধান্তটি বৈষম্যমূলক—এমন সিদ্ধান্তে সরাসরি যাওয়া ঠিক নয়। আবার “কম্পিউটার সিদ্ধান্ত নিয়েছে” বলেও কোনো প্রতিষ্ঠানের দায়িত্ব শেষ হয় না।
আইনি অধিকার দেশ ও খাতভেদে বদলায়। গুরুতর কর্মসংস্থান, আর্থিক বা শিক্ষাগত ক্ষতির ক্ষেত্রে সংশ্লিষ্ট নিয়ন্ত্রক সংস্থা, আইনজীবী, শ্রমিক প্রতিনিধি বা প্রতিষ্ঠানের আনুষ্ঠানিক অভিযোগব্যবস্থা থেকে সহায়তা নেওয়া প্রয়োজন হতে পারে।
AI-কে সহকারী রাখুন, চূড়ান্ত বিচারক নয়
AI bias মোকাবিলায় কোনো একক fairness score, ডাটা পরীক্ষা বা প্রযুক্তিগত সমাধান যথেষ্ট নয়। পক্ষপাত কম এমন একটি মডেলও ভুল লক্ষ্য, দুর্বল প্রয়োগ বা অকার্যকর মানব নজরদারির কারণে অন্যায্য ফল দিতে পারে।
উচ্চ প্রভাবের সিদ্ধান্তে প্রতিষ্ঠানের প্রথম কাজ হওয়া উচিত তিনটি বিষয় নিশ্চিত করা: প্রাসঙ্গিক গোষ্ঠীভিত্তিক ফল পরীক্ষা, সিদ্ধান্তের নির্দিষ্ট ব্যাখ্যা এবং সিদ্ধান্ত বদলাতে সক্ষম মানব পর্যালোচনা।
AI দ্রুত অনেক তথ্য বিশ্লেষণ করতে পারে। কিন্তু কে চাকরি পাবে, কোন শিক্ষার্থী সুযোগ পাবে বা কার আবেদন প্রত্যাখ্যাত হবে—এ ধরনের সিদ্ধান্তের জবাবদিহি প্রতিষ্ঠানের মানুষের কাছেই থাকতে হবে। অ্যালগরিদম সিদ্ধান্তে সহায়তা করতে পারে; দায় নেওয়ার বিকল্প হতে পারে না।
শেষ কথা
AI bias-এর ঝুঁকি কমানোর কাজ কোনো একবারের অডিটে শেষ হয় না। ডাটা, ব্যবহারকারী, নীতি ও ব্যবহারের পরিবেশ বদলালে একই মডেলের ফলও বদলে যেতে পারে। তাই চাকরি, শিক্ষা, ঋণ বা অন্য উচ্চ প্রভাবের সিদ্ধান্তে AI-এর স্কোরকে চূড়ান্ত রায় হিসেবে নেওয়া উচিত নয়।
প্রতিষ্ঠানের দায়িত্ব হলো গোষ্ঠীভিত্তিক ফল পরীক্ষা করা, সিদ্ধান্তের বোধগম্য ব্যাখ্যা দেওয়া এবং আপত্তি উঠলে একজন প্রশিক্ষিত মানুষকে তা পুনর্মূল্যায়নের সুযোগ দেওয়া। আর ব্যবহারকারীর দায়িত্ব হলো স্বয়ংক্রিয় সিদ্ধান্তকে অন্ধভাবে মেনে না নিয়ে প্রয়োজন হলে কারণ, সংশোধন ও আপিলের পথ জানতে চাওয়া।
AI দ্রুত সিদ্ধান্তে সহায়তা করতে পারে। কিন্তু ন্যায্যতা, জবাবদিহি ও ক্ষতির দায় মানুষের হাতেই থাকতে হবে।
প্রায়শই জিজ্ঞাসিত প্রশ্ন
AI bias ও AI hallucination কি একই বিষয়?
না। AI bias হলো নির্দিষ্ট ব্যক্তি বা গোষ্ঠীর ক্ষেত্রে ধারাবাহিকভাবে অসম বা ক্ষতিকর ফল তৈরি হওয়া। AI hallucination বা confabulation হলো ভুল বা ভিত্তিহীন তথ্যকে সত্যের মতো উপস্থাপন করা। একই ব্যবস্থায় দুটি ঝুঁকিই থাকতে পারে।
লিঙ্গ বা জাতিগত পরিচয় ডাটা থেকে বাদ দিলেই কি পক্ষপাত দূর হয়?
না। নাম, ভাষা, পোস্টকোড, বিদ্যালয় বা পেশাগত বিরতির মতো তথ্য সংবেদনশীল পরিচয়ের proxy হিসেবে কাজ করতে পারে। তাই একটি কলাম বাদ দেওয়ার পাশাপাশি গোষ্ঠীভিত্তিক ফল ও ভুলের হারও পরীক্ষা করতে হয়।
AI bias কি পুরোপুরি দূর করা সম্ভব?
নির্দিষ্ট ব্যবস্থার পরিমাপযোগ্য পক্ষপাত অনেকটাই কমানো সম্ভব। তবে সব ব্যবহারক্ষেত্র, গোষ্ঠী ও ন্যায্যতার সংজ্ঞা একসঙ্গে পূরণ করার একক মাপকাঠি নেই। বাস্তব লক্ষ্য হলো ঝুঁকি চিহ্নিত করা, কমানো এবং নিয়মিত পর্যবেক্ষণ করা।
মানুষের অনুমোদন থাকলে কি AI-এর সিদ্ধান্ত নিরাপদ?
শুধু অনুমোদনের ধাপ থাকলেই নয়। পর্যালোচকের সময়, জ্ঞান, স্বাধীনতা এবং সিদ্ধান্ত বদলানোর ক্ষমতা থাকতে হবে। তা না হলে human-in-the-loop একটি আনুষ্ঠানিক ধাপেই সীমাবদ্ধ থাকে।
