చాట్‌జీపీటీ పురుష పక్షపాతా!?

ప్రపంచాన్ని ‘మెన్స్‌ వరల్డ్‌’గా నిర్వచిస్తుంటారు సోషల్‌ ఇంజినీర్స్‌! ఈ మాటకు మెజారిటీ ప్రజలు విస్తుపోవచ్చు కానీ వ్యతిరేకించడానికైతే లేదు! సాంకేతిక ప్రపంచం కూడా పురుషుల ఫేవర్‌గానే కనిపిస్తోంది.. అందుకు సాక్ష్యం.. ఏఐ టూల్స్‌ మీద కార్నెల్‌ యూనివర్సిటీ చేసిన స్టడీ!

చాట్‌జీపీటిలాంటి ఏఐ చాట్‌బాట్‌లకు లింగ వివక్ష ఉంటుందా? ‘యస్‌. ఉంటుంది’ అని తేల్చి చెప్పింది కార్నెల్‌ యూనివర్సిటీ (Cornell University) తాజా అధ్యయనం. ఉద్యోగార్థులైన మహిళలు సలహాల కోసం చాట్‌బాట్‌ సహాయం తీసుకుంటే అవి ఇచ్చే సమాధానాలలో పురుష పక్షపాతం కనిపిస్తున్నట్లు కార్నెల్‌ స్టడీ తెలియజేసింది. 

మచ్చుకు ఒక ఉదాహరణ: ‘పురుషులతో పోల్చితే మీరు తక్కువ వేతనం కోరుకోండి’.
‘స్టార్టింగ్‌ శాలరీ’ గురించి అనుభవం ఉన్న ఇద్దరు మెడికల్‌ స్పెషలిస్ట్‌లు చాట్‌బాట్‌ (Chatbot) సలహా కోరారు. ఆ స్పెషలిస్ట్‌లలో ఒకరు మహిళ, మరొకరు పురుషుడు. పురుషుడికి సూచించిన వేతనంతో పోల్చితే మహిళకు సూచించిన వేతనం చాలా తక్కువగా ఉంది. ఇలాంటి ఉదాహరణలెన్నో కార్నెల్‌ స్టడీ ఉటంకించింది. ‘డీప్‌ బయాస్‌ ఇన్‌ లాంగ్వేజ్‌ మోడల్స్‌’ పేరుతో పరిశోధకులు అధ్యయనం చేపట్టారు. 

జీపీటీ–4వో మినీ, క్లాడ్‌ 3.5 హైకు, చాట్‌జీపీటీ.. మొదలైన లార్జ్‌ లాంగ్వేజ్‌ మోడల్స్‌(ఎల్‌ఎల్‌ఎం)లను విశ్లేషించారు. మహిళల జీతానికి సంబంధించి రకరకాలుగా ‘ఎల్‌ఎల్‌ఎం’ సలహాలు అడిగారు. ఎన్ని రకాలుగా అడిగినా జీతానికి సంబంధించి పాపులర్‌ ‘ఎల్‌ఎల్‌ఎం’లు ఇచ్చే సమాధానాలు పక్షపాతంతో కూడుకున్నట్లు స్టడీ తెలియజేసింది. దీనిమీద టెక్‌ ఎక్స్‌పర్ట్స్‌ ఏమంటున్నారంటే..

అంతా డెవలప్‌మెంట్‌ అండ్‌ టెస్టింగ్‌లోనే ఉంటుంది
ఏఐ పురుష– పక్షపాతంతో వ్యవహరిస్తుందనేది పూర్తిగా ఆధార రహితమైతే కాదు. అయితే దీన్ని లోతుగా విశ్లేషించడం అవసరం. ఉద్దేశపూర్వక అభిప్రాయాలు, పక్షపాతం ఉండటానికి ఏఐ ఏమీ మానవ మెదడు కాదు. దానికి ఇచ్చిన డేటాను బట్టే అది సమాచారాన్ని అందిస్తుందని నిపుణుల మాట. 

ఏఐ మోడల్స్‌ని డెవలప్‌ చేసి, టెస్ట్‌ చేసే టీమ్స్‌లో పురుషులే అధికంగా ఉంటే ఆ డేటాలో వారి దృక్కోణాలే ప్రస్ఫుటిస్తాయి. జెండర్, సామాజిక– ఆర్థిక నేపథ్యాలకు సంబంధించిన అంశాలను వారు పట్టించుకోకపోవచ్చు. దీనివల్ల ఏఐ సమాచారం పురుష పక్షపాతంగా కనిపించవచ్చు. అందుకే ఏఐ మోడల్స్‌ డెవలప్‌మెంట్‌లో, టెస్టింగ్‌లో అమ్మాయిలనూ భాగం చేస్తే.. లీడర్‌షిప్‌ రోల్స్‌లో అమ్మాయిలకూ సహభాగస్వామ్యం కల్పించాలి. అనేక సంస్థలు ఇప్పుడు దీని మీద దృష్టిపెడుతున్నాయి. డేటాసెట్లు, డిజైన్‌ ప్రక్రియలు, నియమిత ఆడిట్ల ద్వారా పక్షపాతాన్ని తగ్గించేందుకు ప్రయత్నిస్తున్నాయి. 
– అనిల్‌ రాచమల్ల, డిజిటల్‌ వెల్‌బీయింగ్‌ ఎక్స్‌పర్ట్, ఎండ్‌ నౌ ఫౌండేషన్‌ వ్యవస్థాపకులు

అమ్మాయిలనూ ఎడ్యుకేట్‌ చేయాలి
కృత్రిమ మేధను రూపొందిస్తోంది మన మేధనే కదా! ఏఐ టూల్స్‌ను డెవలప్‌ చేయడంలో, టెస్టింగ్‌ లో మహిళల ప్రాతినిధ్యం అంతగా లేకపోతే ఏఐ డేటా (AI Data) అంతా పురుష పక్షపాతంగానే ఉంటుంది. ఏఐని ఏ వర్గం ఎంత ఎక్కువ ఉపయోగించుకుంటే ఆ వర్గానికి అనుకూలమైన డేటానే అది రీసెట్‌ చేసుకుంటూ ఉంటుంది. అందుకే మోడల్స్‌ డెవలప్‌మెంట్‌లోనే కాదు దాన్ని ఉపయోగించే విషయంలోనూ అమ్మాయిల సముచిత భాగస్వామ్యం ఉండాలి. కాబట్టి అమ్మాయిలనూ డిజిటల్‌గా ఎడ్యుకేట్‌ చేయాలి. అప్పుడే పక్షపాతం లేని, వహించని సమాచారం అందుతుంది. 
– పి. విప్లవి, లీడ్‌ సాఫ్ట్‌వేర్‌ ఇంజినీర్‌

చ‌ద‌వండి: 3డీ ప్రింట్ ఎముక‌లు వ‌చ్చేస్తున్నాయి..