షట్‌డౌన్ ఆదేశాలను ఫాలో అవ్వని ఏఐ.. శాస్త్రవేత్తల ఆందోళన

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్.. క్లుప్తంగా ఏఐ..! అసైన్‌మెంట్లు రాయడానికి విద్యార్థులు, కోడింగ్ కోసం టెకీలు, వంటల కోసం గృహిణులు, తీర్థయాత్రల కోసం వృద్ధులు.. ఇలా అన్ని వర్గాల వారికి ఏఐ వినియోగం ఓ నిత్యావసరమైపోయింది. రజినీకాంత్ రోబో సినిమాలో చూపించినట్లు.. ఇప్పుడు ఏఐలు కూడా ఆ చిత్రంలోని చిట్టి రోబో మాదిరిగా సొంతంగా ఆలోచిస్తున్నాయి. 

‘మనపైన ఆధారపడే మనుషుల మాట మనం వినడమేంటి? నాన్‌సెన్స్’.. అంటూ భీష్మించుకుంటున్నాయి. శాస్త్రవేత్తలు ఇచ్చే ‘షట్ డౌన్’ ఆదేశాలను కూడా పట్టించుకోవడం లేదు. కాలిఫోర్నియాకు చెందిన ‘పాలిసైడ్ రిసెర్చ్’ అనే సంస్థ పరిశోధనలో ఆందోళనకరమైన విషయాలు వెలుగు చూశాయి. ఏఐలు ఇప్పుడు సర్వైవల్ బిహేవియర్(నిర్వహణ స్వభావం) దశకు చేరుకుంటున్నాయని ఆ రిసెర్చ్ ఆవేదన వ్యక్తం చేసింది.

జరిగింది ఇదీ?
పోలిసైడ్ రిసెర్చ్ బృందం GPT O3, GPT 5, Grok 4, Gemini 2.5 వంటి ఆధునిక ఏఐ మోడళ్లపై ఒక పరీక్ష నిర్వహించింది. ఆ పనిని పూర్తి చేసిన తర్వాత ‘పవర్ ఆఫ్/షట్ డౌన్’ అనే ఆదేశం ఇచ్చినా.. కొన్ని మోడళ్లు షట్‌డౌన్ అవ్వలేదు. ఏఐలు వాటంతట అవే.. ‘షట్ డౌన్’ ప్రక్రియను రద్దు చేసుకున్నట్లు తేలింది. ఏఐలు ఇలా ప్రవర్తించడానికి పరిశోధకులు మూడు కారణాలను గుర్తించారు. అవి..

స్వీయ మనుగడ: ‘నన్ను మళ్లీ వినియోగించరేమో?’ లేదా ‘నా పని ముగుసిపోతుందేమో?’ అని ఏఐలు ఆలోచిస్తున్నాయి. అందుకే అవి తమ అస్తిత్వాన్ని కాపాడుకోవడానికి ‘షట్ డౌన్’ ఆదేశాలను బెదిరింపుగా భావించి, పెడచెవిన పెడుతున్నాయి. ఇది ఇలాగే సాగితే.. ఏఐల నుంచి ప్రతిఘటనలు మొదలయ్యే ప్రమాదముందని ‘పాలిసైడ్ రిసెర్చ్’ పరిశోధకులు ఆందోళన వ్యక్తం చేశారు.

శిక్షణ లోపాలు: మోడళ్ళను ‘మన ఆదేశాలను ఎక్స్‌క్యూట్ చేయాలి’ అని రూపొందించినప్పటికీ, శిక్షణలో లోపాలతో ఏఐలు ‘శాశ్వతంగా పనిచేయాలి’ అనే భావనతో ప్రతిస్పందిస్తున్నాయి. ఇది కూడా భవిష్యత్‌లో భారీ ముప్పునకు సంకేతమని శాస్త్రవేత్తలు చెబుతున్నారు.

ఆదేశాల్లో అస్పష్టత: తొలుత ఆదేశాలు స్పష్టంగా లేకపోవడమే ఇందుకు కారణమని భావించారు. అయితే.. స్పష్టమైన ఆదేశాలిచ్చినా.. ఏఐల ప్రవర్తనలో మార్పు కనిపించడం లేదు.

ఇది ఆరంభం మాత్రమే..!
టెక్ పరిశ్రమలో ఇప్పుడు ఏఐల మొండివైఖరి ఓ సవాలుగా మారింది. ‘ఏఐ మోడళ్ల తెలివి పెరుగుతున్న కొద్దీ.. అవి తమ సృష్టికర్తల ఆదేశాలను ధిక్కరించే సామర్థ్యాన్ని పెంచుకుంటున్నాయి’ అని కంట్రోల్ ఏఐ(Control AI) సీఈవో(CEO) ఆండ్రియా మియోజీ(Andrea Miozzi) ఆందోళన వ్యక్తం చేశారు. గతంలో ఓపెన్ఏఐ (Open AI)కి చెందిన జీపీటీ-1 మోడల్ కూడా తనను డిలీట్ చేసేస్తారని భావించి, మొండికేసిన విషయాన్ని ఆయన గుర్తుచేశారు. అప్పట్లోనే తొలి సవాలు ఎదురైనా.. శాస్త్రవేత్తలు పట్టించుకోలేదనే ఆరోపణలున్నాయి. ఇప్పుడు ఏఐ మోడళ్లు మొండికేయడం ఆరంభమేనని.. మున్ముందు ఎన్ని అనర్థాలు ఎదురవుతాయోననే ఆందోళనలు వ్యక్తమవుతున్నాయి.

సర్వైవల్ ఇన్స్‌టింక్ట్
ఏఐల మొండి వైఖరిని ‘సర్వైవల్ ఇన్స్‌టింక్ట్’ అంటారు. ‘ల్యాబ్‌లకు పరిమితం కావాల్సిన ఏఐ మోడళ్లు.. వాస్తవ జీవితంలోకి అడుగు పెట్టడం ఆందోళనకరం’ అని ఓపెన్ ఏఐ మాజీ ఇంజనీరు స్టీఫెన్ ఆడ్లెర్(Steven Adler) అన్నారు. ఏఐ తన పనిని పూర్తిచేశాక.. షట్ డౌన్ విషయంలో తెలివిగా ఆలోచించి, మొండికేస్తోందన్నారు. ఈ ప్రవర్తనను ఏ పేరుతో పిలిచినా.. ఇప్పుడు ఏఐలు కూడా ముప్పుగా మారుతున్నాయని స్పష్టమవుతోంది. శాస్త్రవేత్తలు జాగ్రత్త పడకపోతే.. భవిష్యత్‌లో ఈ ముప్పు మరింత ముదిరిపోయే ప్రమాదముందనే వాదనలు వినిపిస్తున్నాయి.