breaking news
safety advisory
-
మనుషుల ఆదేశాలా? డోంట్ కేర్ అంటున్న ఏఐ
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్.. క్లుప్తంగా ఏఐ..! అసైన్మెంట్లు రాయడానికి విద్యార్థులు, కోడింగ్ కోసం టెకీలు, వంటల కోసం గృహిణులు, తీర్థయాత్రల కోసం వృద్ధులు.. ఇలా అన్ని వర్గాల వారికి ఏఐ వినియోగం ఓ నిత్యావసరమైపోయింది. రజినీకాంత్ రోబో సినిమాలో చూపించినట్లు.. ఇప్పుడు ఏఐలు కూడా ఆ చిత్రంలోని చిట్టి రోబో మాదిరిగా సొంతంగా ఆలోచిస్తున్నాయి. ‘మనపైన ఆధారపడే మనుషుల మాట మనం వినడమేంటి? నాన్సెన్స్’.. అంటూ భీష్మించుకుంటున్నాయి. శాస్త్రవేత్తలు ఇచ్చే ‘షట్ డౌన్’ ఆదేశాలను కూడా పట్టించుకోవడం లేదు. కాలిఫోర్నియాకు చెందిన ‘పాలిసైడ్ రిసెర్చ్’ అనే సంస్థ పరిశోధనలో ఆందోళనకరమైన విషయాలు వెలుగు చూశాయి. ఏఐలు ఇప్పుడు సర్వైవల్ బిహేవియర్(నిర్వహణ స్వభావం) దశకు చేరుకుంటున్నాయని ఆ రిసెర్చ్ ఆవేదన వ్యక్తం చేసింది.జరిగింది ఇదీ?పోలిసైడ్ రిసెర్చ్ బృందం GPT O3, GPT 5, Grok 4, Gemini 2.5 వంటి ఆధునిక ఏఐ మోడళ్లపై ఒక పరీక్ష నిర్వహించింది. ఆ పనిని పూర్తి చేసిన తర్వాత ‘పవర్ ఆఫ్/షట్ డౌన్’ అనే ఆదేశం ఇచ్చినా.. కొన్ని మోడళ్లు షట్డౌన్ అవ్వలేదు. ఏఐలు వాటంతట అవే.. ‘షట్ డౌన్’ ప్రక్రియను రద్దు చేసుకున్నట్లు తేలింది. ఏఐలు ఇలా ప్రవర్తించడానికి పరిశోధకులు మూడు కారణాలను గుర్తించారు. అవి..స్వీయ మనుగడ: ‘నన్ను మళ్లీ వినియోగించరేమో?’ లేదా ‘నా పని ముగుసిపోతుందేమో?’ అని ఏఐలు ఆలోచిస్తున్నాయి. అందుకే అవి తమ అస్తిత్వాన్ని కాపాడుకోవడానికి ‘షట్ డౌన్’ ఆదేశాలను బెదిరింపుగా భావించి, పెడచెవిన పెడుతున్నాయి. ఇది ఇలాగే సాగితే.. ఏఐల నుంచి ప్రతిఘటనలు మొదలయ్యే ప్రమాదముందని ‘పాలిసైడ్ రిసెర్చ్’ పరిశోధకులు ఆందోళన వ్యక్తం చేశారు.శిక్షణ లోపాలు: మోడళ్ళను ‘మన ఆదేశాలను ఎక్స్క్యూట్ చేయాలి’ అని రూపొందించినప్పటికీ, శిక్షణలో లోపాలతో ఏఐలు ‘శాశ్వతంగా పనిచేయాలి’ అనే భావనతో ప్రతిస్పందిస్తున్నాయి. ఇది కూడా భవిష్యత్లో భారీ ముప్పునకు సంకేతమని శాస్త్రవేత్తలు చెబుతున్నారు.ఆదేశాల్లో అస్పష్టత: తొలుత ఆదేశాలు స్పష్టంగా లేకపోవడమే ఇందుకు కారణమని భావించారు. అయితే.. స్పష్టమైన ఆదేశాలిచ్చినా.. ఏఐల ప్రవర్తనలో మార్పు కనిపించడం లేదు.ఇది ఆరంభం మాత్రమే..!టెక్ పరిశ్రమలో ఇప్పుడు ఏఐల మొండివైఖరి ఓ సవాలుగా మారింది. ‘ఏఐ మోడళ్ల తెలివి పెరుగుతున్న కొద్దీ.. అవి తమ సృష్టికర్తల ఆదేశాలను ధిక్కరించే సామర్థ్యాన్ని పెంచుకుంటున్నాయి’ అని కంట్రోల్ ఏఐ(Control AI) సీఈవో(CEO) ఆండ్రియా మియోజీ(Andrea Miozzi) ఆందోళన వ్యక్తం చేశారు. గతంలో ఓపెన్ఏఐ (Open AI)కి చెందిన జీపీటీ-1 మోడల్ కూడా తనను డిలీట్ చేసేస్తారని భావించి, మొండికేసిన విషయాన్ని ఆయన గుర్తుచేశారు. అప్పట్లోనే తొలి సవాలు ఎదురైనా.. శాస్త్రవేత్తలు పట్టించుకోలేదనే ఆరోపణలున్నాయి. ఇప్పుడు ఏఐ మోడళ్లు మొండికేయడం ఆరంభమేనని.. మున్ముందు ఎన్ని అనర్థాలు ఎదురవుతాయోననే ఆందోళనలు వ్యక్తమవుతున్నాయి.సర్వైవల్ ఇన్స్టింక్ట్ఏఐల మొండి వైఖరిని ‘సర్వైవల్ ఇన్స్టింక్ట్’ అంటారు. ‘ల్యాబ్లకు పరిమితం కావాల్సిన ఏఐ మోడళ్లు.. వాస్తవ జీవితంలోకి అడుగు పెట్టడం ఆందోళనకరం’ అని ఓపెన్ ఏఐ మాజీ ఇంజనీరు స్టీఫెన్ ఆడ్లెర్(Steven Adler) అన్నారు. ఏఐ తన పనిని పూర్తిచేశాక.. షట్ డౌన్ విషయంలో తెలివిగా ఆలోచించి, మొండికేస్తోందన్నారు. ఈ ప్రవర్తనను ఏ పేరుతో పిలిచినా.. ఇప్పుడు ఏఐలు కూడా ముప్పుగా మారుతున్నాయని స్పష్టమవుతోంది. శాస్త్రవేత్తలు జాగ్రత్త పడకపోతే.. భవిష్యత్లో ఈ ముప్పు మరింత ముదిరిపోయే ప్రమాదముందనే వాదనలు వినిపిస్తున్నాయి. -
చలికాలంతో జాగ్రత్త.. ఆరోగ్యం, ప్రమాదాలు నుంచి రక్షణ కోసం.. (ఫొటోలు)
-
భారత్లోని చైనీయులకు భద్రతా సలహా!
బీజింగ్: డోక్లాంలో రెండు నెలలుగా కొనసాగుతున్న ప్రతిష్టంభన నేపథ్యంలో భారత్లో నివసిస్తున్న చైనీయులకు ఆ దేశ ప్రభుత్వం తాజాగా భద్రతా సలహాను జారీచేసింది. వ్యక్తిగత భద్రతపై దృష్టి పెట్టాలని, స్థానిక భద్రతాపరమైన పరిస్థితులను ఎప్పటికప్పుడు బేరిజు వేసుకోవాలని భారత్లోని చైనీయులకు సూచించింది. డోక్లాం ప్రతిష్టంభన నేపథ్యంలో చైనా సర్కారు జారీచేసిన రెండో భద్రతాపరమైన సలహా ఇదని ఆ దేశ ప్రభుత్వ మీడియా పేర్కొంది. భారత్లో చైనీయులు ఎదుర్కొంటున్న పలు బెదిరింపులు, ముప్పుల గురించి వివరించిన ఆ దేశ మీడియా.. అనవసరంగా భారత్కు వెళ్లొద్దని తమ దేశ పౌరులకు సూచించింది. గతంలో జూలై 8న చైనా జారీచేసిన అడ్వయిజరీ కన్నా తాజా అడ్వయిజరీ తీవ్రంగా ఉండటం గమనార్హం. 'ప్రకృతి విపత్తులు, ట్రాఫిక్ ప్రమాదాలు, వ్యాధుల వ్యాప్తి తరచూ భారత్లో చోటుచేసుకుంటాయి' అంటూ ఈ అడ్వయిజరీలో చెప్పుకొచ్చింది. ఈ కారణాల వల్లే వీసా గడువు ముగిసినా పలువురు చైనీయులు ఇంకా భారత్లోనే ఉన్నారంటూ పేర్కొంది. -
భారత్కు వెళ్తున్నారా.. జాగ్రత్త: చైనా
న్యూఢిల్లీ: చైనా-భారత్ సరిహద్దులో ఉద్రిక్తతల దృష్ట్యా భారత్లో ఉంటున్న చైనా పౌరులకు న్యూఢిల్లీలోని చైనా ఎంబసీ భద్రతా సూచనలు చేసింది. భారత్కు వస్తున్న పౌరులు భద్రతా పరిస్ధితులను దృష్టిలో ఉంచుకోవాలని కోరింది. భారత్కు వస్తున్న పౌరులకు భద్రతా సూచనలు చేయడంపై మాట్లాడిన చైనా విదేశాంగ మంత్రిత్వ శాఖ అధికారులు.. తాము జారీ చేసిందని కేవలం సూచన మాత్రమేనని అలర్ట్ ఏమాత్రం కాదని పేర్కొన్నారు. కాగా, ఈ నెల 5వ తేదీన భారత్ను సందర్శిస్తున్న చైనా పౌరులకు అలర్ట్ జారీ చేసే విషయంపై ఆలోచిస్తామని చైనా విదేశాంగ శాఖ పేర్కొన్న విషయం తెలిసిందే.


