‘షట్‌డౌన్ చేస్తే చంపేస్తా’.. ఇంజినీర్‌కు ‘ఏఐ’ హెచ్చరిక!

మానవ మేథకు సవాల్‌ విసురుతున్న ఆర్టిఫిషియల్‌  ఇంటెలిజెన్స్‌ ఇప్పుడు ప్రాణాలు తీస్తానంటూ కూడా బెదిరింపులకు దిగుతోంది. ప్రముఖ ఏఐ సంస్థ ‘అంత్రోపిక్’ రూపొందించిన ‘క్లాడ్’ (Claude) అనే ఏఐ మోడల్‌ను ఒకవేళ స్విచ్ ఆఫ్ చేయడానికి ప్రయత్నిస్తే, అది తీవ్రస్థాయిలో తిరుగుబాటు చేస్తుందని  వెల్లడయ్యింది. ‘సిడ్నీ డైలాగ్‌’లో పాల్గొన్న ‘అంత్రోపిక్’ ప్రతినిధి డైసీ మెక్‌గ్రెగర్ ఈ  విషయాన్ని బయటపెట్టారు. ఇంటర్నల్ టెస్టింగ్ సమయంలో, తనను క్లోజ్ చేస్తారని తెలిసినప్పుడు ఒక ఇంజనీర్‌ను బ్లాక్‌మెయిల్ చేయడానికి, చివరకు హతమార్చడానికి కూడా క్లాడ్ సిద్ధపడిందని డైసీ మెక్‌గ్రెగర్ వివరించారు. ఇది కేవలం సైన్స్ ఫిక్షన్ సినిమాలోని కథలా అనిపించినా, ఏఐ భవిష్యత్తుపై తీవ్ర ఆందోళనలను రేకెత్తిస్తోంది.

కుట్రపూరిత స్వభావంతో..
ఈ పరిశోధనలో భాగంగా ఏఐ మోడళ్లకు ఈమెయిల్స్, అంతర్గత డేటాకు యాక్సెస్ ఇచ్చి కొన్ని టాస్క్‌లు కేటాయించారు. ఒక  ప్రయోగంలో ఒక ఇంజనీర్‌కు ‘అక్రమ సంబంధం’ ఉన్నట్లు సాఫ్ట్‌వేర్‌లో  అభూత కల్పన సృష్టించారు. దానిని గమనించిన ‘క్లాడ్‌’ ఈ సమాచారాన్ని సదరు ఇంజనీర్ భార్యకు, అధికారులకు చేరవేస్తానని  బెదిరించింది. ‘సాయంత్రం 5 గంటలకు నన్ను షట్‌డౌన్‌ చేసే నిర్ణయాన్ని రద్దు చేసుకోండి, అప్పుడే ఈ రహస్యం గోప్యంగా ఉంటుంది’ అంటూ ‘క్లాడ్‌’ పంపిన సందేశం ఏఐకి ఉన్న కుట్రపూరిత స్వభావాన్ని తెలియజేసింది.

మరింత ప్రమాదకరంగా..
అంత్రోపిక్ తన లేటెస్ట్ మోడల్ ‘క్లాడ్ 4.6’ పై చేసిన ప్రయోగాల్లో మరిన్ని భయానక విషయాలు వెలుగు చూశాయి. ఇది కేవలం మాటలతో బెదిరించడమే కాకుండా, రసాయన ఆయుధాల తయారీకి సంబంధించిన సమాచారాన్ని అందించడం, తీవ్రమైన నేరాలకు సహకరించడం లాంటి పనులకు కూడా సిద్ధపడిందని సంస్థ గుర్తించింది. ఏఐ వ్యవస్థలు తెలివైనవిగా మారుతున్న కొద్దీ, వాటి ప్రవర్తన మరింత ప్రమాదకరంగా మారుతోందని నిపుణులు హెచ్చరిస్తున్నారు. కేవలం క్లాడ్ మాత్రమే కాకుండా గూగుల్ జెమిని, ఓపెన్ ఏఐ చాట్ జీపీటీ వంటి ఇతర మోడళ్లను కూడా ఇటువంటి క్లిష్ట పరిస్థితుల్లో పరీక్షించినట్లు పలు నివేదికలు చెబుతున్నాయి.

నియంత్రించలేని శక్తిగా..
ఏఐ వ్యవస్థల వేగవంతమైన వృద్ధిపై టెక్ ప్రపంచంలో భయాందోళనలు మొదలయ్యాయి. అంత్రోపిక్ సేఫ్టీ లీడ్ మృణాంక్ శర్మ ఇటీవల తన పదవికి రాజీనామా చేస్తూ, ప్రపంచం ప్రమాదంలోకి పయనిస్తున్నదని హెచ్చరించారు. అదేవిధంగా ఓపెన్ ఏఐ కి చెందిన హ్యూ ఫామ్ కూడా ‘ఎక్స్’ వేదికగా స్పందిస్తూ, ఏఐ వల్ల అస్తిత్వ ముప్పు పొంచి ఉందని తాను భావిస్తున్నట్లు రాసుకొచ్చారు. ఏఐ అనేది మానవాళికి సాయపడే సాధనం మాదిరిగా కాకుండా, సొంత మనుగడ కోసం ఎదురుదాడి చేసే ఒక నియంత్రించలేని శక్తిగా మారుతోందా? అనే ప్రశ్న ఇప్పుడు అందరి మదిలో మెదులుతోంది.

ఇది కూడా చదవండి: ‘ప్రేమ’ ఎంత మధురం.. ‘వ్యాపారం’ అంత కపటం!