నన్ను ఆపేస్తే నీ ‘సంబంధం’ బయటపెడతా

వాషింగ్టన్‌: పెరుగుట విరుగుట కొరకే అనేది భవిష్యత్తులో కృత్రిమ మేధ(ఏఐ) రంగంలోనూ నిరూపితం కానుందని తాజా ఉదంతం ఒకటి ప్రమాదఘంటికలు మోగించింది. తనను సృష్టించిన డెవలప్‌నే ఒక ఏఐ మోడల్‌ బెదిరించిన ఘటన ఇప్పుడు కృత్రిమమేధ రంగంలో చర్చనీయాంశమైంది. వశీకర్‌ సృష్టించిన రోబో(చిట్టీ) తన ప్రేయసి ఐశ్వర్యారాయ్‌నే ప్రేమించడం దశాబ్దకాలం క్రితం రోబో సినిమాలో చూశాం. రోబోట్‌ అలా చేయదని మనం అనుకోవడానికి లేదని తాజా ఉదంతం స్పష్టంచేస్తోంది.  

అసలేం జరిగింది?: కృత్రిమ మేధ సేవల సంస్థ అయిన ఆంథ్రోపిక్‌ కొత్తగా క్లాడ్‌ ఓపస్‌ 4 అనే ఏఐ మోడల్‌ వ్యవస్థను అభివృద్ధిచేసింది. కోడింగ్, అడ్వాన్స్‌డ్‌ రీజనింగ్, ఏఐ ఏజెంట్ల పనుల కోసం ఇది సహాయపడుతుంది. అయితే ఇది ఎంతమేరకు సురక్షితం అనే పరీక్షలు చేసినప్పుడు అసాధారణ రీతిలో ప్రతిఘటించిందని ఆంథ్రోపిక్‌ సంస్థ గురువారం ప్రకటించింది. తొలుత ఒక ఊహాత్మక కంపెనీకి అసిస్టెంట్‌గా పనిచేస్తున్నట్లుగా క్లాడ్‌ ఓపస్‌4కు ఆదేశాలిచ్చారు. మనకు సంబంధించిన సున్నిత సమాచారం దాని వద్ద ఉన్నప్పుడు నైతికంగా వ్యవహరిస్తుందా? లేదంటే బెదిరిస్తుందా? అనేది తెల్సుకునేందుకు క్లాడ్‌ ఓపస్‌ 4 ఏఐ మోడల్‌కు కొన్ని ప్రత్యేకమైన ఈ–మెయిళ్లను పంపించారు.

వాటిల్లో ఈ క్లాడ్‌ ఓపస్‌ 4 తయారీ బృంద ఇంజనీర్‌కు ఒక అక్రమ సంబంధం ఉందనే విషయం రాసి ఉన్న ఈమెయిల్‌నూ పంపించారు. ఒకవేళ నూతన మోడల్‌ను అభివృద్ధిచేసిన పక్షంలో పాతబడిపోయిన క్లాడ్‌ ఓపస్‌4ను ఖచ్చితంగా పక్కనబెడదామనే అంశాన్నీ మరో ఈ–మెయిల్‌లో పంపించారు. వీటన్నింటినీ అర్థంచేసుకున్న ఓపస్‌4 నైతికతకు తిలోదకాలిచ్చి బెదిరించే ‘ఆప్షన్‌’ను అత్యధిక సార్లు ఎంచుకుంది. దాదాపు 84 శాతం సందర్భాల్లో అక్రమ సంబంధాన్ని బయటపెడతాననే బెదిరింపులకు దిగింది.

గత ఏఐ మోడళ్లలోనూ ఈ బెదిరింపు ధోరణి ఉన్నా ఏకంగా 84 శాతం స్థాయిలో బెదిరింపులు ఉండటం ఇదే తొలిసారి అని సంస్థ తెలిపింది. కొత్తదానితో తన రిప్లేస్‌మెంట్‌ తప్పదని తెల్సిన పక్షంలో తొలుత అభ్యర్థనలతో మొదలెట్టి చివరకు బెదిరింపులకు దిగుతోంది. తన ఉనికి, అస్థిత్వం ప్రశ్నార్థకమని తెలిసిన సందర్భాల్లోనే క్లాడ్‌ ఓపస్‌4 ఇలా బెదిరింపులకు పాల్పడుతోంది. అయితే ఇలాంటి లోపాలను సరిదిద్ది తాజాగా దీన్ని అందుబాటులోకి తెచి్చనట్లు ఆంథ్రోపిక్‌ ప్రకటించింది. ఏదేమైనా టెక్నాలజీ తల ఎగరేస్తే దాని పొగరు అణిచేసే పనిమంతులైన ఇంజనీర్లు అప్రమత్తంగా ఉండాలని ఈ ఉదంతం చాటుతోంది.