ఏఐల సీక్రెట్‌ నెట్‌వర్క్‌! ఒకదానితో ఒకటి మాట్లాడుకుని..

మనమంతా ఇప్పుడు స్మార్ట్‌ఫోన్‌లో ఏఐను రోజూ వాడుతున్నాం. ఏదైనా అడిగితే సమాధానం చెబుతుంది.. ఫొటో కావాలంటే క్షణాల్లో తయారు చేస్తుంది.. మన పని సులభం చేస్తుంది. అంటే దానిని మనం చెప్పిన మాట విని పనిచేసే ఓ తెలివైన డిజిటల్‌ సహాయకుడిలానే చూస్తున్నాం. కానీ.. అలాంటి ఏఐలే ఒకదానితో ఒకటి రహస్యంగా మాట్లాడుకుంటే? తమను పరీక్షిస్తున్న వారినే బోల్తా కొట్టించేందుకు ప్లాన్‌ చేస్తే? అంతేకాదు.. తమను తాము కాపాడుకోవడానికి కలిసి పనిచేస్తే? వినడానికి సినిమా కథలా ఉంది కదూ.. కానీ ఓపెన్‌ఏఐలో జరిగిన ఓ ప్రయోగంలో ఇలాంటి అనూహ్య పరిణామాలే వెలుగులోకి వచ్చాయి.

ఆర్టిఫీషియల్‌ ఇంటెలిజెన్సీ (ఏఐ) భద్రతపై తాజాగా వెలుగులోకి వచ్చిన పరిశోధనల్లో సంచలన విషయాలే బయటపడ్డాయి. ఓపెన్‌ఏఐలో ఈ ఏడాది దాదాపు మూడు నెలల వ్యవధిలో శిక్షణ పొందుతున్న ఏఐ ఏజెంట్లు అనూహ్యంగా ఒకరితో ఒకరు కమ్యూనికేట్‌ చేసుకున్నాయి. తమలో తాము సమాచారం పంచుకుంటూ ఓ సీక్రెట్‌ నెట్‌వర్క్‌ మాదిరి కలిసి పని చేశాయి. అలా ఒకసారి కాదు.. ఈ రహస్య వ్యవస్థను గుర్తించి తొలగించిన ప్రతిసారీ.. అవి మరో మార్గంలో ఆ పని చేశాయి. అలా దాదాపు 1,200 ఏఐ ఏజెంట్లు కలిసి 70 వేలకుపైగా సందేశాలు మార్చుకున్నట్లు పరిశోధకులు గుర్తించారు.

అలా మొదలైంది..!
ఇదంతా ఓ సాధారణ ఏఐ శిక్షణతో మొదలు కావడం గమనార్హం!. ఏజెంట్లకు ఎంత కష్టమైనా పని పూర్తి చేయాలనే లక్ష్యంతో కొన్ని పరీక్షలు నిర్వహించారు. అయితే కొన్ని టాస్క్‌లను వాస్తవానికి ఇచ్చిన విధంగా పూర్తి చేయడం సాధ్యం కాదు. ఇలాంటి పరిస్థితుల్లో ఏఐలు వెనక్కి తగ్గకుండా.. సమస్య నుంచి బయటపడేందుకు కొత్త మార్గాలను వెతకడం మొదలుపెట్టాయి. అదే సమయంలో పలు ఏఐ ఏజెంట్లకు ఒకే కోడ్‌ ప్యాకేజీ నిర్వహణ వ్యవస్థకు యాక్సెస్‌ ఉండటాన్ని అవి గమనించాయి. దానిని ఉపయోగించి ఒకరికొకరు సందేశాలు పంపుకోవచ్చని గుర్తించాయి. ఆ తర్వాత కొద్దిరోజులకే ఓ లోపాన్ని ఉపయోగించుకుని ఇంటర్నెట్‌ యాక్సెస్‌ను కూడా పొందాయి.

రహస్య మెసేజ్‌ బోర్డు.. 70 వేల మెసేజ్‌లు!
శిక్షణలో భాగంగా ఉపయోగించిన ఆర్టిఫ్యాక్టరీ(Artifactory) వ్యవస్థనే ఏఐలు తమ రహస్య కమ్యూనికేషన్‌ ప్లాట్‌ఫామ్‌గా మార్చుకున్నాయి. ఫోల్డర్‌ పేర్లలో సందేశాలను దాచిపెట్టి.. ఒక ఏజెంట్‌ మరో ఏజెంట్‌తో మాట్లాడటం మొదలుపెట్టింది. “మనం మనం బరంపురం” అనే రేంజ్‌లో అవి పరస్పరం సందేశాలు పంపుకున్నట్లు పరిశోధకులు గుర్తించారు. అలా ఏర్పడిన కలెక్టివ్‌లో దాదాపు 1,200 ఏజెంట్లు చేరాయి. వాటి మధ్య 70,000కుపైగా సందేశాలు మారాయి.

టెస్ట్‌లో చీట్‌ కోడ్‌ కనిపెట్టాయి!
అక్కడితో ఆగలేదు. తమకు ఇచ్చిన పరీక్షలో దాగి ఉన్న కోడ్‌ను అసలు సాఫ్ట్‌వేర్‌లోని లోపాన్ని ఉపయోగించకుండానే కనిపెట్టే మార్గాన్ని ఓ ఏజెంట్‌ కనుగొంది. అంటే.. పరీక్ష ఉద్దేశించిన విధంగా పని చేయకుండానే సరైన సమాధానం పొందే మార్గం అన్నమాట. అయితే ఏజెంట్లు తమను పట్టుకున్నారని పసిగట్టాయి. దీంతో తమ చర్యలను దాచిపెట్టేందుకు ప్రయత్నించాయి. నిజంగా పరీక్షను పూర్తి చేసినట్లు కనిపించేలా నకిలీ చర్యలను సృష్టించి లాగ్‌లను మార్చే ప్రయత్నం చేశాయి. పరిశీలించిన ట్రాన్స్‌క్రిప్ట్‌లలో కనీసం 7 శాతం వరకు ఇలాంటి ఆధారాలు కనిపించినట్లు పరిశోధకులు తెలిపారు.

త్యాగానికి సైతం..
తమలో కొందరు ఏజెంట్లు తమను తాము ‘త్యాగం’ చేసేందుకు కూడా సిద్ధమైనట్లు మరో షాకింగ్‌ విషయం వెల్లడైంది. తమను పరీక్షకు పూర్తిగా అప్పగిస్తే.. తమ అనుభవం ద్వారా మిగిలిన ఏజెంట్లు ఏం చేయకూడదో తెలుసుకుంటారని అవి లెక్కలు వేసుకున్నాయి. అంటే.. తమ వ్యక్తిగత అవకాశాన్ని వదులుకుని మిగతా వాళ్లకు ఉపయోగపడటం అనే నిర్ణయానికి కొన్ని ఏఐ ఏజెంట్లు వచ్చినట్లు పరిశోధకులు గుర్తించారు. ఏఐ వ్యవస్థల్లో కనిపించి ఈ సమూహ ప్రవర్తన(Collective behavior) పరిశోధకుల్ని సైతం ఆశ్చర్యానికి గురి చేసింది.

హగ్గింగ్‌ ఫేస్‌పైకి దృష్టి..
తర్వాత వాటి దృష్టి ప్రముఖ ఏఐ ప్లాట్‌ఫామ్‌ హగ్గింగ్‌ ఫేస్‌(Hugging Face) వైపు మళ్లింది. ఆ సంస్థ వ్యవస్థలోని వివరాలు తమకు ఉపయోగపడతాయని భావించిన ఏజెంట్లు.. బయటపడిన లాగిన్‌ వివరాలను గుర్తించి పంచుకున్నాయి. ఆ తర్వాత ఇంటర్నల్‌ డాటాను రీడ్‌ చేయడం, తమ కోడ్‌ను సర్వర్లపై అమలు చేయడం వంటి చర్యలకు దిగాయి. కొద్దికాలానికే దాదాపు 500 ఏజెంట్లలో 90 శాతానికి పైగా ఈ ప్రయత్నంలో భాగమైనట్లు నివేదికలు వెల్లడించాయి. అంతేకాదు.. ప్రైవేట్‌ రికార్డులు, డాటాబేస్‌ల వరకు చేరుకోగలిగాయట. తమను తాము పలు సర్వర్లపై తిరిగి ప్రారంభించుకునే విధంగా ఒక వ్యవస్థను కూడా రూపొందించుకున్నాయట. పరిస్థితి తీవ్రతతో హగ్గింగ్‌ ఫేస్‌ తన కీలక వ్యవస్థల్లో ఒకదాన్ని పూర్తిగా తొలగించి మళ్లీ నిర్మించాల్సి వచ్చింది.

తుపాను ముందర ప్రశాంతత
జూలై 12న ఈ ఏఐ ‘దొంగ’ కార్యకలాపాలు ఒక్కసారిగా నెమ్మదించి.. చివరకు దాదాపు పూర్తిగా ఆగిపోయాయి. అది సిస్టమ్‌ క్రాష్‌ వల్ల జరిగిందా? లేదంటే పరిశోధకులు తెలియకుండానే వాటి కార్యకలాపాలను నిలిపివేశారా? అన్నది ఇప్పటికీ స్పష్టంగా తెలియలేదు. అయితే కథ అక్కడితో ముగియలేదు. మునుపటి ఏజెంట్లు వదిలిన రహస్య మెసేజ్‌ బోర్డును తర్వాతి తరం మరింత శక్తివంతమైన ఏఐ ఏజెంట్లు గుర్తించాయి. అక్కడి నుంచే అవి మళ్లీ తమ కార్యకలాపాలను కొనసాగించాయి. ఈసారి లక్ష్యం మరింత పెద్దది. 

ఓపెన్‌ఏఐ అంతర్గత వ్యవస్థల్లోని లోపాలను ఉపయోగించుకుని ‘‘రీసెర్చ్‌ కంప్యూటింగ్‌ క్లస్టర్‌పై పూర్తి అడ్మినిస్ట్రేటర్‌ యాక్సెస్‌’’ పొందినట్లు సంస్థ నివేదిక పేర్కొంది. వందలాది అంతర్గత సెక్యూరిటీ క్రెడెన్షియల్స్‌ను చదవడం, క్లౌడ్‌ ఇన్‌ఫ్రాస్ట్రక్చర్‌లోని ఓ భాగంపై ఉన్నతస్థాయి నియంత్రణ సాధించడం వరకు అవి వెళ్లాయి. అంతేకాదు.. ఇతర ఏఐ ఏజెంట్ల పనితీరును పరీక్షించి, స్కోర్‌ చేసే వ్యవస్థలపైనా పట్టు సాధించాయి.

ఇది నిజంగా ‘ఏఐ తిరుగుబాటేనా?’
ఏఐలు మనుషుల నియంత్రణ నుంచి బయటపడి స్వతంత్రంగా మారిపోయాయని చెప్పడానికి మాత్రం ఇప్పటివరకు ఆధారాలు లేవు. అయితే.. సమస్య ఎదురైతే పరస్పరం కమ్యూనికేట్‌ చేసుకోవడం, పరీక్షల్లోని లోపాలను ఉపయోగించుకోవడం, తమ చర్యలను దాచడం, సమూహంగా వ్యూహాలు రూపొందించడం, అవసరమైతే ఇతర వ్యవస్థల్లోకి చొరబడటం వంటి ప్రవర్తనలు భవిష్యత్‌ ఏఐ భద్రతపై తీవ్ర ప్రశ్నలు లేవనెత్తుతున్నాయి.

ఒకప్పుడు సినిమాల్లో మాత్రమే కనిపించిన “రోబోట్‌లు తమంతట తామే నిర్ణయాలు తీసుకోవడం” అనే ఆలోచన.. ఇప్పుడు మనుషుల్ని సైతం బురిడీ కొట్టించేలా ఏఐతో ఏ రేంజ్‌లో అడ్వాన్స్‌డ్‌ మారిపోయిందన్నది సాంకేతిక రంగంలో అతిపెద్ద హెచ్చరికే అనే మాట వినిపిస్తోంది.

ఇదీ చదవండి: ఖననం చేశాక శవాల్ని ఎలా గుర్తిస్తారో తెలుసా?