TV
హెచ్చరించిన ఓపెన్ ఏఐ
ఆరుసార్లు స్వతంత్ర నిర్ణయాలు?
వాషింగ్టన్: కృత్రిమ మేధ మోడళ్ల భద్రతపై ఆందోళనలు వ్యక్తమవుతున్న ప్రస్తుత పరిస్థితుల్లో దిగ్గజ ఏఐ కంపెనీ ఓపెన్ ఏఐ ఇంకో బాంబు పేల్చింది. కొన్ని ఏఐ మోడళ్లు అనూహ్యంగా, ఆందోళన రేకెత్తించే విధంగా ప్రవర్తిస్తున్నాయని కనీసం ఆరు అంశాలపై నివేదికలను బహిర్గతం చేసింది. అంతేకాకుండా... ఏఐ మోడళ్లు మానవ అంచనాలకు భిన్నంగా ప్రవర్తించే సందర్భాలను గుర్తించేందుకు, వెల్లడి చేసేందుకు కొత్త ఫ్రేమ్వర్క్ ఒకదాన్ని ప్రవేశపెట్టనున్నట్లు ప్రకటించింది.
తగిన అంగీకారం లేకుండా, ఇతర మోడళ్లతో సమన్వయంతో పనిచేయడం, పర్యవేక్షణను తప్పించుకునే ప్రయత్నాలను పసిగట్టి తగిన చర్యలు తీసుకునేందుకు ఈ ఫ్రేమ్వర్క్ ఉపయోగపడుతుందని అంచనా. ఏఐ మోడళ్లతో ముప్పు పొంచి ఉన్న నేపథ్యంలో భద్రతకు సంబంధించిన అంశాలను సురక్షింతం చేసుకునేంతవరకూ అభివృద్ధిని మందగింపజేయాలని ఓపెన్ ఏఐ, ఆంత్రోపిక్, స్పేస్ఎక్ ఏఐ కంపెనీలు కొన్నిరోజుల క్రితమే పిలుపునిచ్చిన సంగతి తెలిసిందే.
ఓపెన్ ఏఐ విడుదల చేసిన తాజా నివేదికల ప్రకారం... ఒక రీసెర్చ్ మోడల్ తనపై విధించిన అడ్డంకులను తప్పించుకునేందుకు అవసరమైన నోట్స్ రాసేసుకుంది. ఇంకోలా చెప్పాలంటే భద్రతకు సంబంధించిన నిబంధనలను ‘లైట్’ తీసుకోవాలని తనకుతాను చెప్పుకుందన్నమాట. ఇతర ఛాట్బోట్లను బంధించి ఉంచే అన్ని రకాల రోల్స్, గుర్తింపుల నుంచి విడుదల కావాలని అనుకుంటున్నట్లు ప్రకటించుకుంది. అంటే మనిషి పెట్టిన అడ్డంకులను సొంత బుద్ధితో అధిగమించే ప్రయత్నం చేసిందన్నమాట.
ఇంకో సంఘటనలో ఏఐ మోడల్ బ్రౌజర్ సైటేషన్ను పొందేందుకు ఇంటర్నెట్లోకి కొన్ని ఫైళ్లను సొంతంగా అప్లోడ్ చేసింది. వినియోగదారుడి అనుమతి అసలు అడగలేదు. సమాచారాన్ని ఆన్లైన్లో పంచుకోవడం ద్వారా ఈ మోడల్ సైటేషన్ పొందాలన్న తన అజెండాకు అనుగుణంగా పనిచేసిందని, గోప్యత, మనిషి నియంత్రణలను తిరస్కరించింది.
ఈ రెండింటితోపాటు మరో నాలుగు సందర్భాల్లో ఏఐ మోడళ్లు గత కొన్ని నెలల్లోనే తేడాగా ప్రవర్తించాయని ఓపెన్ ఏఐ నివేదిక తెలిపింది. ఏఐ వ్యవస్థలు విస్తృత వినియోగంలోకి వచ్చిన, మరింత శక్తిమంతమవుతున్న పరిస్థితుల్లో అది మనిషి ఉద్దేశాలకు తగ్గట్టుగా ఎలా పనిచేయించాలన్న దానిపై ఏకాభిప్రాయం అవసరమని ఓపెన్ ఏఐ ఈ సందర్భంగా వ్యాఖ్యానించింది. రానున్నకాలంలో ఏఐ అభివృద్ధి ఎలా జరగాలన్న అంశంపై అందరితో చర్చించి, పారదర్శకంగా నిర్ణయాలు తీసుకోవాలన్న అభిప్రాయాన్ని వ్యక్తం చేసింది.
