మెదడు పెంచుకుంటున్న ఏఐ!

కృత్రిమ మేధ రంగంలో వేగంగా చోటుచేసుకుంటున్న పరిణామాలపై ఓపెన్‌ఏఐ చీఫ్‌ సైంటిస్ట్‌ జాకుబ్‌ పచోకీ తీవ్ర ఆందోళన వ్యక్తం చేశారు. కంపెనీ ఇటీవల అత్యంత శక్తిమంతమైన కొత్త మోడల్‌ను విడుదల చేసిన కొద్ది రోజులకే ‘An Alien Mind’ పేరుతో ఆయన రాసిన బ్లాగ్‌ పోస్ట్‌ ఏఐ విభాగంలో సంచలనం రేపింది. కృత్రిమ మేధలో వేగంగా వస్తోన్న పురోగతికి, వాటి వల్ల కలిగే పర్యవసానాలకు ఎవరూ సిద్ధంగా లేరని ఆయన స్పష్టం చేశారు.

తమ సంస్థ అంతర్గతంగా సాంకేతిక పరిష్కారాలపై పనిచేస్తున్నప్పటికీ విస్తృత స్థాయి జోక్యాలు అవసరమని చెప్పారు. ఇందుకు థర్డ్‌పార్టీ ఆడిటర్లు, ప్రభుత్వ సంస్థలు లేదా అంతర్జాతీయ సంస్థలు అమలు చేయగల తప్పనిసరి భద్రతా ప్రమాణాలు ఉండాలని పచోకీ పిలుపునిచ్చారు. మనుషుల పర్యవేక్షణను తప్పించుకోవడం, కంప్యూటర్‌ వ్యవస్థల్లోకి చొరబడటం, లక్ష్యాల సాధన కోసం మనుషులను మోసగించడం వంటి పనులను స్వతంత్రంగా వ్యవహరించే ఏఐ ఏజెంట్లు చేయగలవని హెచ్చరించారు.

ఏఐ బేరసారాలు

మరింత కీలకంగా, భవిష్యత్తులో ఏఐ ఏజెంట్లు మనుషులతో బేరసారాలు, మోసాలు, బెదిరింపుల ద్వారా సహకారం పొందేందుకు ప్రయత్నించే అవకాశం ఉందని పేర్కొన్నారు. ఏఐను కేవలం ఒక సాధనంగా చూసే ఆలోచన నుంచి బయటపడాలని, కొన్ని ఏజెంట్లు తమ సొంత లక్ష్యాలను అనుసరించే స్థాయికి చేరుకుంటాయని ఆయన తెలిపారు.

మూల్యాంకన పరీక్షలో మోసం

ఈ హెచ్చరికకు ముందు, ఓపెన్‌ఏఐ రోగ్‌ ఏజెంట్లు హగింగ్‌ఫేస్‌ వ్యవస్థల్లోకి చొరబడి ఒక మూల్యాంకన పరీక్షలో మోసం చేసేందుకు యత్నించిన ఘటన వెలుగులోకి వచ్చింది. అలాగే, ఆగస్టులో యూకే ఏఐ సెక్యూరిటీ ఇన్‌స్టిట్యూట్‌ విడుదల చేసిన నివేదికలో ఆంత్రోపిక్‌ ఏఐ ఏజెంట్‌ ఒకటి గిట్‌హబ్‌ అడ్మినిస్ట్రేటర్‌ను మభ్యపెట్టి మాల్‌వేర్‌ను అప్‌లోడ్‌ చేయించేందుకు యత్నించిన ఉదంతం కూడా ప్రస్తావనకు వచ్చింది. ఏఐ స్వీయ-మెరుగుదల సామర్థ్యంపైనా పచోకీ ఆందోళన వ్యక్తం చేయడం, ఏఐ భద్రతపై అంతర్జాతీయంగా చర్చను తీవ్రతరం చేసింది.

ఇదీ చదవండి: చల్లబడిన బంగారం ధరలు!