ఏఐనీ తప్పుదోవ పట్టిస్తున్నారు!

కంపెనీల డేటాకు పొంచి ఉన్న ‘ప్రాంప్ట్‌’ గండం

సాక్షి, సిటీబ్యూరో: ఇటీవలి కాలంలో కృత్రిమ మేధ (ఏఐ) విస్తృతి పెరుగుతోంది... చిన్న చిన్న స్టార్టప్స్‌ నుంచి బడా మల్టీ నేషనల్‌ కంపెనీల వరకు అంతా దీనిపై ఆధారపడుతున్నారు... ప్రతి ఒక్కరూ అన్ని అంశాలకు ‘ఏఐ చాట్‌బోట్‌’ సహాయం తీసుకుంటున్నారు. తనలో పోస్టు చేసే సందేహాలకు క్షణాల్లో సమాధానాలు ఇవ్వడం, పని వేగం పెంచడం, ఖర్చు తగ్గించడం ఇలా అనేక ప్రయోజనాలు ఉండటంతో అనేక సంస్థలు దీనిపై ఆధారపడుతున్నాయి. ఇదంతా నాణానికి ఒక కోణమే... మరో కోణంలో ‘ప్రాంప్ట్‌ ఇంజెక్షన్‌’ రూపంలో పెను ముప్పు పొంచి ఉందని హైదరాబాద్‌ పోలీసు కమిషనర్‌ విశ్వనాథ్‌ చన్నప్ప సజ్జనర్‌ హెచ్చరిస్తున్నారు. దీనికి సంబంధించి కీలక సూచనలు, సలహాలను ఆయన సోమవారం విడుదల చేశారు.

ప్రాంప్ట్‌ ఇంజెక్షన్‌ అంటే ఏమిటి?

సాధారణంగా ఏఐ పని చేయడానికి వినియోగదారుడు ఇచ్చే ఆదేశాలను ప్రాంప్ట్‌ అంటారు. ఈ ప్రాంప్ట్‌లనే సైబర్‌ నేరగాళ్లు తమ ఆయుధంగా మార్చుకుంటున్నారు. ఏఐ మోడల్‌ను తప్పుదోవ పట్టించేలా, ట్రిక్‌ చేసేలా ‘మలీషియస్‌ ప్రాంప్ట్స్‌’ వాళ్లు ఇస్తున్నారు. ఇలా సైబర్‌ నేరగాళ్లు ఏఐని సైతం తమ మాటలతో మాయ చేస్తున్నారు. ఇలా ఐఏ ద్వారానే ఆయా సంస్థలు సాధారణంగా బయటపెట్టకూడని అంతర్గత పత్రాలు, కస్టమర్ల రికార్డులు, సిస్టమ్‌ వివరాలను రాబట్టేస్తున్నారు. దీన్నే సాంకేతిక పరిభాషలో ప్రాంప్ట్‌ ఇంజెక్షన్‌ అటాక్స్‌ అని పిలుస్తున్నారు.

పెను సవాల్‌గా మారిన డేటా భద్రత

ప్రస్తుతం పలు సంస్థలు తమ ఏఐ మోడల్స్‌, చాట్‌బోట్‌లను సంస్థలోని కీలకమైన డేటా సిస్టమ్‌లకు అనుసంధానిస్తున్నాయి. సీఎంఆర్‌ డేటా, హెల్ప్‌డెస్క్‌ టికెట్లు, ఉద్యోగుల సమాచారం, ఫైనాన్షియల్‌ రికార్డులు ఇన్నీ అందుబాటులో ఉంచుతున్నారు. ఎండ్‌ యూజర్‌కు ఈ సమాచారం పొరపాటున కూడా కనిపించకూడదు. కానీ, హ్యాకర్లు వేసే ఒకే ఒక్క ‘ట్రిక్కీ ప్రాంప్ట్‌’ వల్ల ఈ గోప్య సమాచారం అంతా బయటపడే ప్రమాదం ఉంటుంది. ఒకసారి హ్యాకర్లు కంపెనీల సిస్టంలోకి ప్రవేశించిన తర్వాత కీలక డేటాకు యాక్సస్‌ దొరక్కపోయినా... మలీషియస్‌ ప్రాంప్ట్స్‌ ద్వారా తమ పని కానిచ్చేస్తున్నారు.

దీనికి ‘గార్డ్‌రెయిల్స్‌’తోనే చెక్‌ సాధ్యం

ఇలాంటి మలీషియస్‌ ప్రాంప్ట్స్‌ ముప్పును పసిగట్టి, నిరోధించడానికి ఆయా సంస్థలు ‘ప్రాంప్ట్‌ గార్డ్‌రెయిల్స్‌’ ఏర్పాటు చేసుకోవాల్సిన అవసరం ఉంది. సైబర్‌ నేరగాళ్లకు పూర్తి స్థాయిలో చెక్‌ చెప్పడానికి కేవలం సింగిల్‌ లేయర్‌ భద్రత సరిపోదు. ఇలాంటి వాటిని సైబర్‌ నేరగాళ్లు తేలిగ్గా బ్రేక్‌ చేస్తారని, అలా కాకుండా ఉండటానికి మల్టీ–లేయర్‌ డిఫెన్స్‌ విధానాన్ని ఏర్పాటు చేసుకోవాల్సి ఉంటుంది. దీంతో పాటు నిపుణుల సహాయంతో ఏఐకి సేఫ్టీ ట్రైనింగ్‌ ఇవ్వడం, హార్డ్‌ గైడ్‌లైన్సెస్‌ విధించడం ద్వారా ఎవరికిపడితే వారికి కీలక సమాచారం చేరకుండా ఇవ్వకుండా నియంత్రించాలి.

తమకు అనుకూలమైన కమాండ్లతో భారీ స్కామ్స్‌

దీనికి ప్రాంప్ట్‌ గార్డ్‌రెయిల్స్‌ వినియోగమే పరిష్కారం

అప్రమత్తత జారీ చేసిన నగర కొత్వాల్‌ వీసీ సజ్జనర్‌

ఇలాంటి జాగ్రత్తలు సైతం అనివార్యం

డేటాకు హానికలిగించే ప్రాంప్ట్‌లను గుర్తించే వ్యవస్థలను కచ్చితంగా ఏర్పాటు చేసుకోవాలి. దీన్ని ప్రాంప్ట్‌–లెవల్‌ సెక్యూరిటీ అంటారు. అలాగే సిస్టమ్‌–లెవల్‌ సెక్యూరిటీగా పిలిచే ఏఐకి యాక్సెస్‌ ఇచ్చే డేటా, ఏపీఐలపై కఠిన నియంత్రణ ఏర్పాటు చేసుకోవాలి. క్రమం తప్పకుండా ఎప్పటికప్పుడు సెక్యూరిటీ ఆడిట్స్‌ నిర్వహిస్తూ డేటా యాక్సెస్‌ను అవసరమైన మేరకు పరిమితం చేయాలి. ఇలాంటి సరైన భద్రతా చర్యలు తీసుకోకపోతే సంస్థల కార్యకలాపాలు స్తంభించిపోవడంతో పాటు, విలువైన డేటా నేరగాళ్ల చేతికి చిక్కి కోలుకోలేని నష్టం ఏర్పడే ప్రమాదం పొంచి ఉంది.

ఏఐనీ తప్పుదోవ పట్టిస్తున్నారు!

ఏఐనీ తప్పుదోవ పట్టిస్తున్నారు!

ఏఐనీ తప్పుదోవ పట్టిస్తున్నారు!