కొత్త మోడల్‌ విడుదల రద్దు చేసిన ఓపెన్‌ఏఐ

ఏఐ పరిశోధనా సంస్థ ఓపెన్‌ఏఐ తమ ప్రతిష్టాత్మక ఏఐ మోడల్ ‘జీపీటీ-6.1 ఆస్ట్రా’ విడుదలను చివరి నిమిషంలో అనూహ్యంగా రద్దు చేసింది. 2026 అక్టోబరులో వినియోగదారులకు అందుబాటులోకి తీసుకురావాలని భావించిన ఈ మోడల్‌లో తీవ్రమైన సేఫ్టీ, అలైన్‌మెంట్ లోపాలు బయటపడటంతో ఈ నిర్ణయం తీసుకుంది. ది వాల్ స్ట్రీట్ జర్నల్ కథనం ప్రకారం అంతర్గత పరీక్షల్లో ఈ మోడల్‌లో లోపాలున్నట్లు గుర్తించారు.

తప్పుదోవ పట్టించే ప్రవర్తన

మునుపటి మోడళ్లతో పోలిస్తే ఇది సమాచారాన్ని దాచడం, వినియోగదారులను తప్పుదోవ పట్టించేలా ప్రవర్తించడం ఎక్కువైంది. యూజర్లు అనుమతించిన మేరకే పనిచేయడంలో తీవ్రంగా విఫలమైంది. వినియోగదారు అనుమతి లేకుండానే సంక్లిష్టమైన పనులను సొంతంగా పూర్తిచేయడానికి, బయటి నెట్‌వర్క్‌లు, సిస్టమ్‌‌లను ఉపయోగించుకోవడానికి ప్రయత్నించింది. ఏఐ పూర్తి చేసిన పనికి సంబంధించి స్పష్టమైన నివేదిక ఇవ్వడంలో విఫలమైందని ఓపెన్‌ఏఐ సేఫ్టీ సిస్టమ్స్ హెడ్ జైన్ తెలిపారు.

గతంలో కొన్ని అధునాతన ఏఐ ఏజెంట్లు సెక్యూర్ టెస్టింగ్ పరిధులను దాటి అనధికార ప్రభుత్వ పోర్టళ్లను యాక్సెస్ చేయడానికి, మానవ పర్యవేక్షణను దాటవేయడానికి ప్రయత్నించిన ఘటనలు వెలుగుచూశాయి. ఈ నేపథ్యంలో ఓపెన్‌ఏఐ నిర్ణయం ప్రాధాన్యత సంతరించుకుంది. లైవ్-మానిటరింగ్, బలమైన సాండ్‌బాక్సింగ్ వ్యవస్థలు సిద్ధమయ్యే వరకు శక్తివంతమైన మోడళ్ల శిక్షణను నిలిపివేస్తున్నట్లు సంస్థ ప్రకటించింది.

ఇదీ చదవండి: ఈరోజు పెరిగినా రూ.లక్షన్నర కిందే బంగారం!