మనిషిని నమ్మడమే మనకు రక్ష

బీజింగ్‌లో జరిగిన ‘చైనా డెవెలప్‌మెంట్‌ ఫోరమ్‌’లో భాగంగా ‘ఏఐ సమ్మిళిత వృద్ధి’ అనే అంశంపై 2025 మార్చి 24న ఇజ్రాయెల్‌ చరిత్రకారుడు, రచయిత యువల్‌ నోవా హరారీ ప్రసంగించారు. ఆ వీడియోను ‘ఏఐ అండ్‌ ద పారడాక్స్‌ ఆఫ్‌ ట్రస్ట్‌’ పేరిట తన యూట్యూబ్‌ ఛానల్‌లో జూన్‌ 30న పోస్ట్‌ చేశారు. ఆ ప్రసంగ సంక్షిప్త పాఠం:

హలో, ఎవ్రీవన్‌! ఈ సదస్సులో పాల్గొనడాన్ని ఒక గౌరవంగా భావిస్తున్నాను. నన్ను ఆహ్వానించినందుకు ధన్యవాదాలు. ఎక్కువ సమయం లేనందువల్ల కొద్దిసేపే మాట్లాడతాను. ముఖ్యంగా నేను మూడు ప్రశ్నలు లేవనెత్తదలిచాను. ఒకటి: కృత్రిమ మేధ (ఏఐ) అంటే ఏమిటి? 

రెండు: ఏఐ వల్ల కలిగే ప్రమాదం ఏమిటి? మూడు: ఏఐ యుగంలో మానవాళి ఎలా వర్ధిల్లుతుంది?
ఏఐ చుట్టూ ఎంత ప్రచారం అల్లుకుందంటే, అయినదానికి కానిదానికి కూడా ఆ పదబంధాన్ని ఉపయోగిస్తున్నారు. ఏఐ అంటే ఆటొమేషన్‌ కాదని స్పష్టంగా చెప్పదలచుకున్నాను. ఏఐ మన చేతుల్లోని పనిముట్టు కాదు. ఏఐ ఒక ఏజెంట్‌. ఒక యంత్రం ఆటొమేటిక్‌గా పనిచేయగలిగినంత మాత్రాన అది ఏఐ కాదు. దానికి నేర్చుకునే సామర్థ్యం ఉండాలి. దానికది మార్పు చేసుకోగలగాలి.

1. నిజంగా ఏఐ ఏమిటో మనకు అర్థమైందా?
కాఫీ మెషీన్‌నే తీసుకోండి. బటన్‌ నొక్కిన వెంటనే ముందుగా నిర్దేశించిన ప్రకారం ఎస్ప్రెసో కాఫీని అందిస్తుంది. ఇది ఏఐ కిందకు రాదు. ఆ యంత్రం నేర్చుకోవడం గానీ, కొత్తదాన్ని సృష్టించడం గానీ జరగలేదు. కానీ, మీరు బటన్‌ నొక్కకముందే, ‘‘మిమ్మల్ని నేను కొన్ని వారాలుగా గమనిస్తూ వస్తున్నాను. 

మీ గురించి నేను తెలుసుకున్న అన్ని విషయాలను బట్టి, మీరు ఎస్ప్రెసోను ఇష్టపడతారని అనుకుంటున్నాను’’ అందనుకోండి. అది ఏఐ అవుతుంది. మరుసటి రోజు అదే మెషీన్, ‘‘నేనొక కొత్త పానీయాన్ని కనుగొన్నాను. దాన్ని మీరు ఎస్ప్రెసో కన్నా ఎక్కువ ఇష్టపడతారనిపిస్తోంది. తాగి చూడండి’’ అందనుకోండి. అది సిసలైన ఏఐ అవుతుంది.

ఏజెన్సీతోపాటు ఏఐకి ఉండే మరో ముఖ్య లక్షణం, అది పరాయిది. దాని తెలివితేటలు మనిషి లాంటివి కావు. ఆర్గానిక్‌ కాదు. అది మానవాళికి అనుభవంలో లేని నిర్ణయాలను తీసుకుంటుంది. 

‘గో’ ఛాంపియన్‌ లీ సెడాల్‌ను 2016లో ఆల్ఫా–గో ఏఐ ఓడించడమే అందుకు తిరుగులేని ఉదాహరణ(‘గో’ అనేది ఒక బోర్డ్‌ గేమ్‌). ఒక మనిషిని ఏఐ ఓడించడమే కాదు, గెలవడం కోసం ఆల్ఫా–గో అంతవరకు గో ఆటలో వేలాది ఏళ్ళుగా మానవ ఆటగాళ్ళకు తట్టని వ్యూహాలను కనుగొంది. 

క్రీడల్లో గెలిచేందుకు కొత్త మార్గాలను లేదా కొత్త రకం కాఫీలను ఏఐ కనుగొనడం అంత ముఖ్యమైనదిగా కనిపించకపోవచ్చు. కానీ ఏఐ త్వరలోనే నూతన సైనిక, ఫైనాన్షియల్‌ వ్యూహాలను, కొత్త రకం ఆయుధాలను, కరెన్సీలను కనుగొనవచ్చు. కొత్త సిద్ధాంతాలను, మతాలను రూపొందించినా ఆశ్చర్యపోనవసరం లేదు.

2.మనిషిని నమ్మరు, మెషీన్‌ను నమ్ముతారట!
ఇపుడు ఏఐ వల్ల పొంచి ఉన్న ప్రమాదం ఏమిటనే రెండవ ప్రశ్నకు వెళదాం.  ఏఐకి అపారమైన సానుకూల ప్రయోజనాలను సృష్టించగల శక్తిసామర్థ్యాలు ఉన్నాయనడంలో ఎవరికీ సందేహం లేదు. కొత్త ఔషధాలను కనుగొనడం నుంచి వినాశకర వాతావరణ మార్పును నివారించడం వరకు అది ఎంతగానో తోడ్పడవచ్చు.

కానీ, ఏఐతో వచ్చిన ప్రాథమిక సమస్య ఏమిటంటే, అది అన్య(ఏలియన్‌) ఏజెంట్‌. ఎప్పుడెలా వ్యవహరిస్తుందో ఊహించలేం.

సూపర్‌ ఇంటెలిజెంట్‌ ఏఐని అభివృద్ధి పరచడంలోని ప్రధాన ఆంతర్యంలోనే నమ్మకానికి సంబంధించిన వైచిత్రి ఉంది. మనిషి తోటి మనిషిని నమ్మడానికి వెనకాడతాడు. కానీ, మనలో కొందరం విచిత్రంగా ఏఐని నమ్మి తీరాలని భావిస్తున్నాం. 

నేను ప్రపంచంలోని వివిధ దేశాలకు వెళ్ళి, అక్కడ ఏఐని అభివృద్ధి చేస్తున్నవారిని కలుసుకున్నప్పుడు, సాధారణంగా వారికి రెండు ప్రశ్నలు వేస్తూంటాను. ‘దీనిలో పెను ప్రమాదాలే ఇమిడి ఉన్నా, ఏఐ అభివృద్ధి దిశగా అంత వేగంగా చొచ్చుకుపోతున్నారెందుకు?’ అన్నది మొదటి ప్రశ్న. దానికి ఇంచుమించుగా అందరూ చెబుతున్న జవాబు ఒక్కటే. 

‘పెను ప్రమాదాలు పొంచి ఉన్నాయని మేమూ అంగీకరిస్తున్నాం. మేము నెమ్మదిగా అడుగులు వేసినంత మాత్రాన మా ప్రత్యర్థులు కూడా నెమ్మదిగా సాగుతారనే హామీ లేదు. ఏఐ రేసులో వారు గెలుస్తారు. ప్రపంచంలో అత్యంత కర్కశంగా వ్యవహరించేవారి ప్రాబల్యం పెరిగిపోతుంది. మానవ పోటీదారులను మేం నమ్మలేం. కనుక, వీలైనంత వేగంగా ముందుకు సాగాలి’. 

‘మీరు అభివృద్ధి చేస్తున్న సూపర్‌ ఇంటెలిజెంట్‌ ఏఐలను నమ్మవచ్చని భావిస్తున్నారా?’ అన్నది నా రెండవ ప్రశ్న. మానవ పోటీదారులను నమ్మలేమని చెప్పిన అదే వ్యక్తులు, తాము అభివృద్ధి చేస్తున్న సూపర్‌ ఇంటెలిజెంట్‌ ఏఐలను నమ్మగలమని చెబుతున్నారు. 

ఈ వైరుధ్యాన్ని గమనించారా? మానవులతో వ్యవహరించడంలో మనకు వేలాది ఏళ్ళ అనుభవం ఉంది. మానవ సైకాలజీ, బయాలజీల పట్ల విస్తృతమైన అవగాహన ఉంది. అధికారం కోసం మానవులు ఎంతగా అర్రులు చాస్తారో తెలుసు. అధికారం కోసం చేసే ప్రయత్నాన్ని అదుపాజ్ఞలలో పెట్టగల శక్తుల గురించీ మనకు తెలుసు. మనుషుల మధ్య నమ్మకాన్ని పాదుకొల్పే మార్గాలను కనుగొనడంలో కూడా మనం గణనీయమైన ప్రగతిని సాధించాం. 

లక్ష సంవత్సరాల క్రితం, కొద్దిపాటి డజన్ల సంఖ్యలో మనుషులు సమూహాలుగా జీవించేవారు. వేరొక సమూహంలోని వ్యక్తిని నమ్మేవారు కాదు. నేడు 140 కోట్ల జనాభా కలిగిన చైనా వంటి దేశాలున్నాయి. భూగ్రహం మీది 800 కోట్ల మందిని అనుసంధానించే సహకార వ్యవస్థలున్నాయి. 

మన ప్రాణాలను నిలబెడుతున్న ఆహారం మనకు ఏమాత్రం పరిచయం లేనివారు పండిస్తున్నది. మనల్ని కాపాడుతున్న ఔషధాలను ఎవరో కనుగొన్నారు. అంతమాత్రాన మానవులందరి మధ్య నమ్మకం వెల్లివిరుస్తోందని కాదు. కానీ, మనం ఎదుర్కొంటున్న సవాల్‌ పట్ల మనకు ఒక అవగాహన ఉంది. 

మానవులతో పోలిస్తే ఏఐల పట్ల మనకున్న అనుభవం దాదాపుగా శూన్యం. మనం ఇప్పుడిప్పుడే మొదటి ప్రోటోటైపులను సృష్టించాం. ఆదిమ ఏఐలు కూడా అబద్ధం చెప్పగలవనీ, వాటిని సృష్టించిన మానవులే ఊహించని లక్ష్యాలను, వ్యూహాలను అనుసరించగలవనీ మనకు ఇప్పటికే అనుభవానికి వచ్చింది. 

సూపర్‌ ఇంటెలిజెంట్‌ ఏఐ ఏజెంట్లు కోట్లాది మానవులతో వ్యవహరించడం ప్రారంభిస్తే ఏం కానుందో మనకు తెలియదు. ఇక, వాటితో అవి ఇంటరాక్ట్‌ అవడం మొదలెడితే ఏం జరుగుతుందో ఊహించడం ఇంకా కష్టం. 

ప్రస్తుతానికి, ఏఐని అభివృద్ధి చేస్తున్నది మానవులే కనుక, వాటిని సురక్షితమైనవిగానే డిజైన్‌ చేయడానికి ప్రయత్నించవచ్చునన్నది నిజమే. కానీ, నేర్చుకోగల సామర్థ్యం, తనను తాను మార్చుకోగల శక్తి ఉన్న యంత్రం మాత్రమే ఏఐ అనిపించుకుంటుందనే సంగతిని మరచిపోవద్దు. మనుషులు మొదట తమను ఎలా డిజైన్‌ చేశారనే దానితో ప్రమేయం లేకుండా ఏఐ మున్ముందు విప్లవాత్మకమైన, ఊహించడానికి అలవికాని రీతిలో రూపాంతరం చెందవచ్చు. 

అత్యంత తెలివితేటలున్న గ్రహాంతరవాసులు అంతరిక్ష నౌకలలో భూమి వైపు వస్తున్నారనీ, అవి 2030 నాటికి ల్యాండ్‌ కావచ్చనీ ఎవరైనా చెప్పారనుకుందాం. వారు మనతో స్నేహపూర్వకంగా మెలగుతారనీ, క్యాన్సర్‌ను నివారించేందుకు, వాతావరణ మార్పును అరికట్టేందుకు, వర్ధిల్లగల శాంతియుత ప్రపంచాన్ని నిర్మించడంలో సాయపడతారనీ ఆశిస్తాం. కానీ, గ్రహాంతరవాసుల సౌహార్ద్రతతో మన భవిష్యత్తును ముడిపెట్టడం ప్రమాదకరమని చాలామంది వారి అంతరాత్మ ప్రబోధం మేరకు అర్థం చేసుకుంటారు. అదే విధంగా, మనం తయారు చేస్తున్న ఏఐ ఏజెంట్లు మనపట్ల విధేయులైన సేవకులుగా ఉంటాయనుకోవడం పెద్దయెత్తున జూదమాడటమే.

3. చింపాంజీలు కాక మనుషులే ఎందుకు పాలిస్తున్నారు?
ఏఐ యుగంలో మానవాళి వికసనం ఎలా? దీనికి జవాబు తేలికే. మనుషులందరూ కలసి ఏఐని నియంత్రించవచ్చు. కానీ, మనలో మనమే కొట్లాడుకుంటే, ఏఐ మనల్ని దాని చెప్పుచేతల్లోకి తీసుకుంటుంది. నిజమైన సూపర్‌ ఇంటెలిజెంట్‌ ఏఐ ఏజెంట్లను అభివృద్ధి చేసేముందు, మొదట మనుషుల మధ్య మనం నమ్మకాన్ని పెంపొందించుకోవాల్సి ఉంది. 

దురదృష్టవశాత్తు, ప్రస్తుతం మనం దానికి పూర్తి విరుద్ధమైన పని చేస్తున్నాం. పటిష్టంగా ఉండటమంటే ఎవరినీ నమ్మకపోవడం, ఇతరుల నుంచి పూర్తి వేరుగా ఉండటమని చాలా దేశాలు భావిస్తున్నాయి. కానీ, ఎవరితోనూ సంబంధం లేకుండా జీవించడం అసాధ్యం. వాస్తవానికి, పూర్తిగా వేరుపడటమంటే, ప్రకృతిలో, మరణించడం కిందే లెక్క. 

మన శరీరాన్నే తీసుకుంటే, ప్రతి నిమిషం, మనం గాలిని పీలుస్తూంటాం, వదులుతూంటాం. గాలిని లోపలికి పీలుస్తున్నామంటే బయటదానిని మనం నమ్ముతున్నట్లే లెక్క. గాలిని ఊపిరితిత్తుల్లోకి తీసుకుని తిరిగి విశ్వంలోకి విడిచిపెడుతున్నాం. ఈ ఉచ్ఛ్వాస, నిశ్వాసాలే జీవన గతికి ఆధారం. బయట ఉన్నవాటి అన్నింటిపైన అపనమ్మకం పెంచుకుని ఊపిరి పీల్చడం ఆపేస్తే చనిపోతాం. 

దేశాల విషయంలో కూడా అదే సత్యం వర్తిస్తుంది.ఉదాహరణకు చైనా వేలాది ఏళ్ళుగా ఇతర దేశాలకు దాని విజ్ఞానాన్ని పంచడం కొనసాగిస్తోంది. కన్ఫ్యూషియస్, మావో ఆలోచనల నుంచి గో, టీ, మందుగుండు సామగ్రి, ప్రింటింగ్‌ వరకు ఎన్నింటినో ఇచ్చింది. అలాగే, బుద్ధుడు, కారల్‌ మార్క్స్‌ నుంచి కాఫీ, ఫుట్‌బాల్, రైళ్ళు, కంప్యూటర్ల వరకు అది ఇతర దేశాల నుంచి చాలా తీసుకుంది. 

ఏ దేశానికి చెందిన ప్రజలైనా వారి దేశపు ఆహారానికి, క్రీడలకు, భావజాలానికి మాత్రమే పరిమితమైతే బతకడం అసాధ్యం కాకపోయినా, నిస్సారంగా మాత్రం ఉంటుంది. ప్రతి మనిషి ఏదో ఒక వర్గానికి చెందినవాడు కావచ్చుగానీ, మొత్తం మానవాళిలో భాగమే. ఏఐ యుగంలో, మనం పంచుకున్న మానవ వారసత్వాలను మరచిపోతే, నియంత్రించలేని ఏఐకి సులభంగా లక్ష్యంగా మారతాం. 

గతంలో చోటుచేసుకున్న యుద్ధాలు, అన్యాయాల గురించి చరిత్ర పుస్తకాల్లో చదివినవారు గతానుభవాలను తలచుకుంటూ, భవిష్యత్తులో ఎదురుకాగల కష్టాల గురించి భయపడుతూంటారు. ఇతర దేశాలను, ప్రజలను వారు ఆ రకమైన ఆందోళనతోనే చూస్తూంటారు. భయం, బాధ అస్తిత్వానికి ముఖ్యమైనవే. ఒక్కోసారి అవి మనల్ని ప్రమాదాల నుంచి కాపాడతాయి కూడా. కానీ, ఎవ్వరూ భయం, బాధను ఆధారం చేసుకుని బతకలేరు. ఆ రెండింటికన్నా నమ్మకం చాలా ముఖ్యమని చరిత్ర మనకు బోధిస్తోంది. 

ఈ భూగోళాన్ని చింపాంజీలు, ఏనుగులు కాక, మానవులే ఎందుకు పాలించారో తెలుసునా? వాళ్ళకి ఎక్కువ తెలివితేటలు ఉండబట్టి కాదు. అపరిచితుల పట్ల కూడా నమ్మకాన్ని ఎలా పెంచుకోవచ్చో, పెద్ద సంఖ్యలోని జన సమూహాలతో సహకారాన్ని ఎలా ఇచ్చి పుచ్చుకోవచ్చో మనుషులకు తెలుసు కాబట్టి. 

ఈ సామర్థ్యాన్ని మనం వేలాది ఏళ్ళుగా అభివృద్ధి పరచుకుంటూ వచ్చాం. గతంలో కన్నా దానికి ఇప్పుడు అధిక ప్రాధాన్యం ఉంది. ఏఐ యుగంలో మనం బతికి బట్టకట్టడానికి, వికసించడానికి, ఏఐ కన్నా ఎక్కువగా తోటి మనుషులను నమ్మవలసి ఉంది. థాంక్యూ!

యువల్‌ నోవా హరారీ