ఉదాహరణకు, ఏఐ ఏజెంట్ ఒక సూచనను తప్పుగా అర్థం చేసుకుని వేలాది తప్పుడు మెసేజ్లు పంపొచ్చు. తప్పు లావాదేవీలను ఆమోదించొచ్చు. కీలకమైన డేటాను డిలీట్ చేయొచ్చు. రహస్య సమాచారాన్ని బయటపెట్టొచ్చు. ఒకదానితో ఒకటి కనెక్ట్ అయి ఉన్న సిస్టమ్స్లో మార్పులు చేయొచ్చు. ఏఐ సృష్టించిన తప్పుడు సమాచారం కూడా భారీ స్థాయిలో తయారై, పెద్ద సంఖ్యలో ప్రజలకు చేరిపోయే అవకాశం ఉంది. అది జరిగేలోపు మనుషులు దాన్ని గుర్తించి సరిచేసే అవకాశం లేకపోవచ్చు.
“ఏఐకి సొంతంగా ఆలోచించే శక్తి రావడం వెంటనే ఎదురయ్యే ప్రమాదం కాదు. సరైన నియంత్రణలు లేకుండానే మనుషులు దానికి అధికారం ఇవ్వడమే అసలు ప్రమాదం. ఏఐని ఈమెయిల్ సిస్టమ్స్, బ్యాంకింగ్ ప్లాట్ఫామ్స్, డేటాబేస్లు, ప్రజలకు సమాచారం అందించే ఛానల్స్ లేదా కీలక మౌలిక సదుపాయాలతో కనెక్ట్ చేసినప్పుడు ప్రమాదం మరింత పెరుగుతుంది. అందుకే ఏఐ సిస్టమ్స్కు ఇచ్చే అనుమతులను సంస్థలు జాగ్రత్తగా పరిమితం చేయాలి. మొదట తక్కువ ప్రమాదం ఉన్న, సున్నితమైన సమాచారం అవసరం లేని పనుల్లోనే ఏఐని ఉపయోగించాలి. ఆ తర్వాతే దానికి ఎక్కువ స్వతంత్ర నిర్ణయాధికారం ఇవ్వాలి” అని అభిషేక్ చౌహాన్ చెప్పారు.
మనుషుల పర్యవేక్షణ చాలా ముఖ్యం
ఏఐ ఆధారంగా నిర్ణయాలు తీసుకునే విషయంలో పెద్ద ఆందోళన ఏంటంటే, ఒక తప్పు లేదా అసంపూర్ణ నిర్ణయం భారీ స్థాయిలో మళ్లీ మళ్లీ అమలయ్యే అవకాశం ఉండటం. రిక్రూట్మెంట్, లోన్స్, ఇన్సూరెన్స్, హెల్త్కేర్, ఎడ్యుకేషన్, చట్ట అమలు, కస్టమర్ సర్వీస్ వంటి రంగాల్లో ఇలాంటి తప్పులు తీవ్రమైన ప్రభావం చూపొచ్చు. ఏఐ సిస్టమ్స్ ‘హాల్యూసినేట్’ కూడా చేయొచ్చు. అంటే, తప్పు సమాచారాన్ని కూడా చాలా నమ్మకంగా చెప్పొచ్చు. అధునాతన ఏఐ సిస్టమ్ ఇచ్చిందంటే ఆ సమాధానం కచ్చితంగానే ఉంటుందని వినియోగదారులు భావిస్తే, ఆ తప్పులను గుర్తించకుండా వదిలేసే ప్రమాదం ఉంది. ఇక్కడ మరో ముఖ్యమైన విషయం బాధ్యత. ఏఐ ఒక నిర్ణయం తీసుకున్నా, దాని వల్ల వచ్చే పరిణామాల బాధ్యతను టెక్నాలజీపైకి పూర్తిగా నెట్టేయలేం.
‘ఒక నిర్ణయం వల్ల ప్రభావం ఎంత ఎక్కువగా ఉంటే, దానికి మనుషుల పర్యవేక్షణ, వివరణ, బాధ్యత కూడా అంత బలంగా ఉండాలి’ అని చౌహాన్ చెప్పారు. సంస్థల్లో ఏఐ వినియోగానికి ఫెడరేటెడ్ విధానం పాటించాలని ఆయన సూచించారు. రిస్క్, ఖర్చు, ఆర్థిక అంశాలు, ఒకే విధానాన్ని మళ్లీ అమలు చేయగల సామర్థ్యం వంటి విషయాలను సంస్థ స్థాయిలో కేంద్రంగా నిర్వహించాలి. ఇందులో ఆమోదించిన ఏఐ టూల్స్, డేటా పరిమితులు, యాక్సెస్ అనుమతులు, ఖర్చు పరిమితులు, సాధారణ భద్రతా నియమాలు ఉండాలి. ఈ పరిమితుల మధ్యలో ఆయా టీమ్స్ తమ రోజువారీ పనుల్లో ఏఐని ఎలా ఉపయోగించుకోవాలో నిర్ణయించుకోవచ్చు.
ఏఐ ముందుగా సిఫారసు చేయాలి, ఆ తర్వాతే చర్య తీసుకోవాలి
ఏఐ సిస్టమ్కు సొంతంగా చర్యలు తీసుకునే అవకాశం ఇచ్చే ముందు, తప్పులు జరిగినప్పుడు నష్టం ఎంతవరకు ఉండాలో పరిమితం చేసే భద్రతా చర్యలను సంస్థలు ఏర్పాటు చేయాలి. ప్రారంభంలో ఏఐ ఒక పని చేయాలని సిఫారసు చేసేలా ఉంచడం మంచి పద్ధతి. అది ఆ పనిని వెంటనే అమలు చేయకూడదు. ముందుగా సిస్టమ్ను పరీక్షించి, అవసరమైన నియంత్రణలు ఏర్పాటు చేసిన తర్వాతే దానికి క్రమంగా ఎక్కువ స్వేచ్ఛ ఇవ్వాలి.
సంస్థలు కొన్ని విషయాలను తప్పనిసరిగా చూసుకోవాలి
ఏఐకి అవసరమైనంత డేటా, సిస్టమ్ యాక్సెస్ మాత్రమే ఇవ్వాలి. పేమెంట్స్, డేటా డిలీట్ చేయడం, యాక్సెస్ మార్చడం, ప్రజలకు సమాచారాన్ని పంపించడం వంటి పనులకు మనిషి స్పష్టమైన అనుమతి తప్పనిసరిగా ఉండాలి. ఏఐ సిస్టమ్స్ను లైవ్ డేటా లేదా నిజమైన ఆపరేషన్స్కు కనెక్ట్ చేసే ముందు నియంత్రిత వాతావరణంలో పరీక్షించాలి. ఏఐ చేసిన ముఖ్యమైన చర్యలన్నింటినీ రికార్డ్ చేసి, ఆ తర్వాత ఆడిట్ లేదా విచారణ అవసరమైనప్పుడు పరిశీలించే అవకాశం ఉండాలి. ఖర్చు, చేసే పనుల సంఖ్య, పని చేసే సమయం, సిస్టమ్ యాక్సెస్పై పరిమితులు పెట్టాలి. ఏదైనా తప్పు జరిగితే వెంటనే ఏఐని ఆపే మార్గం, చేసిన మార్పులను వెనక్కి తీసుకునే విధానం, సమస్యను ఎదుర్కొనే స్పష్టమైన ప్లాన్ ఉండాలి. దీని వెనుక ఉన్న సూత్రం చాలా సింపుల్. ఏఐ ఒక చర్య వల్ల కలిగే ప్రభావం ఎంత ఎక్కువగా ఉంటే, మొదట్లో దానికి అంత తక్కువ స్వతంత్ర నిర్ణయాధికారం ఇవ్వాలి.
ఏఐ వల్ల వచ్చే ప్రమాదాలు కంపెనీలకే పరిమితం కావు. సాధారణ వినియోగదారులు కూడా తమ వ్యక్తిగత, ఉద్యోగానికి సంబంధించిన సమాచారాన్ని ఏఐ యాప్స్లో పెడుతున్నారు. దీంతో డేటా ప్రైవసీ కూడా చాలా ముఖ్యమైన అంశంగా మారింది. వినియోగదారులు ఒక సింపుల్ నియమాన్ని పాటించాలని చౌహాన్ సూచించారు: ‘పేస్ట్ చేసే ముందు ఒక్కసారి ఆగండి.’ పాస్వర్డ్లు, ఓటీపీలు, బ్యాంకింగ్ సమాచారం, గుర్తింపు పత్రాలు, ఆఫీస్కు సంబంధించిన రహస్య సమాచారం, ప్రైవేట్ మెడికల్ రికార్డులు లేదా సున్నితమైన ఫొటోలను ఏఐ టూల్స్లో పెట్టకుండా ఉండాలి. నిజంగా అవసరం ఉండి, నమ్మకమైన కారణం ఉన్నప్పుడు మాత్రమే అలాంటి సమాచారాన్ని ఇవ్వాలి.
అలాగే, తెలియని ఏఐ టూల్స్ లేదా బ్రౌజర్ ఎక్స్టెన్షన్స్ కంటే నమ్మకమైన, గుర్తింపు ఉన్న ఏఐ యాప్స్నే ఉపయోగించాలి. ప్రైవసీ, డేటా ఎంతకాలం నిల్వ ఉంటుందన్న సెట్టింగ్స్ను పరిశీలించాలి. బలమైన పాస్వర్డ్లు, మల్టీ-ఫ్యాక్టర్ ఆథెంటికేషన్ ఉపయోగించాలి. ఈమెయిల్, కాంటాక్ట్స్, ఫైల్స్ లేదా ఫైనాన్షియల్ సర్వీసెస్కు ఏఐ యాప్స్కు అవసరం లేని యాక్సెస్ ఇవ్వకూడదు. డబ్బు, ఆరోగ్యం, చట్టపరమైన విషయాలు లేదా సైబర్ సెక్యూరిటీకి సంబంధించిన ఏఐ సమాధానాలను స్వయంగా మరోసారి తనిఖీ చేయాలి. ఏఐ తయారు చేసిన మెసేజ్, లింక్ లేదా సిఫారసు మాత్రమే చూసి పేమెంట్ చేయడం లేదా సున్నితమైన సమాచారాన్ని ఇవ్వడం ఎప్పుడూ సరైన కారణం కాదు. వేర్వేరు ఏఐ సర్వీసులు యూజర్ సమాచారాన్ని సేకరించడం, నిల్వ చేయడం, ఉపయోగించడంలో వేర్వేరు విధానాలను పాటించొచ్చు. కాబట్టి ఏఐ టూల్తో చేసే ప్రతి సంభాషణ ఆటోమేటిక్గా ప్రైవేట్గానే ఉంటుందని అనుకోవద్దు.
ఏఐని పూర్తిగా దూరంగా పెట్టడం పరిష్కారం కాదని చౌహాన్ అభిప్రాయం. ఆటోమేషన్, మనిషి నిర్ణయాల మధ్య సరైన సమతుల్యత ఉండాలని ఆయన చెప్పారు. ఆయన చెప్పే ప్రధాన సూత్రం: ‘పని అప్పగించండి, కానీ బాధ్యతను మాత్రం అప్పగించొద్దు.’ రిసెర్చ్ చేయడానికి, విశ్లేషించడానికి, కంటెంట్ తయారు చేయడానికి, పనులను ఆటోమేట్ చేయడానికి, వేగంగా పూర్తి చేయడానికి ఏఐని ఉపయోగించొచ్చు. అయితే తుది నిర్ణయాల బాధ్యత మనుషుల దగ్గరే ఉండాలి. ముఖ్యంగా ప్రజల భద్రత, ప్రైవసీ, డబ్బు, హక్కులు లేదా ఉద్యోగాలపై ప్రభావం చూపే నిర్ణయాల్లో ఇది మరింత అవసరం.
ఏఐ సామర్థ్యం అది ఏ సమాచారంతో ట్రెయిన్ అయిందో, దానికి ఇచ్చిన సందర్భం ఏంటో, ఏ టూల్స్, ఏ అనుమతులు ఇచ్చారో వాటిపై కూడా ఆధారపడి ఉంటుంది. కాబట్టి ఒక ఏఐ సిస్టమ్కు ఎక్కువ యాక్సెస్ ఇస్తే, దానికి తగ్గట్టే సెక్యూరిటీ కంట్రోల్స్, మనుషుల పర్యవేక్షణ కూడా మరింత అవసరం అవుతుంది. ముఖ్యమైన రంగాల్లో ఏఐని పూర్తిగా దూరంగా ఉంచడం లక్ష్యం కాకూడదని చౌహాన్ చెబుతున్నారు. ఏఐ వల్ల వచ్చే ఉత్పాదకత, వేగం వంటి ప్రయోజనాలను పొందుతూనే, మనిషి ఆలోచన, తనిఖీ, బాధ్యత మాత్రం మనుషుల చేతుల్లోనే ఉండేలా చూసుకోవాలని ఆయన సూచిస్తున్నారు.
రోజువారీ జీవితం, వ్యాపార కార్యకలాపాల్లో ఏఐ మరింతగా భాగమవుతున్న కొద్దీ, ఏఐని ఉపయోగించడం, ఏఐని పూర్తిగా నమ్మడం మధ్య తేడా మరింత ముఖ్యమవుతుంది. ఏఐ పనులను ఇంతకుముందెన్నడూ లేని వేగంతో, భారీ స్థాయిలో చేయగలదు. కానీ ఎప్పుడు, ఎలా ఏఐ చర్య తీసుకోవాలన్న తుది నిర్ణయం మాత్రం మనుషులదే. అందుకే కృత్రిమ మేధస్సు మన సహజ మేధస్సుకు తోడుగా ఉండాలి. మనిషి ఆలోచనను పూర్తిగా భర్తీ చేసే స్థాయికి వెళ్లకూడదు.
