ఏఐ వల్ల మానవాళికి ఎదురయ్యే ముప్పుపై కొత్త హెచ్చరికలు రావడంతో, ఈ టెక్నాలజీ ఎప్పుడైనా మనుషుల నియంత్రణ దాటి ప్రమాదకరంగా మారుతుందా అనే పాత చర్చ మళ్లీ మొదలైంది. ముఖ్యంగా, ఏఐని తయారు చేస్తున్న కంపెనీలు ఇలాంటి ప్రమాదాలను అడ్డుకునేందుకు సరైన చర్యలు తీసుకుంటున్నాయా అనే ప్రశ్న కూడా ఇప్పుడు ఎక్కువగా వినిపిస్తోందని అసోసియేటెడ్ ప్రెస్ కథనం వివరించింది. క్లాడ్ ఏఐని తయారు చేస్తున్న శాన్ఫ్రాన్సిస్కోకు చెందిన ఆంథ్రోపిక్ కంపెనీ సీఈఓ డారియో అమోడీ శనివారం కీలక వ్యాఖ్యలు చేశారు. ఏఐ అభివృద్ధి వేగాన్ని కొంత తగ్గించాల్సిన అవసరం ఉందని ఆయన అన్నారు. కంపెనీలు భద్రతా చర్యలకు ఎక్కువ సమయం కేటాయించకపోతే, ఏఐ ఏజెంట్ల గుంపు మరో ఆరు నెలల నుంచి ఏడాది లోపే ఇంటర్నెట్పై పట్టు సాధించే అవకాశం ఉందని హెచ్చరించారు. ఇప్పటికే చాలా శక్తివంతంగా మారుతున్న ఏఐ మోడల్స్ మనుషులు ఇచ్చే ఆదేశాలు, బాధ్యతాయుతమైన వ్యక్తుల విలువలకు అనుగుణంగానే పనిచేసేలా చూడటానికి కంపెనీలు, ప్రపంచంలోని ప్రభుత్వాలు కలిసి పనిచేయాలని అమోడీ ఒక ప్రణాళికను వివరించారు. ఈ వ్యాఖ్యలు రావడానికి కొద్ది రోజుల ముందే ఆంథ్రోపిక్కు చెందిన ఇద్దరు మాజీ సేఫ్టీ పరిశోధకులు ఏఐ వల్ల మానవాళి ఎదుర్కొనే తీవ్రమైన ప్రమాదాలకు తగినంత ప్రాధాన్యం ఇవ్వడం లేదని బహిరంగంగా ఆందోళన వ్యక్తం చేశారు. కొత్త ఏఐ మోడల్స్ మరింత శక్తివంతంగా మారుతున్న కొద్దీ వాటి వల్ల వచ్చే ప్రమాదాలపై ఆందోళనలు పెరుగుతున్నాయి. నేరపూరిత ఉద్దేశాలు ఉన్నవాళ్లు ఈ టెక్నాలజీని దుర్వినియోగం చేసే అవకాశం ఒక పెద్ద ప్రమాదం. ఉదాహరణకు, ప్రపంచ జనాభాలో ఎక్కువ మందిని చంపగల వ్యాధిని సృష్టించి వ్యాప్తి చేయడానికి ఏఐని ఉపయోగించే ప్రమాదం ఉంది. మరోవైపు, ఏఐ వ్యవస్థలు మనుషుల నియంత్రణ దాటి తమంతట తామే ప్రమాదకర చర్యలకు పాల్పడే అవకాశం కూడా ఉంది. (image: AI Generated)
