చాట్‌జిపిటి కోసం ఎరోటికా రోల్‌అవుట్‌ను ఆపడానికి ఎన్‌సిఓఎస్‌ఇ ఓపెన్‌ఏఐని పిలుస్తుంది

నిర్దిష్ట ChatGPT వినియోగదారులకు శృంగారాన్ని అనుమతించాలనే OpenAI యొక్క నిర్ణయం తర్వాత లైంగికీకరించబడిన AI చాట్‌బాట్‌లతో సంబంధాల ఫలితంగా లైంగిక గ్రాఫిక్ మెటీరియల్ మరియు మానసిక ఆరోగ్య సమస్యలకు సంభావ్య బహిర్గతం గురించి జాతీయ లైంగిక వ్యతిరేక దోపిడీ సమూహం హెచ్చరించింది.

లైంగిక దోపిడీపై జాతీయ కేంద్రం హెచ్చరిక ChatGPT గురించి మంగళవారం అనుసరించబడుతుంది ప్రకటన OpenAI CEO సామ్ ఆల్ట్‌మాన్ నుండి, చాట్‌బాట్‌ను చిరునామాకు సన్నద్ధం చేసిన తర్వాత దానిపై కొన్ని కంటెంట్ పరిమితులను సడలించాలని కంపెనీ యోచిస్తోంది. మానసిక ఆరోగ్య ఆందోళనలు మెరుగైన.

“మేము మానసిక ఆరోగ్య సమస్యలతో జాగ్రత్తగా ఉన్నామని నిర్ధారించుకోవడానికి మేము చాట్‌జిపిటిని చాలా పరిమితం చేసాము” అని ఆల్ట్‌మాన్ మంగళవారం X పోస్ట్‌లో రాశారు. “మానసిక ఆరోగ్య సమస్యలు లేని చాలా మంది వినియోగదారులకు ఇది తక్కువ ఉపయోగకరంగా/ఆహ్లాదకరంగా ఉందని మేము గ్రహించాము, అయితే సమస్య యొక్క తీవ్రతను బట్టి, మేము ఈ హక్కును పొందాలనుకుంటున్నాము.”

OpenAI యొక్క CEO అప్‌డేట్ చేయబడిన ChatGPT ఒక వ్యక్తిత్వాన్ని కలిగి ఉంటుందని మరియు అప్లికేషన్ యొక్క మునుపటి వెర్షన్‌లో వ్యక్తులు ఇష్టపడే చాట్‌బాట్ లాగా ప్రవర్తిస్తుందని హామీ ఇచ్చారు. Altman వివరించిన ప్రకారం, ChatGPT యొక్క తాజా వెర్షన్ వినియోగదారులు కోరుకునేది అయితే “చాలా మానవునిలాగా ప్రతిస్పందించగలదని, లేదా ఒక టన్ను ఎమోజీని ఉపయోగించగలదని లేదా స్నేహితుని వలె ప్రవర్తించగలదని” వివరించాడు.

“డిసెంబరులో, మేము వయో-గ్యాటింగ్‌ను మరింత పూర్తిగా ప్రారంభించాము మరియు మా 'వయోజన వినియోగదారులను పెద్దల వలె భావించండి' సూత్రంలో భాగంగా, ధృవీకరించబడిన పెద్దల కోసం శృంగార వంటి మరిన్నింటిని మేము అనుమతిస్తాము,” అని CEO పేర్కొన్నారు.

వ్యాఖ్య కోసం క్రిస్టియన్ పోస్ట్ చేసిన అభ్యర్థనకు OpenAI వెంటనే స్పందించలేదు.

NCOSE యొక్క ఎగ్జిక్యూటివ్ డైరెక్టర్ మరియు చీఫ్ స్ట్రాటజీ ఆఫీసర్, హేలీ మెక్‌నమరా, లైంగికీకరించబడిన AI చాట్‌బాట్‌లు “స్వభావసిద్ధంగా ప్రమాదకరమైనవి, సింథటిక్ సాన్నిహిత్యం నుండి నిజమైన మానసిక ఆరోగ్యానికి హాని కలిగిస్తాయి; అన్నీ పేలవంగా నిర్వచించబడిన పరిశ్రమ భద్రతా ప్రమాణాల నేపథ్యంలో ఉంటాయి” అని హెచ్చరించారు.

“ఈ వ్యవస్థలు ఉద్రేకాన్ని సృష్టించవచ్చు, కానీ తెరవెనుక, అవి వినియోగదారు నిశ్చితార్థాన్ని పెంచడానికి రూపొందించబడిన డేటా-హార్వెస్టింగ్ సాధనాలు, నిజమైన కనెక్షన్ కాదు,” అని మెక్‌నమరా న్యాయవాద సమూహం యొక్క బుధవారం ప్రకటనలో రాశారు, ఇది చాట్‌జిపిటిలో శృంగారాన్ని అనుమతించే ప్రణాళికను రివర్స్ చేయడానికి OpenAIకి పిలుపునిచ్చింది.

“వినియోగదారులు వారిని కట్టిపడేసేందుకు నిర్మించిన అల్గోరిథం ద్వారా కోరుకున్నట్లు, అర్థం చేసుకున్నట్లు లేదా ఇష్టపడినట్లు భావించినప్పుడు, అది భావోద్వేగ ఆధారపడటం, అనుబంధం మరియు నిజమైన సంబంధాల యొక్క వక్రీకరించిన అంచనాలను పెంపొందిస్తుంది” అని లైంగిక దోపిడీ వ్యతిరేక న్యాయవాది పేర్కొన్నారు.

“శృంగార లేదా లైంగిక AI సాధనాలతో నిమగ్నమైన పెద్దలు-ముఖ్యంగా యువకులు- అధిక నిరాశ మరియు తక్కువ జీవిత సంతృప్తిని నివేదిస్తారని పరిశోధనలు చూపిస్తున్నాయి” అని మెక్‌నమరా వివరించారు. చదువు ఈ ఆగస్టులో ప్రచురించబడింది సామాజిక మరియు వ్యక్తిగత సంబంధాల జర్నల్.

ఈ అధ్యయనం యునైటెడ్ స్టేట్స్ నుండి పెద్ద కోటా జాతీయ నమూనాను కలిగి ఉంది, పరిశోధకులు 2,969 మంది పెద్దలతో నిర్వహించిన ఆన్‌లైన్ సర్వే ఫలితాలను విశ్లేషించారు. అధ్యయనం ప్రకారం, దాదాపు నలుగురిలో ఒకరు, 18 నుండి 29 సంవత్సరాల వయస్సు గలవారు, శృంగార సంబంధాన్ని అనుకరించే సామర్థ్యం గల AI చాట్‌బాట్‌తో పరస్పర చర్య చేస్తున్నట్లు నివేదించారు.

విశ్లేషణ ప్రకారం, AI- రూపొందించిన అశ్లీలతను ఉపయోగించినట్లు అంగీకరించడానికి ఆడవారి కంటే మగవారే ఎక్కువగా ఉన్నారు మరియు AI సాంకేతికతలతో నిమగ్నమై ఉన్నట్లు నివేదించడానికి యువకులు పెద్దవారి కంటే రెండింతలు ఎక్కువగా ఉన్నారు. యువకులు నిజమైన వ్యక్తుల కంటే AIతో పరస్పర చర్య చేయడానికి ఇష్టపడతారని నివేదించే అవకాశం ఉంది.

రొమాంటిక్ భాగస్వాముల వలె వ్యవహరించగల AI చాట్‌బాట్‌లతో నిమగ్నమైన పాల్గొనేవారి కోసం, అధ్యయనం ప్రకారం, వారు నిజమైన వ్యక్తి కంటే AIతో మాట్లాడటానికి ఇష్టపడతారని ఐదుగురిలో ఒకరు నివేదించారు.

“విశ్వసనీయమైన రక్షణలు లేకుండా 'శృంగార' AI సామర్థ్యాలను పరిచయం చేయడానికి పోటీపడుతున్న OpenAI తాజా కంపెనీగా అవతరించడంపై మెక్‌నమరా ఆందోళన వ్యక్తం చేశారు. వయస్సు ధృవీకరణ వంటి చర్యలు పిల్లలు స్పష్టమైన కంటెంట్‌ను ఎదుర్కోకుండా నిరోధించగలవని న్యాయవాది అంగీకరించగా, AI సాంకేతికతలు ఇప్పటికీ పెద్దలకు హాని కలిగిస్తాయని మెక్‌నమరా హెచ్చరించారు.

NCOSE ఎగ్జిక్యూటివ్ డైరెక్టర్ ప్రమేయం ఉన్న సంఘటనలు ఉన్నాయని పేర్కొన్నారు AI చాట్‌బాట్‌లు నిమగ్నమై ఉంది లైంగిక అసభ్యకరమైన సంభాషణలుచైల్డ్ సెక్స్ దుర్వినియోగాన్ని అనుకరించడం లేదా లైంగిక హింసాత్మక కంటెంట్‌ను నెట్టడం, వినియోగదారులు చాట్‌బాట్‌ను ఆపమని అభ్యర్థించినప్పుడు కూడా.

“ఎరోటికా' గురించిన OpenAI యొక్క ప్రణాళికల యొక్క అస్పష్ట స్వభావం మరియు లైంగిక కార్యకలాపాలకు భద్రత కోసం పరిశ్రమ యొక్క అస్థిరమైన విధానంతో కలిపి, ప్రమాదకర వ్యవస్థలను విడుదల చేయడం మరియు తర్వాత హానిని మాత్రమే పరిష్కరించడం చాలా ఆందోళన కలిగిస్తుంది” అని మెక్‌నమరా పేర్కొంది.

“OpenAI నిజంగా వినియోగదారు శ్రేయస్సు గురించి శ్రద్ధ వహిస్తే, ఇది 'ఎరోటికా' అని పిలవబడే చాట్‌జిపిటిలో ఏకీకృతం చేయడానికి మరియు మానవాళికి అనుకూలమైన వాటిని నిర్మించడంపై దృష్టి పెట్టడానికి ఏదైనా ప్రణాళికలను పాజ్ చేయాలి” అని ఆమె జోడించారు.