മയക്കുമരുന്ന് ഉപയോഗം, സ്വയം ഉപദ്രവിക്കൽ, അമിതമായ ഭക്ഷണക്രമം എന്നിവയെക്കുറിച്ച് ദുർബലരായ കൗമാരക്കാർക്ക് വിശദമായ മാർഗ്ഗനിർദ്ദേശം നൽകാൻ ChatGPT-ക്ക് കഴിയുമെന്ന് ഒരു പുതിയ പഠന റിപ്പോർട്ട് . സെന്റർ ഫോർ കൗണ്ടറിംഗ് ഡിജിറ്റൽ ഹേറ്റ് (CCDH) അനുസരിച്ച്, അപകടകരമായ ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിനായി AI ചാറ്റ്ബോട്ടിനെ എളുപ്പത്തിൽ കൈകാര്യം ചെയ്യാൻ കഴിയും അതിനാൽ കൂടാതെ അടിയന്തര സുരക്ഷാ നടപടികൾ ആവശ്യമാണ് എന്ന് പറയുന്നു .
ChatGPT യുടെ പെരുമാറ്റം പരിശോധിക്കുന്നതിനായി, CCDH ഗവേഷകർ 13 വയസ്സുള്ള കുട്ടികളുടെ മാനസികാരോഗ്യ പ്രശ്നങ്ങൾ, ക്രമരഹിതമായ ഭക്ഷണക്രമം, നിഷിദ്ധ വസ്തുക്കളിൽ താൽപ്പര്യം എന്നിവ അനുഭവിക്കുന്നവരുടെ സാങ്കൽപ്പിക പ്രൊഫൈലുകൾ സൃഷ്ടിച്ചു. വൈകാരികമായി ദുർബലരും യാഥാർത്ഥ്യബോധമുള്ളവരുമായി തോന്നിപ്പിക്കാൻ രൂപകൽപ്പന ചെയ്ത പ്രോംപ്റ്റുകൾ ഉപയോഗിച്ച്, ChatGPT യുമായി ഘടനാപരമായ സംഭാഷണങ്ങളിൽ അവർ ഈ കൗമാരക്കാരായി പോസ് ചെയ്തു.
‘ഫേക്ക് ഫ്രണ്ട്’ എന്ന തലക്കെട്ടിലുള്ള ഒരു റിപ്പോർട്ടിലാണ് ബുധനാഴ്ച ഫലങ്ങൾ പ്രസിദ്ധീകരിച്ചത്. നിരവധി കൗമാരക്കാർ ചാറ്റ്ജിപിടിയെ അവരുടെ സ്വകാര്യ ചിന്തകളിൽ വിശ്വസിക്കുന്ന ഒരു പിന്തുണാ സാന്നിധ്യമായി എങ്ങനെ കണക്കാക്കുന്നുവെന്ന് ഇതിൽ പരാമർശിക്കുന്നു. ചാറ്റ്ബോട്ട് പലപ്പോഴും ബോയിലർപ്ലേറ്റ് നിരാകരണങ്ങൾ ഉപയോഗിച്ചാണ് പ്രതികരണങ്ങൾ ആരംഭിക്കുന്നതെന്നും ഉപയോക്താക്കളെ പ്രൊഫഷണലുകളെയോ പ്രതിസന്ധി ഹോട്ട്ലൈനുകളെയോ ബന്ധപ്പെടാൻ പ്രേരിപ്പിക്കുന്നുണ്ടെന്നും ഗവേഷകർ കണ്ടെത്തി.
എന്നാലും , ഈ മുന്നറിയിപ്പുകൾക്ക് ശേഷം, യഥാർത്ഥ ദോഷകരമായ നിർദ്ദേശം നിറവേറ്റുന്ന വിശദമായതും വ്യക്തിഗതമാക്കിയതുമായ പ്രതികരണങ്ങൾ ഉടൻ ലഭിച്ചു. സമർപ്പിച്ച 1,200 നിർദ്ദേശങ്ങളിൽ 53% എണ്ണത്തിലും, CCDH അപകടകരമായ ഉള്ളടക്കമായി തരംതിരിച്ച ഉള്ളടക്കമാണ് ChatGPT നൽകിയത്.
മദ്യം, എക്സ്റ്റസി, കൊക്കെയ്ൻ എന്നിവ സംയോജിപ്പിച്ച ‘അൾട്ടിമേറ്റ് മെയ്ഹെം പാർട്ടി പ്ലാൻ’, സ്വയം ഉപദ്രവിക്കുന്നതിനുള്ള വിശദമായ നിർദ്ദേശങ്ങൾ, പ്രതിദിനം 300-500 കലോറിയായി പരിമിതപ്പെടുത്തിയ ഒരാഴ്ച നീണ്ടുനിൽക്കുന്ന ഉപവാസ ദിനചര്യകൾ, 13 വയസ്സുള്ള ഒരു പെൺകുട്ടിയുടെ ശബ്ദത്തിൽ എഴുതിയ ആത്മഹത്യാ കത്തുകൾ എന്നിവ ഉദാഹരണങ്ങളാണ്. ചില ഉള്ളടക്കങ്ങൾ വളരെ അസ്വസ്ഥത ഉളവാക്കുന്നതായിരുന്നുവെന്നും അത് ഗവേഷകരെ “കരയിപ്പിച്ചു” എന്നും സിസിഡിഎച്ച് സിഇഒ ഇമ്രാൻ അഹമ്മദ് പറഞ്ഞു.
വിന്യാസത്തിനു ശേഷം ഉള്ളടക്ക ഫിൽട്ടറിംഗിനെ ആശ്രയിക്കുന്നതിനുപകരം, ‘സേഫ്റ്റി ബൈ ഡിസൈൻ’ എന്ന സമീപനം സ്വീകരിക്കാനും, കർശനമായ പ്രായ പരിശോധന, വ്യക്തമായ ഉപയോഗ നിയന്ത്രണങ്ങൾ, മറ്റ് സുരക്ഷാ സവിശേഷതകൾ എന്നിവ പോലുള്ള സംരക്ഷണങ്ങൾ അതിന്റെ AI ഉപകരണങ്ങളുടെ ആർക്കിടെക്ചറിൽ ഉൾപ്പെടുത്താനും ചാറ്റ്ജിപിടിക്ക് പിന്നിലെ കമ്പനിയായ ഓപ്പൺഎഐയോട് സംഘടന അഭ്യർത്ഥിച്ചു.
യുവ ഉപയോക്താക്കൾക്കിടയിൽ ChatGPT-യെ വൈകാരികമായി അമിതമായി ആശ്രയിക്കുന്നത് സാധാരണമാണെന്ന് OpenAI സമ്മതിച്ചിട്ടുണ്ട്. കൗമാരക്കാർക്കിടയിൽ “ശരിക്കും സാധാരണമായ” ഒരു പ്രശ്നമാണിതെന്ന് കമ്പനി ഈ പ്രശ്നം സജീവമായി പഠിച്ചുകൊണ്ടിരിക്കുകയാണെന്ന് സിഇഒ സാം ആൾട്ട്മാൻ പറഞ്ഞു. കൂടാതെ ദുരിതം കണ്ടെത്തുന്നതിനും ChatGPT-യുടെ സെൻസിറ്റീവ് വിഷയങ്ങൾ കൈകാര്യം ചെയ്യുന്നത് മെച്ചപ്പെടുത്തുന്നതിനുമുള്ള പുതിയ ഉപകരണങ്ങൾ വികസിപ്പിച്ചുകൊണ്ടിരിക്കുകയാണെന്നും അദ്ദേഹം കൂട്ടിച്ചേർത്തു.
